数值变量值相等性的判断

判断两个量是否相等的时候习惯性的使用==，殊不知这样用包含了极大的风险。看个例子

 1 nominal = 1.0
 2 sum = 0.0
 3
 4 for i = 1, 10 do
 5     sum = sum + 0.1
 6 end
 7
 8 print(nominal == sum, nominal, sum)
 9
10
11
12 x = 1
13 y = 0.1 + 0.1 + 0.1 + 0.1 + 0.1 + 0.1 + 0.1 + 0.1 + 0.1 + 0.1
14 z = 1.0
15
16 print(x==y, x==z, y==z, x, y, z)

猜猜看输出是什么，哪些个是true，哪些是false。运行一下

更进一步，可以知道 x - y > 0的结果是true的，应该说这个是无比让人纠结的。只是累加了10次，而且是0.1这种不是很极值的就这样了，只能喟叹了。有兴趣可以试试在C++、java中的结果。

较好的一种处理方法是，自己编写相等性判断函数，数值变量可以通过判断差值的范围来自己决定是否应该相等。这个结论应该牢记，以后要记得使用，不然bug会搞的很郁闷的。

转载于:https://www.cnblogs.com/njucslzh/archive/2012/10/28/2743911.html

数值变量值相等性的判断相关推荐

python函数用法详解2（变量的作用域（全局变量、局部变量）、共享全局变量、函数返回值、函数的参数（位置参数、关键字参数、默认参数、不定长参数）、拆包、交换变量值、引用、可变和不可变类型）
1. 变量作⽤域变量作⽤域指的是变量⽣效的范围,主要分为两类:局部变量和全局变量. 局部变量定义在函数体内部的变量,即只在函数体内部⽣效. def testA(): ...
【C 语言】一级指针易犯错误模型 ( 判定指针合法性 | 数组越界 | 不断修改指针变量值 | 函数中将栈内存数组返回 | 函数间接赋值形参操作 | 指针取值与自增操作 )
文章目录一.判定指针合法性二.数组越界三.不断修改指针变量值四.函数中将栈内存数组返回五.函数间接赋值形参操作六.指针取值与自增操作一.判定指针合法性判定指针合法性时 , 必须进行如下 ...
js 获取表格数据（表单变量值）
js获取表单中的指定动态变量问题描述:for循环实现表格每行数据输入,对应每行有提交表单需要做相应处理,我们需要获得该行某列的变量值要求:表格每一行有一个提交按钮实现前台判断操作(判断表格每行第二 ...
keil debug如何在watch直接修改变量值_零基础学VBA：什么是VBA？如何编写和运行VBA代码？...
HI,大家好,我是星光,今天咱们来继续学习VBA.在上一章咱们讲了为什么要学习VBA~VBA还值不值得学~学了还有没有用~零基础学VBA编程01:VBA还能不能学?学了还有没有用? 这一章咱们再来简单 ...
前端wxml取后台js变量值_微信小程序云开发教程WXML入门数据绑定
同学们大家好,我是小伊同学,今天带领大家学习WXML部分一个重要的知识点,数据绑定. 简单来讲,数据绑定就是通过双重花括号将一个变量绑定到界面上. 首先,我们为什么要将变量绑定到页面上呢?因为在制作一 ...
oracle定义变量sql赋值_ORACLE获取SQL绑定变量值的方法总结
本文总结一下ORACLE数据库中如何获取SQL绑定变量值的方法,在SQL优化调优过程中,经常会用到这方面的知识点.在此梳理.总结一下这方面的知识点,方面日后查找.翻阅. 方法1:查询V$SQL V$S ...
pythontk界面显示函数中的变量值_简单易学，西门子触摸屏3种修改变量值的方法！博图Wincc V14组态...
应条友要求,今天分享3种修改触摸屏变量值的最常用方法! 全文约700字,通读4分钟! 看完本章,你将收获以下内容: 一:必会知识点:3种修改变量的方法及适用点二:实例:3种方法修改触摸屏变量值三: ...
php使用使用外部变量的值,PHP实现函数内修改外部变量值的方法示例
PHP实现函数内修改外部变量值的方法示例本文实例讲述了PHP实现函数内修改外部变量值的方法.分享给大家供大家参考,具体如下: 直接上代码,如下: $a_str = 'ab'; function ch ...
tensorflow 实现打印预训练的模型中的变量名和变量值
tensorflow保存的预训练的模型包含3个文件: model_name.data-00000-of-00001 (保存网络中每个变量值,包括所有的weights.biases.gradients等 ...

数值变量值相等性的判断

数值变量值相等性的判断相关推荐

最新文章

热门文章