C++中float和double的比较

在c++开发中，double或者float类型判断相等性不能简单的用等于符号==进行，一般会采用如下方式进行判断

static inline bool DoubleEqual(double a, double b)
{return fabs(a - b) < std::numeric_limits<double>::epsilon();
}

为了验证这个说法，我在机器上写了如下一段代码，结果竟然没有一次输出，貌似可以直接比较

double a = 0, b = 0;
for(int i = 0; i < 100000; i++) {a += i * 0.1;b += i * 0.1;if ( a != b) {printf("%f %f\n", a ,b);}
}

那么到底浮点数能不能比较？

#include<stdio.h>
int main()
{float x = 0.1;if (x == 0.1)printf("1");else if (x == 0.1f)printf("2");elseprintf("3");
}

这段代码输出2，这也就意味着 x == 0.1 返回了false。 x==0.1f 返回了true。这又是为什么呢？先看一段代码

#include<stdio.h>
int main()
{float x = 0.1;printf("%d %d %d", sizeof(x), sizeof(0.1), sizeof(0.1f));return 0;
}

这段代码输出 4 8 4, 这也就说明代码中不加上f后缀，默认会采用double类型（sizeof(0.1)中的0.1作为常量默认是按照double存储的）。前面的例子中 x == 0.1 导致了x 变量提升到double（因为右边的0.1是double类型，所以x要提升到double），double 位数比float要多，这时候就需要二进制补全（x进行了补全，只是把后面缺的近30位补成了0，而不是把x这个0.1重新按照double进行组织，也就是补全后的x虽然小数部分达到了52位，但是后面的29位都是0）。0.1的二进制（double）表示为(0.00011001100110011…) 后面的...表示循环数。由于float的位数（23）要小于double（52）的位数，在x变量提升到double后，编译器会将多余的尾补全尾0。

0.00011001100110011001100 float 0.1
在和0.1比较时（0.1默认为double）时，x会被编译器进行变量提升，变成
0.00011001100110011001100000000000000000 (float 0.1 提升到double 0.1的二进制表示)
而double类型的0.1的表示为：
0.0001100110011001100110011001100110011001100110011001(原double 0.1的二进制表示)
上述结果就得到了解释，float提升到double后的二进制表示和double 0.1的二进制完全不一样。

难道所有的比较都会有这个问题吗？并不是。下面有个例子就不会产生问题比如

#include<stdio.h>
int main()
{float x = 0.5;if (x == 0.5)printf("1");else if (x == 0.5f)printf("2");elseprintf("3");
}

这个就输出了1,

0.5的二进制表示为0.100000…，由此看见就算编译器在尾补上补充再多的0，也不会导致二进制表示不一样。

总结
同类型的比较不设计到变量提升或者截断，可以直接比较。当变量提升或者截断后，二进制没有循环模式的也是可以直接比较的。

参考链接：https://blog.csdn.net/Sweet_Oranges/article/details/120333814

C++中float和double的比较相关推荐

mysql double 存储_关于MYSQL中FLOAT和DOUBLE类型的存储-阿里云开发者社区
关于MYSQL中FLOAT和DOUBLE类型的存储重庆八怪 2016-04-12 844浏览量简介: 关于MYSQL中FLOAT和DOUBLE类型的存储其实在单精度和双精度浮点类型存储中其存储方 ...
关于MYSQL中FLOAT和DOUBLE类型的存储
关于MYSQL中FLOAT和DOUBLE类型的存储其实在单精度和双精度浮点类型存储中其存储方式和C/C++一致准守IEEE标准他们都是浮点型的,所谓的浮点型,是小数点的位置可变,其能够表示的范围比定 ...
java中float、double和BigDecimal的精度问题（fastjson、Jackson以及实例化的方式）
java中float.double和BigDecimal的精度问题(fastjson.Jackson以及实例化的方式): 问题描述 java中如果使用float或double类型的数据初始化BigDe ...
Java中float和double精度
http://zhidao.baidu.com/question/344295417.html?seed=0 float与double的区别单精度浮点数在机内占4个字节,用32位二进制描述. 双精度 ...
mysql中的double类型_MySQL中float、double、decimal三个浮点类型的区别与总结!
作者:极客小俊一个专注于web技术的80后我不用拼过聪明人,我只需要拼过那些懒人我就一定会超越大部分人! CSDN@极客小俊,原创文章, B站技术分享个人博客: cnblogs.com 前端h ...
java中float和double为什么会转为科学记数法？
1.背景在日常开发中有时会使用到float或double数据类型,然而在前端接收到数据时发现数据为科学记数法,此时不能满足业务显示直观的需求.为什么float和double会变成科学记数法格式呢?什 ...
细节：基本数据类型中float与double的区别
一.两者定义 float:单精度浮点数 double:双精度浮点数二.两者的主要区别 01)在内存中占有的字节数不同单精度浮点数在机内存占4个字节双精度浮点数在机内存占8个字节 02)有效数字位 ...
java double 赋值语句_Java中float、double、long类型变量赋值添加f、d、L尾缀问题
展开 1. 添加尾缀说明我们知道Java在变量赋值的时候,其中float.double.long数据类型变量,需要在赋值直接量后面分别添加f或F.d或D.l或L尾缀来说明. 其中,long类型最好以 ...
java中float和double型数据在赋值时有哪些注意事项?,java语言中float和double类型的数据在编程时的注意事项...
float和double类型的数据在编程时的需要注意的地方 package execisetest; public class AccuranceTest { public static vo ...
mysql中float、double、decimal的区别
float类型表示单精度浮点数值,double类型表示双精度浮点数值,float和double都是浮点型,而decimal是定点型: MySQL 浮点型和定点型可以用类型名称后加(M,D)来表示,M表 ...

C++中float和double的比较

C++中float和double的比较相关推荐

最新文章

热门文章