单精度浮点数（float）加法计算出错

场景：

　　一个float型的变量赋值1170601，加上19000000，结果出现错误。

原因：

　　float占用4个字节（32位）存储空间，包括符号位1位，阶码位8位，尾数23位。浮点数精度与它的尾数有关。

　　尾数为二进制小数1.m，m为23位的小数。所以浮点数的精度为24位二进制有效位数。2的24次方为16777216。

　　19000000 > 16777216，做加法计算之后丢失精度导致结果出错。

解决方法：

　　将float用double替换，double占用8个字节（64位）存储空间，包括符号位1位，阶码位11位，尾数52位。

单精度浮点数（float）加法计算出错相关推荐

单精度浮点数 float、双精度浮点数 double
3.3 浮点数表示法内容导视: 小数对应的二进制科学计数法浮点数表示法最大值.最小值特殊值 3.3.1 小数对应的二进制之前漏掉了小数对应的二进制,现补上. 二进制转十进制从个位数开始向 ...
【详细解说】单精度浮点数float取值范围
结论先说结论, float能表示范围为:± 3.4e38 最大正数PosMax 3.402e38 最小正数PosMin 1.175e-38 最大负数NegMax -1.175-38 最小负数N ...
单精度浮点数的数学计算
加减法: 一.将十进制数变为二进制数十进制的小数转换为二进制,主要是小数部分乘以2,取整数部分依次从左往右放在小数点后,直至小数点后为0.例如十进制的0.125,要转换为二进制的小数. 举例: 0. ...
什么是java双精度浮点数_什么是浮点型？单精度浮点数（float）和双精度浮点数（double）介绍...
作为一名java学习者,怎能不懂这些java基础中的基础呢?本文就带各位温顾温顾java浮点型.单精度浮点数.双精度浮点数. 浮点型首先明确java中浮点型数据类型主要有:单精度float.双精度do ...
单精度浮点数（Float）与双精度浮点数（Double）
前言对于十进制的整数使用二进制表示很简单,但是对于十进制小数如何使用二进制进行存储?十进制的小数又何如使用二进制小数表示?此文章描述了如何将十进制小数转换为二进制小数以及浮点数再内存中时如何进行存储 ...
java中单精度浮点数和双精度浮点数_什么是浮点型？单精度浮点数（float）和双精度浮点数（double）介绍...
作为一名java学习者,怎能不懂这些java基础中的基础呢?本文就带各位温顾温顾java浮点型.单精度浮点数.双精度浮点数. 浮点型首先明确java中浮点型数据类型主要有:单精度float.双精度do ...
c语言里单精度浮点数和双精度浮点数的区别
单精度浮点数(float)和双精度浮点数(double)在C语言中是两种不同类型的数据.单精度浮点数占用4个字节的空间,精度范围在67位左右:双精度浮点数占用8个字节的空间,精度范围在1517位左右. ...
什么是浮点型？什么是单精度浮点数（float）以及双精度浮点数（double）？
前言作为一名java学习者,怎能不懂这些java基础中的基础呢?本文就带各位温顾温顾java浮点型.单精度浮点数.双精度浮点数. 浮点型首先明确java中浮点型数据类型主要有:单精度float.双 ...
C语言中的float（单精度浮点数）
本文主要记录一下Float的一些基础知识. 在计算机界,有个规定叫IEEE754,它规定了如何以二进制的方式来存储10进制的数. 按照这个规定,单精度浮点数(float)这个数据类型所占内存大小为4个 ...

单精度浮点数（float）加法计算出错

单精度浮点数（float）加法计算出错相关推荐

最新文章

热门文章