作者: jillzhang

联系方式:jillzhang@126.com

本文为原创,转载请保留出处以及作者, 谢谢

C语言和C#语言中,对于浮点类型的数据采用单精度类型(float)和双精度类型(double)来存储,float数据占用32bit,double数据占用64bit,我们在声明一个变量float f= 2.25f的时候,是如何分配内存的呢?如果胡乱分配,那世界岂不是乱套了么,其实不论是float还是double在存储方式上都是遵从IEEE的规范的,float遵从的是IEEE R32.24 ,而double 遵从的是R64.53。

无论是单精度还是双精度在存储中都分为三个部分:

  1. 符号位(Sign) : 0代表正,1代表为负
  2. 指数位(Exponent):用于存储科学计数法中的指数数据,并且采用移位存储
  3. 尾数部分(Mantissa):尾数部分

其中float的存储方式如下图所示:

而双精度的存储方式为:

R32.24和R64.53的存储方式都是用科学计数法来存储数据的,比如8.25用十进制的科学计数法表示就为:8.25*,而120.5可以表示为:1.205*,这些小学的知识就不用多说了吧。而我们傻蛋计算机根本不认识十进制的数据,他只认识0,1,所以在计算机存储中,首先要将上面的数更改为二进制的科学计数法表示,8.25用二进制表示可表示为1000.01,我靠,不会连这都不会转换吧?那我估计要没辙了。120.5用二进制表示为:1110110.1用二进制的科学计数法表示1000.01可以表示为1.0001*,1110110.1可以表示为1.1101101*,任何一个数都的科学计数法表示都为1.xxx*,尾数部分就可以表示为xxxx,第一位都是1嘛,干嘛还要表示呀?可以将小数点前面的1省略,所以23bit的尾数部分,可以表示的精度却变成了24bit,道理就是在这里,那24bit能精确到小数点后几位呢,我们知道9的二进制表示为1001,所以4bit能精确十进制中的1位小数点,24bit就能使float能精确到小数点后6位,而对于指数部分,因为指数可正可负,8位的指数位能表示的指数范围就应该为:-127-128了,所以指数部分的存储采用移位存储,存储的数据为元数据+127,下面就看看8.25和120.5在内存中真正的存储方式。

首先看下8.25,用二进制的科学计数法表示为:1.0001*

按照上面的存储方式,符号位为:0,表示为正,指数位为:3+127=130 ,位数部分为,故8.25的存储方式如下图所示:

而单精度浮点数120.5的存储方式如下图所示:

那么如果给出内存中一段数据,并且告诉你是单精度存储的话,你如何知道该数据的十进制数值呢?其实就是对上面的反推过程,比如给出如下内存数据:0100001011101101000000000000,首先我们现将该数据分段,0 10000 0101 110 1101 0000 0000 0000 0000,在内存中的存储就为下图所示:

根据我们的计算方式,可以计算出,这样一组数据表示为:1.1101101*=120.5

而双精度浮点数的存储和单精度的存储大同小异,不同的是指数部分和尾数部分的位数。所以这里不再详细的介绍双精度的存储方式了,只将120.5的最后存储方式图给出,大家可以仔细想想为何是这样子的

下面我就这个基础知识点来解决一个我们的一个疑惑,请看下面一段程序,注意观察输出结果

float f = 2.2f;
            double d = (double)f;
            Console.WriteLine(d.ToString("0.0000000000000"));
            f = 2.25f;
            d = (double)f;
            Console.WriteLine(d.ToString("0.0000000000000"));

可能输出的结果让大家疑惑不解,单精度的2.2转换为双精度后,精确到小数点后13位后变为了2.2000000476837,而单精度的2.25转换为双精度后,变为了2.2500000000000,为何2.2在转换后的数值更改了而2.25却没有更改呢?很奇怪吧?其实通过上面关于两种存储结果的介绍,我们已经大概能找到答案。首先我们看看2.25的单精度存储方式,很简单 0 1000 0001 001 0000 0000 0000 0000 0000,而2.25的双精度表示为:0 100 0000 0001 0010 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000 0000,这样2.25在进行强制转换的时候,数值是不会变的,而我们再看看2.2呢,2.2用科学计数法表示应该为:将十进制的小数转换为二进制的小数的方法为将小数*2,取整数部分,所以0.282=0.4,所以二进制小数第一位为0.4的整数部分0,0.4×2=0.8,第二位为0,0.8*2=1.6,第三位为1,0.6×2 = 1.2,第四位为1,0.2*2=0.4,第五位为0,这样永远也不可能乘到=1.0,得到的二进制是一个无限循环的排列 00110011001100110011... ,对于单精度数据来说,尾数只能表示24bit的精度,所以2.2的float存储为:

但是这样存储方式,换算成十进制的值,却不会是2.2的,应为十进制在转换为二进制的时候可能会不准确,如2.2,而double类型的数据也存在同样的问题,所以在浮点数表示中会产生些许的误差,在单精度转换为双精度的时候,也会存在误差的问题,对于能够用二进制表示的十进制数据,如2.25,这个误差就会不存在,所以会出现上面比较奇怪的输出结果。

本文属作者原创,只发布在博客园,希望大家在转载的时候,注明出处和作者,谢谢。

注:本文在写作过程中,参照了如下资料:

http://www.msdn.net/library/chs/default.asp?url=/library/CHS/vccore/html/_core_why_floating_point_numbers_may_lose_precision.asp

http://blog.csdn.net/ganxingming/archive/2006/12/19/1449526.aspx

增加点新内容:

来自http://wxdlut.blog.163.com/blog/static/1287701582009101182046692/

负浮点数在内存中的存储方式。

转帖总结:float与double类型都是将十进制数转换为二进制数再小数部分与指数部分分开存储,两者均使用自己独立的符号位,且由于二进制只为1或0,而一个二进制数必然可以设置成为1.XXX,其中X为0或1,所以该数可以默认为1.XXX,其中XXX部分即为所存储的小数部分。

更正:

同志们批评的很对,我没有验证其正确与否就转贴,的确是有较大失误。所以特此更正如下:

8.25的二进制为1000.01,即1.00001*, 在内存中的存储二进制为:

0   10000010    000 0100 0000 0000 0000 0000

十六进制表示就是0x41040000。

负浮点数在内存中的存储方式实际就是把最高位设置成1即可,其他按正浮点数存储,比如-8.25,就是先按8.25存储,然后再把最高位改为1即可。参考以上新资料。

转载于:https://www.cnblogs.com/mipscpu/archive/2013/03/21/2974104.html

【转】关于浮点数的精度与取值范围的问题相关推荐

  1. float的精度和取值范围

    文章目录 前言 精度限制 float存储方式 float存储示例 float范围 float精度 float小数 float特殊值 总结 前言 关于float的精度和取值范围这个问题,我查询了很多次, ...

  2. float和double的精度和取值范围计算方法

    C/C++各数据类型大小和取值范围 类型名称 字节数 取值范围 signed char 1 -2^7(-128) ~ 2^7-1(127) unsigned char 1 0 ~ 2^8-1(255) ...

  3. double和float的精度和取值范围

    (1)取值范围 float和double的范围是由指数的位数来决定的. float的指数位有8位,而double的指数位有11位,分布如下: float: 1bit(符号位) 8bits(指数位) 2 ...

  4. float为什么要比Long的取值范围大

    要知道为什么占32bit的float类型却比占64bit的Long类型的取值范围还要大,就要先了解float的存储结构. float的存储结构 符号位(1bit) 指数(8bit) 尾数(23bit) ...

  5. python浮点数的范围和精度_python基础教程之C#教程之C#中float的取值范围和精度分析...

    https://www.xin3721.com/eschool/pythonxin3721/ 本文实例分析了C#中float的取值范围和精度.分享给大家供大家参考.具体分析如下: float类型的表现 ...

  6. c语言阶码的位数,【判断题】浮点数的取值范围由阶码的位数决定,而精度由尾数的位数决定。 (1.0分)...

    [判断题]浮点数的取值范围由阶码的位数决定,而精度由尾数的位数决定. (1.0分) 更多相关问题 平补肺肾阴阳,兼止血化痰,用于久咳虚喘,劳嗽痰血,为诸痨虚损调补之要药的是A.蛤蚧 B.胡桃仁 C. ...

  7. double取值范围 java_Java中float/double取值范围与精度

    Java浮点数 浮点数结构 要说清楚Java浮点数的取值范围与其精度,必须先了解浮点数的表示方法,浮点数的结构组成,之所以会有这种所谓的结构,是因为机器只认识01,你想表示小数,你要机器认识小数点这个 ...

  8. float 范围 java_Java中float/double取值范围与精度

    Java浮点数 浮点数结构 要说清楚Java浮点数的取值范围与其精度,必须先了解浮点数的表示方法,浮点数的结构组成,之所以会有这种所谓的结构,是因为机器只认识01,你想表示小数,你要机器认识小数点这个 ...

  9. 自学笔记十四:Matlab浮点型:创建和转换、取值范围、运算和精度问题

    1.浮点型的概念 浮点型分为单精度(single)浮点型和双精度(double)浮点型: IEEE浮点数算术标准(IEEE 754)是IEEE二进位浮点数算术标准(IEEE Standard for ...

  10. 关于float/double的取值范围、精度和表示

    https://blog.csdn.net/shenziheng1/article/details/79471340 1.float和double的范围和精度 float和double的范围是由指数的 ...

最新文章

  1. java微信群自动回复_微信自动回复机器人选哪个好?参考这四点
  2. 浅谈.NET(C#)与Windows用户账户信息的获取
  3. 再和“面向对象”谈恋爱 - 对象简介(一)
  4. 谁在偷你的记忆? 应用服务器版
  5. long long or int
  6. 下一步工作的一些思考和问题
  7. ★LeetCode(175)——组合两个表(MySQL)
  8. 还在烦恼高性能网关设计?看这文就够啦!
  9. if __name__ == __main___if __name__ == #x27;__main__#x27;: 究竟起什么作用,阅读本文后,其他文章不必再看...
  10. python 爬取国内高匿代理ip(西刺代理)整站DOWN下来
  11. Ghost工具进行分区对拷(备份、迁移系统)
  12. 使用scrapy爬取阳光热线问政平台
  13. 牛客竞赛语法入门班选择结构习题【完结】
  14. Consul 踩坑日记,节点id冲突
  15. 《​社会很单纯,复杂的是人-雾满拦江》
  16. Python性能分析入门——cProfile、可视化、逐行分析、内存分析
  17. 规范使用计算机的ppt,2016年职称计算机PowerPoint操作练习题
  18. 线下沙龙 | EOS入门及最新技术解读
  19. 支付宝生活缴费商业项目标准版-赖国荣-专题视频课程
  20. 【前端 VUE】VUE 微信网页扫码登录(微信)

热门文章

  1. golang zip 解压、压缩文件
  2. 浅谈软件性能测试中关键指标的监控与分析
  3. load data file使用详解
  4. 51nod 1134最长递增子序列
  5. 交付自动化的探索与展望
  6. Flask和WebSocket
  7. django-xadmin定制之分页显示数量
  8. [bzoj3223]Tyvj 1729 文艺平衡树
  9. day18 8.jdbc中设置事务隔离级别
  10. 借款条和还款条的写法(附模板)