浮点数为什么不精确?

其实这句话本身就不精确, 相对精确一点的说法是: 我们码农在程序里写的10进制小数,计算机内部无法用二进制的小数来精确的表达。

什么是二进制的小数? 就是形如 101.11 数字,注意,这是二进制的,数字只能是0和1。

101.11 就等于 1 * 2^2 +0 *2^1 + 1*2^0 + 1*2^-1 + 1*2^-2 = 4+0+1+1/2+1/4 = 5.75

下面的图展示了一个二进制小数的表达形式。

从图中可以看到,对于二进制小数,小数点右边能表达的值是 1/2, 1/4, 1/8, 1/16, 1/32, 1/64, 1/128 … 1/(2^n)

现在问题来了, 计算机只能用这些个 1/(2^n) 之和来表达十进制的小数。

我们来试一试如何表达十进制的 0.2 吧。

0.01 = 1/4 = 0.25 ,太大

0.001 =1/8 = 0.125 , 又太小

0.0011 = 1/8 + 1/16 = 0.1875 , 逼近0.2了

0.00111 = 1/8 + 1/16 + 1/32 = 0.21875 , 又大了

0.001101 = 1/8+ 1/16 + 1/64 = 0.203125 还是大

0.0011001 = 1/8 + 1/16 + 1/128 = 0.1953125 这结果不错

0.00110011 = 1/8+1/16+1/128+1/256 = 0.19921875 
已经很逼近了, 就这样吧。

这就是我说的用二进制小数没法精确表达10进制小数的含义。

浮点数的计算机表示

那计算机内部具体是怎么表示的呢?

计算机不可能提供无限的空间让程序去存储这些二进制小数。

它需要规定长度, 在Java 中, 提供了两种方式: float 和double , 分别是32位和64位。

可以这样查看一下一个float的内部表示(以0.09f为例): 
Float.floatToRawIntBits(0.09f)

你将会得到:1035489772, 这是10进制的, 转化成二进制, 在前面加几个0补足 32位就是:

0 01111011 01110000101000111101100

你可以看到它分成了3段: 
第一段代表了符号(s) : 0 正数, 1 负数 , 其实更准确的表达是 (-1) ^0

第二段是阶码(e):01111011  ,对应的10进制是 123

第三段是尾数(M)

你看到了尾数和阶码,就会明白这其实是所谓的科学计数法: 
(-1)^s * M * 2^e

对于0.09f 的例子,就是: 
0101110000101000111101100 * (2^123) 
好像不对,这肯定远远大于0.09f !

这是因为浮点数遵循的是IEEE754 表示法, 我们刚才的s(符号) 是对的,但是 e(阶码)和 M(尾数)需要变换:

对于阶码e , 一共有8位, 这是个有符号数, 特别是按照IEEE754 规范, 如果不是0或者255, 那就需要减去一个叫偏置量的值,对于float 是127

所以 E = e - 127 = 123-127 = -4

对于尾数M ,如果阶码不是0或者255, 他其实隐藏了一个小数点左边的一个 1 (节省空间,充分压榨每一个bit啊)。 
即 M = 1.01110000101000111101100

现在写出来就是: 
1.01110000101000111101100 * 2^-4 
=0.000101110000101000111101100 
= 1/16 + 1/64 + 1/128+ 1/256 + …. 
= 0.0900000035762786865234375

你看这就是0.09的内部表示, 很明显他比0.09更大一些, 是不精确的!

64位的双精度浮点数double是也是类似的, 只是尾数和阶码更长, 能表达的范围更大。 
符号位 :1位 
阶码 : 11位 
尾数: 52位

上面的例子0.09f 其实是所谓的规格化的浮点数, 还有非规格化的浮点数,这里就不展开了。

使用浮点数

由于浮点数表示的这种“不精确性”或者说是“近似性”, 对于精确度要求不高的运算还行, 如果我们用float或者double 来做哪些要求精确的运算(例如银行)时就要小心了, 很可能得不到你想要的结果。

具体的改进方法推荐大家看看《Effective Java》在第48条所推荐的“使用BigDecimal来做精确运算”。

转自

浮点数为什么不精确 
可以关注作者微信公众号:码农翻身

浮点数为什么不精确?相关推荐

  1. js浮点数运算不精确 如何解决_解决 浏览器处理数字运算时精度丢失的方法

    浏览器处理数字运算时精度丢失的方法 为什么0.1 + 0.2 不等于0.3.因为计算机不能精确表示0.1, 0.2这样的浮点数,计算时使用的是带有舍入误差的数 并不是所有的浮点数在计算机内部都存在舍入 ...

  2. ieee754浮点数转换工具_关于JS浮点数运算不精确的原因和解决方案

    背景 之前在一个项目中,涉及到了金额,协议组定的标准是按照分的单位进行传递的,但是交互上,web页面中为了更友好的体验,是使用的元作为单位的,这个时候就需要转换一下单位 本来是很简单的一个转化的需求, ...

  3. Java中的简单浮点数类型float和double不能够进行精确运算

    在java中,简单的浮点类型float和double是不能够进行运算.我们先看下面的两个程序代码: 代码一: import java.util.Scanner; class Circle { doub ...

  4. float型浮点数的精确位数

    浮点数只能表示形如 x × 2 y ( x , y ∈ Z ) x\times2^y(x,y\in Z) x×2y(x,y∈Z)的有理数.所以对于绝大多数的实数,浮点数都无法精确表示,而只能利用自己有 ...

  5. 关于浮点数的误差理解

    拜读了Cleve Moler写的博客<Bank Format and Metric Socket Wrenches>,对浮点数又有了进一步的理解.原文的链接地址为 http://blogs ...

  6. Java Math 类中的新功能--浮点数

    Java™语言规范第 5 版向 java.lang.Math和 java.lang.StrictMath添加了 10 种新方法,Java 6 又添加了 10 种.这个共两部分的系列文章的 第 1 部分 ...

  7. python浮点数占多少字节_Python的浮点数损失精度问题

    原博文 2018-04-20 22:35 − 本篇讨论的现象可以从下面这段脚本体现出来:>>> x = 0.0 >>> for i in range(10): x ...

  8. python数字处理技巧(1): 精度舍入、精确运算、格式化、进制数、大数打包解包、复数、NaN、分数

    1. 数字的四舍五入 当我们需要对整数 或者 浮点数进行四舍五入的时候. round(value, ndigits)  /// 内置函数 对浮点数进行四舍五入(传入的ndigit应该是正值,作用于十分 ...

  9. java 浮点数精度_Java中浮点数精度问题

    Java中浮点数精度问题 Java中的简单浮点数类型float和double不能够进行运算.不光是Java,在其它很多编程语言中也有这样的问题.如下图所示: public class DataRang ...

最新文章

  1. CentOS 6.0安装ipvsadm 1.26错误笔录
  2. C#实现局域网UDP广播--
  3. mysql数据库rp集群,使用MySQL-Cluster搭建MySQL数据库集群
  4. 【英语学习】【WOTD】muse 释义/词源/示例
  5. 第七次spring会议
  6. 令仔代码收藏系列(二)----BASE64编码
  7. windows导出导入mongodb数据库
  8. 微型计算机b5040电源板,联想b5040一体机电源用普通ATX电源改的该法
  9. 如何对接线上支付接口
  10. ceph osd pg 状态介绍
  11. JavaWeb实现快递物流查询
  12. 世界主要的11种气候类型特点及分布
  13. acegis连接使用方法_arcgis使用教程.doc
  14. 处理 /home/china/.vimrc 时发生错误: 第1行: E492: 不是编辑器的命令
  15. 用于微信小程序的图文编辑器(富文本编辑器)
  16. 如何用ADB命令删除Android中的系统应用
  17. C++ Primer Plus 第六版编程练习——第6章
  18. 火车头采集器采集图片文章详细 教程
  19. 【计算机网络-数据链路层】介质访问控制协议(MAC协议)
  20. echart legend 默认样式设置成实心圆

热门文章

  1. 开源技术分享:SDN网络浅析与选型
  2. 用vue2写一个新闻列表页,和新闻详情页,该怎么做?
  3. 创建新的domian域
  4. 南华大学计算机学院赵畅,资源环境与安全工程2020年“砥砺六十载,逐梦新时代”元旦师生联欢会顺利举办...
  5. 3年开发了5个私人项目:自动化办公、网站、机器人、小程序...免费开源,拿走不谢~
  6. Unity UI框架详细理解--场景管理
  7. TFN TT70网络综合分析仪性能如何
  8. java+js实现展示本地文件夹下的所有图片demo[申明:来源于网络]
  9. python编程语言进化_编程语言的进化史和分类
  10. OpenCV旋转矩形RotatedRect的Points函数遇到的问题