在js中,会经常的遇到浮点数精度问题(0.1+0.2),我们都知道是因为转换成二进制的时候产生无限循环小数,而js的尾数部分只能保存52位,出现截取取一舍零造成的;但是现在深挖一下:

const s = 0.1

console.log(s)//s=0.1

console.log(0.1+5)//5.1

上述代码,s确准确的等于0.1,并没有出现精度不准确的情况,资料上说明,超过16位会使用toPrecision(16) 进行运算,进而会有 s=0.1的情况,那为什么0.1+0.2 不会做toPrecision的运算呢?

而对于第二种情况,我的猜测是对于整数和小数的相加,js会做toPrecision(m+1),m为小数的10的-m次方;

以上是我在研究js精度问题产生的两个问题,能够查到的博客上都对这两个方面没有说明,希望晓得js精度处理机制的大神帮助解答一下,谢谢大家!

补充:对于toPrecision(m)方法什么时候调用,更重要的是 m 的值是如何确定的?

回答

JS 的数学运算都是基于 IEEE754 标准的浮点数运算,就算是5+0.1也都是浮点数5+浮点数0.1。

造成误差的原因就是取一舍零造成的误差不可被简单忽略。

5+0.1 === 5.1或其它类似的数学运算成立,是因为两边结果的浮点数真的就是相等了(符号位、阶数、尾数全部相同,也可能是细微的不同但是精度处理过后相同不过我不确定)。

(5+0.1).toPrecision(20) === (5.1).toPrecision(20)

// "5.0999999999999996447" === "5.0999999999999996447"

(0.1+0.2).toPrecision(20) !== (0.3).toPrecision(20)

// "0.30000000000000004441" !== "0.29999999999999998890"

超过16位会使用toPrecision(16) 进行运算

这个也并不定是对的,具体精度处理规则我也并不清楚,得看标准才行,有空我再去查查。

0.1+0.2 // 0.30000000000000004

(0.1+0.2).toPrecision(17)

// "0.30000000000000004"

0.3+0.5 // 0.8

0.8.toPrecision(17)

// "0.80000000000000004"

转载,非原创

“0.1 + 0.2 = ?”,这道题如果给小学生,他会立马告诉你答案是 0.3,但是交给一些程序去计算,结果就不是那么简单了。

事实上,不仅仅是 JS,在其他采用 IEEE754 浮点数标准的语言中,0.1 + 0.2 都不会等于 0.3,但是 0.2 + 0.3 却等于 0.5,这是为何?想必这类问题也困扰着不少程序员。

IEEE754 浮点数的演算

我们知道,科学计数法中 30000 可以写成

$$

3×10^4

$$

,以 10 为底数 4 为指数的科学计数法。在 IEEE754 标准中是比较类似的,只不过它是二进制数,底数也为 2。

IEEE 754 中最常用的浮点数值表示法是:单精确度(32位)和双精确度(64位),JavaScript 采用的是后者。举个例子,十进制数 150,使用双精度浮点数表示法,表示如下:

$$

150D = 2^8 * 0.1001011B // 后面省略了 46 个 0

$$

// D 表示十进制,B 表示二进制

可以通过短除法计算:

150 余数位

÷ 2

---------------

75 0

÷ 2

---------------

37 1

÷ 2

---------------

18 1

÷ 2

---------------

9 0

÷ 2

---------------

4 1

÷ 2

---------------

2 0

÷ 2

---------------

1 0

÷ 2

---------------

0 1

最后一个余数为高位值,于是拿到 150 对应的二进制数位 1001011,也就等于 2^8 * 0.1001011。

上面是整数的表示法,而小数的表示法采用的是乘二取整,如 0.1,它的二进制表示为:

$$

0.1D = 2^{-3} * 0.110011(0011)

$$

// (0011) 表示循环

其演算方法如下:

0.1 整数位

× 2

---------------

0.2 0

× 2

---------------

0.4 0 * ↓

× 2

---------------

0.8 0

× 2

---------------

1.6 1

× 2

---------------

1.2 1

× 2

---------------

0.4 0 * ↑

(0011循环)

与整数不同的是,第一个计算得到的整数位为最高位,故 0.1 对应的二进制数为 0.000110011(0011),也就等于

$$

2^{-3} 0.1100110011(0011)

$$

如果一个数既包含整数部分,又包含小数部分,其表示法的计算,需要分拆为整数和小数两部分,然后相加得到结果。

IEEE754 浮点数精度丢失

IEEE754 浮点数表示法的数据格式如下图:

// 下图采用大端表示,高位在左,低位在右。

sign exponent fraction

+---+----------+---------------------+

| 1 | 2~12 | 13~64 |

+---+----------+---------------------+

符号位:高位第 1 位,如图 sign 部分

指数位:高位第 2~12 位,如图 exponent 部分

尾数位:剩下的 fraction 部分

从上面小数的乘二取整演算中可以看到,有些小数对应的二进制数是无法写全的,比如 0.1,而 fraction 尾数部分有要求,只允许 52 位,超过部分进一舍零。

那么,我们就可以得到:

0.1D

= 2^-4 * 1.10011(0011)B

= 2^-4 * 1.10011(0011 repeat 12 times)0011B // ← 最后一位为 1,进 1

= 2^-4 * 1.10011(0011 repeat 12 times)010B

揭秘 0.1 + 0.2

根据上面我们了解到的知识,我们可以很容易算出这些值:

0.1D = 2^-4 * 1.1001100110011001100110011001100110011001100110011010B

0.2D = 2^-3 * 1.1001100110011001100110011001100110011001100110011010B

0.3D = 2^-2 * 1.0011001100110011001100110011001100110011001100110011B

0.1 + 0.2 时,先将两者指数统一为 -3,故 0.1 小数点向左移一位,于是:

0.1100110011001100110011001100110011001100110011001101B

+ 1.1001100110011001100110011001100110011001100110011010B

------------------------------------------------------------

= 10.0110011001100110011001100110011001100110011001100111B

得到的二进制数为:

10.0110011001100110011001100110011001100110011001100111B

小数点往左移一位使得整数部分为 1,此时尾数部分为 53 位,进一舍零,于是得到最后的值是:

2^-2 * 1.0011001100110011001100110011001100110011001100110100

这个值转化成真值,结果为:0.30000000000000004。那么 0.1 + 0.2 = 0.30000000000000004 的推演到这里就结束了。

相关验证

毕竟咱们手动计算可能存在笔误,可以通过一个叫做 double-bits 的 npm 进行推演,我写了一个小 demo,感兴趣的可以玩耍下:

const db = require('double-bits');

const pad = require('pad');

// [lo, hi] where lo is a 32 bit integer and hi is a 20 bit integer.

const base2Str = (n) => {

const f = db.fraction(n);

const s = db.sign(n) ? '-' : '';

const e = `2^${db.exponent(n) + 1}`;

const t = `0.${pad(f[1].toString(2), 20, '0')}${pad(f[0].toString(2), 32, '0')}`;

return `${s}${e} * ${t}`;

};

console.log(base2Str(0.1).toString(2));

console.log(base2Str(0.2).toString(2));

console.log(base2Str(0.3).toString(2));

console.log(base2Str(1.2).toString(2));

上面输出结果为:

2^-3 * 0.11001100110011001100110011001100110011001100110011010

2^-2 * 0.11001100110011001100110011001100110011001100110011010

2^-1 * 0.10011001100110011001111001100110011001100110011001100

2^1 * 0.10011001100110011001111001100110011001100110011001100

最后

为了按照计算机的思维,IEEE754 的标准来计算 0.1 + 0.2,又重新复习了一遍大学计算机基础的知识,原码、反码、补码,以及除二取余、乘二取整计算法,最后能够推演出来,也算是一个胜利吧~

对于你的问题,我在《你不知道JS》中卷第二章2.3.2 看到过这样的说法:

0.1+0.2 === 0.3 //false

从数学角度来说,上面的判断条件应该为true,可结果为什么是false呢?

简单来说,二进制浮点数中的0.1和0.2并不是十分准确,他们相加的结果并非刚好等于0.3,而是一个比较接近的数字 0.30000000000000004,所以条件判断结果为false。有兴趣可以去看看《你不知道JS》

java输出精度到0.1_【java】浮点数精度问题,为什么0.1===0.1 5+0.1 = 5.1?相关推荐

  1. java输出中写html标签,java 输出html标签

    java 输出html标签 [2021-02-01 07:37:44]  简介: php去除nbsp的方法:首先创建一个PHP代码示例文件:然后通过"preg_replace("/ ...

  2. python float精度问题_Python之☞float浮点数精度问题

    (下面是精度漏洞的问题-转自其它) 从下面这段脚本体现出来: >>> x = 0.0 >>> for i in range(10): x += 0.1 print( ...

  3. java 输出数据类型_输入输出和java数据类型

    一.输入有两种方式. 1.使用Scanner. 使用时要在开始声明引用import  java.util.Scanner包.然后定义Scanner对象: Scanner  input=new Scan ...

  4. java输出GPA_请完成下列Java程序:实现换算GPA,对于学生学习的每一门课程,都输入两个..._考试资料网...

    问答题请完成下列Java程序:实现换算GPA,对于学生学习的每一门课程,都输入两个数据:考试成绩和学分,考试成绩按如下公式换算: 90-100:5 75-89: 4 60-74: 3 40-59: 2 ...

  5. java 输出赌赢unicod_使用Java OutputStream打印ASCII码

    import java.io.FileOutputStream; import java.io.IOException; import java.io.OutputStream; /** * 向文件中 ...

  6. java输出特定日期_用Java写指定一个日期,输出属相和天干地支,怎么写,用最简单的方法。...

    干支计算方法: (1)将十大天干.十二地支编号.如下:甲    乙    丙    丁    戊    己    庚    辛    壬    癸 4     5     6     7     8  ...

  7. java 输出流转输入流_输入输出--Java IO流

    O流01 javaIO流概述 ①Java IO即Java 输入输出系统 根据针对数据类型的处理,分为字节流和字符流: 字节流中包含输入流[InputStream]和输出流[OutputStream]两 ...

  8. Java输出表格格式_在Java的System.out中以表格式输出

    我创建了一个可以构建许多高级表视图的项目.如果你想列印表的宽度会有一个限制.我已经把它应用在我自己的一个项目中,以获得客户发票打印.以下是打印视图的示例. PLATINUM COMPUTERS(PVT ...

  9. java 浮点数精度_Java中浮点数精度问题

    Java中浮点数精度问题 Java中的简单浮点数类型float和double不能够进行运算.不光是Java,在其它很多编程语言中也有这样的问题.如下图所示: public class DataRang ...

  10. 计算价格, java中浮点数精度丢失的解决方案

    计算价格, java中浮点数精度丢失的解决方案 转载于:https://www.cnblogs.com/gloryhope/p/9896719.html

最新文章

  1. 如何编写一个可升级的智能合约
  2. Servlet3.0 版本问题,以及Servlet3.0中Annotation的使用
  3. 爆破专栏丨Spring Security系列教程之Spring Security的四种权限控制方式
  4. 经典基础算法之面试题(系列一)
  5. 如何利用Python制作可以动的动态图表。
  6. 16、Python与设计模式--模板模式
  7. 利用SQL和Python分别实现人流量查询,考验逻辑思维的时候到了
  8. Error:java: 无效的源发行版: 9 解决方案论述
  9. 有界、无界队列对ThreadPoolExcutor执行的影响
  10. 防爆破登录:配置/etc/hosts.deny禁止ip尝试ssh或者telnet操作
  11. Dijkstra算法原理
  12. android studio设置SVN忽略
  13. unity3d 人物对话_Unity 3D游戏-NPC对话系统With XML
  14. 梦幻西游脚本开发教学
  15. Islands 架构原理和实践
  16. 微软云Blob存储账号使用——Java使用
  17. 微软推出Azure Sphere漏洞奖励计划,最高奖金10万美元
  18. 萌言萌语|测试工作日报及总结
  19. vue 管理系统顶部tags浏览历史实现
  20. 问题分析——Maven打包后发版,静态资源找不到

热门文章

  1. Android调用手机自带图库选择图片
  2. ODC:在线深度聚类的无监督表示学习
  3. High Performance Visual Tracking with Siamese Region Proposal Network 阅读笔记
  4. find命令的基础用法以及按文件修改时间查找文件
  5. matlab怎样画一个立方体,matlab画立方体
  6. excel删除重复值并原位置保留第一个值方法步骤
  7. linux docker 软路由,OpenWrt软路由使用docker安装jellyfin影音中心
  8. 12306智能刷票,订票
  9. 分享一个在线Word编辑的jQuery插件
  10. 选择并遮住工具(边缘调整工具)+剪切蒙版法,扣除头发丝