js 计算 如3.6-3=0.6000000000000001。加减乘除,就不一一举例了。
原因
十进制的0.1和0.2都会被转换成二进制,但由于浮点数用二进制表达时是无穷的,例如。
JavaScript 代码:

0.1 -> 0.0001100110011001...(无限)
0.2 -> 0.0011001100110011...(无限)

整数的精度问题

19571992547450991===19571992547450992 // true

同样的原因,在 JavaScript 中 Number类型统一按浮点数处理,整数是按最大54位来算最大(253 - 1,Number.MAX_SAFE_INTEGER,9007199254740991) 和最小(-(253 - 1),Number.MIN_SAFE_INTEGER,-9007199254740991) 安全整数范围的。所以只要超过这个范围,就会存在被舍去的精度问题。

当然这个问题并不只是在 Javascript 中才会出现,几乎所有的编程语言都采用了 IEEE-745 浮点数表示法,任何使用二进制浮点数的编程语言都会有这个问题,只不过在很多其他语言中已经封装好了方法来避免精度的问题,而 JavaScript 是一门弱类型的语言,从设计思想上就没有对浮点数有个严格的数据类型,所以精度误差的问题就显得格外突出。

详细转别人的 https://blog.csdn.net/helloxiaoliang/article/details/72723387

在 JavaScript 中整数和浮点数都属于 Number 数据类型,所有数字都是以 64 位浮点数形式储存,即便整数也是如此。 所以我们在打印 1.00 这样的浮点数的结果是 1 而非 1.00 。在一些特殊的数值表示中,例如金额,这样看上去有点变扭,但是至少值是正确了。然而要命的是,当浮点数做数学运算的时候,你经常会发现一些问题,举几个例子:

JavaScript 代码:


// 加法 =====================
// 0.1 + 0.2 = 0.30000000000000004
// 0.7 + 0.1 = 0.7999999999999999
// 0.2 + 0.4 = 0.6000000000000001
// 2.22 + 0.1 = 2.3200000000000003// 减法 =====================
// 1.5 - 1.2 = 0.30000000000000004
// 0.3 - 0.2 = 0.09999999999999998// 乘法 =====================
// 19.9 * 100 = 1989.9999999999998
// 19.9 * 10 * 10 = 1990
// 1306377.64 * 100 = 130637763.99999999
// 1306377.64 * 10 * 10 = 130637763.99999999
// 0.7 * 180 = 125.99999999999999
// 9.7 * 100 = 969.9999999999999
// 39.7 * 100 = 3970.0000000000005// 除法 =====================
// 0.3 / 0.1 = 2.9999999999999996
// 0.69 / 10 = 0.06899999999999999

问题的原因
似乎是不可思议。小学生都会算的题目,JavaScript 不会?我们来看看其真正的原因。

JavaScript 里的数字是采用 IEEE 754 标准的 64 位双精度浮点数。该规范定义了浮点数的格式,对于64位的浮点数在内存中的表示,最高的1位是符号位,接着的11位是指数,剩下的52位为有效数字,具体:

第0位:符号位, s 表示 ,0表示正数,1表示负数;
第1位到第11位:储存指数部分, e 表示 ;
第12位到第63位:储存小数部分(即有效数字),f 表示,
如图:

符号位决定了一个数的正负,指数部分决定了数值的大小,小数部分决定了数值的精度。 IEEE 754规定,有效数字第一位默认总是1,不保存在64位浮点数之中。也就是说,有效数字总是1.xx…xx的形式,其中xx…xx的部分保存在64位浮点数之中,最长可能为52位。因此,JavaScript提供的有效数字最长为53个二进制位(64位浮点的后52位+有效数字第一位的1)。

计算过程
比如在 JavaScript 中计算 0.1 + 0.2时,到底发生了什么呢?

首先,十进制的0.1和0.2都会被转换成二进制,但由于浮点数用二进制表达时是无穷的,例如。

JavaScript 代码:

0.1 -> 0.0001100110011001...(无限)
0.2 -> 0.0011001100110011...(无限)

IEEE 754 标准的 64 位双精度浮点数的小数部分最多支持 53 位二进制位,所以两者相加之后得到二进制为:

JavaScript 代码:

0.0100110011001100110011001100110011001100110011001100
因浮点数小数位的限制而截断的二进制数字,再转换为十进制,就成了 0.30000000000000004。所以在进行算术计算时会产生误差。

整数的精度问题
在 Javascript 中,整数精度同样存在问题,先来看看问题:

JavaScript 代码:

console.log(19571992547450991); //=> 19571992547450990
console.log(19571992547450991===19571992547450992); //=> true

同样的原因,在 JavaScript 中 Number类型统一按浮点数处理,整数是按最大54位来算最大(253 - 1,Number.MAX_SAFE_INTEGER,9007199254740991) 和最小(-(253 - 1),Number.MIN_SAFE_INTEGER,-9007199254740991) 安全整数范围的。所以只要超过这个范围,就会存在被舍去的精度问题。

当然这个问题并不只是在 Javascript 中才会出现,几乎所有的编程语言都采用了 IEEE-745 浮点数表示法,任何使用二进制浮点数的编程语言都会有这个问题,只不过在很多其他语言中已经封装好了方法来避免精度的问题,而 JavaScript 是一门弱类型的语言,从设计思想上就没有对浮点数有个严格的数据类型,所以精度误差的问题就显得格外突出。

解决方案
上面说了这么多问题和原因,这里给出一些解决方案。

类库
通常这种对精度要求高的计算都应该交给后端去计算和存储,因为后端有成熟的库来解决这种计算问题。前端也有几个不错的类库:

Math.js
Math.js 是专门为 JavaScript 和 Node.js 提供的一个广泛的数学库。它具有灵活的表达式解析器,支持符号计算,配有大量内置函数和常量,并提供集成解决方案来处理不同的数据类型
像数字,大数字(超出安全数的数字),复数,分数,单位和矩阵。 功能强大,易于使用。

官网:http://mathjs.org/

GitHub:https://github.com/josdejong/mathjs

decimal.js
为 JavaScript 提供十进制类型的任意精度数值。

官网:http://mikemcl.github.io/decimal.js/

GitHub:https://github.com/MikeMcl/decimal.js

big.js
官网:http://mikemcl.github.io/big.js

GitHub:https://github.com/MikeMcl/big.js/

这几个类库帮我们解决很多这类问题,不过通常我们前端做这类运算通常只用于表现层,应用并不是很多。所以很多时候,一个函数能解决的问题不需要引用一个类库来解决。

下面介绍各个更加简单的解决方案。

整数表示
对于整数,我们可以通过用String类型的表示来取值或传值,否则会丧失精度。

格式化数字、金额、保留几位小数等
如果只是格式化数字、金额、保留几位小数等可以查看这里 http://www.css88.com/archives/7324

浮点数运算
toFixed() 方法
浮点数运算的解决方案有很多,这里给出一种目前常用的解决方案, 在判断浮点数运算结果前对计算结果进行精度缩小,因为在精度缩小的过程总会自动四舍五入。

toFixed() 方法使用定点表示法来格式化一个数,会对结果进行四舍五入。语法为:

JavaScript 代码:

numObj.toFixed(digits)
参数 digits 表示小数点后数字的个数;介于 0 到 20 (包括)之间,实现环境可能支持更大范围。如果忽略该参数,则默认为 0。

返回一个数值的字符串表现形式,不使用指数记数法,而是在小数点后有 digits 位数字。该数值在必要时进行四舍五入,另外在必要时会用 0 来填充小数部分,以便小数部分有指定的位数。 如果数值大于 1e+21,该方法会简单调用 Number.prototype.toString()并返回一个指数记数法格式的字符串。

特别注意:toFixed() 返回一个数值的字符串表现形式。

具体可以查看 MDN中的说明,那么我们可以这样解决精度问题:

JavaScript 代码:

parseFloat((数学表达式).toFixed(digits)); // toFixed() 精度参数须在 0 与20 之间
// 运行

parseFloat((1.0 - 0.9).toFixed(10)) // 结果为 0.1
parseFloat((0.3 / 0.1).toFixed(10)) // 结果为 3
parseFloat((9.7 * 100).toFixed(10)) // 结果为 970
parseFloat((2.22 + 0.1).toFixed(10)) // 结果为 2.32

在老版本的IE浏览器(IE 6,7,8)中,toFixed()方法返回值不一定准确。所以这个方法以前很少用。以至于网上搜索出来的结果大都是下面这些方法。

还有一些其他的解决方案,简单的说需要将浮点数转换字符串,分隔成为整数部分和小数部分,小数部分再转换为整数,计算结果后,再转换为浮点数。这过程有点复杂…,网上找一下:

加法函数
JavaScript 代码:

/**
** 加法函数,用来得到精确的加法结果
** 说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
** 调用:accAdd(arg1,arg2)
** 返回值:arg1加上arg2的精确结果
**/

function accAdd(arg1, arg2) {var r1, r2, m, c;try {r1 = arg1.toString().split(".")[1].length;}catch (e) {r1 = 0;}try {r2 = arg2.toString().split(".")[1].length;}catch (e) {r2 = 0;}c = Math.abs(r1 - r2);m = Math.pow(10, Math.max(r1, r2));if (c > 0) {var cm = Math.pow(10, c);if (r1 > r2) {arg1 = Number(arg1.toString().replace(".", ""));arg2 = Number(arg2.toString().replace(".", "")) * cm;} else {arg1 = Number(arg1.toString().replace(".", "")) * cm;arg2 = Number(arg2.toString().replace(".", ""));}} else {arg1 = Number(arg1.toString().replace(".", ""));arg2 = Number(arg2.toString().replace(".", ""));}return (arg1 + arg2) / m;
}//给Number类型增加一个add方法,调用起来更加方便。
Number.prototype.add = function (arg) {return accAdd(arg, this);
};

减法函数
JavaScript 代码:


/**** 减法函数,用来得到精确的减法结果** 说明:javascript的减法结果会有误差,在两个浮点数相减的时候会比较明显。这个函数返回较为精确的减法结果。** 调用:accSub(arg1,arg2)** 返回值:arg1加上arg2的精确结果**/
function accSub(arg1, arg2) {var r1, r2, m, n;try {r1 = arg1.toString().split(".")[1].length;}catch (e) {r1 = 0;}try {r2 = arg2.toString().split(".")[1].length;}catch (e) {r2 = 0;}m = Math.pow(10, Math.max(r1, r2)); //last modify by deeka //动态控制精度长度n = (r1 >= r2) ? r1 : r2;return ((arg1 * m - arg2 * m) / m).toFixed(n);
}// 给Number类型增加一个mul方法,调用起来更加方便。
Number.prototype.sub = function (arg) {return accMul(arg, this);
};

乘法函数
JavaScript 代码:


/**** 乘法函数,用来得到精确的乘法结果** 说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。** 调用:accMul(arg1,arg2)** 返回值:arg1乘以 arg2的精确结果**/
function accMul(arg1, arg2) {var m = 0, s1 = arg1.toString(), s2 = arg2.toString();try {m += s1.split(".")[1].length;}catch (e) {}try {m += s2.split(".")[1].length;}catch (e) {}return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);
}// 给Number类型增加一个mul方法,调用起来更加方便。
Number.prototype.mul = function (arg) {return accMul(arg, this);
};

除法函数
JavaScript 代码:

/** ** 除法函数,用来得到精确的除法结果** 说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。** 调用:accDiv(arg1,arg2)** 返回值:arg1除以arg2的精确结果**/
function accDiv(arg1, arg2) {var t1 = 0, t2 = 0, r1, r2;try {t1 = arg1.toString().split(".")[1].length;}catch (e) {}try {t2 = arg2.toString().split(".")[1].length;}catch (e) {}with (Math) {r1 = Number(arg1.toString().replace(".", ""));r2 = Number(arg2.toString().replace(".", ""));return (r1 / r2) * pow(10, t2 - t1);}
}//给Number类型增加一个div方法,调用起来更加方便。
Number.prototype.div = function (arg) {return accDiv(this, arg);
};

关于JS运算,出现多余小数点尾数,浮点问题处理相关推荐

  1. js运算保留后面两位小数

    首先创建一个js的文件,例如下面的round.js round.js的代码如下 function round(num,dec){ var strNum = num + '';/*把要转换的小数转换成字 ...

  2. Python中关于浮点数运算的不确定尾数的解释

    一.浮点数类型 与数学中实数概念一致,带有小数点及小数的数字.浮点数取值范围和小数精度都存在限制,但常规计算可忽略. 取值范围数量级约-10308到10308,精度数量级10-16. 二.浮点数运算的 ...

  3. python中浮点数间运算存在不确定尾数_python 浮点数类型

    - 带有小数点及小数的数字 - 浮点数取值范围和小数精度都存在限制,但常规计算可忽略 - 浮点数的取值范围数量级约为  至 浮点数间运算存在不确定尾数,这不是bug # 浮点数间运算存在不确定尾数 & ...

  4. 【Python】解决浮点数间运算存在不确定尾数的问题

    #浮点数间运算存在不确定尾数,所以会输出False if 0.1+0.2==0.3:print("Ture\n") else:print("False\n") ...

  5. [Web前端基础] CSS优先级、JS运算优先级、CSS设置在第几行进行超出部分省略号、JS设置元素样式的六种方式

    CSS优先级 !important> 行内样式 > id选择器 > 类选择器 > 标签选择器 > 通配符选择器 > 继承 如果有多个复合选择器选中同一个元素,则需要 ...

  6. js 写一个任意类型转浮点小数点保留两位

    不进行四舍五入 function toFloat(num) {var floatValue = parseFloat(num);if (isNaN(floatValue)) {return 0;}re ...

  7. JS数字存储-指数位-尾数位-最大安全数字

    JS数字存储 存储标准 JavaScript中的数字的存储标准是IEEE754浮点数标准.代码中使用的无论是整数还是小数,都是同一种数据类型--64位双精度浮点型. 64位存储划分 64位分别是1位符 ...

  8. 菜鸟经验积累之JS运算

    2019独角兽企业重金招聘Python工程师标准>>> 今天刚发现的.原来js支持变量加小数简写的直接运算,如 : var i=7.5; i+.5; 这样是可以得出结果的. 还有一个 ...

  9. js保留两位小数点(整数商品价格渲染时,保留后两位数)

    解决方案: 使用toFixed Number.toFixed(2) 问题描述:想展示¥9.00到页面上,却只展示了¥9 代码: var price = 9.00 document.write(pric ...

最新文章

  1. DeepLabV3+语义分割实战
  2. VI打开和编辑多个文件的命令
  3. 数据湖,当然得要全闪存的!
  4. java addall equals_Java究极打基础之ArrayList篇
  5. 策略模式和职责链模式在CMS中的应用
  6. 95-872-040-源码-CEP-CEP简介
  7. 输入输出流_内部存储·
  8. html数字自动滚动代码怎么写,你可能需要这样的大屏数字滚动效果
  9. java ee 类切换_eclipse的工程类型切换
  10. linux每日命令(11):cat命令
  11. Python io – BytesIO,StringIO
  12. pg批量插入_PG语法解剖--基本sql语句用法入门
  13. usb转rj45 android,USB转RJ45驱动合集
  14. Python 正则表达式_re模块_使用compile加速
  15. Exchange邮箱爆破和信息收集
  16. AmchartsJS版设置属性/方法总结
  17. 外贸用什么企业邮箱好?哪家企业邮箱安全又可靠?
  18. 【Linux】Linux发行版本的简介与选择
  19. Servlet的安全(第十三篇)
  20. Double 判断小数位数

热门文章

  1. 3.3.Polynomial_add 一元多项式相加
  2. 使用idea误点 Add as Ant Build File选项后
  3. MMC、SD等存储卡的区别总结
  4. mysql thread conn_MySQL源码阅读2-连接与线程管理
  5. linux系统无法识别固态硬盘_教你如何快速识别好固态硬盘?
  6. ZCMU--5154: 体育运动
  7. 开发嵌入京东app h5| Hybrid | 微信小程序 | 实践踩坑总结十六条
  8. python 小说cms系统_「博文小说网」Python爬虫爬取小说网站 - seo实验室
  9. 八点钟学院软件测试,急求普通话测试题,如果哪位同学有请转发好吗?
  10. 华恩JAVA班第22天