javascript 计算后结果失精度的问题解决

　　近日，项目中遇到数值经过数学计算后出现失精度的问题，例如：0.35/10 = 0.034999999999999996。造成这一结果的原因就不再仔细分析了，太繁琐，时间紧也就没仔细去研究。直接说解决方案。

　　解决方案也是来自网友的分享，大同小异，有扩展Number，给Number增加方法的，也有定义工具方法的。我采用的是扩展Number 的方式。代码如下：

 // 解决四维运算,js计算失去精度的问题//加法Number.prototype.add = function(arg){var r1,r2,m;try{r1=this.toString().split(".")[1].length}catch(e){r1=0}try{r2=arg.toString().split(".")[1].length}catch(e){r2=0}m=Math.pow(10,Math.max(r1,r2))return (this*m+arg*m)/m
 };//减法Number.prototype.sub = function (arg){return this.add(-arg);};//乘法Number.prototype.mul = function (arg){var m=0,s1=this.toString(),s2=arg.toString();try{m+=s1.split(".")[1].length}catch(e){}try{m+=s2.split(".")[1].length}catch(e){}　　 return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
 };//除法Number.prototype.div = function (arg){var t1=0,t2=0,t3=0,r1,r2;try{t1=this.toString().split(".")[1].length}catch(e){}try{t2=arg.toString().split(".")[1].length}catch(e){}try{t3=arg.toString().split(".")[0].length}catch(e){}with(Math){if(this > 1 && (t2 === 0 && arg === pow(10,t3-1))){return this/arg;}else {r1=Number(this.toString().replace(".",""))r2=Number(arg.toString().replace(".",""))return (r1/r2).mul(pow(10,t2-t1));
          }}
};

　　其中，网友分享出来的方法中除法原本只有 else 中的内容，但实际使用过程中发现在处理类似于 3.5/10 的时候仍会出现结果失精度的问题，所以擅自添加了个 if 判断。如有其他更好更全面的解决方式，请广大网友不吝留言告知。

　　另，附上自定义函数的解决方式：

//除法
function accDiv(arg1, arg2) {var t1 = 0, t2 = 0, t3 = 0, r1, r2;try {t1 = arg1.toString().split(".")[1].length} catch (e) {}try {t2 = arg2.toString().split(".")[1].lengtht3 = arg2.toString().split(".")[0].length} catch (e) {}r1 = Number(arg1.toString().replace(".", ""))r2 = Number(arg2.toString().replace(".", ""))if (arg1 > 1 && (t2 === 0 && arg2 === Math.pow(10, t3 - 1))) {return arg1 / arg2;} else {r1 = Number(arg1.toString().replace(".", ""))r2 = Number(arg2.toString().replace(".", ""))return accMul((r1 / r2), Math.pow(10, t2 - t1))}
}
//乘法
function accMul(arg1, arg2) {var m = 0, s1 = arg1.toString(), s2 = arg2.toString();try {m += s1.split(".")[1].length} catch (e) {}try {m += s2.split(".")[1].length} catch (e) {}return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m)
}
//加法
function accAdd(arg1, arg2) {var r1, r2, m;try {r1 = arg1.toString().split(".")[1].length} catch (e) {r1 = 0}try {r2 = arg2.toString().split(".")[1].length} catch (e) {r2 = 0}m = Math.pow(10, Math.max(r1, r2))return (arg1 * m + arg2 * m) / m
}
//减法
function Subtr(arg1, arg2) {var r1, r2, m, n;try {r1 = arg1.toString().split(".")[1].length} catch (e) {r1 = 0}try {r2 = arg2.toString().split(".")[1].length} catch (e) {r2 = 0}m = Math.pow(10, Math.max(r1, r2));n = (r1 >= r2) ? r1 : r2;return ((arg1 * m - arg2 * m) / m).toFixed(n);
}

转载于:https://www.cnblogs.com/leo-lpf/p/9505657.html

javascript 计算后结果失精度的问题解决相关推荐

浮点数精度问题透析:小数计算不准确+浮点数精度丢失根源
在知乎上上看到如下问题: 浮点数精度问题的前世今生? 1.该问题出现的原因 ? 2.为何其他编程语言,比如java中可能没有js那么明显 3.大家在项目中踩过浮点数精度的坑? 4.最后采用哪些方案规避 ...
python 浮点数精度丢失_浮点数精度问题透析:小数计算不准确+浮点数精度丢失根源...
浮点数精度问题透析:小数计算不准确+浮点数精度丢失根源无论在java python javaScript里面都存在 1+ 2!== 3 问题,这个问题的产生根源在于计算存储数字是二进制,对无限循环小 ...
c# 取余数浮点数_浮点数精度问题透析:小数计算不准确+浮点数精度丢失根源
在知乎上上看到如下问题: 浮点数精度问题的前世今生? 1.该问题出现的原因 ? 2.为何其他编程语言,比如java中可能没有js那么明显 3.大家在项目中踩过浮点数精度的坑? 4.最后采用哪些方案规避 ...
javaScript 计算两个日期的天数相差~~~
一:计算两个日期相差的天数比如: str1 = "2002-01-20" str2 = "2002-10-11" 怎样用javaScr ...
html 表格自动计算,HTML表格中的JavaScript计算
我是 JavaScript的新手,所以我甚至不知道这是否是尝试这个的正确语言,但我想我会尝试.我已经阅读了其他几篇文章,我找不到真正让我知道如何做到这一点的东西,所以我在这里问.我读过的所有例子都涉及 ...
探索javascript----获得节点计算后样式
节点计算后样式是一个属性与属性值的值对对象: IE: node.currentStyle; 非IE: window.getComputedStyle(node,null); 兼容方式: func ...
利用Java的BigDecimal与马青公式精确计算π后10000位，
首先给出公式如下: π=16arctan1/5−4arctan1/239: 即是 π=16×(1/(1×5)−1/(3×5的3次方)+1/(5×5的5次方)-)−4×(1/(1×239)−1/(3×2 ...
#Tomcat# 本地正常但是部署到服务器后,mysql插入中文乱码问题解决！
一百度,几乎都是大同小异的答案,全都是互相转载的文章.帮助很小如果你遇到了**Tomcat本地正常!但是部署到服务器后,mysql插入中文乱码问题解决!**这样的问题. 常规的方式都无效,不妨试试下 ...
Tomcat本地正常！但是部署到服务器后,mysql插入中文乱码问题解决！
一百度,几乎都是大同小异的答案,全都是互相转载的文章.帮助很小如果你遇到了**Tomcat本地正常!但是部署到服务器后,mysql插入中文乱码问题解决!**这样的问题. 常规的方式都无效,不妨试试下 ...

javascript 计算后结果失精度的问题解决

javascript 计算后结果失精度的问题解决相关推荐

最新文章

热门文章