在javascript中的浮点数计算不准确。javascript的两个浮点数算法结果会有误差。
加减法
原理:
取小数位多的一个(Math.max(r1,r2))
将加数都乘以10的m次方(变成整数)
相加后再除以m,得出精确数据
乘除法
原理:
将乘数和被乘数转成字符串,计算其小数点后位数的和(m)
将乘数和被乘数去掉小数点(转成整数)后,转为Number类型(可以精确乘运算)
相乘后除以10的m次方,得出精确数据
//乘法
第一种方法:
function accMul(arg1,arg2) { var m=0,s1=arg1.toString(),s2=arg2.toString(); try{m+=s1.split(".")[1].length}catch(e){} try{m+=s2.split(".")[1].length}catch(e){} return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) } Number.prototype.mul = function (arg){ return accMul(arg, this); }
第二种方法:
function Mul2(arg1,arg2){ var r1,r2, m, n,q; if(parseInt(arg1) == arg1){ r1 = 0; }else{ r1 = arg1.toString().split(".")[1].length; } if(parseInt(arg2) == arg2){ r2 = 0; }else{ r2 = arg2.toString().split(".")[1].length; } m = Math.pow(10,r1); n = Math.pow(10,r2); q = m*n; var sum = (((arg1*m) * (arg2*n))/q); return sum; }
//除法
function FloatDiv(arg1,arg2){ var t1=0,t2=0,r1,r2; try{t1=arg1.toString().split(".")[1].length}catch(e){} try{t2=arg2.toString().split(".")[1].length}catch(e){} with(Math){ r1=Number(arg1.toString().replace(".","")); r2=Number(arg2.toString().replace(".","")); return (r1/r2)*pow(10,t2-t1); } }
//减法
function FloatSub(arg1,arg2){ var r1,r2,m,n; try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} m=Math.pow(10,Math.max(r1,r2)); //动态控制精度长度 n=(r1>=r2)?r1:r2; return ((arg1*m-arg2*m)/m).toFixed(n); }
function FloatAdd(arg1,arg2){ var r1,r2,m; try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} m=Math.pow(10,Math.max(r1,r2)); return (arg1*m+arg2*m)/m; }