在javascript中的浮点数计算不准确。javascript的两个浮点数算法结果会有误差。
加减法
原理:
取小数位多的一个(Math.max(r1,r2))
将加数都乘以10的m次方(变成整数)
相加后再除以m,得出精确数据
乘除法
原理:
将乘数和被乘数转成字符串,计算其小数点后位数的和(m)
将乘数和被乘数去掉小数点(转成整数)后,转为Number类型(可以精确乘运算)
相乘后除以10的m次方,得出精确数据
//乘法
第一种方法:
function accMul(arg1,arg2) {
var m=0,s1=arg1.toString(),s2=arg2.toString();
try{m+=s1.split(".")[1].length}catch(e){}
try{m+=s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
Number.prototype.mul = function (arg){
return accMul(arg, this);
}
第二种方法:
function Mul2(arg1,arg2){
var r1,r2, m, n,q;
if(parseInt(arg1) == arg1){
r1 = 0;
}else{
r1 = arg1.toString().split(".")[1].length;
}
if(parseInt(arg2) == arg2){
r2 = 0;
}else{
r2 = arg2.toString().split(".")[1].length;
}
m = Math.pow(10,r1);
n = Math.pow(10,r2);
q = m*n;
var sum = (((arg1*m) * (arg2*n))/q);
return sum;
}
//除法
function FloatDiv(arg1,arg2){
var t1=0,t2=0,r1,r2;
try{t1=arg1.toString().split(".")[1].length}catch(e){}
try{t2=arg2.toString().split(".")[1].length}catch(e){}
with(Math){
r1=Number(arg1.toString().replace(".",""));
r2=Number(arg2.toString().replace(".",""));
return (r1/r2)*pow(10,t2-t1);
}
}
//减法
function FloatSub(arg1,arg2){
var r1,r2,m,n;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2));
//动态控制精度长度
n=(r1>=r2)?r1:r2;
return ((arg1*m-arg2*m)/m).toFixed(n);
}
function FloatAdd(arg1,arg2){
var r1,r2,m;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2));
return (arg1*m+arg2*m)/m;
}