解决javascript中的浮点数计算不精确问题

时间:2023-01-08 09:37:47

 

在javascript中的浮点数计算不准确javascript的两个浮点数算法结果会有误差。


加减法

原理:
取小数位多的一个(Math.max(r1,r2))
将加数都乘以10的m次方(变成整数)
相加后再除以m,得出精确数据

乘除法

原理:
将乘数和被乘数转成字符串,计算其小数点后位数的和(m)
将乘数和被乘数去掉小数点(转成整数)后,转为Number类型(可以精确乘运算)
相乘后除以10的m次方,得出精确数据



//乘法

第一种方法:

			 function accMul(arg1,arg2) {    
			 	var m=0,s1=arg1.toString(),s2=arg2.toString();   
			 	try{m+=s1.split(".")[1].length}catch(e){}      
			 	try{m+=s2.split(".")[1].length}catch(e){}
			 return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) 
			 }
			 Number.prototype.mul = function (arg){     
			 	return accMul(arg, this); 
			 }


注意的是:try/catch可能会出现些问题  http://www.cnblogs.com/freshmen/p/4424667.html

第二种方法:

function Mul2(arg1,arg2){
            var r1,r2, m, n,q;
            if(parseInt(arg1) == arg1){
                r1 = 0;
            }else{
                r1 = arg1.toString().split(".")[1].length;
            }
            if(parseInt(arg2) == arg2){
                r2 = 0;
            }else{
                r2 = arg2.toString().split(".")[1].length;
            }
            m = Math.pow(10,r1);
            n = Math.pow(10,r2);
            q = m*n;
            var sum = (((arg1*m) * (arg2*n))/q);
            return sum;
}


//除法

function FloatDiv(arg1,arg2){   

        var t1=0,t2=0,r1,r2;   

        try{t1=arg1.toString().split(".")[1].length}catch(e){}   

        try{t2=arg2.toString().split(".")[1].length}catch(e){}   

        with(Math){   

            r1=Number(arg1.toString().replace(".",""));

   

            r2=Number(arg2.toString().replace(".",""));   

            return (r1/r2)*pow(10,t2-t1);   

        }   

  }


//减法

 function FloatSub(arg1,arg2){  

      var r1,r2,m,n;  

      try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}  

      try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}  

      m=Math.pow(10,Math.max(r1,r2));  

      //动态控制精度长度  

      n=(r1>=r2)?r1:r2;  

      return ((arg1*m-arg2*m)/m).toFixed(n);  

  }  


//加法
 function FloatAdd(arg1,arg2){  

       var r1,r2,m;  

       try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}  

       try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}  

       m=Math.pow(10,Math.max(r1,r2));  

       return (arg1*m+arg2*m)/m;  

  }