js 浮点数计算Bug

Posted 2020-11-10 AKKK

之前在写项目时候，直接对带小数点的数据进行运算，发现所得到的值并不是自己想要的。

经过一系列学习后，发现在javascript中，浮点数运算都是先转换成二进制，在转成二进制的时候有出现无限循环小数，故之后的运算都出现了问题（这是基于IEEE754数值的浮点计算的通病）。

因此，就翻阅了前公司的js工具库，找到一些用于运算的函数。

// 加法
function accAdd(arg1,arg2){   
  var r1,r2,m;   
  try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}   
  try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}   
  m=Math.pow(10,Math.max(r1,r2))   
  return ((arg1*m+arg2*m)/m).toFixed(2);   
}
// 除法
function accDiv(arg1,arg2){
   var t1=0,t2=0,r1,r2;
   try{t1=arg1.toString().split(".")[1].length}catch(e){}
   try{t2=arg2.toString().split(".")[1].length}catch(e){}
   with(Math){
   r1=Number(arg1.toString().replace(".",""))
   r2=Number(arg2.toString().replace(".",""))
   return (r1/r2)*pow(10,t2-t1);
  }
}
// 乘法
function accMul(arg1,arg2)
{
   var m=0,s1=arg1.toString(),s2=arg2.toString();
   try{m+=s1.split(".")[1].length}catch(e){}
   try{m+=s2.split(".")[1].length}catch(e){}
   return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
// 减法
function accSubtr(arg1,arg2){
   var r1,r2,m,n;
   try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
   try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
   m=Math.pow(10,Math.max(r1,r2));
   //动态控制精度长度
   n=(r1>=r2)?r1:r2;
   return ((arg1*m-arg2*m)/m).toFixed(n);
}

　　找到这些工具函数，当有想加强这些函数的想法。比如当函数不只两个的时候。

于是，在我的脑海就出现了两个念头，可实现其效果。

1. 参数过多的时候，一遍一遍的递归自己（这个方法就不写了，反正就是递归）。

2. 重构这个工具函数

// 加法
function accAdd() {
    let arr = Array.prototype.slice.call(arguments);
    let num = 0;
    arr.map(res => {
        let r1, r2, m;
        try { r1 = res.toString().split(".")[1].length } catch (e) { r1 = 0 };
        try { r2 = num.toString().split(".")[1].length } catch (e) { r2 = 0 };
        m = Math.pow(10, Math.max(r1, r2));
        num = (res * m + num * m) / m
    });
    return num;
}

　　

// 减法
function accSubtr() {
   let arr = Array.prototype.slice.call(arguments);
   let num = arr[0];
   arr.shift();
   arr.map(res => {
        let r1, r2, m, n;
        try { r1 = res.toString().split(".")[1].length } catch (e) { r1 = 0 };
        try { r2 = num.toString().split(".")[1].length } catch (e) { r2 = 0 };
        m = Math.pow(10, Math.max(r1, r2));
        n = (r1 >= r2) ? r1 : r2;
        num = ((num * m - res * m) / m).toFixed(n);
    }); 
    return num;  
}