处理JS数字舍入误差的两种解决方案

Posted 2021-08-28 铁锤妹妹@

起因

计算机的二进制实现和位数限制有些数无法有限表示。就像一些无理数不能有限表示，如 圆周率 3.1415926…，1.3333… 等。JS 遵循 IEEE 754 规范，采用双精度存储（double precision），占用 64 bit。

console.log(0.1 + 0.2) //0.30000000000000004

解决方案

1）方案1
toFixed先保留两位小数，再用parseFloat去掉小数点后面的0

   console.log(parseFloat((0.1 + 0.2).toFixed(2)));  //0.30   0.3

2）方案2
参数先分别乘以100，再分别除以100

mounted(){
 console.log(this.add(0.1, 0.2));  //0.3
}
add(num1, num2) {
  var m = Math.pow(10, 2); //放大10的2次方倍  100
  return (num1 * m + num2 * m) / m;  //(0.1*100 + 0.2*100）/100
 },

Math.pow(a,b)方法获得值的类型是double型
含义是a的b次方