JS处理小数相加出现溢出的问题

Posted 2022-09-13 zjingjing

1、首先呈现一下问题:

let a = 0.1 + 0.2
let b = 0.3
我们的期望：a==b 为true
结果：a==b 为false
打印一下a和b的值分别为：0.30000000000000004 和 0.3

2、在实际应用中如何匹配a和b的值呢？
有一种常见的方法是设置一个误差范围值，通常称为“机器精度”。可以使用Number.EPSILON来比较两个数字是否相等。
下面定义方法如下：

function numberCloseEqual(n1,n2) 
  return Math.abs(n1 - n2) < Number.EPSILON;


3、结果：

numberCloseEqual(a, b) // true

numberCloseEqual(0.000001,0.000002) // false