javascript 浮点数运算误差检查函数

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了javascript 浮点数运算误差检查函数相关的知识,希望对你有一定的参考价值。

function withinErrorMargin (left, right) {
  return Math.abs(left - right) < Number.EPSILON * Math.pow(2, 2);
}

0.1 + 0.2 === 0.3 // false
withinErrorMargin(0.1 + 0.2, 0.3) // true

1.1 + 1.3 === 2.4 // false
withinErrorMargin(1.1 + 1.3, 2.4) // true

以上是关于javascript 浮点数运算误差检查函数的主要内容,如果未能解决你的问题,请参考以下文章

js浮点数运算封装, 起因财务部分精确计算

接单日记:理解浮点数运算的误差

js浮点数运算出现误差解决方案

js 数值精确运算使用math.js

js浮点数精度误差问题,解决方法

4-浮点数运算