JavaScript为啥浮点数会丢失精度

Posted 2023-04-26

JS浮点计算问题

问题

用js进行浮点数计算，结果可能会“超出预期”，大部分计算结果还是对的，但是我们可不想在计算这么严谨的事情上还有意外的惊喜。比如：

0.3 + 0.6 = 0.8999999999999999

0.3 - 0.2 = 0.09999999999999998

0.3 * 1.5 = 0.44999999999999996

0.3 / 0.1 = 2.9999999999999996

看完这几个计算结果，如果你没用过js，你可能会有点崩溃。我只能说，这就是js的魅力所在。

分析

在这之前，你需要知道以下几点：

js中数字类型只有Number；

js的Number是IEEE 754标准的64-bits的双精度数值

网上有很多关于此问题的解释，由于计算机是用二进制来存储和处理数字，不能精确表示浮点数，而js中没有相应的封装类来处理浮点数运算，直接计算会导致运算精度丢失。其实高级语言（c#，java）也存在此问题，只不过它们自己内部做了处理，把这种精度差异给屏蔽掉了。有些小数转换为二进制位数是无穷的（有循环），但是64位中小数最多只有52位，因此对于位数超过的相当于被截取了，导致了精度的丢失。这个地址可以用来浮点数和IEEE 754标准的64-bits的互转（背后是二进制的转换），用这个我们来验证下0.3-0.2。

0.3转换后为0.299999999999999988897769753748

0.2转换后为0.200000000000000011102230246252

0.299999999999999988897769753748-0.200000000000000011102230246252=0.099999999999999977795539507496

这和js直接计算的结果0.09999999999999998想吻合。

分析下来，终于明白并不是js自身发育不良，只是没有及时补充营养，我们只能另想出路了。

以上是网上找的

我以前遇到过问题2中浏览器计算的结果 是两种,所以和浏览器也有问题

参考技术A 0.1 +0.2 == 0.3

是不成立的。。。。所以这就是为什么数据库存储对于货币的最小单位都是分。

简单说，0.1和0.2的二进制浮点表示都不是精确的，所以相加后不是0.3，接近（不等于）
0.30000000000000004。

所以，比较数字时，应该有个宽容值。ES6中这个宽容值被预定义了：Number.EPSILON。

js浮点数精度误差问题，解决方法

参考技术A JavaScript 是一门弱类型的语言，从设计思想上就没有对浮点数有个严格的数据类型，所以精度误差的问题就显得格外突出。下面就分析下为什么会有这个精度误差，以及怎样修复这个误差。
首先，我们要站在计算机的角度思考 0.1 + 0.2 这个看似小儿科的问题。我们知道，能被计算机读懂的是二进制，而不是十进制，所以我们先把 0.1 和 0.2 转换成二进制看看：
0.1 => 0.0001 1001 1001 1001…（无限循环）
0.2 => 0.0011 0011 0011 0011…（无限循环）
双精度浮点数的小数部分最多支持 52 位，所以两者相加之后得到这么一串 0.0100110011001100110011001100110011001100110011001100 因浮点数小数位的限制而截断的二进制数字，这时候，我们再把它转换为十进制，就成了 0.30000000000000004。
原来如此，那怎么解决这个问题呢？我想要的结果就是 0.1 + 0.2 === 0.3 啊！！！
有种最简单的解决方案，就是给出明确的精度要求，在返回值的过程中，计算机会自动四舍五入，比如：
var numA = 0.1;
var numB = 0.2;
alert( parseFloat((numA + numB).toFixed(2)) === 0.3 );

乘法运算中有这种，比如0.58*100，结果是57.99999999999999。可以用Math.round()进行处理，

------||-------
尽量避免对小数进行操作，先处理成整数后在进行操作，其结果会比较精确。