js 双精度浮点数

Posted 2023-03-17

参考技术A 一、怎样将一个数据转成浮点数   https://www.zhihu.com/question/21711083

二、js 的 Number

在 javascript 中整数和浮点数都属于 Number 数据类型，所有数字都是以 64 位浮点数形式储存，即便整数也是如此。

三、造成哪些问题？

1、小数计算精度丢失，比如 0.1+0.2 不等于 0.3

2、整数最大范围

整数是按最大54位来算最大(253 - 1，Number.MAX_SAFE_INTEGER,9007199254740991) 和最小(-(253 - 1)，Number.MIN_SAFE_INTEGER,-9007199254740991) 安全整数范围的。所以只要超过这个范围，就会存在被舍去的精度问题。

四、解决办法

开源的库、bigInt、

0.1+0.2-0.3     // 5.551115123125783e-17

5.551115123125783e-17.toFixed(20)      //   '0.00000000000000005551'

5.551115123125783e-17<Number.EPSILON*Math.pow(2,2)    // true

重新整理

https://zhuanlan.zhihu.com/p/73699947

回顾一个基础问题，js 中的精度丢失问题。

一、在 js 中只有双精度浮点数来存储的Number，数据存储会有三个步骤：1、十进制转二进制 2、二进制转科学技术法 3、按 IEEE754 标准存储。 

二、双精度浮点一共有 64位，64位比特又可分为三个部分：

符号位S：第 1 位是正负数符号位（sign），0代表正数，1代表负数

指数位E：中间的 11 位存储指数（exponent），用来表示次方数

尾数位M：最后的 52 位是尾数（mantissa），超出的部分自动进一舍零

三、基于以上知识，在数据小数位在进行转换二进制时，会出现无线循环的情况，而数据转成 IEEE754标准时又仅支持 52 位，所以要发生一个数据截断，也就是精度丢失。

四、常见的丢失场景，

 0.1 + 0.2 === 0.30000000000000004

parseInt(0.58*100,10)=57

(1.335).toFixed(2)

四、解决办法

math.js

bignumber.js

等库以及 es6 针对整数精度丢失的新数据类型BigInt