#yyds干货盘点#JavaScript - 浮点数值
Posted 李游LEO
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了#yyds干货盘点#JavaScript - 浮点数值相关的知识,希望对你有一定的参考价值。
浮点数,是属于有理数中某特定子集的数的数字表示,在计算机中用以近似表示任意某个实数。具体的说,这个实数由一个整数或定点数(即尾数)乘以某个基数(计算机中通常是2)的整数次幂得到,这种表示方法类似于基数为10的科学计数法。
不过说的简单一点,所谓的浮点数就是包含了一个小数点,小数点后面必须至少有一个整数表示。虽然小数点前方可以没有数字,但是这样会降低可读性,并不推荐。
例如:
当然数字也是有特别大的数值,一般情况下可以使用科学计数法,也就是用e表示。科学计数法实际使用起来也是非常简单的,实际使用的时候就是e前面的数值乘以10的指数次幂。在ECMAScript中的科学计数法使用起来也是如此,就算前面是整数或者浮点数都可以这样计算,科学计数法在使用起来不区分大小写,也就是E或者e都可以,后面是10的幂中的指数,使用该幂值与前面的数相乘即可。
例如:
我们拿最后一个例子为例,使用e表示的3.3E2,实际数值为330,计算方式为“3.3乘以102”。
除了表示很大的数值,我们也可以利用科学计数法来表示特别小的数值,比如0.0005,我们就可以使用5e-4表示。不过在一般默认情况下,ECMAScript会将那些小数点后面带有6个零以上的浮点数值转化为科学计数法,也就是用e表示,这个状态是默认的,比如0.0000005会自动转化为5e-7的写法。
虽然浮点数很好,但是也有一个致命的争议问题,因为浮点数值的最高精度是17位小数,但在进行算数计算时其精度远远不如整数。例如最常出现问题的计算就是0.1加0.2了,结果并不是0.3,而是0.30000000000000004。这个问题也是javascript的浮点数误差会导致无法测试特定的浮点数值,这个问题归结起来是ECMAScript浮点数机制问题。
上述例子中,我们测试到其和并不等于0.3。但是如果是0.05和0.25在或者是0.15都不会有问题。
原理是这样的,JavaScript内部采用的IEEE 754标准,number类型默认为双精度浮点型(64位),其实会有以下的问题:
1.首先我们都知道计算机内部存储是采用的二进制
2.将0.1转为二进制是无限循环小数,0.2也是无限循环小数
我们可以使用toString传入2的方法来获得数值的2进制,例如:
大家可以看出来二进制所获的长度是非常长的,而浮动点位数会有限制,当长度溢出之后就会默认做截取,从上面的输出中可以看出0.1+0.2转成二进制后大于0.3直接转二进制.不光小数,而当整数部分溢出也会出现截取现象。所以就会诞生出来计算不准确的现象。
以上是关于#yyds干货盘点#JavaScript - 浮点数值的主要内容,如果未能解决你的问题,请参考以下文章