float.valueof()自动截取有效位数

Posted 2021-02-06 knowyou

最近在项目上遇到一个新奇的问题与大家分享一下，情况如下：

页面新增一个777777777数传到后台，保存之后变成777777790；

查到原因是后台用float.valueof()转换了一下；

继续深挖，float基本属性如下：　

    基本类型：float 二进制位数：32

    包装类：java.lang.Float

    最小值：Float.MIN_VALUE=1.4E-45

  最大值：Float.MAX_VALUE=3.4028235E38

这些都不是重点，重点是float是单精度；

float和double的范围是由指数的位数来决定的。 

  float： 

  1bit（符号位） 

  8bits（指数位） 

  23bits（尾数位） 

在数学中，特别是在计算机相关的数字（浮点数）问题的表述中，有一个基本表达法

（浮点）数值 =      尾数    ×    底数 ^ 指数，（附加正负号）

 

float：2^23 = 8388608，一共七位，这意味着最多能有7位有效数字，但绝对能保证的为6位，也即float的精度为6~7位有效数字； 

通俗点就是： 777777777   ——》  7.7777779E8    ——》777777790

所以在进行大尾数计算建议用Double.valueOf();