单精度浮点数（float）加法计算出错

Posted 2020-09-20 那一剑的风情

场景：

　　一个float型的变量赋值1170601，加上19000000，结果出现错误。

 

原因：

　　float占用4个字节（32位）存储空间，包括符号位1位，阶码位8位，尾数23位。浮点数精度与它的尾数有关。

　　尾数为二进制小数1.m，m为23位的小数。所以浮点数的精度为24位二进制有效位数。2的24次方为16777216。

　　19000000 > 16777216，做加法计算之后丢失精度导致结果出错。

 

解决方法：

　　将float用double替换，double占用8个字节（64位）存储空间，包括符号位1位，阶码位11位，尾数52位。