3-2.6==0.4

Posted 2021-01-12 shiwanming

这里考察的就是浮点数计算会出现精度缺失的问题

　　在浮点数计算里面，其实，3-2.6=0.399999999999999，

　　那这个时候应该怎么办呢？

　　我知道两个办法

　　1，使用java自带的BigDecimal，这个是不可变的，任意精度的整数，这个能够使结果精确

　　2，将浮点数乘以倍数之后变成整数计算，最后再除