经典的精度丢失问题

Posted 2021-11-25 chinaifae

Java中的类型float、double用来做计算会有精度丢失问题，下面来看下面的示例。

1. public static void main(String[] args) {

2.    test1();

3.    test2();

4. }

5.  

6. private static void test1() {

7.    double totalAmount = 0.09;

8.    double feeAmount = 0.02;

9.    double tradeAmount = totalAmount - feeAmount;

10.    System.out.println(tradeAmount);

11. }

上面的程序输出结果是多少？

0.07？非也！

正确的结果是：

1. 0.06999999999999999

为什么是这样？

浮点数可能丢失精度，浮点十进制数通常没有完全相同的二进制的表示形式，这是CPU所采用的浮点数据表示形式的副作用。为此，可能会有一些精度丢失，并且一些浮点运算可能会产生未知的结果。

浮点运算很少是精确的，只要是超过精度能表示的范围就会产生误差。所以，在使用float、double作精确运算的时候一定要特别小心，除非能容忍精度丢失，不然产生的误差也是会造成双方对账不一致的结果。

怎么解决

在《Effective Java》这本书中也提到这个原则，float和double只能用来做科学计算或者是工程计算，在商业计算中我们要用 java.math.BigDecimal。

BigDecimal适合更精度的运算，也提供了丰富的操作符类型，小数位控制，四舍五入规则等。

不过，使用BigDecimal不当也有精度丢失的情况，如double的构造方法：

1. BigDecimal(double val)

再来看这个示例：

1. private static void test2() {

2.    double totalAmount = 0.09;

3.    double feeAmount = 0.02;

4.    BigDecimal tradeAmount = new BigDecimal(totalAmount).subtract(new BigDecimal(feeAmount));

5.    System.out.println(tradeAmount);

6. }

输出：

1. 0.0699999999999999962529972918900966760702431201934814453125

这个精度就更恐怖了。。

所以，一定要使用String的构造方法：

1. BigDecimal(String val)

1. private static void test3() {

2.    double totalAmount = 0.09;

3.    double feeAmount = 0.02;

4.    BigDecimal tradeAmount = new BigDecimal(String.valueOf(totalAmount))

5.            .subtract(new BigDecimal(String.valueOf(feeAmount)));

6.    System.out.println(tradeAmount);

7. }

总结

• 金额运算尽量使用BigDecimal(String val)进行运算。

• 数据库存储金额，一般有整型和浮点型两种存储方式。如果是有汇率转换的，建议使用浮点数decimal进行存储，可以灵活的控制精度，decimal直接对应java类型BigDecimal。当然，用整数存储分这种形式也可以，转账的时候单位为元而如果忘了转换分为元，那就悲剧了。