java中数值计算的问题

Posted cppstudy

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了java中数值计算的问题相关的知识,希望对你有一定的参考价值。

今天使用javatodo的时候发现了一个问题:1.0-0.9=0.09999999999999998 这究竟是怎么回事,询问了几个人以后才知道原来这不是javatodo的问题,而是java的问题。
float和double类型执行二进制浮点运算,所以它们的计算结果并不完全正确,所以在需要精确计算的场合不能使用它们。
那么对于这种情况使用哪种类型最合适呢?使用BigDecimal类型最为合适。
例如:BigDecimal reBigDecimal = new BigDecimal("1").subtract(new BigDecimal("0.9909090909090"));
System.out.print(reBigDecimal);
输出结果:0.0090909090910






以上是关于java中数值计算的问题的主要内容,如果未能解决你的问题,请参考以下文章

Java大数值与浮点数计算

Java大数值与浮点数计算

Java大数值与浮点数计算

数值计算中的有限差分法

从java toBinaryString() 看计算机数值存储方式(原码反码补码)

java ITSA第58次月赛问题1.计算正整数被3整除之数值之总和