3-2.6==0.4
Posted shiwanming
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了3-2.6==0.4相关的知识,希望对你有一定的参考价值。
这里考察的就是浮点数计算会出现精度缺失的问题
在浮点数计算里面,其实,3-2.6=0.399999999999999,
那这个时候应该怎么办呢?
我知道两个办法
1,使用java自带的BigDecimal,这个是不可变的,任意精度的整数,这个能够使结果精确
2,将浮点数乘以倍数之后变成整数计算,最后再除
以上是关于3-2.6==0.4的主要内容,如果未能解决你的问题,请参考以下文章
Pandas DataFrame Groupby 两列并获取计数
去:github.com/myorg/myrepo@v0.0.4:阅读 github.com/myorg/myrepo/go.mod 在修订 v0.0.4:未知修订 v0.0.4
如何从每个区间 (0.0,0.2),(0.2,0.4),(0.4,0.8),(0.8,1.0) 中获取包含相等数量值的数组子集?
SQL Server数据库mdf文件中了勒索病毒GANDCRAB V5.0.4