3-2.6==0.4

Posted shiwanming

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了3-2.6==0.4相关的知识,希望对你有一定的参考价值。

这里考察的就是浮点数计算会出现精度缺失的问题

  在浮点数计算里面,其实,3-2.6=0.399999999999999,

  那这个时候应该怎么办呢?

  我知道两个办法

  1,使用java自带的BigDecimal,这个是不可变的,任意精度的整数,这个能够使结果精确

  2,将浮点数乘以倍数之后变成整数计算,最后再除

以上是关于3-2.6==0.4的主要内容,如果未能解决你的问题,请参考以下文章

Pandas DataFrame Groupby 两列并获取计数

去:github.com/myorg/myrepo@v0.0.4:阅读 github.com/myorg/myrepo/go.mod 在修订 v0.0.4:未知修订 v0.0.4

如何从每个区间 (0.0,0.2),(0.2,0.4),(0.4,0.8),(0.8,1.0) 中获取包含相等数量值的数组子集?

SQL Server数据库mdf文件中了勒索病毒GANDCRAB V5.0.4

zabbix3.0.4 部署之九 (zabbix3.0.4 Linux Agent安装)

dgrid-0.4 是不是可以与 dstore-1.1 一起使用?