浮点数比较
Posted dhfly
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了浮点数比较相关的知识,希望对你有一定的参考价值。
不要用 a == b的办法判断两个浮点数是否相等,包括不要用 a== 0的办法判断浮点数 a是否等于0。因为浮点数是有误差的。
应该用 a-b > -eps && a-b < eps ,即a和b的差的绝对值小于某个很小值 eps的办法来判断a和b是否相等。
如果结果要保留小数点后面n位,那么 eps可以取 10的-(n+1)次方。
引自https://www.cnblogs.com/huashanqingzhu/p/7221791.html
以上是关于浮点数比较的主要内容,如果未能解决你的问题,请参考以下文章