浮点数的比较

Posted 超越昨天的自己就是进步

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了浮点数的比较相关的知识,希望对你有一定的参考价值。

在大多数的语言中,不指定精度的浮点数不能直接比较,会出现很多意想不到的结果。

例子:

$price1 = 9.8*100;
$price2 = floatval(980);
var_dump($price1);
var_dump($price2);
var_dump($price1 == $price2);
结果
float(980) float(980) bool(false)

上面两个变量看着是一样的,用var_dump打印出来都是浮点数980,比较两个数结果是false,是不是有点儿晕。

我们格式化输出一下两个数

printf("%.50f", $price1);
echo("<br/>");
printf("%.50f", $price1);
980.00000000000011368683772161602973937988281250000000
980.00000000000011368683772161602973937988281250000000

打印了这么长还是一样,还是不能证明这两个数相等的,浮点数计算涉及精度,当浮点数转为二进制时有可能会造成精度丢失。

上面的例子不太明显的能体现出来,我们换个

printf("%.50f", 1-0.9);
echo("<br/>");
printf("%.50f", 0.1);
0.09999999999999997779553950749686919152736663818359
0.10000000000000000555111512312578270211815834045410

这样就看出来了吧!

不要盲目的比较两个浮点数的大小。

 

以上是关于浮点数的比较的主要内容,如果未能解决你的问题,请参考以下文章

内部格式为 GL_RGBA8 的纹理在片段着色器中显示为浮点数

比较浮点数的总和[重复]

golang比较浮点数是不是相等

如何在perl中比较浮点数而不只是相等

浮点数的比较

js实现浮点数保留两位小数代码