pow()函数结果强制转化为int造成误差的分析
Posted zkfopen
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了pow()函数结果强制转化为int造成误差的分析相关的知识,希望对你有一定的参考价值。
开发环境:codeblocks,编译器gcc
在计算102时调用pow(10, 2),再强制类型转换为int类型后输出:
printf("%d",(int)pow(10,2));
得到的结果却是:99
这是因为 double pow(double x, double y) ,返回值是采用数值逼近的方法得到的double类型值。例如返回值为99.9999999时,强制类型转换发生截断,得到99。
仔细分析后发现:
因为pow函数导致从double返回值类型向int型转化的时候是直接把小数部分切掉,
导致原先double型的小数部分不再四舍五入,从而失去了整数部分的精度,最终结果差1
最简单的解决方案:+ 0.5
(int)(pow(10, 2) + 0.5) // 返回值为100
解决方案2:
自行编写 pow() 函数,以整型作为形参与返回值。
解决方案3:
运用四舍五入函数:
printf("%d",(int)round(pow(10,2)));
ps: 在vc6.0运行是正确的,在codeblock上就是错误的。应该是编译器的问题了。
参考:
https://blog.csdn.net/Ratina/article/details/86538025
https://blog.csdn.net/changer_WE/article/details/80379171
以上是关于pow()函数结果强制转化为int造成误差的分析的主要内容,如果未能解决你的问题,请参考以下文章