计算机进行小数运算时出错的原因和避免方法

Posted hyy123-

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了计算机进行小数运算时出错的原因和避免方法相关的知识,希望对你有一定的参考价值。

计算机进行小数运算时出错的原因:

 是因为有一些十进制的小数无法转换成二进制数。

如何地避免小数运算错误:

1.回避策略,即无视这些错误。根据程序目的不同,有时一些微笑的偏差并不会造成什么问题

2.就是把小数转换成整数来计算。计算机计算小数时可能会出错,但进行整数计算时一定不会出现问题。因此我们可以将小数暂时转换成整数在输出的时候再以小数的形式来输出

 

以上是关于计算机进行小数运算时出错的原因和避免方法的主要内容,如果未能解决你的问题,请参考以下文章

三:计算机进行小数运算时出错的原因

第三章计算机进行小数运算时出错的原因

《程序是怎样跑起来的》第三章有感

《程序是怎样跑起来的》第三章

读《程序是怎样跑起来的》第第三章有感

《程序员是怎样跑起来的》第三章