算法浮点数多次运算精确值下降

Posted lpworld

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了算法浮点数多次运算精确值下降相关的知识,希望对你有一定的参考价值。

#include<stdio.h>
int main(){
    double i=0;
    double k=10;
    for(int j=0;j<100;j++){
        i+=0.1;
    }
    printf("%d
",i!=k);
    printf("%lf
",i);
    printf("%lf
",k);
    return 0;
}

 

1
10.000000
10.000000

--------------------------------
Process exited after 0.1828 seconds with return value 0
请按任意键继续. . .

结果可见多次运算的浮点数i已经和浮点数k不等

所以要多次运算浮点数时,尽量使用"<" ">"减少使用“=”

具体参考网友的博客https://blog.csdn.net/fanxueya1322/article/details/86580954

以上是关于算法浮点数多次运算精确值下降的主要内容,如果未能解决你的问题,请参考以下文章

php浮点数精确运算之bc系列函数

Java中的简单浮点数类型float和double不能够进行精确运算

工具类---提供精确的浮点数运算

Java之浮点数运算

Java浮点数精确计算

IEEE 754的简介