double类型打印结果一致但系统判定不一致的问题
Posted 狱典司
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了double类型打印结果一致但系统判定不一致的问题相关的知识,希望对你有一定的参考价值。
假设存在两个理论结果一致的公式b和b1:
b和b1的计算方式理论上计算得出的结果是一样的,编译器打印出来肉眼看也是一样的,系统判定不一样原因如下:
即使double有着很高的精度(64位),但是机器对最后一位的处理必定是四舍五入的;
如遇到无限循环or无限不循环小数这样的计算结果,若将该结果保存在某个double变量中用于后续计算,计算结果的判断可能会出错。
那么有以下几种处理方式:
(1)将double强制转换为string,保留精度在十进制0.000001
(2)检测差值,当差值小于0.000001时认为一致
(3)推荐的办法:在计算公式中保证不包含某个double型的变量k(该k可能是经过系统末尾四舍五入取值的无限小数)
【将下面的代码保存为cpp文件并运行可以看到这种出错的情况】
/*
【问题描述】
在平面直角坐标系中,两点可以确定一条直线。如果有多点在一条直线上,那么这些点中任意两点确定的直线是同一条。
给定平面上2x3个整点(xv)0≤x<20≤у<3x€Zy€Z,即横坐标是0到1(包含0和1)之间的整数、纵坐标是0到2(包含0和2)之间的整数的点。
这些点一共确定了11条不同的直线。
给定平面上20x21个整点1(xy)0≤x<200≤у<21x€Z,y€Z,即横坐标是0到19(包含0和19)之间的整数、纵坐标是0到20(包含0和20)之间的整数的点。
请问这些点一共确定了多少条不同的直线 ?
*/
# include<iostream>
# include<map>
# include<set>
# include<string>
#define row 5
#define col 3
using namespace std;
int main()
map<pair<double, double>, int> m = ;
int ans = 0;
for (int x1 = 0; x1 < row; x1++)
for (int y1 = 0; y1 < col; y1++)
for (int x2 = 0; x2 < row; x2++)
for (int y2 = 0; y2 < col; y2++)
if (x1 == x2 || y1 == y2) continue;
double k = 1.0*(y2 - y1) / (x2 - x1)*1.0;
double b = (y1 - k * x1);
double k1 = (y1 - y2) * 1.0 / (x1 - x2);
double b1 = ((x2 * y1 - x1 * y2) * 1.0) / ((x2 - x1) * 1.0);
/*
存在明显的问题,b和b1的计算方式理论上计算得出的结果是一样的,打印出来肉眼看也是一样的,但是系统判定不一样:
即使double有着很高的精度(64位),但是机器对最后一位的处理必定是四舍五入的;
如遇到无限循环or无限不循环小数这样的计算结果,若将该结果保存在某个double变量中用于后续计算,计算结果的判断可能会出错。
【运行该代码可以看到这种出错的情况】
那么有以下两种处理方式:
(1)将double强制转换为string,保留精度在十进制0.000001
(2)检测差值,当差值小于0.000001时认为一致
(3)推荐的办法,在计算公式中保证不包含某个double型的变量k(该k可能是经过系统末尾四舍五入取值的无限小数)
*/
if (b != b1)
printf("点A1:(%d,%d),\\t点A2:(%d,%d)\\n", x1, y1, x2, y2);
printf("b公式计算出的截距:\\t十六进制:%x\\t浮点型:%lf\\n", b,b);
printf("b1公式计算出的截距:\\t十六进制:%x\\t浮点型:%lf\\n", b1,b1);
string notice = b == b1 ? "b==b1" : "b!=b1";
cout << notice << endl;
cout << " 将其转换成string再做比较: " << endl;
string str = to_string(b);
string str1 = to_string(b1);
cout << "str_b:\\t" << str << endl;
cout << "str_b1:\\t" << str1 << endl;
string note = str == str1 ? "str_b==str_b1" : "str_b!=str_b1";
cout << note << endl << endl;
if (m[k, b] == 0)
m[k, b] = 1;
//printf("a:(%d,%d),b:(%d,%d) ———— 斜率:%.2f\\t截距:%.2f\\n\\n", x1,y1,x2,y2,k,b);
ans++;
cout << "由于上述问题导致的结果错误:" << ans + row + col << endl;
cout << "__________________________________________________________________\\n\\n\\n" << endl;
/*
下面是正确的计算方式
*/
set<pair<double, double> >a; // 直接使用set去重
for (int x1 = 0; x1 < row; x1++)
for (int y1 = 0; y1 < col; y1++)
for (int x2 = 0; x2 < row;x2++)
for (int y2 = 0; y2 < col;y2++)
if (x1 == x2 ) //避免斜率不存在,也可以在条件中加上 || y1 == y2 ,但结果要加上col
continue;
double k = (y1 - y2) * 1.0 / (x1 - x2);
double b = ((x2 * y1 - x1 * y2) * 1.0) / ((x2 - x1) * 1.0); //不在计算中包含double类型的变量
a.insert(make_pair(k, b));
cout << "线条的真正个数" << a.size() + row << endl;
return 0;
以上是关于double类型打印结果一致但系统判定不一致的问题的主要内容,如果未能解决你的问题,请参考以下文章
C语言双目运算符两边的运算数类型不一致系统自动转换的规则是啥?比如1.0/2=0.5那为啥不是1.0/2=0呢?
linux 系统 解决php -v查看到版本于phpinfo()打印的版本不一致问题