为啥C++里面浮点与整数相乘的结果跟在计算器里的不一样呢？浮点我选的float

Posted 2023-04-01

参考技术A 就是定义问题，int，float都不行，这里使用双精度浮点型double定义试试看。
别忘了还要显示小数点后四位。 参考技术B float的内存是32位2进制，int的内存是16位2进制
int和float两种类型之间运算。计算机会默认把int转换成float类型再进行运算，就是升阶处理，而运算是由CPU直接处理的，因此你可以看到有个0.000002-0.000001的误差数.本回答被提问者采纳 参考技术C 浮点数是没法准确表达实数得,总会有个截断误差.这里不同可能有两个不同:
a)计算时精度不一样,截断误差不同
b)显示时显示精度不一样(你要设置同样得显示位数才有可能一样) 参考技术D 计算精度有区别，也可能是结果显示的时候，做了精度弱化。