测试浮点数的问题
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了测试浮点数的问题相关的知识,希望对你有一定的参考价值。
1、这里浮点数默认是double型,因为默认是double型,所以float型有损精确度,要想运行转换位 bouble,在数值后面加F
2、这里用科学计数法表示,其中e-2相当于2.7*10的-2次方,如果是e+2代表的就是2.7*10的+2次方
如下图是不加F的
运行结果:
加了F的运行结果如下图:
3、同样的数值,bouble和float是不一样的。显示不相等false如图:
以上是关于测试浮点数的问题的主要内容,如果未能解决你的问题,请参考以下文章