浮点数精度丢失问题详解
Posted 菜刚
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了浮点数精度丢失问题详解相关的知识,希望对你有一定的参考价值。
请看以下Go代码,会返回 0.7
吗?
var num float32
for i := 0; i < 7; i++{
num = num + 0.1
}
fmt.Println(num)
答案可能出人意料,是:0.70000005
0.70000005
也许有人会问,是不是Go语言的问题?换其他语言试试?
OK,我们换JS试试。
答案依然令人意外。
除此之外,你还可以试试C、C++、Java、php等其他语言的float类型相加,看得到的数据是否精确;
还有,除了语言之外,你还可以在mysql等数据库中试试float类型数据的字段叠加,得到的数据是否精确。
我可以先告诉你答案:只要是float类型的数据相加,无论在任何语言、任何数据库、任何中间件中进行加法(减法乘除法)运算,得到的数据,都不会精确。
这是浮点类型的精度丢失现象。(Loss of significance)
要了解产生这个现象的原因,就要先了解计算机是如何定义和表示float类型的。
不同于正整数类型的表示方法,float类型在计算机中的表示略显复杂,遵循的是<
以上是关于浮点数精度丢失问题详解的主要内容,如果未能解决你的问题,请参考以下文章