008_浮点数误差问题

Posted aeon

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了008_浮点数误差问题相关的知识,希望对你有一定的参考价值。

一、浮点数

  a):float类型又被称作单精度类型,尾数可以精确到7位有效数字,在很多情况下,float类型的精度很难满足需求。

  b):double表示这种类型的数值精度是float类型的两倍,又被称作双精度,绝大部分应用程序都采用double类型。

二、浮点数的表述范围

  

类型

占用存储空间

表数范围

float

4字节

-3.403E38~3.403E38

double

8字节

-1.798E308~1.798E308

三、在java中表示浮点数的两种表示形式

  a):十进制形式  如:3.14       314.0      0.314

  b):科学记数法形式  如: 314e2      314E2      314E-2

以上是关于008_浮点数误差问题的主要内容,如果未能解决你的问题,请参考以下文章

C++浮点数误差是啥

Python浮点数误差与解决方法

Python浮点数误差与解决方法

C语言浮点数误差如何解决?如下

C语言浮点数误差的解决

浮点数精度上误差