精度浮点型数据精确到了几位小数呢？

Posted 2023-04-04

参考技术A

float精确到七位小数。

float和double的精度是由尾数的位数来决定的。浮点数在内存中是按科学计数法来存储的，其整数部分始终是一个隐含着的“1”，因为它是不变的，故不能对精度造成影响。

float：2^23 = 8388608，一共七位，这意味着最多能有7位有效数字，但绝对能保证的为6位，也即float的精度为6~7位有效数字。

简介：

浮点型数据类型，FLOAT 数据类型用于存储单精度浮点数或双精度浮点数。浮点数使用 IEEE（电气和电子工程师协会）格式。

浮点类型的单精度值具有 4 个字节，包括一个符号位、一个 8 位 二进制指数和一个 23 位尾数。由于尾数的高顺序位始终为 1，因此它不是以数字形式存储的。此表示形式为 float 类型提供了一个大约在 -3.4E+38 ~ 3.4E+38 之间的范围。

double精确到几位小数

参考技术A

15位。

double型小数点后15位。double类型是双精度浮点数，占用8字）即64位，其精度是由32个bit的二进制尾数来确定的，因此准确精度是二进制精度而不是十进制精度，通常可以保证十进制小数点后15位有效精度。

双精度浮点数(double)是计算机使用的一种数据类型，使用64位（8字节）来存储一个浮点数。它可以表示十进制的15或16位有效数字，其可以表示的数字的绝对值范围大约是：-1.79E+308~+1.79E+308。

如果需要四舍五入，在C/C++中没有专门的函数，你可以这样实现：aStr.Format("%.2f",a+0.005);再舍去位加上5，再截断的时候就等于是四舍五入了。

Visual Basic 支持几种 Numeric 数据类型— Integer(整型)、Long(长整型)、Single(单精度浮点型)、Double(双精度浮点型)和 Currency(货币型)。与 Variant 类型相比，Numeric 类型占用的存储空间通常要少。

如果知道变量总是存放整数(如 12 )而不是带小数点的数字(如 3.57)，就应当将它声明为 Integer 类型或 Long 类型。整数的运算速度较快，而且比其它数据类型占据的内存要少。在 For...Next 循环内作为计数器变量使用时，整数类型尤为有用。