单精度小数点后面有几位?

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了单精度小数点后面有几位?相关的知识,希望对你有一定的参考价值。

VB里面,单精度小数点后面有几位?双精度小数点后面有几位?
别给我个自然底数E啊
我只要知道小数点后面有几位就可以了

不一定的。单精度浮点数,浮点浮点,意思就是小数点会浮动的。

单精度浮点数的实际有效精度为24位二进制,这相当于 24*log102≈7.2 位10进制的精度,所以平时我们说“单精度浮点数具有7位精度”。(精度的理解:当从1.000...02变化为1.000...12时,变动范围为2^23,考虑到因为四舍五入而得到的1倍精度提高,所以单精度浮点数可以反映2^24的数值变化,即24位二进制精度)

扩展资料:

误差

浮点数以有限的32bit长度来反映无限的实数集合,因此大多数情况下都是一个近似值。同时,对于浮点数的运算还同时伴有误差扩散现象。

特定精度下看似相等的两个浮点数可能并不相等,因为它们的最小有效位数不同。

由于浮点数可能无法精确近似于十进制数,如果使用十进制数,则使用浮点数的数学或比较运算可能不会产生相同的结果。

如果涉及浮点数,值可能不往返。值的往返是指,某个运算将原始浮点数转换为另一种格式,而反向运算又将转换后的格式转换回浮点数,且最终浮点数与原始浮点数相等。由于一个或多个最低有效位可能在转换中丢失或更改,往返可能会失败。

参考资料来源:百度百科-单精度

参考技术A 不一定的。单精度浮点数,浮点浮点,意思就是小数点会浮动的。single最大小数点后6位,double最大14位,但是数字如果接近存放限制的范围,精度就会下降,也就是不到6位。本回答被提问者采纳 参考技术B Single
(单精度浮点型) 4 个字节 负数时从 -3.402823E38 到 -1.401298E-45;正数时从 1.401298E-45 到 3.402823E38
Double
(双精度浮点型) 8 个字节 负数时从 -1.79769313486232E308 到
-4.94065645841247E-324;正数时从4.94065645841247E-324 到 1.79769313486232E308
希望对你有帮助,期待被采纳!

double类型,小数点后的位数

我有一个double类型的数据
Cstring aStr;
double a=1234.567890;
aStr.Format("%f",a);
SetDlgItemText(IDC_a,aStr);
输出结果是:
1234.567890
我希望输出1234.57,也就是保留两位并且四舍五入。
怎么办到?

double类型是双精度浮点数,占用8字节(Byte)即64位(bit),其精度是由32个bit的二进制尾数来确定的,因此准确精度是二进制精度而不是十进制精度,通常可以保证十进制小数点后15位有效精度和第16位的部分精度。

通过格式化方法输出double类型,可以控制小数点后的显示位数:aStr.Format("%.2f",a);在百分号后面加上.x 就是指定小数点后的显示位数。注意这种方法不是四舍五入,而是截断显示,1.239会显示为1.23;

如果需要四舍五入,在C/C++中没有专门的函数,你可以这样实现:aStr.Format("%.2f",a+0.005);再舍去位加上5,再截断的时候就等于是四舍五入了。

拓展资料:

Visual Basic 支持几种 Numeric 数据类型— Integer(整型)、Long(长整型)、Single(单精度浮点型)、Double(双精度浮点型)和 Currency(货币型)。与 Variant 类型相比,Numeric 类型占用的存储空间通常要少。

如果知道变量总是存放整数(如 12 )而不是带小数点的数字(如 3.57),就应当将它声明为 Integer 类型或 Long 类型。整数的运算速度较快,而且比其它数据类型占据的内存要少。在 For...Next 循环内作为计数器变量使用时,整数类型尤为有用。

如果变量包含小数,则可将它们声明为 Single、Double 或 Currency 变量。Currency 数据类型支持小数点右面 4 位和小数点左面 15 位;它是一个精确的定点数据类型,适用于货币计算。浮点(Single 和 Double)数比 Currency 的有效范围大得多,但有可能产生小的进位误差。

浮点数值可表示为 mmmEeee 或 mmmDeee ,其中 mmm 是假数,而 eee 是指数(以 10 为底的幂)。Single 数据类型的最大正数值为 3.402823E+38,或 3.4 乘以 10 的 38 次方;Double 数据类型的最大正数值是 1.79769313486232D+308 或 1.8 乘以 10 的 308 次方。用 D 将数值文字中的假数部分和指数部分隔开,就会导致将该值作为 Double 数据类型来处理。同样,用这种方式使用 E,也会导致将该值作为 Single 数据类型来处理。

参考资料:数据类型 百度百科

参考技术A

Cstring aStr;

double a=1234.567890;

aStr.Format("%2f",a);

SetDlgItemText(IDC_a,aStr); 

将输出改为%2lf,即保留小数点后两位

拓展资料

双精度浮点型,此数据类型与单精度数据类型(float)相似,但精确度比float高,编译时所占的内存空间依不同的编译器而有所不同,是double float数据类型,C/C++中表示实型变量的一种变量类型。

此数据类型与单精度数据类型(float)相似,但精确度比float高,编译时所占的内存空间依不同的编译器而有所不同,通常情况,单精度浮点数占4字节(32位)内存空间,其数值范围为-3.4E38~3.4E+38,;双精度型占8 个字节(64位)内存空间,其数值范围为-1.7E308~+1.7E308。

参考资料:双精度浮点型-百度百科

参考技术B double类型是双精度浮点数,占用8字节(Byte)即64位(bit),其精度是由32个bit的二进制尾数来确定的,因此准确精度是二进制精度而不是十进制精度,通常可以保证十进制小数点后15位有效精度和第16位的部分精度。

通过格式化方法输出double类型,可以控制小数点后的显示位数:
aStr.Format("%.2f",a);

在百分号后面加上.x 就是指定小数点后的显示位数。注意这种方法不是四舍五入,而是截断显示,1.239会显示为1.23
如果需要四舍五入,在C/C++中没有专门的函数,你可以这样实现:
aStr.Format("%.2f",a+0.005);

在舍去位加上5,再截断的时候就等于是四舍五入了。
参考技术C 把aStr.Format("%f",a);
换成aStr.Format("%.2f",a); 保留两位小数就行了本回答被提问者采纳
参考技术D printf("%.2f",a+0.005); //这就是保留两位小数的四舍五入

以上是关于单精度小数点后面有几位?的主要内容,如果未能解决你的问题,请参考以下文章

单精度、双精度各有几位小数?

c++保留小数点后几位

在 C语言中 双精度和单精度的数,小数点后面分别保留几位啊·······

BigDecimal 如何校验小数点后面有几位小数

JS判断小数点后有几位

double精确到几位小数