vb6中双数据类型小数点后允许的最大位数
Posted
技术标签:
【中文标题】vb6中双数据类型小数点后允许的最大位数【英文标题】:Maximum digits allowed after decimal in double datatype in vb6 【发布时间】:2016-09-16 08:13:35 【问题描述】:我想知道 vb6 中原始双精度数据类型的小数点后允许多少位数,而实际上没有四舍五入。
【问题讨论】:
【参考方案1】:如果在 vb6 中使用双精度数据类型,您最多可以得到 16 个有效数字
例如1.0000000000000006
【讨论】:
您只会得到 15 位数字(总数 - 不仅仅是位置)。尝试 0.1234567890123456 作为反例。 (顺便说一句,1.0000000000000006 将四舍五入为 1.0000000000000007,如果 VB 实际上允许您将其显示到那么多位数)以上是关于vb6中双数据类型小数点后允许的最大位数的主要内容,如果未能解决你的问题,请参考以下文章