你真的懂float么? C语言基础!
Posted C语言入门到精通
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了你真的懂float么? C语言基础!相关的知识,希望对你有一定的参考价值。
后台回复开发工具,免费获取C语言常用编译
公司最近在做交易系统,交易系统肯定是要和钱打交道的,和钱有关,自然而然很容易想到用float存储,但是使用float存储金额做的计算是近似计算。
哼,扣工资就扣工资。但还是得静下心来想想为什么不能用float。
为什么不能使用float存储金额
计算机只认识0和1,所有类型的计算首先会转化为二进制的计算。
从计算机二进制角度计算 6.6 + 1.3 的过程
float底层存储
计算是由
来完成的,
表示浮点数由三部分组成 分为三个部分,符号位(sign),指数部分(exponent)和有效部分(fraction, mantissa)。其中float总共占用32位,符号位,指数部分,有效部分各占1位,8位,23位。
二进制的转化
对于实数,转化为二进制分为两部分,第一部分整数部分,第二部分是小数部分。整数部分计算二进制大家都很熟悉。
整数部分的计算:6转化为二进制
小数部分的计算
将小数乘以2,取整数部分作为二进制的值,然后再将小数乘以2,再取整数部分,以此往复循环。
0.6转化为二进制
…进入循环,循环体为1001 所以0.6转化为二进制为0.10011001… 6.6转化为二进制为110.10011001…
规约化
通过规约化将小数转为规约形式,类似科学计数法,就是保证小数点前面有一个有效数字。在二进制里面,就是保证整数位是一个1。110.10011001规约化为:1.1010011001*2^2。
指数偏移值
指数偏移值 = 固定值 + 规约化的指数值 固定值=2^(e-1)-1,其中的e为存储指数部分的比特位数,前面提到的float为8位。所以float中规定化值为127 6.6的二进制值规约化以后为1.1010011001*2^2,指数是2,所以偏移值就是127+2=129,转换为二进制就是10000001。
拼接6.6
6.6为正数,符号位为0,指数部分为偏移值的二进制10000001,有效部分为规约形式的小数部分,取小数的前23位即10100110011001100110011,最后拼接到一起即 01000000110100110011001100110011。
到这里已经大致可以知道float为什么不精确了,首先在存储的时候就会造成精度损失了,在这里小数部分的二进制是循环的,但是仍然只能取前23位。double造成精度损失的原因也是如此。
不能使用float那用什么类型存储金额?
使用int 数据库存储的是金额的分值,显示的时候在转化为元。
使用decimal存储类型的缺点
浮点类型在存储同样范围的值时,通常比decimal使用更少的空间
因为使用decimal时间和空间开销较大,选用int作为数据库存储格式比较合适,可以同时避免浮点存储计算的不精确和decimal的缺点。对于存储数值较大或者保留小数较多的数字,数据库存储结构可以选择bigint。
以上是关于你真的懂float么? C语言基础!的主要内容,如果未能解决你的问题,请参考以下文章
你真的懂perl里面的print, print STDOUT, print STDERR么?
踩过了这些坑,你真的懂python基础吗?
Y服务-你真的懂 Yaml 吗
static关键字你真的懂了吗?
C语言中printf输出float和double都用%f么(scanf又如何)
菜鸟如何学习免杀?