浮点数的十六进制表示

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了浮点数的十六进制表示相关的知识,希望对你有一定的参考价值。

参考技术A IEEE 754规定了表示浮点数值的方式:单精确度(32位元)、双精确度(64位元),

单精度二进制小数,使用32个位元存储,

其中分为符号位(S), 指数位(Exp),有效数位(Fraction)

【从左到右依次排序分别位1位、8位、23位】

指数部分即使用所谓的偏正值形式表示,实际值为表示值与一个固定值(32位的情况是127)的和。

例如有一个浮点数是6.91,如何将其转换为十六进制呢?

首先将6.91转换为二进制形式:

110.111010001111010111000

将其规范化:调整使其实数第一位大于1小于2

6.91 = 1.10111010001111010111000 * 2^2

基本原型出来了

S:0

EXP : 2+127(10进制) =129(10进制) = 10000001(2进制)

Fraction : 10111010001111010111000 (注意:小数点前面的1不要了)

组合一下: 0 10000001 10111010001111010111000
= 0100 0000 1101 1101 0001 1110 1011 1000
= 4 0 D D 1 E B 8

原文: https://blog.csdn.net/Cheatscat/article/details/78533349

(十六)浮点数和定点数

一、浮点数不精确性

在自算计中打开python命令行输入0.3+0.6我们可以看到输出结果是0.899999,出现这种结果和计算机中对于浮点数的保存方法有关。

二、定点数的表达

        假如我们使用四个字节表示一个0~9的整数,32位就可以保存8个这样的整数,使用左边的6个表示整数位,右边两个表示小数位,这样就可以表示0~999999.99范围的数,总共有一亿个,这就是BCD编码。这种编码方式的缺陷也很明显:

  1. 浪费,32位本可以表示2^32个数字;
  2. 表示范围极其有限;

三、浮点数制表示

        计算机中实际对于浮点数的表示采用科学计数法,细节如下:

技术图片

  1. 第一位表示符号位,0为正1为负。为s
  2. 2~9位为指数位,8位可以表示0~255,这里将1~254其映射到-126~127。为e
  3. 其余23位为有效数位。为f

        其所表示的数为 (-1)^s*1.f*2^e,除此之外有一些特殊表示:

技术图片

        例如0.5表示如下:

    技术图片

        由于指数位用1~254表示 -126~127,所以-1就是1~254的第126个数

四、浮点数的二进制转化

        十进制小数转为二进制小数方法是指数位用除2取余法;小数位则不断乘以2,如乘2的结果大于1则当前位取1,如小于1则当前位取0,继续乘以2,不断重复这个过程,直至乘的结果为1:

         技术图片

        十进制数9.1转为二进制,需要将整数位与小数位分开处理,整数位为1001,小数位如下,是一个无限循环小数0.000110011……,因此表示为1001.000110011……,左移三位表示为1.001000110011……

由于有效位只有23位,后面的会被截掉,最终表示结果为:

技术图片

        将这个数转为十进制,准确结果为:9.09999942779541015625,这也就是浮点数表示法中精度损失的原因。

五、浮点数加法和精度损失

        浮点数的加法原则是六个字:先对齐,再计算;就是先将两个数的指数位转换成一致,就是把指数位较小的数右移之后再对齐,再计算有效位即可。例如十进制的0.5+0.125计算过程如下:

技术图片

        在这个过程中我们发现在对齐操作中,有些数字的有效位会由于位移丢失,因此损失了精度。两个数相差越大则=对齐操作中损失精度的可能性越大,32位数有效位长23位,这就意味着如果两个数相差2^24倍(大概1600万倍),则两个数相加结果不会改变。

六、Kahan Summation 算法

        上面精度损失的例子中,假若我们连续加2000万次较小的那个数,计算结果还是不会变化,但实际值增加一倍多,在这种“积少成多”的情况下,误差就太大了,在机器学习的计算场景下这种情况尤其多。解决这个问题的办法就是科学家提出的Kahan Summation算法,这种方式计算2000万个1.0f相加的过程如下:

public class KahanSummation {
  public static void main(String[] args) {
    float sum = 0.0f;
    float c = 0.0f;
    for (int i = 0; i < 20000000; i++) {
      float x = 1.0f;
      float y = x - c;
      // 求和,需要使用sum值加1.0再加上上一步的精度损失c,主要是这个加法造成了进度损失。
float t = sum + y; // 这一步拆分为两步,t和sum相差较小,t-sum的结果和y也非常接近,因此这一步精度损失几乎为0
    c
= (t-sum)-y; sum = t; } System.out.println("sum is " + sum); } }

        实质是,每次计算时都使用一次减法(c=(t-sum)-y)将损失精度记录下来,下次相加时再补足(x=1.0f,y=x-c)

以上是关于浮点数的十六进制表示的主要内容,如果未能解决你的问题,请参考以下文章

浮点数怎么表示精确度?

浮点数的二进制表示

Python中浮点数的二进制表示(位不是十六进制)

python中浮点数的十六进制字符串表示

十六进制浮点数格式

浮点数的二进制表示