数值溢出与精度损失

Posted 2021-03-22 la-pu-ta

数值溢出与精度损失

• 整数上溢出

  进位超过最高位(无符号)或改变了符号位(有符号)

  运算溢出、赋值溢出、无符号数小数减大数

• 浮点数的上溢出和下溢出

  1. 舍入 int=float float=double float=long

  2. 浮点数使用阶码储存

     float 23位尾数 6~7位

     double 52位尾数 16位

  3. 二进制小数与十进制小数并不是一一对应的

  4. 两个数量级相差很大的浮点数加减运算时，数值小的会被忽略

个人网站:DiffidentAres’s Blog