《程序是怎样跑起来的》第三章有感

Posted 2021-02-06 ytwxh

    原来计算机将0.1累加100次得不到10。万能的计算机在进行小数运算时也会出错。

    在前面的学习中了解到计算机是用二进制表示的，而有一些十进制的小数无法转换成二进制数。例如0.1就无法用二进制数正确表示。因为无法正确表示的数值最后都变成了近似值计算机无法精确处理结果也就出错了。用浮点数来处理小数是计算机出错的原因之一，可以采用两种方法避免计算机出错。一种是回避法，无视这些错误。另一种是把小数换成整数来计算。

    在C语言程序中在数值开头加上0x就可以表示十六进制数。二进制数的4位相当于十六进制数的1位。