读《程序是怎样跑起来的》第第三章有感

Posted 2021-02-06 cuimeng0926

第三章讲的主要是关于计算机进行小数运算时出错的原因，首先讲了为什么计算机也会出错，先举了一个例子，将0.1累加100次也得不到10，引出问题，讨论出计算机出错的原因是有一些十进制数的小数无法转换成二进制数，在十进制数与二进制数转换时，有一些无法正确表示的数值，最后都变成了近近似值，计算机无法处理无限循环小数，所以计算机会四首五入或中间截断，所以出现计算机错误的现象。

接下来讲述了浮点数，浮点数就是只用符号,尾数，基数和指数这四部分来表示的小数，更清楚了什么是精度浮点数和单精度浮点数，知道了在浮点数中1为负数，0为正或0

最后讲述了如何避免计算机出错的两种方法：1)为回避策略及无视这些错误。2)把小数的化成整数计算。在进行小数的计算时，可暂时使用整数，然后把计算结果用小数表示出来。