软件设计师_例题

Posted 2022-05-25 coloz

●在用计算机进行科学计算时，经常会遇到“溢出”，这是指__（）__。
A．数据量超出了内存容量  B．数值超出了指定数据类型的表示范围
C．数据的类型超出了指定范围 D．数值的格式不符合计算机的要求
试题答案：B

● 求0.125的二进制小数方法

0.125 * 2 = 0.25    --0
    0.25 * 2 = 0.5      --0
    0.5 * 2 = 1         --1
    结束
    0.125的二进制为 0.001 即 1*E-3

● 求0.6的二进制小数方法

 

0.6*2 = 1.2  --1   (余数0.2)
0.2*2 = 0.4  --0　　(余数0.4)
0.4*2 = 0.8  --0　　(余数0.8)
0.8*2 = 1.6  --1　　(余数0.6)
0.6*2 = 1.2  --1　　(余数0.2)
...
进入无限循环 0.6的二进制小数 0.1001100110011...