0.29*100的问题

Posted 2021-03-12 slz-coder150315

写算法过程中，需要取0.29的小数位数字：

用:

int n = (int)(0.29*100) % 10;

但是算出来的n是8，很奇怪

最后通过：

int n = (int)((0.29*1000)/10) % 10;

才得到正确结果；

上网搜了一下问题，发现和计算机存储数据原理有关，等后面有时间研究一下；