double to float而不舍入python

Posted 2021-04-20

说a = 580991.3636

当我b = np.float32(a)

b 580991.4

我是在追求b 580991.3636

我希望这是一个简单的，任何想法？我也假设这是我对浮子造成误解的原因。我知道python在dtypes方面是动态的，但我需要它在float32中用于特定的库（python-pcl）。

答案

Float32只能提供6到9位数的精度。

Float32的工作原理是将符号存储为1位，指数存储为8位，值为23位（也称为小数）。因此，您可以以精确度为代价来表示各种实数。

如果您需要它更精确，它必须是双精度或使用python的库decimal。