解决“浮点上下文中的整数除法”警告

Posted

技术标签:

【中文标题】解决“浮点上下文中的整数除法”警告【英文标题】:Solve "integer division in floating-point context" warning 【发布时间】:2020-11-28 18:35:05 【问题描述】:

如何,在这行代码中:

int fps = 60;
double timePerTick = 1000000000 / fps;

【问题讨论】:

【参考方案1】:

在将两个ints 相除时,您将使用整数除法,然后才将结果提升为双精度数,从而丢失小数点后的所有精度。您可以改用 double 文字来使用浮点精度:

double timePerTick = 1000000000.0 / fps;
// Here -----------------------^

【讨论】:

以上是关于解决“浮点上下文中的整数除法”警告的主要内容,如果未能解决你的问题,请参考以下文章