解决“浮点上下文中的整数除法”警告
Posted
技术标签:
【中文标题】解决“浮点上下文中的整数除法”警告【英文标题】:Solve "integer division in floating-point context" warning 【发布时间】:2020-11-28 18:35:05 【问题描述】:如何,在这行代码中:
int fps = 60;
double timePerTick = 1000000000 / fps;
【问题讨论】:
【参考方案1】:在将两个int
s 相除时,您将使用整数除法,然后才将结果提升为双精度数,从而丢失小数点后的所有精度。您可以改用 double
文字来使用浮点精度:
double timePerTick = 1000000000.0 / fps;
// Here -----------------------^
【讨论】:
以上是关于解决“浮点上下文中的整数除法”警告的主要内容,如果未能解决你的问题,请参考以下文章
解决Intellij IDEA中Mybatis Mapper自动注入警告