Qt实用技巧:Qt中浮点数的相等比较方式(包括单精度和双精度)
Posted 长沙红胖子Qt
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Qt实用技巧:Qt中浮点数的相等比较方式(包括单精度和双精度)相关的知识,希望对你有一定的参考价值。
若该文为原创文章,转载请注明原文出处
本文章博客地址:https://hpzwl.blog.csdn.net/article/details/129464152
红胖子(红模仿)的博文大全:开发技术集合(包含Qt实用技术、树莓派、三维、OpenCV、OpenGL、ffmpeg、OSG、单片机、软硬结合等等)持续更新中…(点击传送门)
Qt开发专栏:实用技巧
需求
做算法中浮点数比较不准确,如0.2f,0.2f不相等,但是算法中需要做一些浮点数的相等运算(包括大于等于,小于等于,等于),说明等于方法;
产生原因
浮点数是二进制表示,最后i一位总会差那么点。
比较方法(通用,float和double通用1e-8)
- 大于等于则家减去1e-8
- 小于等于则加上1e-8
- 相等则在区间[-1e-8,1e-8]区间内
若该文为原创文章,转载请注明原文出处
本文章博客地址:https://hpzwl.blog.csdn.net/article/details/129464152
以上是关于Qt实用技巧:Qt中浮点数的相等比较方式(包括单精度和双精度)的主要内容,如果未能解决你的问题,请参考以下文章