Qt实用技巧:Qt中浮点数的相等比较方式(包括单精度和双精度)

Posted 长沙红胖子Qt

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Qt实用技巧:Qt中浮点数的相等比较方式(包括单精度和双精度)相关的知识,希望对你有一定的参考价值。

若该文为原创文章,转载请注明原文出处
本文章博客地址:https://hpzwl.blog.csdn.net/article/details/129464152

红胖子(红模仿)的博文大全:开发技术集合(包含Qt实用技术、树莓派、三维、OpenCV、OpenGL、ffmpeg、OSG、单片机、软硬结合等等)持续更新中…(点击传送门)

Qt开发专栏:实用技巧


需求

  做算法中浮点数比较不准确,如0.2f,0.2f不相等,但是算法中需要做一些浮点数的相等运算(包括大于等于,小于等于,等于),说明等于方法;


产生原因

  浮点数是二进制表示,最后i一位总会差那么点。


比较方法(通用,float和double通用1e-8)

  • 大于等于则家减去1e-8
  • 小于等于则加上1e-8
  • 相等则在区间[-1e-8,1e-8]区间内
      

若该文为原创文章,转载请注明原文出处
本文章博客地址:https://hpzwl.blog.csdn.net/article/details/129464152

以上是关于Qt实用技巧:Qt中浮点数的相等比较方式(包括单精度和双精度)的主要内容,如果未能解决你的问题,请参考以下文章

ieee754单精度浮点数 表示方法

浮点数的存储与表达

数值的整数次方

Qt比较字符串Qstring是否相等

浮点型数据的精度是啥意思

QT开发(十七)——QWT简介