解决浮点型数值计算精度丢失的一种实现

Posted 2023-03-17

参考技术A 一种开发时浮点型数值计算精度丢失的解决方案
一般的方法都是乘以10的倍数转为整数，计算后再除以扩大的10的倍数

实现思路：
1.包装一个类拥有原数值，转换后的整数以及10的倍数
2.传入一个数字进行初始化
3.编写四则运算函数，每次运算把运算后的结果，结果的整数以及10的倍数保存起来，并返回此对象用于流式计算

关键点：
加减因为是乘以公共项，所以结果除以公共项即可
乘法扩大时，要选定一个点，比如0.2X0.001 选定10的3次方作为扩大的项，等于乘了两次，所以结果需要处理 10的n次方的平方

除法同项相消，不用对结果进行运算，但是如果结果不是整数，需要转为整数并求出10的次方数，以便流式计算

以js为例，其他语言同理
没有处理无效值（空，非数字等）以及没有控制除不尽时的精度
未对四则运算进行覆盖测试，仅提供思路