1.Float精度在JS的解决方法
Posted 好好哥来了
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了1.Float精度在JS的解决方法相关的知识,希望对你有一定的参考价值。
最近做了一个有关折扣价的计算的功能,所有的运算都是在前台通过js来做,做完之后经过手工核算发现了一个问题,当时做的一个例子是10*0.94,按照我们正常的思维,这个结果应该是9.4,但是在js中的计算结果是9.39999999.....。其实按照二进制的算法来说js的这个结果是最精确的,但是按照我们正常人的思维来看结果只能是9.4,并且业务要求是不能四舍五入,要强制保留小数位数,所有这样一来就出问题了,后来在一个技术交流群了里有群友推荐了下面的解决方法,成功的解决了这个问题,请往下看:
核心代码就只有这几行:
//1.现将其他数据类型转换成String类型
var m=0,s1=arg1.toString(),s2=arg2.toString();
try{
//2.对字符串分割后取出小数位的长度并得到总的小数位数
m+=s1.split(‘.‘)[1].length;
m+=s2.split(‘.‘)[1].length;
//3.此处原理是将小数转换为整数相乘然后再除10的m次方即得到最终想要的结果
return
Number(s1.replace(‘.‘,‘‘))*Number(s2.replace(‘.‘,‘‘))/Math.pow(10,m);//9.4
}catch(e){
e.pringStack();
}
以上是关于1.Float精度在JS的解决方法的主要内容,如果未能解决你的问题,请参考以下文章
前后的交互js数字精度丢失解决,金额保留两位小数四舍五入统一解决,自定义Json序列化处理方法,@JsonSerialize使用