精度计算的方法

Posted 不学代码的猿

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了精度计算的方法相关的知识,希望对你有一定的参考价值。

java.math.BigDecimal。BigDecimal一共有4个够造方法,让我先来看看其中的两种用法:

第一种:BigDecimal(double val)
Translates a double into a BigDecimal.

第二种:BigDecimal(String val)
Translates the String repre sentation of a BigDecimal into a BigDecimal.

使用BigDecimal要用String来够造,要做一个加法运算,需要先将两个浮点数转为String,然后够造成BigDecimal,在其中一个上调用add方法,传入另一个作为参数,然后把运算的结果(BigDecimal)再转换为浮点数。


public static double add(double v1,double v2)
public static double sub(double v1,double v2)
public static double mul(double v1,double v2)
public static double div(double v1,double v2)
public static double div(double v1,double v2,int scale)
public static double round(double v,int scale)

 

Java代码 技术分享 技术分享技术分享
    1. import java.math.BigDecimal;   
    2. /**  
    3. * 由于Java的简单类型不能够精确的对浮点数进行运算,这个工具类提供精  
    4. * 确的浮点数运算,包括加减乘除和四舍五入。  
    5. */  
    6. public class Arith{ //默认除法运算精度   
    7. private static final int DEF_DIV_SCALE = 10; //这个类不能实例化   
    8. private Arith(){   
    9. }   
    10. /**  
    11. * 提供精确的加法运算。  
    12. * @param v1 被加数  
    13. * @param v2 加数  
    14. * @return 两个参数的和  
    15. */  
    16. public static double add(double v1,double v2){   
    17. BigDecimal b1 = new BigDecimal(Double.toString(v1));   
    18. BigDecimal b2 = new BigDecimal(Double.toString(v2));   
    19. return b1.add(b2).doubleValue();   
    20. }   
    21. /**  
    22. * 提供精确的减法运算。  
    23. * @param v1 被减数  
    24. * @param v2 减数  
    25. * @return 两个参数的差  
    26. */  
    27. public static double sub(double v1,double v2){   
    28. BigDecimal b1 = new BigDecimal(Double.toString(v1));   
    29. BigDecimal b2 = new BigDecimal(Double.toString(v2));   
    30. return b1.subtract(b2).doubleValue();   
    31. }   
    32. /**  
    33. * 提供精确的乘法运算。  
    34. * @param v1 被乘数  
    35. * @param v2 乘数  
    36. * @return 两个参数的积  
    37. */  
    38. public static double mul(double v1,double v2){   
    39. BigDecimal b1 = new BigDecimal(Double.toString(v1));   
    40. BigDecimal b2 = new BigDecimal(Double.toString(v2));   
    41. return b1.multiply(b2).doubleValue();   
    42. }   
    43. /**  
    44. * 提供(相对)精确的除法运算,当发生除不尽的情况时,精确到  
    45. * 小数点以后10位,以后的数字四舍五入。  
    46. * @param v1 被除数  
    47. * @param v2 除数  
    48. * @return 两个参数的商  
    49. */  
    50. public static double div(double v1,double v2){   
    51. return div(v1,v2,DEF_DIV_SCALE);   
    52. }   
    53. /**  
    54. * 提供(相对)精确的除法运算。当发生除不尽的情况时,由scale参数指  
    55. * 定精度,以后的数字四舍五入。  
    56. * @param v1 被除数  
    57. * @param v2 除数  
    58. * @param scale 表示表示需要精确到小数点以后几位。  
    59. * @return 两个参数的商  
    60. */  
    61. public static double div(double v1,double v2,int scale){   
    62. if(scale<0){   
    63. throw new IllegalArgumentException(   
    64. "The scale must be a positive integer or zero");   
    65. }   
    66. BigDecimal b1 = new BigDecimal(Double.toString(v1));   
    67. BigDecimal b2 = new BigDecimal(Double.toString(v2));   
    68. return b1.divide(b2,scale,BigDecimal.ROUND_HALF_UP).doubleValue();   
    69. }   
    70. /**  
    71. * 提供精确的小数位四舍五入处理。  
    72. * @param v 需要四舍五入的数字  
    73. * @param scale 小数点后保留几位  
    74. * @return 四舍五入后的结果  
    75. */  
    76. public static double round(double v,int scale){   
    77. if(scale<0){   
    78. throw new IllegalArgumentException("The scale must be a positive integer or zero");   
    79. }   
    80. BigDecimal b = new BigDecimal(Double.toString(v));   
    81. BigDecimal one = new BigDecimal("1");   
    82. return b.divide(one,scale,BigDecimal.ROUND_HALF_UP).doubleValue();   
    83. }   
    84. };  








以上是关于精度计算的方法的主要内容,如果未能解决你的问题,请参考以下文章

精度计算的方法

高精度压位

js浮点数精度误差问题,解决方法

计算欧几里得距离的python方法的精度有啥不同吗?

AD转换芯片精度计算及校正方法

AD转换芯片精度计算及校正方法