java中如何使用BigDecimal使得Double类型保留两位有效数字
Posted 姜小妖
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了java中如何使用BigDecimal使得Double类型保留两位有效数字相关的知识,希望对你有一定的参考价值。
一、场景:从数据表中读出Decimal类型的数据直接塞给Double类型的对象时,并不会有什么异常。
如果要再此基础上计算,就会发生异常。
比如:读出数据为0.0092,将其乘以100,则变成了0.919999999999999...
二、原因:
java mysql 数据类型对照如下:
类型名称 | 显示长度 | 数据库类型 | JAVA类型 | JDBC类型索引(int) | 描述 |
VARCHAR | L+N | VARCHAR | java.lang.String | 12 | |
CHAR | N | CHAR | java.lang.String | 1 | |
BLOB | L+N | BLOB | java.lang.byte[] | -4 | |
TEXT | 65535 | VARCHAR | java.lang.String | -1 | |
INTEGER | 4 | INTEGER UNSIGNED | java.lang.Long | 4 | |
TINYINT | 3 | TINYINT UNSIGNED | java.lang.Integer | -6 | |
SMALLINT | 5 | SMALLINT UNSIGNED | java.lang.Integer | 5 | |
MEDIUMINT | 8 | MEDIUMINT UNSIGNED | java.lang.Integer | 4 | |
BIT | 1 | BIT | java.lang.Boolean | -7 | |
BIGINT | 20 | BIGINT UNSIGNED | java.math.BigInteger | -5 | |
FLOAT | 4+8 | FLOAT | java.lang.Float | 7 | |
DOUBLE | 22 | DOUBLE | java.lang.Double | 8 | |
DECIMAL | 11 | DECIMAL | java.math.BigDecimal | 3 | |
BOOLEAN | 1 | 同TINYINT | |||
ID | 11 | PK (INTEGER UNSIGNED) | java.lang.Long | 4 | |
DATE | 10 | DATE | java.sql.Date | 91 | |
TIME | 8 | TIME | java.sql.Time | 92 | |
DATETIME | 19 | DATETIME | java.sql.Timestamp | 93 | |
TIMESTAMP | 19 | TIMESTAMP | java.sql.Timestamp | 93 | |
YEAR | 4 | YEAR | java.sql.Date | 91 |
三、解决方案:
1、将double类型重新变成BigDecimal类型,最后的结果还要获取有效位数
double d = 111231.5585;
BigDecimal b = new BigDecimal(f);
double df = b.setScale(2, BigDecimal.ROUND_HALF_UP).doubleValue();
2、因为数据表里的类型是Decimal,所以讲java对象中对应的成员变量的类型改成BigDecimal即可。
四、BigDecimal简介
在mysql中,对于精度比较高的数据存储,比如money,需要用decimal类型,而不会采用float或double类型,原因在于后者数据误差较大。
decimal列的声明语法是decimal(m,d)。
在mysql 5.1中,参数的取值范围:
1、M是数字的最大数(精度)。其范围为1~65(在较旧的MySQL版本中,允许的范围是1~254)。
2、D是小数点右侧数字的数目(标度)。其范围是0~30,但不得超过M。
说明:float占4个字节,double占8个字节,decimail(M,D)占M+2个字节。
如DECIMAL(5, 2) 的最大值为9 9 9 9 . 9 9,因为有7 个字节可用。
注:
M 与D 对DECIMAL(M, D) 取值范围的影响
DECIMAL(4, 1) -9.9 到 99.9 -999.9 到 9999.9
DECIMAL(5, 1) -99.9 到 999.9 -9999.9 到 99999.9
DECIMAL(6, 1) -999.9 到 9999.9 -99999.9 到 999999.9
DECIMAL(6, 2) -99.99 到 999.99 -9999.99 到 99999.99
DECIMAL(6, 3) -9.999 到 99.999 -999.999 到 9999.999
# 在mysql 3.23 及以后的版本中,decimal(m, d) 的取值范围等于早期版本中的decimal(m + 2, d) 的取值范围。
另外一种数据类型:
LongBlob,这种数据类型可以直接把图像文件存到数据表中!
在研究mysql的decimal数据类型,现把数据实验结果公布:
数据库版本:Server version: 5.0.45 Source distribution
1、创建表结构
2、插入数据
实际插入的b列数据为:12345.12342
实际插入的b列数据为:99999.99999
结论:decimal数据类型,
1、当插入的整数部分的值超过了其表示范围后就直接忽略了小数部分的值,并以最大值填充。
2、当整数部分合法,小数部分多余的位数,直接截断。
以上是关于java中如何使用BigDecimal使得Double类型保留两位有效数字的主要内容,如果未能解决你的问题,请参考以下文章
Java 中如何比较两个BigDecimal 以及BigDecimal的坑
在java中如何将bigdecimal类型转成String类型?
如何在java代码中使用elasticsearch painless BigDecimal?