go使用decimal

Posted 2023-05-17

参考技术A 在公司项目中看到关于钱的数据在接口展示、添加修改的各种情况下结构体中相应字段用的都是string类型。觉得不太合理，因此查阅了一些资料，整理如下。

在网上搜到一篇博客:
在程序计算中涉及到钱的时候，为什么要用Decimal而不是Float
博客中介绍，如果用float类型再转为decimal类型时会造成精度丢失。转为string后再转为decimal则可以解决问题，保证精度。看着好像是很完美的回答了我想要了解的问题，但仔细一看用的语言是python，于是我便亲自试了下：

结果确实如此，但看版本是2.7，我怀疑是不是python2.7版本落后，因此存在问题，于是又换了python3，再次测试：

结论依然是一样。好吧，证实了，对于python确实应该先转为string再转为decimal。

但是，python是这样，难道go也是这样吗，于是我又开始了进一步测试：
go中decimal使用第三方库

这里是直接用float64转为decimal，并没有通过string中转，结果输出如下：

乍一看，看着好像是精度丢失了似的，但是对比后我们发现，float64和decimal前后都是一致的，也就是说float64转为decimal之后，保持了原样。那些看起来小数点后位数很多的结果，是因为float64浮点类型计算产生的问题，跟转换并没有关系。

为了验证这一结论，我又写了下面的测试：

不使用浮点类型相加，而用decimal类型相加，这样输出结果果然没问题了：

因此我们可以得出结论：对于go语言，在把float转换为decimal类型时，并不需要像python一样通过string中转，也依然可以保持精度。进一步，我们也可以想到上面的问题，对于钱，在结构体字段中，我们完全可以直接使用float类型，并不需要用string类型。而且好处时，使用float数值类型，无论对于前端还是后端，在进行数值范围验证的时候，会更方便，不必把string转为float后再验证了。

上面提到了decimal包，我们这里简单看下，里面的常用的方法：
定义decimal的几种方式：

decimal数值运算

比较：

我们再看下浮点精度运算不准确的原因，这篇文章讲解的比较细
浮点精度（float、double）运算不精确的原因

精度运算不准确这是为什么呢？我们接下来就需要从计算机所有数据的表现形式二进制说起了。如果大家很了解二进制与十进制的相互转换，那么就能轻易的知道精度运算不准确的问题原因是什么了。
接下来我们看一个简单的例子 2.1 这个十进制数转成二进制是什么样子的。

落入无限循环结果为 10.0001100110011........ ， 我们的计算机在存储小数时肯定是有长度限制的，所以会进行截取部分小数进行存储，从而导致计算机存储的数值只能是个大概的值，而不是精确的值。从这里看出来我们的计算机根本就无法使用二进制来精确的表示 2.1 这个十进制数字的值，连表示都无法精确表示出来，计算肯定是会出现问题的。

1、为什么数值表示用decimal 不用double
https://blog.csdn.net/a13766750034/article/details/101566632
2、在程序计算中涉及到钱的时候，为什么要用Decimal而不是Float
https://blog.csdn.net/weixin_43946756/article/details/87562619
3、mysql数据类型DECIMAL用法
https://www.cnblogs.com/owenma/p/7097602.html
4、浮点精度（float、double）运算不精确的原因
https://blog.csdn.net/marco__/article/details/102515668

MySQL数据类型DECIMAL用法

前言：

?

当我们需要存储小数，并且有精度要求，比如存储金额时，通常会考虑使用DECIMAL字段类型，可能大部分同学只是对DECIMAL类型略有了解，其中的细节还不甚清楚，本篇文章将从零开始，为你讲述DECIMAL字段类型的使用场景及方法。

1.DECIMAL类型简介

DECIMAL从MySQL 5.1引入，列的声明语法是DECIMAL(M,D)。NUMERIC与DECIMAL同义，如果字段类型定义为NUMERIC，则将自动转成DECIMAL。

对于声明语法DECIMAL(M,D)，自变量的值范围如下：

• M是最大位数（精度），范围是1到65。可不指定，默认值是10。
• D是小数点右边的位数（小数位）。范围是0到30，并且不能大于M，可不指定，默认值是0。

例如字段 salary DECIMAL(5,2)，能够存储具有五位数字和两位小数的任何值，因此可以存储在salary列中的值的范围是从-999.99到999.99。

2.DECIMAL使用实战

下面我们将创建测试表来验证DECIMAL字段类型的使用：

# 创建具有DECIMAL字段的表 验证decimal默认是decimal(10,0)
mysql> create table decimal_tb (col1 decimal,col2 decimal(5,2));
Query OK, 0 rows affected (0.04 sec)

mysql> show create table decimal_tbG
*************************** 1. row ***************************
       Table: decimal_tb
Create Table: CREATE TABLE `decimal_tb` (
  `col1` decimal(10,0) DEFAULT NULL,
  `col2` decimal(5,2) DEFAULT NULL
) ENGINE=InnoDB DEFAULT CHARSET=utf8
1 row in set (0.00 sec)

# 插入数据测试 
# 结论：超出存储范围会报错，小数位不足会自动补0，首位数字为0自动忽略，小数位超出会截断 并按四舍五入处理。
mysql> insert into decimal_tb (col1,col2) values (100,100);
Query OK, 1 row affected (0.05 sec)

mysql> insert into decimal_tb (col2) values (1.23);
Query OK, 1 row affected (0.01 sec)

mysql> insert into decimal_tb (col2) values (10.2);
Query OK, 1 row affected (0.01 sec)

mysql> insert into decimal_tb (col2) values (09.9);
Query OK, 1 row affected (0.01 sec)

mysql> select * from decimal_tb;
+------+--------+
| col1 | col2   |
+------+--------+
|  100 | 100.00 |
| NULL |   1.23 |
| NULL |  10.20 |
| NULL |   9.90 |
+------+--------+
4 rows in set (0.00 sec)

mysql> insert into decimal_tb (col2) values (9999);
ERROR 1264 (22003): Out of range value for column ‘col2‘ at row 1

mysql> insert into decimal_tb (col2) values (12.233); 
Query OK, 1 row affected, 1 warning (0.01 sec)

mysql> show warnings;
+-------+------+-------------------------------------------+
| Level | Code | Message                                   |
+-------+------+-------------------------------------------+
| Note  | 1265 | Data truncated for column ‘col2‘ at row 1 |
+-------+------+-------------------------------------------+
1 row in set (0.00 sec)

mysql> insert into decimal_tb (col2) values (12.2300);
Query OK, 1 row affected (0.01 sec)

# 变量范围测试
# 结论：M范围是1到65，D范围是0到30，且D不大于M
mysql> alter table decimal_tb add column col3 decimal(6,6);
Query OK, 0 rows affected (0.12 sec)
Records: 0  Duplicates: 0  Warnings: 0

mysql> alter table decimal_tb add column col4 decimal(6,7); 
ERROR 1427 (42000): For float(M,D), double(M,D) or decimal(M,D), M must be >= D (column ‘col4‘).

mysql> alter table decimal_tb add column col4 decimal(65,2);
Query OK, 0 rows affected (0.11 sec)
Records: 0  Duplicates: 0  Warnings: 0

mysql> alter table decimal_tb add column col4 decimal(66,2);
ERROR 1426 (42000): Too-big precision 66 specified for ‘col4‘. Maximum is 65.

mysql> alter table decimal_tb add column col5 decimal(60,30); 
Query OK, 0 rows affected (0.13 sec)
Records: 0  Duplicates: 0  Warnings: 0

mysql> alter table decimal_tb add column col6 decimal(60,31);
ERROR 1425 (42000): Too big scale 31 specified for column ‘col6‘. Maximum is 30.

3.DECIMAL使用总结

上面的内容从实战出发，介绍了DECIMAL类型的使用方法及注意事项，你可能也知道float、double这些浮点数类型，这两个同样可以存储小数，但这里不过多介绍，只是提醒大家float、double类型无法确保精度，很容易产生误差，特别是在求和计算的时候，所有当存储小数，特别是涉及金额时推荐使用DECIMAL类型。这里总结下使用DECIMAL应该注意的事项：

• DECIMAL(M,D)中，M范围是1到65，D范围是0到30。
• M默认为10，D默认为0，D不大于M。
• DECIMAL(5,2)可存储范围是从-999.99到999.99，超出存储范围会报错。
• 存储数值时，小数位不足会自动补0，首位数字为0自动忽略。
• 小数位超出会截断，产生告警，并按四舍五入处理。
• 使用DECIMAL字段时，建议M，D参数手动指定，并按需分配。

总结：?

本文比较简单实用，通读下来，你大概会明白DECIMAL字段的使用场景及注意事项，其实对于常见的字段类型，我们只需要了解其使用场景及注意事项即可，当我们建表时，能够快速选出合适的字段类型才是我们的目的，比如当我们需要存储小数时，能够使用DECIMAL类型并且根据业务需要选择合适的精度，这样我们的工作将很容易开展下去。