教你如何让数据库支持emoji表情符存储

Posted 2020-09-26 清清飞扬

From: http://www.cnblogs.com/janehoo/archive/2016/04/06/5359800.html

一、教你如何让数据库支持emoji表情符存储

解决方式：更换字符集utf8-->utf8mb4

 上周有开发人员反馈一个问题：前台应用抓取微博信息，每天总有几条数据插入不成功。应用日志显示：  

java.sql.SQLException: Incorrect string value: \'\\xF0\\x9F\\x92\\xAA",...\' for column \'raw_json\' at row 1, 异常:org.springframework.jdbc.UncategorizedSQLException:  

其中raw_json字段显示如下：

  由上图可知，插入的字段里面包含emoji表情符。基本可以判定是字符编码的问题。我们的数据库里面使用的是utf8编码，普通的字符串或者表情都是占位3个字节，所以utf8足够用了，但是移动端的表情符号占位是4个字节，普通的utf8就不够用了，为了应对无线互联网的机遇和挑战、避免 emoji 表情符号带来的问题、涉及无线相关的 mysql 数据库建议都提前采用utf8mb4 字符集，这必须要作为移动互联网行业的一个技术选型的要点。

utf8与utf8mb4说明：  

UTF- 8：Unicode Transformation Format-8bit，允许含BOM，但通常不含BOM。是用以解决国际上字符的一种多字节编码，它对英文使用8位（即一个字节），中文使用24为（三个字节）来编码。UTF-8包含全世界所有国家需要用到的字符，是国际编码，通用性强。UTF-8编码的文字可以在各国支持UTF8字符集的浏览器上显示。如果是UTF8编码，则在外国人的英文IE上也能显示中文，他们无需下载IE的中文语言支持包。  

UTF8MB4：MySQL在5.5.3之后增加了utf8mb4的编码，mb4就是most bytes 4的意思，专门用来兼容四字节的unicode。   

既然找到了原因就来执行吧.既然只有raw_json列含表情符，就先尝试修改此列的字符集：  

1	ALTER TABLE xx_pnl_weibo_usershow  <br>MODIFY ` raw_json` varchar(3000) CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci;

改完后测试，插入失败。  

尝试修改表的字符集：  

1	alter table xx_pnl_weibo_usershow CHARSET=utf8mb4 ;  (修改表的默认字符集)

alter table xx_pnl_weibo_usershow CONVERT TO CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci;（修改表和字段的字符集）

改完后测试，插入失败。  

修改库级别的字符集 

1 2 3 4 5 6 7 8

vi /etc/my.cnf    [client]   default-character-set=utf8mb4   [mysqld]   character-set-server = utf8mb4     service mysqld restart

 改完后测试，插入成功。查看插入的数据：  

root@localhost zx_prod >select id,raw_json,hex(raw_json),length(raw_json) from  xx_pnl_weibo_usershow where id=2;

+----+------------------+----------------------------------+---------------------+
| id | raw_json | hex(raw_json) | length(raw_json) |
+----+------------------+----------------------------------+---------------------+
| 2 |  | F09F9894F09F9882F09F9898F09F9894 | 16 |
+----+------------------+----------------------------------+---------------------+
1 row in set (0.00 sec)

 

 因为是线上生产业务，需要先在测试环境做好测试工作。避免业务高峰期，线上申请停机窗口操作。

 

emoji表情编码参考： 

  http://punchdrunker.github.io/iOSEmoji/table_html/flower.html