Unicode编码和UTF-8编码解析

Posted 2023-05-17

参考技术A

根据该文 Unicode编码和UTF-8编码的关系 粗略的写了个思维导图，并摘抄了一部分内容。

UTF-8编码把一个Unicode字符根据不同的数字大我码成1-6个字节，常用的英文字母被编码成1个字节，汉字通常是3个字节，只有很生僻的字符才会被编码成4-6个字节。如果你要传输的文本包含大量英文字符，用UTF-8编码就能节省空间：

（ UTF 是英文 Unicode Transformation Format 的缩写，意为把 Unicode 字符转换为某种格式。UTF 系列编码方案（UTF-8、UTF-16、UTF-32）均是由 Unicode 编码方案衍变而来，以适应不同的数据存储或传递，它们都可以完全表示 Unicode 标准中的所有字符。目前，这些衍变方案中 UTF-8 被广泛使用，而 UTF-16 和 UTF-32 则很少被使用。）

从上面的表格还可以发现，UTF-8编码有一个额外的好处，就是ASCII编码实际上可以被看成是UTF-8编码的一部分，所以，大量只支持ASCII编码的历史遗留软件可以在UTF-8编码下继续工作。

在计算机内存中，统一使用Unicode编码，当需要保存到硬盘或者需要传输的时候，就转换为UTF-8编码。

python中的字符问题

unicode/unicodebig/utf8 在python上默认情况下都解析不了

window系统中

ASCLL对应的是GBK
unicode|unicodebigendian 对应 utf-16
utf-8 对应 utf-8

字符串在Python内部的表示是unicode编码。
因此，在做编码转换时，通常需要以unicode作为中间编码，即先将其他编码的字符串解码（decode）成unicode，再从unicode编码（encode）成另一种编码。  decode的作用是将其他编码的字符串转换成unicode编码，如str1.decode(‘gb2312‘)，表示将gb2312编码的字符串str1转换成unicode编码。  encode的作用是将unicode编码转换成其他编码的字符串，如str2.encode(‘gb2312‘)，表示将unicode编码的字符串str2转换成gb2312编码。
因此，转码的时候一定要先搞明白，字符串
str是什么编码，然后decode成unicode，然后再encode成其他编码

#!/usr/bin/env python  
#coding=utf-8  
s="中文" 
if isinstance(s, unicode):  
#s=u"中文"   
print s.encode(‘gb2312‘)  
else:  
#s="中文"   
print s.decode(‘utf-8‘).encode(‘gb2312‘)