Python之encode与decode浅析

Posted 2020-09-13

 Python之encode与decode浅析

在 python 源代码文件中，如果你有用到非ASCII字符，则需要在文件头部进行字符编码的声明，声明如下：

1. # code: UTF-8

因为python 只检查 #、coding 和编码字符串，为了美观等原因可以如下写法：

1. #-*-coding:utf-8-*-

常见编码介绍：

• GB2312编码：适用于汉字处理、汉字通信等系统之间的信息交换。

• GBK编码：是汉字编码标准之一，是在 GB2312-80 标准基础上的内码扩展规范，使用了双字节编码。

• ASCII编码：是对英语字符和二进制之间的关系做的统一规定。

• Unicode编码：这是一种世界上所有字符的编码。当然了它没有规定的存储方式。

• UTF-8编码：是 Unicode Transformation Format - 8 bit 的缩写， UTF-8 是 Unicode 的一种实现方式。它是可变长的编码方式，可以使用 1~4 个字节表示一个字符，可根据不同的符号而变化字节长度。

• 
  

本文在这里主要讨论一个报错问题：报错“UnicodeEncodeError:‘ascii‘ codec can‘t encode characters in position 0-1: ordinal notin range(128)”？

（1）什么是Unicode编码

字符串在python内部的表示是unicode编码，因此，在做编码转换时，通常需要以unicode作为中间编码，即先将其他编码的字符串解码（decode）成unicode，再从unicode编码（encode）成另一种编码。

（2）decode与encode的作用

decode的作用是将其他编码的字符串转换成unicode编码，如str1.decode(‘gb2312‘)，表示将gb2312编码的字符串str1转换成unicode编码。

encode的作用是将unicode编码转换成其他编码的字符串，如str2.encode(‘gb2312‘)，表示将unicode编码的字符串str2转换成gb2312编码。

 

因此，转码的时候一定要先搞明白，字符串str是什么编码，然后decode成unicode，然后再encode成其他编码！

注：代码中字符串的默认编码与代码文件本身的编码一致。

（3）举例说明

第一种情况：s=‘中文‘

如果是在utf8的文件中，该字符串就是utf8编码，如果是在gb2312的文件中，则其编码为gb2312。这种情况下，要进行编码转换，都需要先用decode方法将其转换成unicode编码，再使用encode方法将其转换成其他编码。通常，在没有指定特定的编码方式时，都是使用的系统默认编码创建的代码文件。

第二种情况：s=u‘中文‘

则该字符串的编码就被指定为unicode了，即python的内部编码，而与代码文件本身的编码无关。因此，对于这种情况做编码转换，只需要直接使用encode方法将其转换成指定编码即可。

注：【1】如果一个字符串已经是unicode了，再进行解码则将出错！

    【2】用非unicode编码形式的str来encode会报错。

（4）扩展

#-*-coding:utf-8-*- 

s=‘中文‘

print type(s) #查看s的字符类型

print s  

s.decode(‘utf-8‘) #解码utf8，默认的编码方式是unicode

s.decode(‘gbk‘,"ignore") #解码utf8，忽略其中有异常的编码，仅显示有效的编码

s.decode(‘gbk‘,"replace") #替换其中异常的编码

print type(s)

print s

s.encode(‘gb2312‘) #编码为gb2312

print type(s)

print s

注：

另外对于一些包含特殊字符的编码，直接解码可能会报错，可以使用对于的参数来设置。如: 
s.decode(“utf-8”, “ignore”) 忽略其中有异常的编码，仅显示有效的编码 
s.decode(“utf-8”, “replace”) 替换其中异常的编码，这个相对来可能一眼就知道那些字符编码出问题了。

本文出自 “圣骑士控魔之手” 博客，请务必保留此出处http://wutengfei.blog.51cto.com/10942117/1918500