Python3编码问题详解

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Python3编码问题详解相关的知识,希望对你有一定的参考价值。

原文:Python3的编码问题

Python3 最重要的一项改进之一就是解决了 Python2 中字符串与字符编码遗留下来的这个大坑。Python 编码为什么那么蛋疼?已经介绍过 Python2 字符串设计上的一些缺陷:

  • 使用 ASCII 码作为默认编码方式,对中文处理很不友好。
  • 把字符串的牵强地分为 unicode 和 str 两种类型,误导开发者

在Python3中,从sys中可以看出使用的默认编码

>>> import sys
>>> sys.getdefaultencoding()
utf-8
>>> 

然后,文本字符和二进制数据区分得更清晰,分别用 str 和 bytes 表示。文本字符全部用 str 类型表示,str 能表示 Unicode 字符集中所有字符,而二进制字节数据用一种全新的数据类型,用 bytes 来表示。

str

>>> a = "a"
>>> a
a
>>> type(a)
<class str>

>>> b = ""
>>> b

>>> type(b)
<class str>

bytes

Python3 中,在字符引号前加‘b’,明确表示这是一个 bytes 类型的对象,实际上它就是一组二进制字节序列组成的数据,bytes 类型可以是 ASCII范围内的字符和其它十六进制形式的字符数据,但不能用中文等非ASCII字符表示。

>>> c = ba
>>> c
ba
>>> type(c)
<class bytes>

>>> d = b\\xe7\\xa6\\x85
>>> d
b\\xe7\\xa6\\x85
>>> type(d)
<class bytes>
>>>

>>> e = b
  File "<stdin>", line 1
SyntaxError: bytes can only contain ASCII literal characters.

bytes 类型提供的操作和 str 一样,支持分片、索引、基本数值运算等操作。但是 str 与 bytes 类型的数据不能执行 + 操作,尽管在py2中是可行的。

>>> b"a"+b"c"
bac
>>> b"a"*2
baa
>>> b"abcdef\\xd6"[1:]
bbcdef\\xd6
>>> b"abcdef\\xd6"[-1]
214

>>> b"a" + "b"
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
TypeError: cant concat bytes to str

python2 与 python3 字节与字符的对应关系

 

python2python3表现转换作用
str bytes 字节 encode 存储
unicode str 字符 decode 显示

 

encode 与 decode

str 与 bytes 之间的转换可以用 encode 和从decode 方法。

 

技术分享

encode 负责字符到字节的编码转换。默认使用 UTF-8 编码准换。

>>> s = "Python之禅"
>>> s.encode()
bPython\\xe4\\xb9\\x8b\\xe7\\xa6\\x85
>>> s.encode("gbk")
bPython\\xd6\\xae\\xec\\xf8

decode 负责字节到字符的解码转换,通用使用 UTF-8 编码格式进行转换。

>>> bPython\\xe4\\xb9\\x8b\\xe7\\xa6\\x85.decode()
Python之禅
>>> bPython\\xd6\\xae\\xec\\xf8.decode("gbk")
Python之禅>>> bPython\\xe4\\xb9\\x8b\\xe7\\xa6\\x85.decode()
Python之禅
>>> bPython\\xd6\\xae\\xec\\xf8.decode("gbk")
Python之禅

 

 



以上是关于Python3编码问题详解的主要内容,如果未能解决你的问题,请参考以下文章

python2和python3编码解码详解

scrapy主动退出爬虫的代码片段(python3)

scrapy按顺序启动多个爬虫代码片段(python3)

在python 3.6中处理自定义编码时遇到类型错误

python3_json模块详解

学习笔记:python3,代码片段(2017)