Python 3中的str和bytes类型

Posted 2020-11-17 月缺一格

Python3 中的str和bytes类型

Python3最重要的新特性之一是：对字符串和二进制数据流做了明确的区分。文本总是Unicode，由str类型表示，二进制数据则由bytes类型表示。Python3不会以任何隐式的方式混用str和bytes，我们不能拼接字符串和字节流，也无法在字节流里搜索字符串(反之亦然)，也不能将字符串传入参数为字节流(反之亦然)。

编码发展的历史

在bytes和str之前，需要先说说关于编码的发展。在计算机历史的早期，美国为代表的英语系国家主导了整个计算机行业，26个英文字母组成了多样的英语单词、语句、文章。因此，最早的字符编码规范是ASCII码，一种8位即一个字节码的编码规范，它可以涵盖整个英语系的编码需要。

什么是编码？编码就是把一个字符用一个二进制来表示。我们都知道，所有的东西，不管是英文、中文还是符号等等，最终存储在磁盘上都是010101这类东西。在计算机内部，读取和存储数据归根结底，处理的都是0和1组成的比特流。问题来了，人类看不懂这些比特流，如何让这些010101对认类变得可读呢？于是出现了字符编码，他是个翻译机，在计算机内部某个地方，透明的帮助我们将比特流翻译成认类可以直接理解的文字。对于一般用户，不需要知道这个过程是什么原理，是怎么执行的，但是对于程序员却是个必须搞清楚的问题。
以ASCII编码为例，它规定1个字节8比特位代表1个字符的编码，也就是"00000000"这么宽，一个一个字节的解读。例如：01000001表示大写字母A，有时候我们会用65这个十进制来表示A在ASCII中的编码。8个比特位，可以没有重复的最多表示2的8次方(255)个字符。

后来计算机得到普及，中文、日文、韩文等等国家的文字需要在计算机内表示，ASCII的255个远远不够。于是标准组织制定出了叫做Unicode的万国码，它规定任何一个字符(不管哪国的)至少以2个字节表示，可以更多。其中，英文字母就是用2个字节，而汉字是3个字节。这个编码虽然好，满足了所有人的要求，但是它不兼容ASCII，同时还占用较多的内存空间。因为在计算机世界更多的字符是英文字母，明明可以用1个字节就能够表示，非要用2个。
于是UTF-8(针对Unicode的可变长度字符编码)编码应运而生，它规定英文字母系列用1个字节表示，汉字用3个字节表示等等。因此，它兼容ASCII，可以节码早期的文档，很快UTF-8就得到了广泛的应用。在编码的发展历程中，我国还创造了自己的编码方式，例如：GBK、GB2312、BIG5，它们只局限在国内使用，不被国外认可。在GBK编码中，中文汉字占2个字节。

bytes和str之间的异同

回到bytes和str之上，bytes是一种比特流，它的存在形式是01010011这种。我们无论是在写代码，还是在阅读文章的过程中，肯定不会有人直接阅读这种比特流，他必须有一种编码方式，使得它变成有意义的比特流，而不是一堆晦涩难懂的01组合。因为编码方式的不同，对这个比特流的解读也会不同，对实际使用造成了很大的困扰。下面我们看看Python是如何处理这一系列编码问题的：

>>> s = "中文"
>>> s
‘中文‘
>>> type(s)
<class ‘str‘>
>>> b = bytes(s, encoding="utf-8")
>>> b
b‘xe4xb8xadxe6x96x87‘
>>> type(b)
<class ‘bytes‘>

从上面的例子可以看出，s是个字符串类型。Python的内置函数bytes()可以将字符串str类型转换成bytes类型，b实际上是一串01的组合，但为了在ide环境中让我们相对直观的观察，它被变现成了b‘xe4xb8xadxe6x96x87‘这种形式，开头的b表示这是一个bytes类型。xe4是十六进制的表示方式，它占用1个字节的长度，因此"中文"被编码成utf-8后，我们可以数得出一共用了6个字节，每个汉字占用3个，这印证了上面的论述。在使用内置函数bytes()时，必须明确encoding的参数，不可省略。

我们都知道，字符串类型str里有一个encode()方法，它是从字符串向比特流的编码过程。而bytes类型恰好有个decode()方法，它是从比特流向字符串解码的过程。除此之外，我们查看Python的源码会发现bytes和str拥有几乎一摸一样的方法列表，最大的区别就是encode和decode。从实质上来说，字符串在磁盘上的保存形式也是01的组合，也需要编码和解码。如果，上面的阐述还不能让你搞清楚两者的区别，那么请记住下面几句话：

• 1.在将字符串存入磁盘和从磁盘中读取的过程中，Python自动地帮助我们完成了编码和解码的工作，我们不需要关心其过程；
• 2.使用bytes类型，实际上是告诉Python，不需要它帮我们自动地完成编码和解码的工作，而是用户自己手动进行，并指定编码格式；
• 3.Python已经严格区分了bytes和str两种数据类型，我们不能在需要bytes类型参数的时候使用str参数，反之亦然，这点在读写磁盘文件时容易碰到；

在bytes和str的互相转换过程中，实际就是编码和解码的过程，必须显示地指定编码格式：

>>> b
b‘xe4xb8xadxe6x96x87‘
>>> type(b)
<class ‘bytes‘>
>>> res = str(b)
>>> res
"b‘\xe4\xb8\xad\xe6\x96\x87‘"
>>> type(res)
<class ‘str‘>
>>> result = str(b, encoding="utf-8")
>>> result
‘中文‘
>>> type(result)
<class ‘str‘>

我们再把res转换成GBK编码的bytes类型：

>>> gbk_b = bytes(result, encoding="gbk")
>>> gbk_b
b‘xd6xd0xcexc4‘
>>> s = str(gbk_b, encoding="gbk")
>>> s
‘中文‘
>>> type(s)
<class ‘str‘>