Python学习-str与byte类型以及编码

Posted 偶尔写点代码

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Python学习-str与byte类型以及编码相关的知识,希望对你有一定的参考价值。

Python 3最重要的新特性之一是对字符串和二进制数据流做了明确的区分。文本总是Unicode,由str类型表示,二进制数据则由bytes类型表示。Python 3不会以任意隐式的方式混用strbytes,你不能拼接字符串和字节流,也无法在字节流里搜索字符串(反之亦然),也不能将字符串传入参数为字节流的函数(反之亦然)。

编码发展的历史

在谈bytesstr之前,需要先说说关于编码是如何发展的。。

在计算机历史的早期,美国为代表的英语系国家主导了整个计算机行业,26个英文字母组成了多样的英语单词、语句、文章。因此,最早的字符编码规范是ASCII码,一种8位即1个字节的编码规范,它可以涵盖整个英语系的编码需要。

编码是什么?编码就是把一个字符用一个二进制来表示。我们都知道,所有的东西,不管是英文、中文还是符号等等,最终存储在磁盘上都是01010101这类东西。在计算机内部,读取和存储数据归根结底,处理的都是0和1组成的比特流。问题来了,人类看不懂这些比特流,如何让这些010101对人类变得可读呢?于是出现了字符编码,它是个翻译机,在计算机内部某个地方,透明的帮我们将比特流翻译成人类可以直接理解的文字。对于一般用户,不需要知道这个过程是什么原理,是怎么执行的。但是对于程序员却是个必须搞清楚的问题。

ASCII编码为例,它规定1个字节8个比特位代表1个字符的编码,也就是“00000000”这么宽,一个一个字节的解读。例如:01000001表示大写字母A,有时我们会“偷懒"的用65这个十进制来表示A在ASCII中的编码。8个比特位,可以没有重复的最多表示2的8次方(255)个字符。

后来,计算机得到普及,中文、日文、韩文等等国家的文字需要在计算机内表示,ASCII的255位远远不够,于是标准组织制定出了叫做UNICODE的万国码,它规定任何一个字符(不管哪国的)至少以2个字节表示,可以更多。其中,英文字母就是用2个字节,而汉字是3个字节。这个编码虽然很好,满足了所有人的要求,但是它不兼容ASCII,同时还占用较多的空间和内存。因为,在计算机世界更多的字符是英文字母,明明可以1个字节就能够表示,非要用2个。

于是UTF-8编码应运而生,它规定英文字母系列用1个字节表示,汉字用3个字节表示等等。因此,它兼容ASCII,可以解码早期的文档。UTF-8很快就得到了广泛的应用。

在编码的发展历程中,我国还创造了自己的编码方式,例如GBKGB2312BIG5。他们只局限于在国内使用,不被国外认可。在GBK编码中,中文汉字占2个字节。

byte和str之间的异同:

回到bytesstr的身上。bytes是一种比特流,它的存在形式是01010001110这种。我们无论是在写代码,还是阅读文章的过程中,肯定不会有人直接阅读这种比特流,它必须有一个编码方式,使得它变成有意义的比特流,而不是一堆晦涩难懂的01组合。因为编码方式的不同,对这个比特流的解读也会不同,对实际使用造成了很大的困扰。

1 s = \'中文\'
2 print(type(s))    #<class \'str\'>
3 b = bytes(s,encoding=\'utf-8\',errors=\'strict\')
4 print(b)     #b\'\\xe4\\xb8\\xad\\xe6\\x96\\x87\'
5 print(type(b))    #<class \'bytes\'>
6 s2 = str(b,encoding=\'utf-8\',errors=\'strict\')
7 print(s2)     #中文
8 print(type(s2))     #<class \'str\'>

从例子可以看出,s是个字符串类型。Python有个内置函数bytes()可以将字符串str类型转换成bytes类型,b实际上是一串01的组合,但为了在ide环境中让我们相对直观的观察,它被表现成了b\'\\xe4\\xb8\\xad\\xe6\\x96\\x87\'这种形式,开头的b表示这是一个bytes类型。\\xe4是十六进制的表示方式,它占用1个字节的长度,因此”中文“被编码成utf-8后,我们可以数得出一共用了6个字节,每个汉字占用3个,这印证了上面的论述。在使用内置函数bytes()的时候,必须明确encoding的参数,不可省略,str()也类似。

我们都知道,字符串类str里有一个encode()方法,它是从字符串向比特流的编码过程。而bytes类型恰好有个decode()方法,它是从比特流向字符串解码的过程。除此之外,我们查看Python源码会发现bytesstr拥有几乎一模一样的方法列表,最大的区别就是encodedecode

从实质上来说,字符串在磁盘上的保存形式也是01的组合,也需要编码解码。

总结:

1、在将字符串写入磁盘或者从磁盘读取字符串的时候,Python会自动的完成编码和解码的工作。

2、在使用bytes()的时候,实际就是告诉Python,不需要Python帮你进行编码,你会手动对输入的字符串进行编码,并且可以指定编码格式。

3、在Python 3中对byte和str进行了严格的区分,不能在需要byte类型参数的时候,使用str类型参数。

两种方式:

 1 #将str转换为byte
 2 unicode_string = \'中文\'
 3 print(type(unicode_string))   #<class \'str\'>
 4 #第一种
 5 bytearray = unicode_string.encode()     #def encode(self, encoding=\'utf-8\', errors=\'strict\'),默认就是\'utf-8\'的编码方式
 6 print(bytearray)     #b\'\\xe4\\xb8\\xad\\xe6\\x96\\x87\'
 7 print(type(bytearray))    #<class \'bytes\'>
 8 #第二种
 9 bytearray2 = bytes(unicode_string,encoding=\'utf-8\',errors=\'strict\')     #def __init__(self, value=b\'\', encoding=None, errors=\'strict\')
10 print(bytearray2)      #b\'\\xe4\\xb8\\xad\\xe6\\x96\\x87\'
11 print(type(bytearray2))    #<class \'bytes\'>
12 
13 #将byte转换为str
14 bytearray = b\'\\xe4\\xb8\\xad\\xe6\\x96\\x87\'
15 print(type(bytearray))   #<class \'bytes\'>
16 #第一种
17 unicode_string = bytearray.decode()
18 print(unicode_string)    #中文
19 print(type(unicode_string))    #<class \'str\'>
20 #第二种
21 unicode_string2 = str(bytearray,encoding=\'utf-8\',errors=\'strict\')
22 print(unicode_string2)    #中文
23 print(type(unicode_string2))    #<class \'str\'>

参考:

Chown-Jane-Y

以上是关于Python学习-str与byte类型以及编码的主要内容,如果未能解决你的问题,请参考以下文章

python2 与python3中最大的区别(编码问题bytes&str

Python 了解 bytes 与 str 的区别

py2与py3的编码问题

Python3中内置类型bytes和str用法及byte和string之间各种编码转换

几种常见编码方式

python语言 buffer类型数据的使用 'ascii' codec can't decode byte 0xe5 问题的解决