字符串和编码

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了字符串和编码相关的知识,希望对你有一定的参考价值。

计算机是美国人发明的,因此,最早只有127个字符被编码到计算机里,也就是大小写,英文字母、数字和一些符号,这个编码表被称为ASCII编码。但是要处理中文显然一个字节是不够的,至少需要两个字节,而且还不能和ASCII编码冲突,所以,中国制定了GB2312编码。这样,各个国家都有自己的编码,所以交互的时候造成了乱码的问题。

因此,Unicode应运而生,把所有的语言统一到一套编码里,这样就不会有乱码问题了。但是,涉及到存储空间一系列问题,又出现了可变长编码UTF-8。

在计算机内存中,统一使用Unicode编码,当需要保存到硬盘或需要传输的时候,就转换为UTF-8编码。

用记事本编辑的时候,从文件读取的UTF-8字符被转换为Unicode字符到内存里,编辑完成后,保存的时候再把Unicode转换为UTF-8保存到文件。

浏览网页的时候,服务器会把动态生成的Unicode内容转换为UTF-8再传输到浏览器。

 

Pyhon的字符串
在Python3中,字符串是以Unicode编码的,也就是说,Python字符串支持多语言。


两个函数
ord() 获取字符的整数表示
chr() 把编码转换成对应的字符

Python对bytes类型的数据用带b前缀的单引号或双引号表示.
x = b‘ABC‘

以Unicode表示的str通过encode()方法可以编码为指定的bytes
‘ABC‘.encode(‘ascii‘)
b‘ABC‘
‘中文‘.encode(‘utf-8‘)
b‘\xe4\xb8\xad\xe6\x96\x87‘

反过来,如果我们从网络或磁盘上读取了字节流,
那么读到的数据就是bytes。要把bytes变为str,就需要用decode()方法:

>>> b‘ABC‘.decode(‘ascii‘)
‘ABC‘
>>> b‘\xe4\xb8\xad\xe6\x96\x87‘.decode(‘utf-8‘)
‘中文‘

要计算str包含多少个字符,可以用len()函数:
>>> len(‘ABC‘)
3
>>> len(‘中文‘)
2

len()函数计算的是str的字符数,如果换成bytes,len()函数就计算字节数:
>>> len(b‘ABC‘)
3
>>> len(b‘\xe4\xb8\xad\xe6\x96\x87‘)
6
>>> len(‘中文‘.encode(‘utf-8‘))
6


可见,1个中文字符经过UTF-8编码后通常会占用3个字节,而1个英文字符只占用1个字节。

在操作字符串时,我们经常遇到str和bytes的互相转换。
为了避免乱码问题,应当始终坚持使用UTF-8编码对str和bytes进行转换。

格式化字符串

>>> ‘Hello, %s‘ % ‘world‘
‘Hello, world‘
>>> ‘Hi, %s, you have $%d.‘ % (‘Michael‘, 1000000)
‘Hi, Michael, you have $1000000.‘

你可能猜到了,%运算符就是用来格式化字符串的。
在字符串内部,%s表示用字符串替换,%d表示用整数替换,
有几个%占位符,后面就跟几个变量或者值,顺序要对应好。
如果只有一个%,括号可以省略。

常见的占位符有:

%d 整数
%f 浮点数
%s 字符串
%x 十六进制整数

其中,格式化整数和浮点数还可以指定是否补0和整数与小数的位数:

>>> ‘%2d-%02d‘ % (3, 1)
‘ 3-01‘
>>> ‘%.2f‘ % 3.1415926
‘3.14‘
如果你不太确定应该用什么,%s永远起作用,它会把任何数据类型转换为字符串:

>>> ‘Age: %s. Gender: %s‘ % (25, True)
‘Age: 25. Gender: True‘
有些时候,字符串里面的%是一个普通字符怎么办?这个时候就需要转义,用%%来表示一个%:

>>> ‘growth rate: %d %%‘ % 7
‘growth rate: 7 %‘


小明的成绩从去年的72分提升到了今年的85分,
请计算小明成绩提升的百分点,
并用字符串格式化显示出‘xx.x%‘,
只保留小数点后1位:

 

1 s1 = 72
2 s2 = 85
3 s = (s2-s1)/s1*100
4 print(小明的成绩涨幅为:%.1f%%%s)

 

以上是关于字符串和编码的主要内容,如果未能解决你的问题,请参考以下文章

从 XML 声明片段获取 XML 编码:部分内容解析不支持 XmlDeclaration

《安富莱嵌入式周报》第279期:强劲的代码片段搜索工具,卡内基梅隆大学安全可靠C编码标准,Nordic发布双频WiFi6 nRF7002芯片

Sublime Text自定制代码片段(Code Snippets)

使用非utf-8编码在Python中解析XML

InputStream的三个read的区别

以下代码片段 C++ 的说明