python_IO编程

Posted rainbowpang

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python_IO编程相关的知识,希望对你有一定的参考价值。

I/O编程

读写文件时最常见的IO操作。Python内置了读写文件的函数,用法和C是兼容的。
读写文件前,我们必须了解一下,在磁盘上读写文件的功能都是由操作系统提供的,现代操作系统不允许普通的程序直接操作磁盘,所以,读写文件就是请求操作系统打开一个文件对象(通常称为文件描述符),然后,通过操作系统提供的接口从这个文件对象中读取数据(读文件),或者把数据写入这个文件对象(写文件)。

在I/O编程中,Stream(流)是一种重要的概念,分为输入流(Input Stream)和输入流(Output Stream)。我们可以把流理解为一个水管,一个负责输入,一个负责输出,这样读写就可以实现同步。

文件读写

打开文件
读写文件是最常见的IO操作。Python内置了读写文件的函数,方便了文件的IO操作。
文件读写之前需要打开文件,确定文件的读写模式。open函数用来打开文件,语法如下:

open(name[, mode[, buffering]])

open函数使用一个文件作为唯一的强制参数,然后返回一个文件对象。模式(mode)和缓冲区(buffering)参数都是可选的,默认模式是读模式,默认缓冲区是无。
如果文件不存在,open()函数就会抛出一个IOError错误,并且给出错误码和详细的信息告诉你文件不存在:

>>>f = open("user/michael/notfound.txt", "r")
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
FileNotFoundError: [Errno 2] No such file or directory: ‘user/michael/notfound.txt‘

文件模式
open函数打开中的mode参数,通过改变mode参数可以实现对文件的不同操作

功能描述
‘r‘ 读模式
‘w‘ 写模式
‘a‘ 追加模式
‘b‘ 二进制模式(可添加到其它模式中使用)
‘+‘ 读/写模式(可添加到其它模式中使用)

一般处理文本文件时,是用不到‘b‘参数的,但如果处理其它类型的文件(二进制文件),比如mp3或者图形,就应该在模式中加上‘b‘,这在爬虫中处理媒体文件很常用。

文件缓冲区
open函数中第三个可选参数buffering控制着文件的缓冲。如果参数是0,I/O操作就是无缓冲的,直接将数据写到硬盘上;如果参数是1,I/O操作就是有缓冲的,数据先写入到内存里,只有使用flush函数或者close函数才会将数据更新到硬盘;如果参数大于1的数据则代表着缓冲区的大小(单位是字节),-1(或者任何负数)代表使用默认缓冲区的大小。

文件读取
文件读取主要分为按字节读取和按行读取,经常用到的方法有read()readline()readlines()close()

>>>f = open(r"c:\\text\\xiaoqi.txt", "r")
>>>f.read()   #调用read()方法可以一次性地将文件内容全部读到内存中
‘xiaoqi‘
f.close()  #文件读取完成后必须关闭

由于文件操作可能会出现IO异常,一旦出现IO异常,后面的close()
方法就不会调用。所以为了保证程序的健壮性,我们需要使用try...finally来实现。

try
    f = open(r‘c:\\text\\xiaoqi.txt‘)
    print(f.read())
finally:
    if f:
        f.close()

Python提供了一种更加简单有趣的写法,使用with语句来替代try...finally代码块和close()方法

with open(r‘c:\text\xiaoqi.txt‘) as fileReader:
    print(fileReader.read())

利用read()一次将文件内容读到内存,但是如果文件过大,将会出现内存不足的问题。一般对于大文件,可以重复调用read(size)方法,一次最多读取size个字节。如果文件是文本文件,Python提供了更加合理的做法,调用了readline()可以每次读取一行内容,调用readlines()一次读取所有内容并按行返回列表。大家可以根据自己的具体需求采取不同的读取方式:

  1. 小文件可以直接采取read()方法读到内存;
  2. 大文件更加安全的方法是连续调用read(size);
  3. 面对于配置文件等文本文件,使用readlines()方法更加合理
with open(r‘c:\\text\\ss.txt‘) as fileReader:
    for line in fileReader.readlines():
        print(line.strip())

文件写入
写文件和读文件是一样的,唯一的区别实在调用open方法时,传入标识符w或者wb表示写入文本文件或者写入二进制文件,示例如下:

f = open(r‘c:\text\qie.txt‘, ‘w‘)
f.write(‘xiaoqi‘)
f.close()

我们可以反复调用write()方法写入文件,最后必须使用close()方法来关闭文件。使用write()方法的时候,操作系统不是立即将数据写入文件中的,而是先写入内存中缓存起来,等到空闲时候再写入文件中,最后使用close()方法就将数据完整地写入文件中了。当然也可以使用f.flush()方法,不断地将数据立即写入文件中,最后使用close()方法来关闭文件。和读文件同样道理,文件操作中可能会出现IO异常,所以还是推荐使用with语句:

with open(r‘c:\text\csd.txt‘, ‘w‘) as fileWriter:
    fileWriter.write(‘sdfs‘)

file-like Object

open()函数返回的这种有个read()方法的对象,在Python中统称为file-like Object,除了file外,还可以是内存的字节流,网路流,自定义流等。file-like Object不要求从特定类继承,只要写个read()方法就行。
StringIO就是内存中创建的file-like Object,常用作临时缓冲。

二进制文件
一般我们用open()读取的是文本文件,并且是UTF-8编码的文本文件。要读取二进制文件,比如图片、视频,就需要用rb模式打开文件:

f = open("/Users/michael/test.jpg", ‘rb‘)
f.read()
b\xff\xd8\xff\xe1\x00\x18Exif\x00\x00...‘ # 十六进制表示的字节

字符编码
要读取非UTF-8编码的文本文件,需要给open()函数传入encoding参数,例如,读取GBK编码的文件:

f = open("/Users/michael/gbk.text", "r", encoding="gbk")
f.read()
‘测试‘

遇到有些编码不规范的文件,你可能会遇到UnicodeDecodeError,因为在文本文件中可能夹杂了一些非法编码的字符。遇到这种情况,open()函数还接收一个errors参数,表示如果遇到编码错误后如何处理。最简单的方式是直接忽略:

f = open(‘/Users/michael/gbk.txt‘, ‘r‘, encoding=‘gbk‘, errors=‘ignore‘)

StringIO
很多时候,数据读写并不一定是文件也可以在内幕才能中读写。
StringIO顾名思义就是在内存中读写str。
要把str写入StringIO,我们需要先创建一个StringIO,然后,像文件一样写入即可:

>>>from io import StringIO
>>>f = StringIO()
>>>f.write(‘hello‘)
5
>>>f.write(" ")
1
>>>f.write("world!")
6
>>>print(f.getvalue())   #getvalue()方法用于获得写入后的str
‘hello world!‘

要读取StringIO,可以用一个str初始哈StringIO,然后,像读文件一样读取:

>>>from io import StringIO
>>>f = StringIO("Hello!\nGoodbye!")
>>>while True:
    s = f.readline()
    if s == " ":
        break
    print(s.strip())
Hello!
Hi!
Goodbye

BytesIO
StringIO操作的只能是str,如果要操作二进制数据,就需要使用ByetsIO.
BytesIO实现了在内存中读写bytes,我们创建了一个BytesIO,然后写入一些bytes

>>>from io import BytesIO
>>>f = BytesIO()
>>>f.write(‘中文‘.encode("utf-8"))
6
>>>print(f.getvalues)
b\xe4\xb8\xad\xe6\x96\x87

注意:写入的不是str,而是经过UTF-8编码的bytes。
和StringIO类似,可以用一个bytes初始化BytesIO,然后,像读文件一样读取:

>>>from io import BytesIO
>>>f = BytesIO(b\xe4\xb8\xad\xa6\x96\x87‘)
>>>f.read()
b\xe4\xb8\xad\xe6\x96\x87

参考

  1. 廖雪峰-IO编程
  2. Python学习记录之:IO编程
  3. Python中的str与unicode处理方法

以上是关于python_IO编程的主要内容,如果未能解决你的问题,请参考以下文章

python_IO编程

python_IO编程

为啥 TensorFlow 中的 'tf.python_io.TFRecordWriter' 如此缓慢且占用存储空间?

VSCode自定义代码片段——JS中的面向对象编程

VSCode自定义代码片段9——JS中的面向对象编程

使用 Pygments 检测代码片段的编程语言