python—subprocessglob和shlex模块

Posted 2020-10-21

一、subprocess模块

1.subprocess以及常用的封装函数

运行python的时候，我们都是在创建并运行一个进程。像Linux进程那样，一个进程可以fork一个子进程，并让这个子进程exec另外一个程序。在Python中，我们通过标准库中的subprocess包来fork一个子进程，并运行一个外部的程序。

subprocess包中定义有数个创建子进程的函数，这些函数分别以不同的方式创建子进程，所以我们可以根据需要来从中选取一个使用。另外subprocess还提供了一些管理标准流(standard stream)和管道(pipe)的工具，从而在进程间使用文本通信。

subprocess.call()

父进程等待子进程完成

返回退出信息(returncode，相当于Linux exit code)

subprocess.check_call()

父进程等待子进程完成

返回0

检查退出信息，如果returncode不为0，则举出错误subprocess.CalledProcessError，该对象包含有returncode属性，可用try…except…来检查

例：

#!/usr/bin/env python
import subprocess
try:
    subprocess.check_call("exit 1",shell=True)
except subprocess.CalledProcessError:
    print "call fail"
except Exception,e:
    print e
print "hello,China"

运行结果：

call fail

hello,China

subprocess.check_output()

父进程等待子进程完成

返回子进程向标准输出的输出结果

检查退出信息，如果returncode不为0，则举出错误subprocess.CalledProcessError，该对象包含有returncode属性和output属性，output属性为标准输出的输出结果，可用try…except…来检查

例：

#!/usr/bin/env python
import subprocess
retcode = subprocess.check_output(["ls","-l"])  #列表一般不带shell
print retcode

运行结果：

-rw-r--r-- 1 root root   94 Jan 19 22:09 001.py

-rw-r--r-- 1 root root  255 Jan 19 22:19 002.py

-rw-r--r-- 1 root root  101 Jan 19 22:59 003.py

说明：

将程序名(ls)和所带的参数(-l)一起放在一个列表中传递给subprocess.check_output()；

shell默认为False，在Linux下，shell=False时, Popen调用os.execvp()执行args指定的程序；shell=True时，如果args是字符串，Popen直接调用系统的Shell来执行args指定的程序，如果args是一个序列，则args的第一项是定义程序命令字符串，其它项是调用系统Shell时的附加参数。

或例子：

#!/usr/bin/env python
import subprocess
retcode = subprocess.check_output("ls -l",shell=True)  #一般带参数，才加shell
print retcode

subprocess.Popen()

class Popen(args, bufsize=0, executable=None, stdin=None, stdout=None, stderr=None, preexec_fn=None, close_fds=False, shell=False, cwd=None, env=None, universal_newlines=False, startupinfo=None, creationflags=0)

Popen对象创建后，主程序不会自动等待子进程完成。我们必须调用对象的wait()方法，父进程才会等待 (也就是阻塞block)

例1（父进程不等待子进程）：

#!/usr/bin/env python
import subprocess
child = subprocess.Popen("ping -c 3 www.baidu.com",shell=True)
print "hello,China"

运行结果：

hello,China

[[email protected] python]# PING www.a.shifen.com (14.215.177.38) 56(84) bytes of data.

64 bytes from 14.215.177.38 (14.215.177.38): icmp_seq=1 ttl=56 time=7.45 ms

64 bytes from 14.215.177.38 (14.215.177.38): icmp_seq=2 ttl=56 time=7.29 ms

64 bytes from 14.215.177.38 (14.215.177.38): icmp_seq=3 ttl=56 time=8.05 ms

说明：

父进程在开启子进程之后并没有等待child的完成，而是直接运行print

例2（父进程等待子进程）：

#!/usr/bin/env python
import subprocess
child = subprocess.Popen("ping -c 3 www.baidu.com",shell=True)
child.wait()
print "hello,China"

运行结果：

PING www.a.shifen.com (14.215.177.39) 56(84) bytes of data.

64 bytes from 14.215.177.39 (14.215.177.39): icmp_seq=1 ttl=56 time=5.49 ms

64 bytes from 14.215.177.39 (14.215.177.39): icmp_seq=2 ttl=56 time=5.69 ms

64 bytes from 14.215.177.39 (14.215.177.39): icmp_seq=3 ttl=56 time=6.66 ms

--- www.a.shifen.com ping statistics ---

3 packets transmitted, 3 received, 0% packet loss, time 2004ms

rtt min/avg/max/mdev = 5.496/5.950/6.664/0.514 ms

hello,China

父进程对子进程的其他操作：

child.poll()       # 检查子进程状态

child.kill()       # 终止子进程

child.send_signal()     # 向子进程发送信号

child.terminate()       # 终止子进程

child.pid               #存储子进程的PID

2.子进程的文本流控制

子进程的标准输入、标准输出和标准错误如下属性分别表示:

child.stdin

child.stdout

child.stderr

可以在Popen()建立子进程的时候改变标准输入、标准输出和标准错误，并可以利用subprocess.PIPE将多个子进程的输入和输出连接在一起，构成管道(pipe)；如没有写stdin和stdout，默认将子进程执行结果打印至屏幕上，而不是保存于内存中

例1：

#!/usr/bin/env python
import subprocess
child = subprocess.Popen(["ls","-l"],stdout=subprocess.PIPE)
print child.stdout.read()

运行结果：

-rw-r--r-- 1 root root   94 Jan 19 22:09 001.py

-rw-r--r-- 1 root root  255 Jan 19 22:19 002.py

-rw-r--r-- 1 root root  149 Jan 20 00:47 003.py

例2：

#!/usr/bin/env python
import subprocess
child1 = subprocess.Popen(["cat","/etc/passwd"],stdout=subprocess.PIPE)
child2 = subprocess.Popen(["grep","/bin/bash"],stdin=child1.stdout,stdout=subprocess.PIPE)
out = child2.communicate()
print out

运行结果：

r('root:x:0:0:root:/root:/bin/bash\nzabbix:x:1001:1001::/home/zabbix:/bin/bash\nelk:x:1002:1002::/home/elk:/bin/bash\nmemcached:x:1003:1003::/home/memcached:/bin/bash\n', None)

说明：

subprocess.PIPE管道实际上为文本流提供一个缓存区。child1的stdout将文本输出到缓存区，随后child2的stdin从该PIPE中将文本读取走。child2的输出文本也被存放在PIPE中，直到communicate()方法从PIPE中读取出PIPE中的文本；communicate()是Popen对象的一个方法，该方法会阻塞父进程，直到子进程完成；child2.communicate()相当于child2.write()、child2.close()、child2.read()这个三个方法

二、glob模块

python下的shell通配符，用它可以查找符合特定规则的文件路径名，类似于windows下文件搜索。只用到三个匹配符："*", "?", "[]"。"*"匹配0个或多个字符、"?"匹配单个字符、"[]"匹配指定范围内的字符。

1.glob.glob

　返回所有匹配的文件路径列表。只有一个参数pathname，定义了文件路径匹配规则，可以为绝对路径，也可以是相对路径

例：

In [1]: import glob
In [2]: glob.glob("./*.py")
Out[2]: 
['./20.py',
 './1.py',

2.glob.iglob

  相比glob.glob,获取一个可遍历对象，使用它可以逐个获取匹配的文件路径名

三、shlex模块

shlex.split(s[, comments[, posix]]) 

使用类似shell的语法分割字符串s，默认按空格分隔，并且shlex.split()能识别引号，认为引号里的为一个元素。

例：

In [7]: import shlex
In [8]: shlex.split('hello","word')
Out[8]: ['hello,word']