python学习笔记(多进程并发)
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python学习笔记(多进程并发)相关的知识,希望对你有一定的参考价值。
理论篇:
1、什么是进程:
进程:计算机系统中正在进行的一个过程或者说一个任务。而负责执行任务则是cpu。
2、进程和程序的区别:
程序是实现功能的一堆代码,而进程是程序运行的过程。
注:同一个程序同时打开两次或多次,就会启动两个或多个进程。
3、并发与并行:
无论是并行还是并发,在用户看来都是‘同时‘运行的,不管是进程还是线程,都只是一个任务而已,真是干活的是cpu,cpu来做这些任务,而一个cpu同一时刻只能执行一个任务
一 并发:是伪并行,即看起来是同时运行。单个cpu+多道技术就可以实现并发,(并行也属于并发)
二 并行:同时运行,只有具备多个cpu才能实现并行
单核下,可以利用多道技术,多个核,每个核也都可以利用多道技术(多道技术是针对单核而言的)
有四个核,六个任务,这样同一时间有四个任务被执行,假设分别被分配给了cpu1,cpu2,cpu3,cpu4,
一旦任务1遇到I/O就被迫中断执行,此时任务5就拿到cpu1的时间片去执行,这就是单核下的多道技术
而一旦任务1的I/O结束了,操作系统会重新调用它(需知进程的调度、分配给哪个cpu运行,由操作系统说了算),可能被分配给四个cpu中的任意一个去执行
所有现代计算机经常会在同一时间做很多件事,一个用户的PC(无论是单cpu还是多cpu),都可以同时运行多个任务(一个任务可以理解为一个进程)。
启动一个进程来杀毒(360软件)
启动一个进程来看电影(暴风影音)
启动一个进程来聊天(腾讯QQ)
所有的这些进程都需被管理,于是一个支持多进程的多道程序系统是至关重要的
多道技术概念回顾:内存中同时存入多道(多个)程序,cpu从一个进程快速切换到另外一个,使每个进程各自运行几十或几百毫秒,这样,虽然在某一个瞬间,一个cpu只能 执行一个任务,但在1秒内,cpu却可以运行多个进程,这就给人产生了并行的错觉,即伪并发,以此来区分多处理器操作系统的真正硬件并行(多个cpu共享同一个物理内 存)
4、同步与异步:
同步执行:一个进程在执行某个任务时,另外一个进程必须等待其执行完毕,才能继续执行
异步执行:一个进程在执行某个任务时,另外一个进程无需等待其执行完毕,就可以继续执行,当有消息返回时,系统会通知后者进行处理,这样可以提高执行效率
举个例子,打电话时就是同步通信,发短息时就是异步通信。
实战篇:
实现多进程模块:multiprocessing
1、模块multiprocessing介绍:
multiprocessing模块用来开启子进程,并在子进程中执行我们定制的任务(比如函数),该模块与多线程模块threading的编程接口类似。
multiprocessing模块的功能众多:支持子进程、通信和共享数据、执行不同形式的同步,提供了Process、Queue、Pipe、Lock等组件。
需要再次强调的一点是:与线程不同,进程没有任何共享状态,进程修改的数据,改动仅限于该进程内。
2、Process类介绍:
Process类是用来创建进程的。
Process([group [, target [, name [, args [, kwargs]]]]]),由该类实例化得到的对象,表示一个子进程中的任务(尚未启动) 强调: 1. 需要使用关键字的方式来指定参数 2. args指定的为传给target函数的位置参数,是一个元组形式,必须有逗号
Process类的参数介绍
1 group参数未使用,值始终为None 2 target表示调用对象,即子进程要执行的任务 3 args表示调用对象的位置参数元组,args=(1,2,‘egon‘,) 4 kwargs表示调用对象的字典,kwargs={‘name‘:‘egon‘,‘age‘:18} 5 name为子进程的名称
Process类方法介绍
1 p.start():启动进程,并调用该子进程中的p.run() 2 p.run():进程启动时运行的方法,正是它去调用target指定的函数,我们自定义类的类中一定要实现该方法 3 p.terminate():强制终止进程p,不会进行任何清理操作,如果p创建了子进程,该子进程就成了僵尸进程,使用该方法需要特别小心这种情况。如果p还保存了一个锁那么也将不会被释放,进而导致死锁 4 p.is_alive():如果p仍然运行,返回True 5 p.join([timeout]):主线程等待p终止(强调:是主线程处于等的状态,而p是处于运行的状态)。timeout是可选的超时时间,需要强调的是,p.join只能join住start开启的进程,而不能join住run开启的进程
Process类属性介绍:
1 p.daemon:默认值为False,如果设为True,代表p为后台运行的守护进程,当p的父进程终止时,p也随之终止,并且设定为True后,p不能创建自己的新进程,必须在p.start()之前设置 2 p.name:进程的名称 3 p.pid:进程的pid 4 p.exitcode:进程在运行时为None、如果为–N,表示被信号N结束(了解即可) 5 p.authkey:进程的身份验证键,默认是由os.urandom()随机生成的32字符的字符串。这个键的用途是为涉及网络连接的底层进程间通信提供安全性,这类连接只有在具有相同的身份验证键时才能成功(了解即可)
3、Process类的使用
强行记住:在windows中Process()必须放到# if __name__ == ‘__main__‘:下使用
创建并开启进程的两种方法:
1 #开进程的方法一: 2 import time 3 import random 4 from multiprocessing import Process 5 def piao(name): 6 print(‘%s piaoing‘ %name) 7 time.sleep(random.randrange(1,5)) 8 print(‘%s piao end‘ %name) 9 10 11 12 p1=Process(target=piao,args=(‘egon‘,)) #必须加,号 13 p2=Process(target=piao,args=(‘alex‘,)) 14 p3=Process(target=piao,args=(‘wupeqi‘,)) 15 p4=Process(target=piao,args=(‘yuanhao‘,)) 16 17 p1.start() 18 p2.start() 19 p3.start() 20 p4.start() 21 print(‘主线程‘)
1 #开进程的方法二: 2 import time 3 import random 4 from multiprocessing import Process 5 6 7 class Piao(Process): 8 def __init__(self,name): 9 super().__init__() 10 self.name=name 11 def run(self): 12 print(‘%s piaoing‘ %self.name) 13 14 time.sleep(random.randrange(1,5)) 15 print(‘%s piao end‘ %self.name) 16 17 p1=Piao(‘egon‘) 18 p2=Piao(‘alex‘) 19 p3=Piao(‘wupeiqi‘) 20 p4=Piao(‘yuanhao‘) 21 22 p1.start() #start会自动调用run 23 p2.start() 24 p3.start() 25 p4.start() 26 print(‘主线程‘)
Process类的join方法:作用是让主进程等待子进程执行完成后再执行。
4、守护进程:
主进程创建守护进程
其一:守护进程会在主进程代码执行结束后就终止
其二:守护进程内无法再开启子进程,否则抛出异常:AssertionError: daemonic processes are not allowed to have children
注意:进程之间是互相独立的,主进程代码运行结束,守护进程随即终止
1 from multiprocessing import Process 2 import time 3 import random 4 5 class Piao(Process): 6 def __init__(self,name): 7 self.name=name 8 super().__init__() 9 def run(self): 10 print(‘%s is piaoing‘ %self.name) 11 time.sleep(random.randrange(1,3)) 12 print(‘%s is piao end‘ %self.name) 13 14 15 p=Piao(‘egon‘) 16 p.daemon=True #一定要在p.start()前设置,设置p为守护进程,禁止p创建子进程,并且父进程代码执行结束,p即终止运行 17 p.start() 18 print(‘主‘)
以上是关于python学习笔记(多进程并发)的主要内容,如果未能解决你的问题,请参考以下文章