python学习笔记(多进程并发)

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python学习笔记(多进程并发)相关的知识,希望对你有一定的参考价值。

理论篇:

1、什么是进程:

      进程:计算机系统中正在进行的一个过程或者说一个任务。而负责执行任务则是cpu。

2、进程和程序的区别:

      程序是实现功能的一堆代码,而进程是程序运行的过程。

      注:同一个程序同时打开两次或多次,就会启动两个或多个进程。

3、并发与并行:  

      无论是并行还是并发,在用户看来都是‘同时‘运行的,不管是进程还是线程,都只是一个任务而已,真是干活的是cpu,cpu来做这些任务,而一个cpu同一时刻只能执行一个任务

      一 并发:是伪并行,即看起来是同时运行。单个cpu+多道技术就可以实现并发,(并行也属于并发)

     二 并行:同时运行,只有具备多个cpu才能实现并行

         单核下,可以利用多道技术,多个核,每个核也都可以利用多道技术(多道技术是针对单核而言的

         有四个核,六个任务,这样同一时间有四个任务被执行,假设分别被分配给了cpu1,cpu2,cpu3,cpu4,

         一旦任务1遇到I/O就被迫中断执行,此时任务5就拿到cpu1的时间片去执行,这就是单核下的多道技术

         而一旦任务1的I/O结束了,操作系统会重新调用它(需知进程的调度、分配给哪个cpu运行,由操作系统说了算),可能被分配给四个cpu中的任意一个去执行        

        所有现代计算机经常会在同一时间做很多件事,一个用户的PC(无论是单cpu还是多cpu),都可以同时运行多个任务(一个任务可以理解为一个进程)。

         启动一个进程来杀毒(360软件)

         启动一个进程来看电影(暴风影音)

         启动一个进程来聊天(腾讯QQ)

         所有的这些进程都需被管理,于是一个支持多进程的多道程序系统是至关重要的

         多道技术概念回顾:内存中同时存入多道(多个)程序,cpu从一个进程快速切换到另外一个,使每个进程各自运行几十或几百毫秒,这样,虽然在某一个瞬间,一个cpu只能          执行一个任务,但在1秒内,cpu却可以运行多个进程,这就给人产生了并行的错觉,即伪并发,以此来区分多处理器操作系统的真正硬件并行(多个cpu共享同一个物理内                存)

4、同步与异步:        

         同步执行:一个进程在执行某个任务时,另外一个进程必须等待其执行完毕,才能继续执行
         异步执行:一个进程在执行某个任务时,另外一个进程无需等待其执行完毕,就可以继续执行,当有消息返回时,系统会通知后者进行处理,这样可以提高执行效率

         举个例子,打电话时就是同步通信,发短息时就是异步通信。

 

 

实战篇:

实现多进程模块:multiprocessing

1、模块multiprocessing介绍:     

     multiprocessing模块用来开启子进程,并在子进程中执行我们定制的任务(比如函数),该模块与多线程模块threading的编程接口类似。

  multiprocessing模块的功能众多:支持子进程、通信和共享数据、执行不同形式的同步,提供了Process、Queue、Pipe、Lock等组件。

     需要再次强调的一点是:与线程不同,进程没有任何共享状态,进程修改的数据,改动仅限于该进程内。

2、Process类介绍:

      Process类是用来创建进程的。     

Process([group [, target [, name [, args [, kwargs]]]]]),由该类实例化得到的对象,表示一个子进程中的任务(尚未启动)

强调:
1. 需要使用关键字的方式来指定参数
2. args指定的为传给target函数的位置参数,是一个元组形式,必须有逗号

  Process类的参数介绍

1 group参数未使用,值始终为None

2 target表示调用对象,即子进程要执行的任务

3 args表示调用对象的位置参数元组,args=(1,2,‘egon‘,)
 
4 kwargs表示调用对象的字典,kwargs={‘name‘:‘egon‘,‘age‘:18}

5 name为子进程的名称

  Process类方法介绍

1 p.start():启动进程,并调用该子进程中的p.run() 
2 p.run():进程启动时运行的方法,正是它去调用target指定的函数,我们自定义类的类中一定要实现该方法  
 
 3 p.terminate():强制终止进程p,不会进行任何清理操作,如果p创建了子进程,该子进程就成了僵尸进程,使用该方法需要特别小心这种情况。如果p还保存了一个锁那么也将不会被释放,进而导致死锁
 4 p.is_alive():如果p仍然运行,返回True
  
 5 p.join([timeout]):主线程等待p终止(强调:是主线程处于等的状态,而p是处于运行的状态)。timeout是可选的超时时间,需要强调的是,p.join只能join住start开启的进程,而不能join住run开启的进程 

  Process类属性介绍:

1 p.daemon:默认值为False,如果设为True,代表p为后台运行的守护进程,当p的父进程终止时,p也随之终止,并且设定为True后,p不能创建自己的新进程,必须在p.start()之前设置
 
2 p.name:进程的名称
 
3 p.pid:进程的pid
 
4 p.exitcode:进程在运行时为None、如果为–N,表示被信号N结束(了解即可)
 
5 p.authkey:进程的身份验证键,默认是由os.urandom()随机生成的32字符的字符串。这个键的用途是为涉及网络连接的底层进程间通信提供安全性,这类连接只有在具有相同的身份验证键时才能成功(了解即可)

3、Process类的使用

     强行记住:在windows中Process()必须放到# if __name__ == ‘__main__‘:下使用

    创建并开启进程的两种方法:   

技术分享
 1 #开进程的方法一:
 2 import time
 3 import random
 4 from multiprocessing import Process
 5 def piao(name):
 6     print(%s piaoing %name)
 7     time.sleep(random.randrange(1,5))
 8     print(%s piao end %name)
 9 
10 
11 
12 p1=Process(target=piao,args=(egon,)) #必须加,号
13 p2=Process(target=piao,args=(alex,))
14 p3=Process(target=piao,args=(wupeqi,))
15 p4=Process(target=piao,args=(yuanhao,))
16 
17 p1.start()
18 p2.start()
19 p3.start()
20 p4.start()
21 print(主线程)
开启进程方法一
技术分享
 1 #开进程的方法二:
 2 import time
 3 import random
 4 from multiprocessing import Process
 5 
 6 
 7 class Piao(Process):
 8     def __init__(self,name):
 9         super().__init__()
10         self.name=name
11     def run(self):
12         print(%s piaoing %self.name)
13 
14         time.sleep(random.randrange(1,5))
15         print(%s piao end %self.name)
16 
17 p1=Piao(egon)
18 p2=Piao(alex)
19 p3=Piao(wupeiqi)
20 p4=Piao(yuanhao)
21 
22 p1.start() #start会自动调用run
23 p2.start()
24 p3.start()
25 p4.start()
26 print(主线程)
开启进程方法二

   Process类的join方法:作用是让主进程等待子进程执行完成后再执行。

4、守护进程:     

      主进程创建守护进程

      其一:守护进程会在主进程代码执行结束后就终止

      其二:守护进程内无法再开启子进程,否则抛出异常:AssertionError: daemonic processes are not allowed to have children

       注意:进程之间是互相独立的,主进程代码运行结束,守护进程随即终止       

技术分享
 1 from multiprocessing import Process
 2 import time
 3 import random
 4 
 5 class Piao(Process):
 6     def __init__(self,name):
 7         self.name=name
 8         super().__init__()
 9     def run(self):
10         print(%s is piaoing %self.name)
11         time.sleep(random.randrange(1,3))
12         print(%s is piao end %self.name)
13 
14 
15 p=Piao(egon)
16 p.daemon=True #一定要在p.start()前设置,设置p为守护进程,禁止p创建子进程,并且父进程代码执行结束,p即终止运行
17 p.start()
18 print()
守护进程实例

 


以上是关于python学习笔记(多进程并发)的主要内容,如果未能解决你的问题,请参考以下文章

python学习笔记-(十三)线程进程多线程&多进程

Python多线程,多进程,并行,并发,异步编程

Python学习笔记——进阶篇第八周———Socket编程进阶&多线程多进程

JAVA 多线程和并发学习笔记(四)

python学习笔记——多进程

Python学习笔记——进阶篇第八周———CPU运行原理与多线程