python学习笔记（多进程并发）

Posted 2020-10-05

理论篇：

1、什么是进程：

      进程：计算机系统中正在进行的一个过程或者说一个任务。而负责执行任务则是cpu。

2、进程和程序的区别：

      程序是实现功能的一堆代码，而进程是程序运行的过程。

      注：同一个程序同时打开两次或多次，就会启动两个或多个进程。

3、并发与并行：  

      无论是并行还是并发，在用户看来都是‘同时‘运行的，不管是进程还是线程，都只是一个任务而已，真是干活的是cpu，cpu来做这些任务，而一个cpu同一时刻只能执行一个任务

      一 并发：是伪并行，即看起来是同时运行。单个cpu+多道技术就可以实现并发，（并行也属于并发）

     二 并行：同时运行，只有具备多个cpu才能实现并行

         单核下，可以利用多道技术，多个核，每个核也都可以利用多道技术（多道技术是针对单核而言的）

         有四个核，六个任务，这样同一时间有四个任务被执行，假设分别被分配给了cpu1，cpu2，cpu3，cpu4，

         一旦任务1遇到I/O就被迫中断执行，此时任务5就拿到cpu1的时间片去执行，这就是单核下的多道技术

         而一旦任务1的I/O结束了，操作系统会重新调用它(需知进程的调度、分配给哪个cpu运行，由操作系统说了算)，可能被分配给四个cpu中的任意一个去执行        

        所有现代计算机经常会在同一时间做很多件事，一个用户的PC（无论是单cpu还是多cpu），都可以同时运行多个任务（一个任务可以理解为一个进程）。

　　　　     启动一个进程来杀毒（360软件）

　　　　     启动一个进程来看电影（暴风影音）

　　　　     启动一个进程来聊天（腾讯QQ）

         所有的这些进程都需被管理，于是一个支持多进程的多道程序系统是至关重要的

         多道技术概念回顾：内存中同时存入多道（多个）程序，cpu从一个进程快速切换到另外一个，使每个进程各自运行几十或几百毫秒，这样，虽然在某一个瞬间，一个cpu只能          执行一个任务，但在1秒内，cpu却可以运行多个进程，这就给人产生了并行的错觉，即伪并发，以此来区分多处理器操作系统的真正硬件并行（多个cpu共享同一个物理内                存）

4、同步与异步：        

         同步执行：一个进程在执行某个任务时，另外一个进程必须等待其执行完毕，才能继续执行
         异步执行：一个进程在执行某个任务时，另外一个进程无需等待其执行完毕，就可以继续执行，当有消息返回时，系统会通知后者进行处理，这样可以提高执行效率

         举个例子，打电话时就是同步通信，发短息时就是异步通信。

 

 

实战篇：

实现多进程模块：multiprocessing

1、模块multiprocessing介绍：     

     multiprocessing模块用来开启子进程，并在子进程中执行我们定制的任务（比如函数），该模块与多线程模块threading的编程接口类似。

　 multiprocessing模块的功能众多：支持子进程、通信和共享数据、执行不同形式的同步，提供了Process、Queue、Pipe、Lock等组件。

     需要再次强调的一点是：与线程不同，进程没有任何共享状态，进程修改的数据，改动仅限于该进程内。

2、Process类介绍：

      Process类是用来创建进程的。     

Process([group [, target [, name [, args [, kwargs]]]]])，由该类实例化得到的对象，表示一个子进程中的任务（尚未启动）

强调：
1. 需要使用关键字的方式来指定参数
2. args指定的为传给target函数的位置参数，是一个元组形式，必须有逗号

　　Process类的参数介绍

1 group参数未使用，值始终为None

2 target表示调用对象，即子进程要执行的任务

3 args表示调用对象的位置参数元组，args=(1,2,‘egon‘,)
 
4 kwargs表示调用对象的字典,kwargs={‘name‘:‘egon‘,‘age‘:18}

5 name为子进程的名称

　　Process类方法介绍

1 p.start()：启动进程，并调用该子进程中的p.run() 
2 p.run():进程启动时运行的方法，正是它去调用target指定的函数，我们自定义类的类中一定要实现该方法  
 
 3 p.terminate():强制终止进程p，不会进行任何清理操作，如果p创建了子进程，该子进程就成了僵尸进程，使用该方法需要特别小心这种情况。如果p还保存了一个锁那么也将不会被释放，进而导致死锁
 4 p.is_alive():如果p仍然运行，返回True
  
 5 p.join([timeout]):主线程等待p终止（强调：是主线程处于等的状态，而p是处于运行的状态）。timeout是可选的超时时间，需要强调的是，p.join只能join住start开启的进程，而不能join住run开启的进程 

　　Process类属性介绍：

1 p.daemon：默认值为False，如果设为True，代表p为后台运行的守护进程，当p的父进程终止时，p也随之终止，并且设定为True后，p不能创建自己的新进程，必须在p.start()之前设置
 
2 p.name:进程的名称
 
3 p.pid：进程的pid
 
4 p.exitcode:进程在运行时为None、如果为–N，表示被信号N结束(了解即可)
 
5 p.authkey:进程的身份验证键,默认是由os.urandom()随机生成的32字符的字符串。这个键的用途是为涉及网络连接的底层进程间通信提供安全性，这类连接只有在具有相同的身份验证键时才能成功（了解即可）

3、Process类的使用

     强行记住：在windows中Process()必须放到# if __name__ == ‘__main__‘:下使用

    创建并开启进程的两种方法：   

 1 #开进程的方法一:
 2 import time
 3 import random
 4 from multiprocessing import Process
 5 def piao(name):
 6     print(‘%s piaoing‘ %name)
 7     time.sleep(random.randrange(1,5))
 8     print(‘%s piao end‘ %name)
 9 
10 
11 
12 p1=Process(target=piao,args=(‘egon‘,)) #必须加,号
13 p2=Process(target=piao,args=(‘alex‘,))
14 p3=Process(target=piao,args=(‘wupeqi‘,))
15 p4=Process(target=piao,args=(‘yuanhao‘,))
16 
17 p1.start()
18 p2.start()
19 p3.start()
20 p4.start()
21 print(‘主线程‘)

开启进程方法一

 1 #开进程的方法二:
 2 import time
 3 import random
 4 from multiprocessing import Process
 5 
 6 
 7 class Piao(Process):
 8     def __init__(self,name):
 9         super().__init__()
10         self.name=name
11     def run(self):
12         print(‘%s piaoing‘ %self.name)
13 
14         time.sleep(random.randrange(1,5))
15         print(‘%s piao end‘ %self.name)
16 
17 p1=Piao(‘egon‘)
18 p2=Piao(‘alex‘)
19 p3=Piao(‘wupeiqi‘)
20 p4=Piao(‘yuanhao‘)
21 
22 p1.start() #start会自动调用run
23 p2.start()
24 p3.start()
25 p4.start()
26 print(‘主线程‘)

开启进程方法二

   Process类的join方法：作用是让主进程等待子进程执行完成后再执行。

4、守护进程：     

      主进程创建守护进程

　　    其一：守护进程会在主进程代码执行结束后就终止

　　    其二：守护进程内无法再开启子进程,否则抛出异常：AssertionError: daemonic processes are not allowed to have children

       注意：进程之间是互相独立的，主进程代码运行结束，守护进程随即终止       

 1 from multiprocessing import Process
 2 import time
 3 import random
 4 
 5 class Piao(Process):
 6     def __init__(self,name):
 7         self.name=name
 8         super().__init__()
 9     def run(self):
10         print(‘%s is piaoing‘ %self.name)
11         time.sleep(random.randrange(1,3))
12         print(‘%s is piao end‘ %self.name)
13 
14 
15 p=Piao(‘egon‘)
16 p.daemon=True #一定要在p.start()前设置,设置p为守护进程,禁止p创建子进程,并且父进程代码执行结束,p即终止运行
17 p.start()
18 print(‘主‘)

守护进程实例