python-并发编程

Posted 2021-01-25 herosyuan

　　　　　　python-并发编程

1，背景知识

　　顾名思义，进程即正在执行的一个过程。进程是对正在运行程序的一个抽象。

　　进程的概念起源于操作系统，是操作系统最核心的概念，也是操作系统提供的最古老也是最重要的抽象概念之一。操作系统的其他所有内容都是围绕进程的概念展开的。

　　所以想要真正了解进程，必须事先了解操作系统。

　　　　PS：即使可以利用的cpu只有一个（早期的计算机确实如此），也能保证支持（伪）并发的能力。将一个单独的cpu变成多个虚拟的cpu（多道技术：时间多路复用和空间多路复用+硬件上支持隔离），没有进程的抽象，现代计算机将不复存在

2， 多道技术：

　　　1.产生背景：针对单核，实现并发

　　　　 ps： 现在的主机一般是多核，那么每个核都会利用多道技术 有4个cpu，运行于cpu1的某个程序遇到io阻塞，会等到io结束再重新调度，会被调度到4个 cpu中的任意一个，具体由操作系统调度算法决定。

　　　2.空间上的复用：如内存中同时有多道程序

　　　3.时间上的复用：复用一个cpu的时间片 强调：遇到 io切换，占用cpu时间过长也切换，核心在于切换之前将进程的状态保存下来，这样 才能保证下次切换回来时，能基于上次切走的位置继续运行

2，多进程

1，何为进程

进程：正在进行的一个过程或者说一个任务。而负责执行任务则是cpu。

2，进程与程序的区别

　　程序仅仅只是一堆代码而已，而进程指的是程序的运行过程。

想象一位有一手好厨艺的计算机科学家老原正在为他的女儿宇飞烘制生日蛋糕。

他有做生日蛋糕的食谱，

厨房里有所需的原料:面粉、鸡蛋、韭菜，蒜泥等。

在这个比喻中：

做蛋糕的食谱就是程序(即用适当形式描述的算法)

计算机科学家就是处理器(cpu)

而做蛋糕的各种原料就是输入数据。

进程就是厨师阅读食谱、取来各种原料以及烘制蛋糕等一系列动作的总和。

现在假设计算机科学家老原的儿子伟峰哭着跑了进来，说：Hey, Dad, my head got stung by a bee.

科学家qiuma想了想，处理儿子伟峰蛰伤的任务比给女儿宇飞做蛋糕的任务更重要，于是

计算机科学家就记录下他照着食谱做到哪儿了(保存进程的当前状态)，然后拿出一本急救手册，按照其中的指示处理蛰伤。这里，我们看到处理机从一个进程(做蛋糕)切换到另一个高优先级的进程(实施医疗救治)，每个进程拥有各自的程序(食谱和急救手册)。当蜜蜂蛰伤处理完之后，这位计算机科学家又回来做蛋糕，从他离开时的那一步继续做下去

For example

需要强调的是：同一个程序执行两次，那也是两个进程，比如打开暴风影音，虽然都是同一个软件，但是一个可以播放苍井空，一个可以播放饭岛爱。

3，并发与并行

无论是并行还是并发，在用户看来都是‘同时‘运行的，不管是进程还是线程，都只是一个任务而已，真是干活的是cpu，cpu来做这些任务，而一个cpu同一时刻只能执行一个任务

1， 并发：是伪并行，即看起来是同时运行。单个cpu+多道技术就可以实现并发

2，并行：同时运行，只有具备多个cpu才能实现并行

　　单核下，可以利用多道技术，多个核，每个核也都可以利用多道技术（多道技术是针对单核而言的）

有四个核，六个任务，这样同一时间有四个任务被执行，假设分别被分配给了cpu1，cpu2，cpu3，cpu4，

一旦任务1遇到I/O就被迫中断执行，此时任务5就拿到cpu1的时间片去执行，这就是单核下的多道技术

而一旦任务1的I/O结束了，操作系统会重新调用它(需知进程的调度、分配给哪个cpu运行，由操作系统说了算)

可能被分 配给四个cpu中的任意一个去执行

4，进程的创建(了解)

　　但凡是硬件，都需要有操作系统去管理，只要有操作系统，就有进程的概念，就需要有创建进程的方式，一些操作系统只为一个应用程序设计，比如微波炉中的控制器，一旦启动微波炉，所有的进程都已经存在。

　　而对于通用系统（跑很多应用程序），需要有系统运行过程中创建或撤销进程的能力，主要分为4种形式创建新的进程

1. 系统初始化（查看进程linux中用ps命令，windows中用任务管理器，前台进程负责与用户交互，后台运行的进程与用户无关，运行在后台并且只在需要时才唤醒的进程，称为守护进程，如电子邮件、web页面、新闻、打印）

2. 一个进程在运行过程中开启了子进程（如nginx开启多进程，os.fork,subprocess.Popen等）

3. 用户的交互式请求，而创建一个新进程（如用户双击暴风影音）

4. 一个批处理作业的初始化（只在大型机的批处理系统中应用）

　　无论哪一种，新进程的创建都是由一个已经存在的进程执行了一个用于创建进程的系统调用而创建的：

1. 在UNIX中该系统调用是：fork，fork会创建一个与父进程一模一样的副本，二者有相同的存储映像、同样的环境字符串和同样的打开文件（在shell解释器进程中，执行一个命令就会创建一个子进程）

2. 在windows中该系统调用是：CreateProcess，CreateProcess既处理进程的创建，也负责把正确的程序装入新进程。

　　关于创建的子进程，UNIX和windows

　　1.相同的是：进程创建后，父进程和子进程有各自不同的地址空间（多道技术要求物理层面实现进程之间内存的隔离），任何一个进程的在其地址空间中的修改都不会影响到另外一个进程。

　　2.不同的是：在UNIX中，子进程的初始地址空间是父进程的一个副本，提示：子进程和父进程是可以有只读的共享内存区的。但是对于windows系统来说，从一开始父进程与子进程的地址空间就是不同的。

5，进程的终止(了解)

　　1，正常退出（自愿，如用户点击交互式页面的叉号，或程序执行完毕调用发起系统调用正常退出，在linux中用exit，在windows中用ExitProcess）

　　2，出错退出（自愿，python a.py中a.py不存在）

　　3，严重错误（非自愿，执行非法指令，如引用不存在的内存，1/0等，可以捕捉异常，try...except...）

　　4，被其他进程杀死（非自愿，如kill -9）

6，进程的层次结构

　　无论UNIX还是windows，进程只有一个父进程，不同的是：

1. 在UNIX中所有的进程，都是以init进程为根，组成树形结构。父子进程共同组成一个进程组，这样，当从键盘发出一个信号时，该信号被送给当前与键盘相关的进程组中的所有成员。

2. 在windows中，没有进程层次的概念，所有的进程都是地位相同的，唯一类似于进程层次的暗示，是在创建进程时，父进程得到一个特别的令牌（称为句柄）,该句柄可以用来控制子进程，但是父进程有权把该句柄传给其他子进程，这样就没有层次了。

7，进程的状态

tail -f access.log |grep ‘404‘

　　执行程序tail，开启一个子进程，执行程序grep，开启另外一个子进程，两个进程之间基于管道‘|‘通讯，将tail的结果作为grep的输入。

　　进程grep在等待输入（即I/O）时的状态称为阻塞，此时grep命令都无法运行

其实在两种情况下会导致一个进程在逻辑上不能运行，

1. 进程挂起是自身原因，遇到I/O阻塞，便要让出CPU让其他进程去执行，这样保证CPU一直在工作

2. 与进程无关，是操作系统层面，可能会因为一个进程占用时间过多，或者优先级等原因，而调用其他的进程去使用CPU。

因而一个进程由三种状态

 

8，进程并发的实现（了解）

　　进程并发的实现在于，硬件中断一个正在运行的进程，把此时进程运行的所有状态保存下来，为此，操作系统维护一张表格，即进程表（process table），每个进程占用一个进程表项（这些表项也称为进程控制块）

 

　　该表存放了进程状态的重要信息：程序计数器、堆栈指针、内存分配状况、所有打开文件的状态、帐号和调度信息，以及其他在进程由运行态转为就绪态或阻塞态时，必须保存的信息，从而保证该进程在再次启动时，就像从未被中断过一样。

3，开启子进程的两种方式

1，multiprocessing模块

  python中的多线程无法利用多核优势，如果想要充分地使用多核CPU的资源（os.cpu_count()查看），在python中大部分情况需要使用多进程。Python提供了multiprocessing。
    multiprocessing模块用来开启子进程，并在子进程中执行我们定制的任务（比如函数），该模块与多线程模块threading的编程接口类似。

　 multiprocessing模块的功能众多：支持子进程、通信和共享数据、执行不同形式的同步，提供了Process、Queue、Pipe、Lock等组件。

    需要再次强调的一点是：与线程不同，进程没有任何共享状态，进程修改的数据，改动仅限于该进程内。

2，Process类的介绍

 创建进程的类：

Process([group [, target [, name [, args [, kwargs]]]]])，由该类实例化得到的对象，表示一个子进程中的任务（尚未启动） 强调： 1. 需要使用关键字的方式来指定参数 2. args指定的为传给target函数的位置参数，是一个元组形式，必须有逗号

参数介绍：

group参数未使用，值始终为None

target表示调用对象，即子进程要执行的任务

args表示调用对象的位置参数元组，args=(1,2,‘egon‘,)

kwargs表示调用对象的字典,kwargs={‘name‘:‘egon‘,‘age‘:18}

name为子进程的名称

 方法介绍：

p.start()：启动进程，并调用该子进程中的p.run()

p.run():进程启动时运行的方法，正是它去调用target指定的函数，我们自定义类的类中一定要实现该方法

p.terminate():强制终止进程p，不会进行任何清理操作，如果p创建了子进程，该子进程就成了僵尸进程，使用该方法需要特别小心这种情况。如果p还保存了一个锁那么也将不会被释放，进而导致死锁

p.is_alive():如果p仍然运行，返回True

p.join([timeout]):主线程等待p终止（强调：是主线程处于等的状态，而p是处于运行的状态）。timeout是可选的超时时间，需要强调的是，p.join只能join住start开启的进程，而不能join住run开启的进程

 属性介绍：

p.daemon：默认值为False，如果设为True，代表p为后台运行的守护进程，当p的父进程终止时，p也随之终止，并且设定为True后，p不能创建自己的新进程，必须在p.start()之前设置

p.name:进程的名称

p.pid：进程的pid

3，Process类的使用

　　注意：在windows中Process()必须放到# if __name__ == ‘__main__‘:下

Since Windows has no fork, the multiprocessing module starts a new Python process and imports the calling module. 
If Process() gets called upon import, then this sets off an infinite succession of new processes (or until your machine runs out of resources). 
This is the reason for hiding calls to Process() inside

if __name__ == "__main__"
since statements inside this if-statement will not get called upon import.
由于Windows没有fork，多处理模块启动一个新的Python进程并导入调用模块。 
如果在导入时调用Process（），那么这将启动无限继承的新进程（或直到机器耗尽资源）。 
这是隐藏对Process（）内部调用的原，使用if __name__ == “__main __”，这个if语句中的语句将不会在导入时被调用。

详细解释

创建并开启子进程的两种方式

 

方式一

 

 1 # 方式一：
 2 from multiprocessing import Process  # 可以开启发起子进程调用
 3 import time
 4  
 5  
 6 def task(name):
 7     print(‘%s is running‘ % name)
 8     time.sleep(1)
 9     print(‘%s is done‘ % name)
10  
11  
12 if __name__ == ‘__main__‘:
13     # Process(target=task,kwargs={‘name‘:‘子进程1‘})  # kwargs可以按照字典的方式传参数，args按照位置的方式传参数
14     p = Process(target=task, args=(‘子进程1‘,))  # task后不加括号，加括号立马就会执行。args括号里面必须加逗号，组成一个元组
15     p.start()  # 仅仅只是给操作系统发送了一个信号，由操作系统将父进程地址空间中的数据拷贝给子进程，作为子进程运行的初始状态，开启后再运行task
16  
17     print(‘主‘)
18  
19 # 执行结果因为执行进程会有一段时间，所以先做打印操作

方式一 例一

 

import time
import random
from multiprocessing import Process

def piao(name):
    print(‘%s piaoing‘ %name)
    time.sleep(random.randrange(1,5))
    print(‘%s piao end‘ %name)

if __name__ == ‘__main__‘:
    #实例化得到四个对象
    p1=Process(target=piao,args=(‘egon‘,)) #必须加,号
    p2=Process(target=piao,args=(‘alex‘,))
    p3=Process(target=piao,args=(‘wupeqi‘,))
    p4=Process(target=piao,args=(‘yuanhao‘,))

    #调用对象下的方法，开启四个进程
    p1.start()
    p2.start()
    p3.start()
    p4.start()
    print(‘主‘)

方式一 例二

方式二

 1 # 方式二
 2 from multiprocessing import Process
 3 import time
 4 class MyProcess(Process):
 5     def __init__(self, name):
 6         super().__init__()  # 将父类的功能进行重用
 7         self.name = name
 8  
 9     def run(self):  # 这里一定要用run，下面start将调用这个run
10         print(‘%s is running‘ % self.name)
11         time.sleep(3)
12         print(‘%s is done‘ % self.name)
13  
14 if __name__ == ‘__main__‘:
15     p = MyProcess(‘子进程1‘)
16     p.start()  # 触发上面的run方法
17     print(‘主‘)

方式二 例一

import time
import random
from multiprocessing import Process

class Piao(Process):
    def __init__(self,name):
        super().__init__()
        self.name=name
    def run(self):
        print(‘%s piaoing‘ %self.name)

        time.sleep(random.randrange(1,5))
        print(‘%s piao end‘ %self.name)

if __name__ == ‘__main__‘:
    #实例化得到四个对象
    p1=Piao(‘egon‘)
    p2=Piao(‘alex‘)
    p3=Piao(‘wupeiqi‘)
    p4=Piao(‘yuanhao‘)

    #调用对象下的方法，开启四个进程
    p1.start() #start会自动调用run
    p2.start()
    p3.start()
    p4.start()
    print(‘主‘)

方式二 例二

4，查看进程的pid与ppid

使用pid和ppid可以分别查看子进程和父进程

 1 from multiprocessing import Process
 2 import time, os
 3  
 4 def task():
 5     print(‘%s is running,parent id is <%s>‘ % (os.getpid(), os.getppid()))  # 查看子进程和父进程
 6     time.sleep(3)
 7     print(‘%s is done,parent id is <%s>‘ % (os.getpid(), os.getppid()))
 8  
 9 if __name__ == ‘__main__‘:
10     p = Process(target=task,)
11     p.start()
12  
13     print(‘主‘, os.getpid(), os.getppid())  # 查看子进程和父进程，此时父进程为pycharm
14  
15 ###
16 主 7032 8916
17 14468 is running,parent id is <7032>
18 14468 is done,parent id is <7032>

5，Process对象的其他属性

　join方法

　　在主进程运行过程中如果想并发地执行其他的任务，我们可以开启子进程，此时主进程的任务与子进程的任务分两种情况

情况一：在主进程的任务与子进程的任务彼此独立的情况下，主进程的任务先执行完毕后，主进程还需要等待子进程执行完毕，然后统一回收资源。

情况二：如果主进程的任务在执行到某一个阶段时，需要等待子进程执行完毕后才能继续执行，就需要有一种机制能够让主进程检测子进程是否运行完毕，在子进程执行完毕后才继续执行，否则一直在原地阻塞，这就是join方法的作用

 1 # join方法
 2 from multiprocessing import Process
 3 import time,os
 4  
 5 def task():
 6     print(‘%s is running,parent id is <%s>‘ % (os.getpid(), os.getppid()))
 7     time.sleep(3)
 8     print(‘%s is done,parent id is <%s>‘ % (os.getpid(), os.getppid()))
 9  
10 if __name__ == ‘__main__‘:
11     p = Process(target=task,)
12     p.start()
13  
14     p.join()  # 加入join方法后一定会等到子进程结束以后才会执行主进程
15     print(‘主‘, os.getpid(), os.getppid())
16     print(p.pid)  # 验证了存在僵尸进程
17  
18 ###
19 5064 is running,parent id is <5796>
20 5064 is done,parent id is <5796>
21 主 5796 8916
22 5064

 join并发

from multiprocessing import Process
import time,os

def task(name,n):
    print(‘%s is running‘ % name)
    time.sleep(n)


if __name__ == ‘__main__‘:
    start = time.time()
    p1 = Process(target=task, args=(‘子进程1‘, 3))  # args根据位置传参
    p2 = Process(target=task, args=(‘子进程2‘, 1))
    p3 = Process(target=task, args=(‘子进程3‘, 2))
    p_l = [p1, p2, p3]

    p1.start()
    p2.start()
    p3.start()

    p1.join()  # 这三个仍然是并发执行，只是等待最长的程序执行完才结束
    p2.join()
    p3.join()

    print(‘主‘, (time.time()-start))

###
子进程1 is running
子进程2 is running
子进程3 is running
主 3.125457525253296

join 并发

 

 join串行

 

from multiprocessing import Process
import time,os

def task(name,n):
    print(‘%s is running‘ % name)
    time.sleep(n)


if __name__ == ‘__main__‘:
    start = time.time()
    p1 = Process(target=task, args=(‘子进程1‘, 3))  # args根据位置传参
    p2 = Process(target=task, args=(‘子进程2‘, 1))
    p3 = Process(target=task, args=(‘子进程3‘, 2))
    p_l = [p1, p2, p3]

from multiprocessing import Process
import time,os

def task(name,n):
    print(‘%s is running‘ % name)
    time.sleep(n)


if __name__ == ‘__main__‘:
    start = time.time()
    p1 = Process(target=task, args=(‘子进程1‘, 3))  # args根据位置传参
    p2 = Process(target=task, args=(‘子进程2‘, 1))
    p3 = Process(target=task, args=(‘子进程3‘, 2))
    p_l = [p1, p2, p3]

    p1.start()  # 每个都是执行完以后再进行下一步
    p1.join()  
    p2.start()
    p2.join()
    p3.start()
    p3.join()

    print(‘主‘, (time.time()-start))

###
子进程1 is running
子进程2 is running
子进程3 is running
主 6.322813510894775

View Code