python 线程进程并发并行协程进程池互斥锁

Posted 我和姚明一样高

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python 线程进程并发并行协程进程池互斥锁相关的知识,希望对你有一定的参考价值。

进程

进程,直观点说,保存在硬盘上的程序运行以后,会在内存空间里形成一个独立的内存体,这个内存体有自己独立的地址空间,有自己的堆。

上级挂靠单位是操作系统。操作系统会以进程为单位,分配系统资源(CPU时间片、内存等资源)。进程是资源分配的最小单位

 

 

 

进程是线程的容器。程序是指令,数据及其组织形式的描述,进程是程序的实体
进程是一个实体。每一个进程都有它自己的地址空间,一般情况下,包括文本区域、数据区域、堆栈

特点:
结构特征:进程由程序、数据和进程控制块三部分组成。 
异步性:由于进程间的相互制约,使进程具有执行的间断性,即进程按各自独立的、不可预知的速度向前推进 
独立性:进程是一个能独立运行的基本单位,同时也是系统分配资源和调度的独立单位; 
并发性:任何进程都可以同其他进程一起并发执行 
动态性:进程的实质是程序在多道程序系统中的一次执行过程,进程是动态产生,动态消亡的。 

线程

线程,有时被称为轻量级进程(Lightweight Process,LWP),是程序执行流的最小单元。一个标准的线程由线程ID,当前指令指针(PC),寄存器集合和堆栈组成。
另外,线程是进程中的一个实体,是被系统独立调度和分派的基本单位,线程自己不拥有系统资源。
只拥有一点儿在运行中必不可少的资源,但它可与同属一个进程的其它线程共享进程所拥有的全部资源。

线程与进程的区别

线程是程序中一个单一的顺序控制流程。
进程内有一个相对独立的、可调度的执行单元,是系统独立调度和分派CPU的基本单位指令运行时的程序的调度单位。
在单个程序中同时运行多个线程完成不同的工作,称为多线程

线程特点

在多线程OS中,通常是在一个进程中包括多个线程。

每个线程都是作为利用CPU的基本单位,是花费最小开销的实体。

由于线程很“轻”,故线程的切换非常迅速且开销小(在同一进程中的)。 

在一个进程中的多个线程之间,可以并发执行,甚至允许在一个进程中所有线程都能并发执行;

同样,不同进程中的线程也能并发执行,充分利用和发挥了处理机与外围设备并行工作的能力。 

协程

协程不是进程或线程,其执行过程更类似于子例程,或者说不带返回值的函数调用。

一个程序可以包含多个协程,可以对比与一个进程包含多个线程, 

线程和协程的区别

因而下面我们来比较协程和线程。我们知道多个线程相对独立,有自己的上下文,切换受系统控制;

而协程也相对独立,有自己的上下文,但是其切换由自己控制,由当前协程切换到其他协程由当前协程来控制。 当前协程控制切换到其他协程

协程避免了无意义的调度,由此可以提高性能,但也因此,程序员必须自己承担调度的责任,同时,协程也失去了标准线程使用多CPU的能力

进程和线程的关系

 

地址空间:进程内的一个执行单元;进程至少有一个线程;它们共享进程的地址空间;而进程有自己独立的地址空间;因此线程可以读写同样的数据结构和变量,便于线程之间的通信。相反,进程间通信(IPC)很困难且消耗更多资源。
资源拥有:进程是资源分配和拥有的单位,同一个进程内的线程共享进程的资源 

比如上面图的进程2里面的线程2、3、4都一起共享进程里面的资源
进程是资源的分配和调度的一个独立单元,而线程是CPU调度的基本单元 
二者均可并发执行. 

优缺点:

线程和进程在使用上各有优缺点:线程执行开销小,但不利于资源的管理和保护;而进程正相反

图解: 

计算机的核心是CPU,它承担了所有的计算任务。它就像一座电工厂,时刻在运行。

 

 

 

1 假定工厂的电力有限,一次只能供给一个车间使用。
2 
3 
4 也就是说,一个车间开工的时候,其他车间都必须停工。
5 
6 
7 背后的含义就是,单个CPU一次只能运行一个任务。 

 

 

进程就好比工厂的车间,它代表CPU所能处理的单个任务。

任一时刻,CPU总是运行一个进程,其他进程处于非运行状态

 

 

 

 

一个车间里,可以有很多工人。他们协同完成一个任务。 

 

 

 

 

线程就好比车间里的工人。一个进程可以包括多个线程。 相当于一个车间里面有很多工人,可以说是一个进程里面有很多线程

 

 

 

车间的空间是工人们共享的。比如许多房间是每个工人都可以进出的。

相对于以下解释:

这象征一个进程的内存空间是共享的,每个线程都可以使用这些共享内存。

 

 

 

可是,每间房间的空间大小不同,有些房间最多只能容纳一个人,比如厕所。

里面有人的时候,其他人就不能进去了。

这代表一个线程使用某些共享内存时,其他线程必须等它结束,才能使用这一块内存。

 

一个防止他人进入的简单方法,就是门口加一把锁。

先到的人锁上门,后到的人看到上锁,就在门口排队,等锁打开再进去。

这就叫”互斥锁”(Mutual exclusion,缩写 Mutex),防止多个线程同时读写某一块内存区域。

 

还有些房间,可以同时容纳n个人,比如厨房。

也就是说,如果人数大于n,多出来的人只能在外面等着。这好比某些内存区域,只能供给固定数目的线程使用。

 

 

 

这时的解决方法,就是在门口挂n把钥匙。进去的人就取一把钥匙,出来时再把钥匙挂回原处。后到的人发现钥匙架空了,就知道必须在门口排队等着了。

这种做法叫做”信号量”(Semaphore),用来保证多个线程不会互相冲突。

 

不难看出,mutex是semaphore的一种特殊情况(n=1时)。互斥锁。

也就是说,完全可以用后者替代前者。但是,因为mutex较为简单,且效率高,所以在必须保证资源独占的情况下,还是采用这种设计。

总结

(1)以多进程形式,允许多个任务同时运行;并发

(2)以多线程形式,允许单个任务分成不同的部分运行;【互斥锁、信息量、内存空间分享】

(3)提供协调机制,一方面防止进程之间和线程之间产生冲突,另一方面允许进程之间和线程之间共享资源。

 

 

以上是关于python 线程进程并发并行协程进程池互斥锁的主要内容,如果未能解决你的问题,请参考以下文章

测开之并发编程篇・《并发并行线程队列进程和协程》

并发编程小结

Python3 网络编程和并发编程总结

Python进程线程协程篇

Python之进程线程协程篇

27 Apr 18 GIL 多进程多线程使用场景 线程互斥锁与GIL对比 基于多线程实现并发的套接字通信 进程池与线程池 同步异步阻塞非阻塞