110 python程序中的进程操作-开启多进程

Posted xichenhome

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了110 python程序中的进程操作-开启多进程相关的知识,希望对你有一定的参考价值。

之前我们已经了解了很多进程相关的理论知识,了解进程是什么应该不再困难了,刚刚我们已经了解了,运行中的程序就是一个进程。所有的进程都是通过它的父进程来创建的。因此,运行起来的python程序也是一个进程,那么我们也可以在程序中再创建进程。多个进程可以实现并发效果,也就是说,当我们的程序中存在多个进程的时候,在某些时候,就会让程序的执行速度变快。以我们之前所学的知识,并不能实现创建进程这个功能,所以我们就需要借助python中强大的模块。

一、multiprocess模块

仔细说来,multiprocess不是一个模块而是python中一个操作、管理进程的包。 之所以叫multi是取自multiple的多功能的意思,在这个包中几乎包含了和进程有关的所有子模块。由于提供的子模块非常多,为了方便大家归类记忆,我将这部分大致分为四个部分:创建进程部分,进程同步部分,进程池部分,进程之间数据共享。

二、multiprocess.process模块

process模块是一个创建进程的模块,借助这个模块,就可以完成进程的创建。

三、process模块介绍

Process([group [, target [, name [, args [, kwargs]]]]]),由该类实例化得到的对象,表示一个子进程中的任务(尚未启动)

强调:

  1. 需要使用关键字的方式来指定参数
  2. args指定的为传给target函数的位置参数,是一个元组形式,必须有逗号

参数介绍:

  • group参数未使用,值始终为None
  • target表示调用对象,即子进程要执行的任务
  • args表示调用对象的位置参数元组,args=(1,2,‘egon‘,)
  • kwargs表示调用对象的字典,kwargs=‘name‘:‘egon‘,‘age‘:18
  • name为子进程的名称

3.1方法介绍

  • p.start():启动进程,并调用该子进程中的p.run()
  • p.run():进程启动时运行的方法,正是它去调用target指定的函数,我们自定义类的类中一定要实现该方法
  • p.terminate():强制终止进程p,不会进行任何清理操作,如果p创建了子进程,该子进程就成了僵尸进程,使用该方法需要特别小心这种情况。如果p还保存了一个锁那么也将不会被释放,进而导致死锁
  • p.is_alive():如果p仍然运行,返回True
  • p.join([timeout]):主线程等待p终止(强调:是主线程处于等的状态,而p是处于运行的状态)。timeout是可选的超时时间,需要强调的是,p.join只能join住start开启的进程,而不能join住run开启的进程

3.2属性介绍

  • p.daemon:默认值为False,如果设为True,代表p为后台运行的守护进程,当p的父进程终止时,p也随之终止,并且设定为True后,p不能创建自己的新进程,必须在p.start()之前设置
  • p.name:进程的名称
  • p.pid:进程的pid
  • p.exitcode:进程在运行时为None、如果为–N,表示被信号N结束(了解即可)
  • p.authkey:进程的身份验证键,默认是由os.urandom()随机生成的32字符的字符串。这个键的用途是为涉及网络连接的底层进程间通信提供安全性,这类连接只有在具有相同的身份验证键时才能成功(了解即可)

3.3在windows中使用process模块的注意事项

在Windows操作系统中由于没有fork(linux操作系统中创建进程的机制),在创建子进程的时候会自动 import 启动它的这个文件,而在 import 的时候又执行了整个文件。因此如果将process()直接写在文件中就会无限递归创建子进程报错。所以必须把创建子进程的部分使用if __name__ ==‘__main__‘ 判断保护起来,import 的时候,就不会递归运行了。

四、使用process模块创建进程

在一个python进程中开启子进程,start方法和并发效果。

4.1在python中启动的第一个子进程

# 没有参数的,开启单个子进程
from multiprocessing import Process
import  time

def talk():
    print('开启子进程start')
    time.sleep(1)
    print('结束子进程end')

if __name__ == '__main__':
     p = Process(target=talk)
     p.start() # 告诉操作系统,我要开启子进程,仅仅是开启子进程就完了,接着走下面的代码,具体操作系统什么时候开是操作系统的事情
     print('主进程/父进程')

主进程/父进程
开启子进程start
结束子进程end

# 带有参数的,开启多个子进程
def talk(name):
    print(f'name子进程start')
    time.sleep(1)
    print(f'name子进程end')

if __name__ == '__main__':
    p = Process(target=talk,args=('xichen',))
    p1 = Process(target=talk,args = ('nick',))
    p.start()
    p1.start()
    print('主进程/父进程')

主进程/父进程
xichen子进程start
nick子进程start
xichen子进程end
nick子进程end

注意:开启多个进程的时候,操作系统先开启哪一个进程是我们控制不了的,这是操作系统自己所拥有的调度机制

4.2继承Process来开启进程

class Test(Process):
    def __init__(self,name):
        super().__init__()
        self.name = name

    def run(self):
        print(f'子进程self.name-->start')
        time.sleep(1)
        print(f'子进程self.name-->end')

if __name__ == '__main__':
    p = Test('xichen')
    p1 = Test('nick')
    p.start() # 向操作系统发送开启子进程,这个时候会自动触发Test类的run方法
    p1.start()
    print('主进程/子进程')

主进程/子进程
子进程xichen-->start
子进程nick-->start
子进程xichen-->end
子进程nick-->end

4.3 join 方法

  • join方法:是在子进程开启的时候加了堵塞,就是父进程必须要等待子进程的结束,才结束父进程
def f1():
    print('子进程start')
    time.sleep(2)
    print('子进程end')

if __name__ == '__main__':
    print('开始父进程')
    p = Process(target=f1)
    p.start()

    p.join() # 是父进程要等待子进程结束后,再启动父进程
    # time.sleep(5) 其实核心其实就是在启动主进程的之前加一个延时,让他等子进程结束后再执行
    print('我是父进程,等待子进程运行结束再结束')

开始父进程
子进程start
子进程end
我是父进程,等待子进程运行结束再结束

1.join方法实现多个子进程并行结束后,在结束父进程
from multiprocessing import Process
import time

def f(i):
    print(f'进程i start')
    time.sleep(i)
    print(f'进程i end')

if __name__ == '__main__':
    print('开始父进程')
    p1 = Process(target=f,args=(1,))
    p2 = Process(target=f,args=(2,))
    p3 = Process(target=f,args=(3,))
    start = time.time()
    p1.start()
    p2.start()
    p3.start()

    # join核心就是将程序堵塞在这里,主进程需要等待子进程结束以后,在去执行
    p1.join()
    p2.join()
    p3.join()
    end = time.time()
    # 总时长:按照最长的时间计算多一点
    print('程序执行的时间:',end - start) # 3s多,因为执行的进程是在一个时间的
    print('启动父进程')

开始父进程
进程1 start
进程2 start
进程3 start
进程1 end
进程2 end
进程3 end
程序执行的时间: 3.5759353637695312
启动父进程

2.join方法实现多个子进程串行结束后,在结束父进程

# 用Process类来创建多个子进程,并且用join方法让父进程等待着子进程结束以后,在结束父进程
# 但是这样太耗费时间了,还不如直接调用我们写的函数实现
# 1.实现多个进程串行结束以后,在结束掉父进程
def f(i):
    print(f'子进程i start')
    time.sleep(i)
    print(f'子进程i end')


if __name__ == '__main__':
    print('开始父进程')
    p1 = Process(target=f,args=(1,))
    p2 = Process(target=f,args=(2,))
    p3 = Process(target=f,args=(3,))
    start = time.time()

    p1.start()
    p1.join()

    p2.start()
    p2.join()

    p3.start()
    p3.join()

    end = time.time()
    print('程序执行的总时长:',end-start) # 7s多,
    print('结束父进程')
    
  
# 2.直接利用函数调用的方法来实现多个子进程串行的结束
# def f1(i):
#     print(f'子进程i start')
#     time.sleep(i)
#     print(f'子进程i end')
#
# if __name__ == '__main__':
#     print('开启主进程')
#     start = time.time()
#     f1(1)
#     f1(2)
#     f1(3)
#     end = time.time()
#     print('程序执行的总时间:',end - start) # 6秒多,
#     print('结束父进程')
开启主进程
子进程1 start
子进程1 end
子进程2 start
子进程2 end
子进程3 start
子进程3 end
程序执行的总时间: 6.001583814620972
结束父进程

开始父进程
子进程1 start
子进程1 end
子进程2 start
子进程2 end
子进程3 start
子进程3 end
程序执行的总时长: 7.081932783126831
结束父进程

3.优化join实现多个子进程并行结束后,结束父进程
# 对join实现多个子进程并行结束在结束主进程,做了优化,
# 我们不用在创建多个子进程的时候,每次用Process类来实例化一个新的进程对象
# 可以直接使用循环,这样更方便简洁一些
def f(i):
    print(f'子进程i start')
    time.sleep(i)
    print(f'子进程i end')

if __name__ == '__main__':
    print('开始执行主进程')
    p_lst = []
    start = time.time()
    for i in range(1,4):
        p = Process(target=f,args=(i,))
        p_lst.append(p)
        p.start()
    for p in p_lst:
        p.join()

    end = time.time()
    print('结束主进程')
    print('程序执行的总时长:',end-start)

开始执行主进程
子进程2 start
子进程1 start
子进程3 start
子进程1 end
子进程2 end
子进程3 end
结束主进程
程序执行的总时长: 3.49997878074646

4.4 Process类查看进程号的方法

  • Process类查看进程号(id号)
  • pid 直接用进程对象.pid是在主进程里查看子进程的pip号
  • os.getpid 可以在子进程里查看子进程的进程号、可以在父进程里查看父进程的进程号
  • os.getppid 可以在子进程里查看子进程的父进程的进程号、可以在父进程里查看父进程的父进程号
  • current_process().pid 查看当前进程的进程号
from multiprocessing import Process
import os,time

def f(i):
    print(f'子进程i  start')
    print('在子进程中查看自己的进程号pid:',os.getpid(),'在子进程中查看父进程的进程号pid:',os.getppid())
    time.sleep(i)
    print(f'子进程i  end')

if __name__ == '__main__':
    print('开始父进程')
    p = Process(target=f,args=(1,))
    p.start()
    p.join()

    print('在父进程中查看子进程的进程号pid:',p.pid,'在父进程中查看主进程进程号:',os.getpid()
              ,'在父进程中查看父进程的父进程号pid:',os.getppid())
    print('结束父进程')

开始父进程
子进程1 start
在子进程中查看自己的进程号pid: 15352 在子进程中查看父进程的进程号pid: 12416
子进程1 end
在父进程中查看子进程的进程号pid: 15352 在父进程中查看主进程进程号: 12416 在父进程中查看父进程的父进程号pid: 12248
结束父进程

4.5 进程对象的terminate和is_alive方法

  • terminate 是用来关闭进程的
  • is_alive 是判断一个进程的存活状态的,返回True/Flase
from multiprocessing import Process
import os
import time

# 1.terminate 方法
def f(i):
    print(f'子进程i  start')
    time.sleep(i)
    print(f'子进程i  end')

if __name__ == '__main__':
    print('开始执行父进程')
    p = Process(target=f,args=(1,))
    p.start()

    p.terminate() # 用来关闭打开的子进程,但是他不会立马关闭,所以is_alive查看进程存活状态的时候,不一定是已经死了
    print(p.is_alive())
    p.join()
    print(p.is_alive())
    print('结束父进程')

开始执行父进程
True
False
结束父进程

4.6 current_Process方法

  • current_process 方法是用来查看当前进程的进程名字,进程号
  • current_process().name
  • current_process().pid
import time
from multiprocessing import Process,current_process

def f(i):
    print(f'子进程i  start')
    print(f'当前进程i的名字为:',current_process().name)
    print(f'当前进程i的进程号为:',current_process().pid)
    print(f'子进程i  end')

if __name__ == '__main__':
    print('开始执行父进程')
    p1 = Process(target=f,args=(1,))
    p2 = Process(target=f,args=(2,))
    p3 = Process(target=f,args=(3,))

    p1.start()
    p1.join()

    p2.start()
    p2.join()

    p3.start()
    p3.join()

    print('结束父进程')

开始执行父进程
子进程1 start
当前进程1的名字为: Process-1
当前进程1的进程号为: 6232
子进程1 end
子进程2 start
当前进程2的名字为: Process-2
当前进程2的进程号为: 14552
子进程2 end
子进程3 start
当前进程3的名字为: Process-3
当前进程3的进程号为: 12896
子进程3 end
结束父进程

4.7 进程的name属性

  • 利用继承Process类来创建进程的时候,涉及了进程对象的属性问题
from multiprocessing import Process
class Mydata(Process):
    def __init__(self,name):
        # self.name = name  # 这里的name属性是Process类的name属性,表示的是当前进程的名字,打印进程的名字的时候
        # 打印的并不是我们需要的实例化进程时给的初始值
        开始执行父进程
        子进程Mydata-1 start
        子进程Mydata-1 start
        结束父进程
        super().__init__() # 在这里执行父类Process的__init__方法的时候,process里的init方法由会将name属性的值给覆盖掉
        self.name = name # 如果不想要覆盖掉我们的name属性值的话,我们需要在super()后面对进程对象的name属性值赋值

    def run(self):
        print(f'子进程self.name start')
        print(f'子进程self.name start')

if __name__ == '__main__':
    print('开始执行父进程')
    p = Mydata('xichen')
    p.start()
    p.join()
    print('结束父进程')

开始执行父进程
子进程xichen start
子进程xichen start
结束父进程

五、守护进程

  • 守护进程就是伴随某一个子进程
  • 本质也是一个子进程
  • 主进程的代码执行完毕守护进程直接结束。
  • 但是此时主进程可能没有结束.
  • 定义守护进程:进程对象.daemon = True 就是把这个进程定义为守护进程
  • p.daemon=True一定要在p.start()前设置,设置p为守护进程,禁止p创建子进程,并且父进程代码执行结束,p即终止运行
from multiprocessing import Process
import time
def foo(i):
    print(f'守护进程i start')
    time.sleep(2)
    print(f'守护进程i end')


def fo(i):
    print(f'子进进程i start')
    time.sleep(2)
    print(f'子进进程i end')

if __name__ == '__main__':
    print('开始执行父进程')
    p = Process(target=foo,args=(1,))
    p1 = Process(target=fo,args=(2,))
    p.daemon = True # 把这个子进程定义为了守护进程
    # 它不会影响p2这个进程对象的执行
    p.start()
    p1.start()
    time.sleep(1)
    print('父进程结束')

开始执行父进程
子进进程2 start
守护进程1 start
父进程结束
子进进程2 end

六、使用多进程实现socket聊天并发

6.1使用多进程实现socket聊天并发——server

# Author:xichen
# @Time:2019/9/1114:24
import socket
from multiprocessing import Process

server = socket.socket(socket.AF_INET,socket.SOCK_STREAM)
server.setsockopt(socket.SOL_SOCKET,socket.SO_REUSEADDR,1)
server.bind(('192.168.11.78',8002))
server.listen(10)

def Mydata(conn,client_addr):
    while True:
        try:

            data = conn.recv(1024)
            if not data:
                conn.close()
                break
            print('子进程的数据为:',data)
            conn.send(data.upper())
            print('向子进程发送的数据为:',data.upper().decode('utf8'))
        except Exception:
            break

if __name__ == '__main__':
    while True:
        conn,client_addr = server.accept()
        print(f'开启子进程:地址为:client_addr')
        p = Process(target = Mydata,args=(conn,client_addr))
        p.start()

6.2使用多进程实现socket聊天并发——client

import socket

client = socket.socket()
client.connect(('192.168.11.78',8002))

while True:
    data = input('开始发送数据:')
    if not data:
        break
    client.send(data.encode('utf8'))
    msg = client.recv(1024)
    print('接收服务端返回

七、进程之间的数据隔离问题

进程之间的数据隔离问题

rom multiprocessing import Process
import time

x = 0
def task():
    global x
    x = 100
    print('子进程的x修改为了'.format(x))

if __name__ == '__main__':
    p = Process(target=task)
    p.start()
    time.sleep(5)
    print(x) 

子进程的x修改为了100

0

以上是关于110 python程序中的进程操作-开启多进程的主要内容,如果未能解决你的问题,请参考以下文章

python中的多线程和多进程编程

111 python程序中的进程操作-多进程同步(mulitProcessing Lock锁)

进程相关操作

进程,操作系统,Python并发编程之多进程

并发编程-多线程

并发编程之多进程操作