Python进程锁和进程池

Posted 2020-09-02

进程锁

进程与进程之间是独立的，为何需要锁？

对于进程，屏幕的输出只有一个，此时就涉及到资源的竞争。在Linux的Python2.x中可能出现问题。

这仅仅是一种情况，多个进程之间虽然是独立的，但仅限于内存和运算，如果涉及到其它一些资源，

就可能存在竞争问题，在实际使用过程中要注意思考和防范错误。

from multiprocessing import Process, Lock
def func(lock, i):
    lock.acquire()
    print("hello,", i)
    lock.release()

if __name__ == "__main__":
    lock = Lock()
    for number in range(10):
        Process(target=func, args=(lock, number)).start()

进程池

进程的启动，是克隆的过程，某些情况下可能开销过大，所以需要引用“进程池”。

 

from multiprocessing import Process, Pool
import os, time

def foo(i):
    time.sleep(2)
    print("in foo", os.getpid())
    return i + 100

if __name__ == "__main__":
    pool = Pool(5)  # 允许进程池里同时放入5个进程
    for i in range(10):
        # pool.apply(func=foo, args=(i,))  # 同步执行，或者叫串行执行
        pool.apply_async(func=foo, args=(i,))  # 异步执行
    print(‘main end‘)
    pool.close()
    pool.join()  # 注意，这里要先close，然后再调用join，否则异步执行的线程池不会执行

注意，程序的执行结果是先打印main end,然后再打印新进程的显示。

from multiprocessing import Process, Pool
import os, time

def foo(i):
    time.sleep(2)
    print("in foo", os.getpid())
    return i + 1000

def bar(args):
    print("processes finished", args)

if __name__ == "__main__":
    pool = Pool(5)  # 允许进程池里同时放入5个进程
    for i in range(10):
        pool.apply_async(func=foo, args=(i,), callback=bar) # 带回调的进程
    print(‘main end‘)
    pool.close()
    pool.join()  # 注意，这里要先close，然后再调用join，否则异步执行的线程池不会执行
# 带callback的例子:主进程一直链接数据库，子进程执行完之后，通过回调写入数据库，不用再次链接
# 数据库，提高了效率，减少了资源浪费。
# 需要注意的是回调函数是主进程调用的，而且参数是进程函数的返回值。

本文出自 “kaman” 博客，谢绝转载！