python 并行处理数据

Posted 一杯明月

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python 并行处理数据相关的知识,希望对你有一定的参考价值。

来源:https://blog.csdn.net/weixin_42001089/article/details/88843152

import multiprocessing
import time
import os
print("温馨提示:本机为",os.cpu_count(),"核CPU")  
 
def func(msg):
    print "msg:", msg
    time.sleep(3)
    print "end"
 
if __name__ == "__main__":
    #这里开启了4个进程
    pool = multiprocessing.Pool(processes = 4)
    for i in xrange(4):
        msg = "hello %d" %(i)
        pool.apply_async(func, (msg, ))   
 
    pool.close()
    pool.join()   #调用join之前,先调用close函数,否则会出错。执行完close后不会有新的进程加入到pool,join函数等待所有子进程结束
    print "Successfully"

 

以上是关于python 并行处理数据的主要内容,如果未能解决你的问题,请参考以下文章

并行LINQ PLinq

python 并行处理数据

python常用代码片段总结

你如何在 python 中处理 graphql 查询和片段?

[python 并行1]简介

如何使用 Python Ray 在不耗尽内存的情况下并行处理大量数据?