django 使用全局线程池

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了django 使用全局线程池相关的知识,希望对你有一定的参考价值。

参考技术A 系统里面有频繁的异步操作,每次触发异步操作就会开始一个新的线程处理相关逻辑,逻辑集中在I/O密集型;频繁的新建/销毁线程,消耗大量资源;由此,考虑使用线程池替换现有逻辑。

经过查询资料,python有ThreadPoolExecutor( tomorrow )可以直接实现线程池的相关功能,它的使用方式

具体使用方法见 ThreadPoolExecutor
ThreadPoolExecutor建立的线程池会先启动若干数量的线程,并让这些线程都处于睡眠状态,当向线程池submit一个任务后,会唤醒线程池中的某一个睡眠线程,让它来处理这个任务,当处理完这个任务,线程又处于睡眠状态。减少了建立销毁线程池消耗
在本项目里面的实现如下(定义的装饰器)

总体的原则是: CPU密集型任务应配置尽可能小的线程,尽量跟CPU的个数相近;IO密集型任务应配置尽可能多的线程,因为IO操作不占用CPU,不要让CPU闲下来,应加大线程数量。推荐的公式:

以上是关于django 使用全局线程池的主要内容,如果未能解决你的问题,请参考以下文章

GIL全局解释器锁和进程池.线程池

Django:线程池和 TooManyConnections

python GIL锁进程池与线程池同步异步

线程池

线程池源码分析

你分析过线程池源码吗?