python爬虫 threading 多线程 ThreadPoolExecutor线程池

Posted 皓月盈江

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python爬虫 threading 多线程 ThreadPoolExecutor线程池相关的知识,希望对你有一定的参考价值。

1.创建多线程,无参数
main.py

"""=== coding: UTF8 ==="""
# 线程类
from threading import Thread


class myThread(Thread):
    def run(self):  # 当线程被执行的时候,被执行的就是run()
        for i in range(1000):
            print("子线程", i)


"""
========================================
主函数功能测试
========================================
"""
if __name__ == '__main__':
    t = myThread()
    # t.run()  # 千万不能用该方法,如果用该方法的调用,那就是单线程???
    t.start()  # 开启线程

    for i in range(1000):
        print("主线程", i)
        

2.创建多线程,传参数

"""=== coding: UTF8 ==="""
# 线程类
from threading import Thread


class myThread(Thread):
    def __init__(self, name):
        super().__init__()
        self.name = name

    def run(self):  # 当线程被执行的时候,被执行的就是run()
        for i in range(1000):
            print(self.name, i)


"""
========================================
主函数功能测试
========================================
"""
if __name__ == '__main__':
    t1 = myThread("子线程1")
    # t1.run()  # 千万不能用该方法,如果用该方法的调用,那就是单线程???
    t1.start()  # 开启线程

    t2 = myThread("子线程2")
    # t2.run()  # 千万不能用该方法,如果用该方法的调用,那就是单线程???
    t2.start()  # 开启线程

    for i in range(1000):
        print("主线程", i)

3.线程池
main.py

"""=== coding: UTF8 ==="""
# 线程池:一次性开辟一些线程,我们用户直接给线程池提交任务,线程任务的调度交给线程池来完成
from concurrent.futures import ThreadPoolExecutor


def func(name):
    for i in range(1000):
        print(name, i)


"""
========================================
主函数功能测试
========================================
"""
if __name__ == '__main__':
    # 创建线程池优50个线程
    with ThreadPoolExecutor(50) as pool:
        for n in range(100):  # 100个任务
            pool.submit(func, name=f"线程{n}")

    # 等待线程池中的任务全部执行完毕,才能继续执行(守护)
    print("完毕")

关注公众号,获取更多资料

以上是关于python爬虫 threading 多线程 ThreadPoolExecutor线程池的主要内容,如果未能解决你的问题,请参考以下文章

Python爬虫—多线程的简单示例

python多线程爬虫的简单例子

Python3多线程爬虫实例讲解

Python爬虫编程思想(138):多线程和多进程爬虫--从Thread类继承

Python爬虫编程思想(138):多线程和多进程爬虫--从Thread类继承

Python爬虫编程思想(137):多线程和多进程爬虫--Thread类与线程对象