多个scrapy 任务串联执行

Posted 天宝老爹

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了多个scrapy 任务串联执行相关的知识,希望对你有一定的参考价值。

from scrapy.cmdline import execute
import sys
import os
import time


def run():
    # 根据业务需求自定义设置每个任务运行时间,CLOSESPIDER_TIMEOUT
    # while 1:
    print(111)
    os.system("scrapy crawl zhaoliangji_ttl")
    print(222)
    os.system("scrapy crawl zhaoliangji_sales")
    print(333)
    # os.system("scrapy crawl py3 -s CLOSESPIDER_TIMEOUT=1200")

run()

 

以上是关于多个scrapy 任务串联执行的主要内容,如果未能解决你的问题,请参考以下文章

python爬虫scrapy之如何同时执行多个scrapy爬行任务

在 TabLayout 和 ViewPager2 中执行异步任务后更新具有相同布局的多个片段

执行代码时有时不显示对话框片段

scrapy主动退出爬虫的代码片段(python3)

多个用户访问同一段代码

爬虫日记(93):Twisted的设计模型