多个scrapy 任务串联执行
Posted 天宝老爹
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了多个scrapy 任务串联执行相关的知识,希望对你有一定的参考价值。
from scrapy.cmdline import execute import sys import os import time def run(): # 根据业务需求自定义设置每个任务运行时间,CLOSESPIDER_TIMEOUT # while 1: print(‘111‘) os.system("scrapy crawl zhaoliangji_ttl") print(‘222‘) os.system("scrapy crawl zhaoliangji_sales") print(‘333‘) # os.system("scrapy crawl py3 -s CLOSESPIDER_TIMEOUT=1200") run()
以上是关于多个scrapy 任务串联执行的主要内容,如果未能解决你的问题,请参考以下文章
python爬虫scrapy之如何同时执行多个scrapy爬行任务