scrapy的暂停与重启

Posted artisticmonk

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了scrapy的暂停与重启相关的知识,希望对你有一定的参考价值。

首先把爬虫写好后————》在同级文件夹新建一个文件夹(类似于日志)info————》接下来打开命令行cd到这个爬虫

————》输入命令:

scrapy crawl spider -s JOBDIR=info/001   开启
ctrl+c 暂停
注意不能按两次,两次是强制退出了,不是暂停了

暂停之后需要重启第一行命令:scrapy crawl spider -s JOBDIR=info/001

custom_settings = {

  "JOBDIR":"info/001"

}

或者直接在settings上设置

"JOBDIR":"info/001"

尽量在命令行上做

 

以上是关于scrapy的暂停与重启的主要内容,如果未能解决你的问题,请参考以下文章

scrapy的暂停与重启

scrapy暂停和重启,及url去重原理

Scrapy爬虫的暂停和启动

scrapy框架爬虫的暂停和启动

Scrapy学习-17-暂停和重启

Spider-scrapy断点续爬