scrapy 向爬虫服务发送请求

Posted qianxunman

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了scrapy 向爬虫服务发送请求相关的知识,希望对你有一定的参考价值。

技术图片

curl http://localhost:6800/schedule.json -d project=default -d spider=somespider

shell 命令请求转换为python 请求:

request.post(‘http://localhost:6800/schedule.json‘,data={‘project‘:‘default‘,‘spider‘:‘somespider‘}

以上是关于scrapy 向爬虫服务发送请求的主要内容,如果未能解决你的问题,请参考以下文章

Python爬虫编程思想(159):Scrapy中的爬虫中间件

Python爬虫编程思想(159):Scrapy中的爬虫中间件

Python爬虫编程思想(159):Scrapy中的爬虫中间件

scrapy按顺序启动多个爬虫代码片段(python3)

python爬虫scrapy入门8:发送POST请求

python爬虫scrapy入门8:发送POST请求