scrapy -- 分布式爬虫

Posted 2022-04-29 zhiqianggege

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了scrapy -- 分布式爬虫相关的知识，希望对你有一定的参考价值。

##什么是分布式爬虫概念：我们需要搭建一个分布式的机群，让其对一组资源进行分布联合爬取。作用：提升爬取数据的效率 ##如何实现分布式安装一个scrapy-redis的组件： pip install scrapy_redis 原生的scarapy是不可以实现分布式爬虫，必须要让scrapy

以上是关于scrapy -- 分布式爬虫的主要内容，如果未能解决你的问题，请参考以下文章