python3下scrapy爬虫(第八卷:循环爬取网页多页数据）
Posted 我爱在伊甸园吃苹果
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了python3下scrapy爬虫(第八卷:循环爬取网页多页数据）相关的知识，希望对你有一定的参考价值。
之前我们做的数据爬取都是单页的现在我们来讲讲多页的
一般方式有两种目标URL循环抓取
另一种在主页连接上找规律，现在我用的案例网址就是 通过点击下一页的方式获取多页资源
话不多说全在代码里（因为刚才写这篇文章时电脑出现点问题所以没存下来，所以这一版本不会那么详细）
来 看下结果522*35条连接页面的数据爬取：
是不是很爽
以上是关于python3下scrapy爬虫(第八卷:循环爬取网页多页数据）的主要内容，如果未能解决你的问题，请参考以下文章
python3下scrapy爬虫(第十四卷：scrapy+scrapy_redis+scrapyd打造分布式爬虫之执行）
python3下scrapy爬虫(第十三卷：scrapy+scrapy_redis+scrapyd打造分布式爬虫之配置）