python Scrapy库学习

Posted 戴怪兽

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python Scrapy库学习相关的知识,希望对你有一定的参考价值。

1生成项目:生成项目文件夹

scrapy startproject 项目名

2生成爬虫文件

scrapy genspider 爬虫名 指定域名

3进入items文件可以输入自己想要爬取的内容比如

text = scrapy.Field()
author = scrapy.Field()
tags = scrapy.Field()
4scrpapy shell 指定的网页地址

这样就可以在shell里面测试是否成功抓取元素

5启动一个爬虫项目

scrapy crawl 爬虫名(2里面填的爬虫名字)

6数据保存

scrapy crawl -o 文件名




以上是关于python Scrapy库学习的主要内容,如果未能解决你的问题,请参考以下文章