python Scrapy库学习
Posted 戴怪兽
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python Scrapy库学习相关的知识,希望对你有一定的参考价值。
1生成项目:生成项目文件夹
scrapy startproject 项目名
2生成爬虫文件
scrapy genspider 爬虫名 指定域名
3进入items文件可以输入自己想要爬取的内容比如
text = scrapy.Field()
author = scrapy.Field()
tags = scrapy.Field()
4scrpapy shell 指定的网页地址
这样就可以在shell里面测试是否成功抓取元素
5启动一个爬虫项目
scrapy crawl 爬虫名(2里面填的爬虫名字)
6数据保存
scrapy crawl -o 文件名
以上是关于python Scrapy库学习的主要内容,如果未能解决你的问题,请参考以下文章