python Scrapy库学习

Posted 戴怪兽

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python Scrapy库学习相关的知识,希望对你有一定的参考价值。

1生成项目:生成项目文件夹

scrapy startproject 项目名

2生成爬虫文件

scrapy genspider 爬虫名 指定域名

3进入items文件可以输入自己想要爬取的内容比如

text = scrapy.Field()
author = scrapy.Field()
tags = scrapy.Field()
4scrpapy shell 指定的网页地址

这样就可以在shell里面测试是否成功抓取元素

5启动一个爬虫项目

scrapy crawl 爬虫名(2里面填的爬虫名字)

6数据保存

scrapy crawl -o 文件名




以上是关于python Scrapy库学习的主要内容,如果未能解决你的问题,请参考以下文章

Scrapy学习-

Python编程基础之(五)Scrapy爬虫框架

Python中scrapy框架如何安装配置

Python网络爬虫Scrapy+MongoDB +Redis实战爬取腾讯视频动态评论教学视频

python常用包及主要功能

python库: scrapy (深坑未填)