scrapy写爬虫经历

Posted simuhunluo

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了scrapy写爬虫经历相关的知识,希望对你有一定的参考价值。

scrapy写爬虫经历

前一段时间自己做项目参赛,用scrapy爬了许多网课平台的数据,当时没咋总结。最近又要搞事情,总结一下吧。有啥想法都会在次记录下来。

1. 安装,使用

ubuntu 1604
docker+mysql5.7
anaconda>python3.6
pycharm

pip install scrapy 安装Scrapy

在pycharm新建一个项目,然后在终端输入:
scrapy startproject companys
就会自动建立一个文件树。如下图:
技术分享图片

2.

3.

4.

5.

6.

以上是关于scrapy写爬虫经历的主要内容,如果未能解决你的问题,请参考以下文章

爬虫框架Scrapy 之 --- scrapy文件

Scrapy框架-scrapy框架架构详解

零基础写python爬虫之使用Scrapy框架编写爬虫

Scrapy框架

爬虫日记(78):Scrapy的命令运行入口点

从零开始写Python爬虫 --- 2.1 Scrapy 爬虫框架的安装与基本介绍