scrapy运行姿势scrapy.cmdline.execute

Posted hightech

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了scrapy运行姿势scrapy.cmdline.execute相关的知识,希望对你有一定的参考价值。

 

scrapy的cmdline命令

1.启动爬虫的命令为:scrapy crawl (爬虫名)

2.还可以通过以下方式来启动爬虫

  方法一:创建一个.py文件(这里的爬虫文件名可以自己定义,例:myspider.py)

# -*- coding:utf-8 -*-
from scrapy import cmdline
# 方式一:注意execute的参数类型为一个列表
cmdline.execute(‘scrapy crawl spidername‘.split())
# 方式二:注意execute的参数类型为一个列表
cmdline.execute([‘scrapy‘, ‘crawl‘, ‘spidername‘])

  方法二:在终端通过 python myspider.py 也可以执行该文件。(一定要进入该目录再运行,否则提示project未启动)

runnings.py最后提一下吧,其实就是一个在python中运行cmd的命令

from scrapy import cmdline
# 方式一:注意execute的参数类型为一个列表
cmdline.execute(‘scrapy crawl spidername‘.split())

以上是关于scrapy运行姿势scrapy.cmdline.execute的主要内容,如果未能解决你的问题,请参考以下文章

Python安装Scrapy出现以下错误怎么办

ScrapingHub部署失败

python爬虫——论抓包的正确姿势和学好Javascript的重要性

创建Scrapy项目,创建spider,运行Scrapy

使用pycharm运行调试scrapy

浅析Scrapy框架运行的基本流程