pycharm下虚拟环境执行并调试scrapy爬虫程序

Posted 月下柳梢映

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了pycharm下虚拟环境执行并调试scrapy爬虫程序相关的知识,希望对你有一定的参考价值。

 

配置scrapy环境

分别pip install Zope.Interface、Twisted、w3lib、lxml、pyOpenSSL、Scrapy

新建爬虫项目,pycharm运行

我的项目名称为RadioCrawl
文件夹为

技术分享
Paste_Image.png


新建main.py
from scrapy import cmdline

cmdline.execute("scrapy crawl playlist".split())
表示用命令行的方式执行我的名为playlist的爬虫程序

用pycharm打开项目

技术分享
Paste_Image.png
打开Edit Configurations
技术分享
Paste_Image.png
调试

可以在其他代码中设置断点,debug运行

技术分享
Paste_Image.png
技术分享










以上是关于pycharm下虚拟环境执行并调试scrapy爬虫程序的主要内容,如果未能解决你的问题,请参考以下文章

pycharm下运行和调试scrapy项目

在pycharm中使用scrapy爬虫

在Pycharm中运行Scrapy爬虫项目的基本操作

爬虫框架Scrapy入门——爬取acg12某页面

4.python爬虫之新建 scrapy 爬虫项目(抓取和保存)

使用pycharm运行调试scrapy