安装scrapyd-client解决后期爬虫部署上线,打包成egg的方案

Posted songdongdong6

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了安装scrapyd-client解决后期爬虫部署上线,打包成egg的方案相关的知识,希望对你有一定的参考价值。

1.安装依赖库:

pip install scrapyd-client

2.验证是否成功

任意doc窗口打开

运行: scrapyd-deploy -h

如出现下图则证明成功:

技术分享图片

?

?

1.png

错误处理:

报错: ‘scrapyd-deploy‘ 不是内部或外部命令,也不是可运行的程序或批处理文件

解决:

1.进入自己电脑安装python 的位置,找到Scripts文件夹,进入

2.创建文件 scrapy.bat

利用文本编辑器打开,添加内容:(注:拷贝粘贴即可,将路径改成自己电脑的)

@echo off C:UsersAdministratorAppDataLocalProgramsPythonPython36python.exe C:UsersAdministratorAppDataLocalProgramsPythonPython36Scriptsscrapy %*

3.创建文件 scrapyd-deploy.bat

利用文本编辑器打开,添加内容:(注:拷贝粘贴即可,将路径改成自己电脑的)

@echo off C:UsersAdministratorAppDataLocalProgramsPythonPython36python.exe C:UsersAdministratorAppDataLocalProgramsPythonPython36Scriptsscrapyd-deploy %*

保存以上两个文件

然后运行 scrapyd-deploy -h即可

(注意:一定要指到自己的python.exe才行)

以上是关于安装scrapyd-client解决后期爬虫部署上线,打包成egg的方案的主要内容,如果未能解决你的问题,请参考以下文章

部署爬虫

scrapy-redis:部署scrapy

Scrapyd-Client的安装

分布式爬虫的部署之Scrapyd对接Docker

如何通过 Scrapyd + ScrapydWeb 简单高效地部署和监控分布式爬虫项目

如何部署Scrapy 到Scrapyd上?