CentOS6.5安装Scrapy

Posted hunttown

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了CentOS6.5安装Scrapy相关的知识,希望对你有一定的参考价值。

1、安装命令超级简单:

[[email protected] ~]# pip install Scrapy

建立软链接: 

[[email protected] ~]# ln -s /usr/local/python3/bin/scrapy /usr/bin/scrapy

  

2、但是Scrapy有6个依赖的python包:

  • lxml ,一个高效的XML和html解析器
  • parsel , 一个基于 lxml 的 HTML / XML 数据提取库
  • w3lib ,一个用于处理URL和网页编码的多用途助手
  • twisted, 一个异步的网络框架
  • cryptography 和 pyOpenSSL ,以处理各种网络级安全需求

Scrapy 经过测试支持的最低版本为:

  • Twisted 14.0
  • lxml 3.4
  • pyOpenSSL 0.14

 

3、以安装Twisted为例

下载安装包Twisted-18.7.0.tar.bz2:https://pypi.org/project/Twisted/

接下来:

[[email protected] ~]# tar jxvf Twisted-18.7.0.tar.bz2
[[email protected] ~]# cd Twisted-18.7.0
[[email protected] Twisted-18.7.0]# python3 setup.py build
[[email protected] Twisted-18.7.0]# python3 setup.py install

安装完毕!

 

以上是关于CentOS6.5安装Scrapy的主要内容,如果未能解决你的问题,请参考以下文章

scrapy主动退出爬虫的代码片段(python3)

scrapy按顺序启动多个爬虫代码片段(python3)

Python之Scrapy安装

centos6.5 安装python3.8

centos6.5搭建svn

Centos6.5安装部署Hive