windows下Scrapy爬虫框架

Posted 北冥有鱼,南冥有猫

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了windows下Scrapy爬虫框架相关的知识,希望对你有一定的参考价值。

 1.   安装python 根据你的需求下载python安装包,安装python(本文基于python27)https://www.python.org/downloads/
   下载完安装默认安装路径,方便后续

  在 环境变量---"Path"中加入路径:"C:\\Python27;C:\\Python27\\Scripts;"
  在运行中输入"cmd"打开命令窗口,输入"python --version",如果成功显示python版本号,则python安装成功!如果未显示,则重启计算机!  

2.   安装pywin32

  根据需要下载相应的pywin32安装包
   https://sourceforge.net/projects/pywin32/files/pywin32/Build%20217/

   版本号:选中前两个任一个打开

  博主的python是32位,所以选中下载下方这个:(看自己安装的python的位数直接打开cmd,输入python就可以了,32位是这样显示的:Python 2.7.2+ ... [MSC v.1500 32 bit (Intel)] on win32)

  

3.   安装pip 一般为python默认安装好的,在"安装目录/python27/Scripts"目录中有"pip.exe"则默认安装成功;

   若python未默认安装,在安装pip前,请确认你win系统中已经安装好了python,和easy_install工具,如果系统安装成功,easy_install在目录C:\\Python27\\Scripts 下面
  进入命令行,然后把目录切换到python的安装目录下的Script文件夹下,运行 easy_inatall pip
  重启cmd命令窗口,输入"pip --version",若显示pip版本号,则安装成功!
4. 安装lxml  
  若系统未安装vs2008,则安装lxml 前,先安装vcforpython27。   在
https://pypi.python.org/pypi/lxml/3.6.0#downloads 中下载lxml for 2.7,下载安装。

5.   安装pyOpenSSL

重启cmd命令窗口,用pip安装openSSL,输入命令"pip install pyOpenSSL"

6.  安装scrapy

  重启cmd命令窗口,用pip安装openSSL,输入命令"pip install scrapy" 
  等待自动安装,安装完成后输入"scrapy",提示scrapy的命令提示内容,安装过程结束。

 

以上是关于windows下Scrapy爬虫框架的主要内容,如果未能解决你的问题,请参考以下文章

python应用:爬虫框架Scrapy系统学习第二篇——windows下安装scrapy

windows下Scrapy爬虫框架

爬虫框架Windows下Scrapy配置环境变量 & ‘scrapy‘不是内部或外部命令->问题解决

windows下安装Scrapy

scrapy框架爬虫爬取糗事百科 之 Python爬虫从入门到放弃第不知道多少天

2017.07.26 Python网络爬虫之Scrapy爬虫框架