python scrapy 报错 DEBUG: Ignoring response 403

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python scrapy 报错 DEBUG: Ignoring response 403相关的知识,希望对你有一定的参考价值。

 

技术分享

DEBUG: Ignoring response <403 http://movie.douban.com/top250>: HTTP status code is not handled or not allowed

怎么回事呢,被屏蔽了,我们来伪装一下,在settings.py里加上USER_AGENT:

 

解决方法:

在setting.py文件中增加USER_AGENT配置:(随便写一条就可以了)

USER_AGENT = ‘Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36‘ 

or

USER_AGENT = ‘Mozilla/5.0 (Macintosh; Intel Mac OS X 10_8_3) AppleWebKit/536.5 (KHTML, like Gecko) Chrome/19.0.1084.54 Safari/536.5‘

以上是关于python scrapy 报错 DEBUG: Ignoring response 403的主要内容,如果未能解决你的问题,请参考以下文章

Scrapy的debug方式

谁能帮我解答这个问题涉及到django,scrapy,celery

python3.6安装scrapy报错

Python 安装Scrapy报错(已解决)

CMD终端关于pip报错,scrapy报错的一种处理方法

python_爬虫 Scrapy 安装报错一整套处理流程