python scrapy 报错 DEBUG: Ignoring response 403
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python scrapy 报错 DEBUG: Ignoring response 403相关的知识,希望对你有一定的参考价值。
DEBUG: Ignoring response <403 http://movie.douban.com/top250>: HTTP status code is not handled or not allowed
怎么回事呢,被屏蔽了,我们来伪装一下,在settings.py里加上USER_AGENT:
解决方法:
在setting.py文件中增加USER_AGENT配置:(随便写一条就可以了)
USER_AGENT = ‘Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36‘
or
USER_AGENT = ‘Mozilla/5.0 (Macintosh; Intel Mac OS X 10_8_3) AppleWebKit/536.5 (KHTML, like Gecko) Chrome/19.0.1084.54 Safari/536.5‘
以上是关于python scrapy 报错 DEBUG: Ignoring response 403的主要内容,如果未能解决你的问题,请参考以下文章