在Scrapy中添加Cookie

Posted zddsl

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了在Scrapy中添加Cookie相关的知识,希望对你有一定的参考价值。

1.在settings中开启Cookie

COOKIES_ENABLED = True

 

 

2.重写 start_requests方法 初始化开始url(方便添加cookie

列:

from scrapy import Request

class ASpider(CrawlSpider):
    name = \'A\'
    allowed_domains = [\'m.win4000.com\']

    def start_requests(self):
        #爬虫开始地址
        url = "http://m.win4000.com/wallpaper.html"
        #爬取所需的cookie
        cookieDir = {
                     "r":"561",
                     "t":"6ae405c3cec1ed393b2f05ba06a3500d",
                     }
        yield Request(url,cookies=cookieDir)

 

以上是关于在Scrapy中添加Cookie的主要内容,如果未能解决你的问题,请参考以下文章

scrapy按顺序启动多个爬虫代码片段(python3)

scrapy 设置cookie池

在scrapy spiders中访问会话cookie

scrapy 反扒措施

Scrapy框架--cookie的获取/传递/本地保存

js代码片段: utils/lcoalStorage/cookie