Scrapy框架: Request回调函数

Posted hankleo

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Scrapy框架: Request回调函数相关的知识,希望对你有一定的参考价值。

Request回调函数

def parse_page1(self, response):
    return scrapy.Request("http://www.example.com/some_page.html",
                          callback=self.parse_page2)

def parse_page2(self, response):
    # this would log http://www.example.com/some_page.html
    self.logger.info("Visited %s", response.url)

传递参数

def parse_page1(self, response):
    item = MyItem()
    item['name'] = response.css('.name::text').extract_first()
    request = scrapy.Request("http://www.example.com/some_page.html",
                             callback=self.parse_page2)
    request.meta['item'] = item
    yield request

def parse_page2(self, response):
    item = response.meta['item']
    item['age'] = response.css('.age::text').extract_first()
    yield item

以上是关于Scrapy框架: Request回调函数的主要内容,如果未能解决你的问题,请参考以下文章

Scrapy(爬虫框架)中,Spider类中parse()方法的工作机制

Scrapy-Request中的回调函数不执行

爬虫学习笔记—— Scrapy框架

Scrapy 框架,爬虫文件相关

Python爬虫从入门到放弃(十五)之 Scrapy框架中Spiders用法

Scrapy回调函数callback传递参数的方式