scrapy基础知识之发送POST请求:

Posted hcw_19

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了scrapy基础知识之发送POST请求:相关的知识,希望对你有一定的参考价值。

  • 可以使用 yield scrapy.FormRequest(url, formdata, callback)方法发送POST请求。

  • 如果希望程序执行一开始就发送POST请求,可以重写Spider类的start_requests(self) 方法,并且不再调用start_urls里的url。

class mySpider(scrapy.Spider):
    # start_urls = ["http://www.example.com/"]

    def start_requests(self):
        url = ‘http://www.renren.com/PLogin.do‘

        # FormRequest 是Scrapy发送POST请求的方法
        yield scrapy.FormRequest(
            url = url,
            formdata = {"email" : "xxx", "password" : "xxxxx"},
            callback = self.parse_page
        )
    def parse_page(self, response):
        # do something

以上是关于scrapy基础知识之发送POST请求:的主要内容,如果未能解决你的问题,请参考以下文章

python爬虫scrapy入门8:发送POST请求

Scrapy框架之发送POST请求 򊘮

scrapy框架之递归解析和post请求

爬虫学习 12.scrapy框架之递归解析和post请求

如何在scrapy中发送带有标头和有效负载的Post请求

scrapy发送POST请求