scrapy post Request payload类型值

Posted zhangheng1

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了scrapy post Request payload类型值相关的知识,希望对你有一定的参考价值。

  类型值如下:

技术分享图片

网站form表单格式如下:

技术分享图片

数据类型为:multipart/form-data,四中常见的post提交方式的一种主要用来上传文件,同时用boundary来分割不同的字段,避免内容重复(百度查的)

使用requests模块测试,比较坑的测了2小时(小白不清楚如何传值)得到结论为:

技术分享图片

payload中boundary要和headers中的值相同:

技术分享图片

本地payload格式为:

技术分享图片

 

通过改变相对应的值进行翻页,下一步使用scrapy操作

注意事项:

 我使用scrapy.FormRequest传递参数无法成功,debug后查不出相关原因,就一直无运行结果,继续网上搜资料:

改用scrapy.Request进行post数据,格式如下:

技术分享图片

之前的使用的body=json.dumps(form_data),运行失败,不知道啥原因,测试发现直接传form_data就可以

headers里一定要添加 Content-Type字段,我的headers为:

技术分享图片

重新运行项目,发现运行成功

 

以上是关于scrapy post Request payload类型值的主要内容,如果未能解决你的问题,请参考以下文章

scrapy post Request payload类型值

Scrapy-Shell的用法以及request和response的区别

[Project] Simulate HTTP Post Request to obtain data from Web Page by using Python Scrapy Framework(代

scrapy发送post请求

玩转 Scrapy 框架 :Scrapy 架构Request和Response介绍

玩转 Scrapy 框架 :Scrapy 架构Request和Response介绍