scrapy post Request payload类型值
Posted zhangheng1
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了scrapy post Request payload类型值相关的知识,希望对你有一定的参考价值。
类型值如下:
网站form表单格式如下:
数据类型为:multipart/form-data,四中常见的post提交方式的一种主要用来上传文件,同时用boundary来分割不同的字段,避免内容重复(百度查的)
使用requests模块测试,比较坑的测了2小时(小白不清楚如何传值)得到结论为:
payload中boundary要和headers中的值相同:
本地payload格式为:
通过改变相对应的值进行翻页,下一步使用scrapy操作
注意事项:
我使用scrapy.FormRequest传递参数无法成功,debug后查不出相关原因,就一直无运行结果,继续网上搜资料:
改用scrapy.Request进行post数据,格式如下:
之前的使用的body=json.dumps(form_data),运行失败,不知道啥原因,测试发现直接传form_data就可以
headers里一定要添加 Content-Type字段,我的headers为:
重新运行项目,发现运行成功
以上是关于scrapy post Request payload类型值的主要内容,如果未能解决你的问题,请参考以下文章
scrapy post Request payload类型值
Scrapy-Shell的用法以及request和response的区别
[Project] Simulate HTTP Post Request to obtain data from Web Page by using Python Scrapy Framework(代