Python爬虫:Request Payload和Form Data的简单区别说明

 更新时间:2020年04月30日 14:16:59   作者:彭世瑜  
这篇文章主要介绍了Python爬虫:Request Payload和Form Data的简单区别说明,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

Request Payload 和 Form Data 请求头上的参数差别在于:

Content-Type
Form Data

Post表单请求

代码示例

headers = {
 "Content-Type": "application/x-www-form-urlencoded"
}
requests.post(url, data=data, headers=headers)
Request Payload

传递json数据

headers = {
 "Content-Type": "application/json"
}
requests.post(url, data=json.dumps(data), headers=headers)

Scrapy 的FormRequest只支持 Form Data 表单提交,源码固定为前者

补充知识:如何传递Request PayLoad(请求负载)中的数据?

在做爬虫的时候,在分析请求的过程,遇到参数长这样的:

原理不太清楚,等搞明白再来补充。这里只记录如何应用这些数据。

用法:

根据上面的图片,由于是post请求,参数一般是以key-value的json字符串传递,或者将参数放入map传递。我们可以看到很多name,这个name就是key,下面的数据就是value,我们可以提取所有的key及value,组成一个json字符串或者map传递即可。

比如上面的数据可以提取如下:

{"view:id1:txtSearch":"","$$viewid":"!f9fpyhcv2t!","$$xspsubmitid":"view:_id1:_id2:pager1_Group_lnk_2","$$xspexecid":"view:_id1:_id2:parent","$$xspsubmitvalue":"","$$xspsubmitscroll":"0|0","view:_id1":"view:_id1"}

或者:

 Map<String,String> m = new HashMap<String,String>();
 m.put("view:id1:txtSearch", "");
 m.put("$$viewid", "!f9fpyhcv2t!");
 m.put("$$xspsubmitid", "view:_id1:_id2:pager1_Group_lnk_2");
 m.put("$$xspexecid", "view:_id1:_id2:parent");
 m.put("$$xspsubmitvalue", "");
 m.put("$$xspsubmitscroll", "0|0");
 m.put("view:_id1", "view:_id1");

由于我是用Jsoup来发请求的,所以我这样传参数即可:

Jsoup.connect("").data(m).cookies(null).method(Method.POST);

或者:

Connection conn = Jsoup.connect("");
String requestJson = "{\"view:id1:txtSearch\":\"\",\"$$viewid\":\"!f9fpyhcv2t!\",\"$$xspsubmitid\":\"view:_id1:_id2:pager1_Group_lnk_2\",\"$$xspexecid\":\"view:_id1:_id2:parent\",\"$$xspsubmitvalue\":\"\",\"$$xspsubmitscroll\":\"0|0\",\"view:_id1\":\"view:_id1\"}";
conn.requestBody(requestJson);
conn.cookies(null).method(Method.POST);
conn.execute();

具体参数具体情况填啦。

是不是超简单。

注意一点,请求负载中的value值不一定是固定值,若每次请求都会发生变化,那么就需要分析这个变化的值从哪里来,动态获取这个值,然后发送请求才能正确。

以上这篇Python爬虫:Request Payload和Form Data的简单区别说明就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • Python入门教程(一)Python简单介绍

    Python入门教程(一)Python简单介绍

    这篇文章主要介绍了Python入门教程(一)Python简单介绍,Python是一门非常强大好用的语言,也有着易上手的特性,本文为入门教程,需要的朋友可以参考下
    2023-04-04
  • Python函数装饰器的使用教程

    Python函数装饰器的使用教程

    在了解了Python函数装饰器基础知识和闭包之后,开始正式学习函数装饰器。感兴趣的朋友可以参考本文
    2021-06-06
  • Pytorch nn.Dropout的用法示例详解

    Pytorch nn.Dropout的用法示例详解

    这篇文章主要介绍了Pytorch nn.Dropout的用法,本文通过示例代码介绍的非常详细,文中补充介绍了torch.nn.dropout和torch.nn.dropout2d的区别,需要的朋友可以参考下
    2023-04-04
  • Python遍历zip文件输出名称时出现乱码问题的解决方法

    Python遍历zip文件输出名称时出现乱码问题的解决方法

    这篇文章主要介绍了Python遍历zip文件输出名称时出现乱码问题的解决方法,实例分析了Python乱码的出现的原因与相应的解决方法,需要的朋友可以参考下
    2015-04-04
  • python 字典套字典或列表的示例

    python 字典套字典或列表的示例

    今天小编就为大家分享一篇python 字典套字典或列表的示例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-12-12
  • 用Python解数独的方法示例

    用Python解数独的方法示例

    这篇文章主要介绍了用Python解数独的方法示例,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-10-10
  • Python通过cv2读取多个USB摄像头

    Python通过cv2读取多个USB摄像头

    这篇文章主要为大家详细介绍了Python通过cv2读取多个USB摄像头,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2019-08-08
  • Python多分支语句的三种结构详解

    Python多分支语句的三种结构详解

    这篇文章主要介绍了Python多分支语句的三种结构,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
    2023-08-08
  • PyQT5 QTDesigner窗口及组成的实现

    PyQT5 QTDesigner窗口及组成的实现

    这篇文章主要介绍了PyQT5 QTDesigner窗口及组成的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2021-04-04
  • 如何用Python实现自动发送微博

    如何用Python实现自动发送微博

    大家好,本篇文章主要讲的是如何用Python实现自动发送微博,感兴趣的同学赶快来看一看吧,对你有帮助的话记得收藏
    2022-01-01

最新评论