Python爬虫requests模块之URL地址中的参数解读

 更新时间:2023年08月11日 11:31:49   作者:松鼠爱吃饼干  
这篇文章主要介绍了Python爬虫requests模块之URL地址中的参数解读,在你拿到数据所在的url地址之后,发送网络请求时,请求的url中包含两种地址参数:查询参数和请求参数,需要的朋友可以参考下

URL 地址参数

在使用requests模块发送请求之前,我们就要回顾之前学习到的url(统一资源定位符)。

在你拿到数据所在的url地址之后,发送网络请求时,请求的url中包含两种地址参数:查询参数请求参数

当我们爬一些特殊网址时,请求的url中会有一些特殊的参数,例如以下站点:

这种是URL的查询参数。前面是网址,?后面的二值性数据,就是查询参数。

URL的查询字符串(query string)传递某种数据。

如果你是手工构建URL,也就是通过拼接字符串构造的URL。

那么数据会以键/值对的形式置于URL中,跟在一个问号的后面。

例如:

https://image.so.com/i?q=%E9%A3%8E%E6%99%AF&src=srp

params关键字参数

Requests 允许你使用params关键字参数,以一个字典来提供这些参数。

举例来说,如果你想传递key1=value1和key2=value2到 httpbin.org/get,那么你可以使用如下代码:

import request
params = {'q' : '风景' , 'src' : 'srp'}
response = requests.get("https: //image.so.com/i",params=params)

通过打印输出该URL,你能看到URL已被正确编码:

print(response.url)

# 打印结果
https : / /image.so.com/i?q=%E9%A3%8E%E6%99%AF&src=srp

注意

在url地址中默认是不支持中文字符的,所以在请求中会把中文字符转化成url编码形式

同样的查询参数可以在浏览器抓包工具中找到,位于Headers栏目下的Query String Parameters中,如下图所示:

请求参数

请求参数和查询参数有本质的区别。

请求参数一般是在发送post请求,向服务器提交表单数据请求的时候携带的参数。

注意: url地址中不会显示请求参数,只会显示查询参数。 请求参数在浏览器抓包工具中,位于Headers栏目下的Form Data中如下面数据抓包所示:

data关键字参数

在requests模块中发送POST请求也是比较容易的操作,要实现这个,只需简单地传递一个字典data参数

你的数据字典在发出请求时会自动编码为表单形式:

data = {'key1' : 'value1','key2 ' : 'value2 '}
response = requests.post("http://httpbin.org/post",data=data)

当然Requests中的post方法只是相对于get方法多了一个data参数,其他参数都是类似的,例如我们也可以为post中的网址添加查询字符串params参数,也可以像get方法一样添加headers参数等。

到此这篇关于Python爬虫requests模块之URL地址中的参数解读的文章就介绍到这了,更多相关Python的requests模块URL地址参数内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • python实现最大优先队列

    python实现最大优先队列

    这篇文章主要为大家详细介绍了python实现最大优先队列,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2019-08-08
  • 分布式全文检索引擎ElasticSearch原理及使用实例

    分布式全文检索引擎ElasticSearch原理及使用实例

    这篇文章主要介绍了分布式全文检索引擎ElasticSearch原理及使用实例,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-11-11
  • Python实现批量修改xml文件的脚本

    Python实现批量修改xml文件的脚本

    这篇文章主要为大家详细介绍了如何通过Python实现批量修改xml文件功能,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下
    2022-11-11
  • Python自动化办公之文件整理脚本分享

    Python自动化办公之文件整理脚本分享

    这篇文章主要为大家分享了一个Python自动化办公脚本,可以实现文件整理,这是一个很有用的技能,可以帮助你管理你的电脑上的各种文件,需要的可以收藏一下
    2023-08-08
  • Pycharm使用Conda激活环境失败的问题解决

    Pycharm使用Conda激活环境失败的问题解决

    本文主要介绍了Pycharm使用Conda激活环境失败的问题解决,文中主要介绍了两种问题的解决,具有一定的参考价值,感兴趣的可以了解一下
    2023-09-09
  • python如何实现代码检查

    python如何实现代码检查

    这篇文章主要介绍了python如何实现代码检查,如果代码不规范,乱七八糟的,被小伙伴打死或者熬夜找bug事小,影响项目进度或者破坏项目结构就完蛋了,需要的朋友可以参考下
    2019-06-06
  • 如何在Python中利用matplotlib.pyplot画出函数图详解

    如何在Python中利用matplotlib.pyplot画出函数图详解

    通过图像可以直观地学习函数变化、分布等规律,在学习函数、概率分布等方面效果显著,下面这篇文章主要给大家介绍了关于如何在Python中利用matplotlib.pyplot画出函数图的相关资料,需要的朋友可以参考下
    2022-08-08
  • PyQt5实现下载进度条效果

    PyQt5实现下载进度条效果

    这篇文章主要为大家详细介绍了PyQt5实现下载进度条效果,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2018-04-04
  • python输入中文的实例方法

    python输入中文的实例方法

    在本篇内容里小编给大家整理的是一篇关于python输入中文的实例方法,有需要的朋友们可以学习参考下。
    2020-09-09
  • Python 爬虫实现增加播客访问量的方法实现

    Python 爬虫实现增加播客访问量的方法实现

    这篇文章主要介绍了Python 爬虫实现增加播客访问量的方法实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-10-10

最新评论