Python常用内建模块urllib详解

 更新时间:2025年09月29日 10:30:52   作者:Derrick__1  
urllib是Python标准库,包含request(发起请求)、error(异常处理)、parse(URL解析)、robotparser(robots.txt解析)四大模块,其核心功能是模拟HTTP请求,支持GET/POST等操作,本文给大家介绍Python常用内建模块urllib,感兴趣的朋友一起看看吧

urllib是一个用于处理 URL 相关操作的标准库,它提供了丰富的网络通信能力。它主要由以下四个模块组成:

模块名称

功能描述

​urllib.request​

用于打开和读取 URL,模拟 HTTP 请求(如 GET, POST)。

​urllib.error​

处理 request模块引发的异常(如 HTTPError, URLError)。

​urllib.parse​

用于解析、组合和编码 URL。

​urllib.robotparser​

用于解析网站的 robots.txt文件,判断爬虫权限。

urllib.request​​:发起网络请求

此模块用于打开和读取 URL,支持多种协议(HTTP, HTTPS, FTP 等)。

发送 GET 请求

使用 urlopen()方法发送最简单的 GET 请求:

发送 POST 请求

通过 data参数传递数据即可发起 POST 请求,数据需为字节流格式:

urllib提供的功能就是利用程序去执行各种HTTP请求。如果要模拟浏览器完成特定功能,需要把请求伪装成浏览器。伪装的方法是先监控浏览器发出的请求,再根据浏览器的请求头来伪装,User-Agent头就是用来标识浏览器的。

urllib是 Python 进行网络请求的基石,涵盖了从发起请求、处理响应、解析 URL 到管理异常等全方位功能。目前廖老师对于这部分的讲解还是比较浅显方便我们入门。

练习

利用urllib读取JSON,然后将JSON解析为Python对象:

from urllib import request
def fetch_data(url):
    return ''
# 测试
URL = 'https://api.weatherapi.com/v1/current.json?key=b4e8f86b44654e6b86885330242207&q=Beijing&aqi=no'
data = fetch_data(URL)
print(data)
assert data['location']['name'] == 'Beijing'
print('ok')

这个地方SLL证书不通过的问题一直从廖老师教学的第一段代码就出现,这里ai写了一段忽略SLL的代码才得以运行成功

到此这篇关于Python常用内建模块urllib详解的文章就介绍到这了,更多相关Python内建模块urllib内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • Python命令行参数定义及需要注意的地方

    Python命令行参数定义及需要注意的地方

    这篇文章主要介绍了Python命令行参数定义及需要注意的地方,帮助大家更好的理解和学习python,感兴趣的朋友可以了解下
    2020-11-11
  • Python 查看数据类型与格式

    Python 查看数据类型与格式

    这篇文章主要介绍了Python 查看数据类型与格式方式,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2022-09-09
  • SpringBoot集成Hint语法组件的代码详解

    SpringBoot集成Hint语法组件的代码详解

    Spring Boot是Spring框架的一个扩展,旨在简化Spring应用的初始搭建和开发过程,通过将Hint集成到Spring Boot应用中,可以快速地在原有的代码中实现Hint语法 功能,本文给大家介绍了SpringBoot集成Hint语法组件的代码示例,需要的朋友可以参考下
    2025-05-05
  • Pycharm连接远程服务器过程图解

    Pycharm连接远程服务器过程图解

    这篇文章主要介绍了Pycharm连接远程服务器过程图解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-04-04
  • Python入门教程4. 元组基本操作

    Python入门教程4. 元组基本操作

    这篇文章主要介绍了Python元组基本操作,简单介绍了元组的创建、count方法元素统计、index方法元素获取等相关操作技巧与注意事项,需要的朋友可以参考下
    2018-10-10
  • Python虚拟环境virtualenv是如何使用的

    Python虚拟环境virtualenv是如何使用的

    今天给大家带来的是关于Python虚拟环境的相关知识,文章围绕着Python虚拟环境virtualenv是如何使用的展开,文中有非常详细的解释及代码示例,需要的朋友可以参考下
    2021-06-06
  • Python Web开发模板引擎优缺点总结

    Python Web开发模板引擎优缺点总结

    这篇文章主要介绍了Python Web开发模板引擎优缺点总结,需要的朋友可以参考下
    2014-05-05
  • 使用icecream实现优雅调试Python代码

    使用icecream实现优雅调试Python代码

    在大型项目中,使用print()调试代码可能导致终端输出过多,难以分辨输出结果与代码的对应关系,为了更清晰地调试,可以采用Icecream库,本文介绍了如何使用icecream实现优雅调试Python代码,需要的朋友可以参考下
    2024-08-08
  • Python可视化工具Plotly的应用教程

    Python可视化工具Plotly的应用教程

    对于Python语言来说,比较传统的数据可视化模块是Matplotlib,但它存在不够美观、静态性、不易分享等缺点,限制了Python在数据可视化方面的发展。为了解决这个问题,新型的动态可视化开源模块Plotly应运而生。本文将为大家详细介绍Plotly的用法,需要的可以参考一下
    2021-12-12
  • python脚本监控docker容器

    python脚本监控docker容器

    这篇文章主要为大家详细介绍了python脚本监控docker容器的相关资料,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2016-04-04

最新评论