脚本之家 服务器常用软件
快捷导航
您的位置：首页 → 脚本专栏 → python → urllib 网络请求

python 包实现 urllib 网络请求操作

 更新时间：2022年04月19日 17:40:49   作者：autofelix  
这篇文章主要介绍了python包实现urllib网络请求操作，urllib 是 Python 标准库中用于网络请求的库，下面urllib的相关资料介绍，需要的小伙伴可以参考一下

一、简介

  • 是一个 python 内置包，不需要额外安装即可使用
  • urllib 是 Python 标准库中用于网络请求的库，内置四个模块，分别是
  • urllib.request：用来打开和读取 url，可以用它来模拟发送请求，获取网页响应内容
  • urllib.error：用来处理 urllib.request 引起的异常，保证程序的正常执行
  • urllib.parse：用来解析 url，可以对 url 进行拆分、合并等
  • urllib.robotparse：用来解析 robots.txt 文件，判断网站是否能够进行爬取

二、发起请求

import urllib.request

# 方法一
resp = urllib.request.urlopen('http://www.baidu.com', timeout=1)
print(resp.read().decode('utf-8'))

# 方法二
request = urllib.request.Request('http://www.baidu.com')
response = urllib.request.urlopen(request)
print(response.read().decode('utf-8'))

三、携带参数请求

  • 请求某些网页时需要携带一些数据
import urllib.parse
import urllib.request

params = {
'name':'autofelix',
'age':'25'
}

data = bytes(urllib.parse.urlencode(params), encoding='utf8')
response = urllib.request.urlopen("http://www.baidu.com/", data=data)
print(response.read().decode('utf-8'))

四、获取响应数据

import urllib.request

resp = urllib.request.urlopen('http://www.baidu.com')
print(type(resp))
print(resp.status)
print(resp.geturl())
print(resp.getcode())
print(resp.info())
print(resp.getheaders())
print(resp.getheader('Server'))

五、设置headers

import urllib.request

headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/56.0.2924.87 Safari/537.36'
}
request = urllib.request.Request(url="http://tieba.baidu.com/", headers=headers)
response = urllib.request.urlopen(request)
print(response.read().decode('utf-8'))

六、使用代理

import urllib.request

proxys = urllib.request.ProxyHandler({
'http': 'proxy.cn:8080',
'https': 'proxy.cn:8080'
})

opener = urllib.request.build_opener(proxys)
urllib.request.install_opener(opener)

request = urllib.request.Request(url="http://www.baidu.com/")
response = urllib.request.urlopen(request)
print(response.read().decode('utf-8'))

七、认证登录

  • 有些网站需要携带账号和密码进行登录之后才能继续浏览网页
import urllib.request

url = "http://www.baidu.com/"
user = 'autofelix'
password = '123456'
pwdmgr = urllib.request.HTTPPasswordMgrWithDefaultRealm()
pwdmgr.add_password(None,url,user,password)

auth_handler = urllib.request.HTTPBasicAuthHandler(pwdmgr)
opener = urllib.request.build_opener(auth_handler)
response = opener.open(url)
print(response.read().decode('utf-8'))

八、设置cookie

  • 如果请求的页面每次需要身份验证，我们可以使用 Cookies 来自动登录，免去重复登录验证的操作
import http.cookiejar
import urllib.request

cookie = http.cookiejar.CookieJar()
handler = urllib.request.HTTPCookieProcessor(cookie)
opener = urllib.request.build_opener(handler)
response = opener.open("http://www.baidu.com/")

f = open('cookie.txt', 'a')
for item in cookie:
f.write(item.name+" = "+item.value+'\n')
f.close()

九、异常处理

from urllib import error, request

try:
resp = request.urlopen('http://www.baidu.com')
except error.URLError as e:
print(e.reason)

十、HTTP异常

from urllib import error, request

try:
resp = request.urlopen('http://www.baidu.com')
except error.HTTPError as e:
print(e.reason, e.code, e.headers, sep='\n')
except error.URLError as e:
print(e.reason)
else:
print('request successfully')

十一、超时异常

import socket, urllib.request, urllib.error

try:
resp = urllib.request.urlopen('http://www.baidu.com', timeout=0.01)
except urllib.error.URLError as e:
print(type(e.reason))
if isinstance(e.reason,socket.timeout):
print('time out')

十二、解析编码

from urllib import parse

name = parse.quote('飞兔小哥')

# 转换回来
parse.unquote(name)

十三、参数拼接

  • 在访问url时，我们常常需要传递很多的url参数
  • 而如果用字符串的方法去拼接url的话，会比较麻烦
from urllib import parse

params = {'name': '飞兔', 'age': '27', 'height': '178'}
parse.urlencode(params)

十四、请求链接解析

from urllib.parse import urlparse

result = urlparse('http://www.baidu.com/index.html?user=autofelix')
print(type(result))
print(result)

十五、拼接链接

  • 如果拼接的是两个链接，则以返回后面的链接
  • 如果拼接是一个链接和参数，则返回拼接后的内容
from urllib.parse import urljoin

print(urljoin('http://www.baidu.com', 'index.html'))

十六、字典转换参数

from urllib.parse import urlencode

params = {
'name': 'autofelix',
'age': 27
}
baseUrl = 'http://www.baidu.com?'
print(baseUrl + urlencode(params))

到此这篇关于python 包中的 urllib 网络请求教程的文章就介绍到这了,更多相关 urllib 网络请求 内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！

您可能感兴趣的文章:

相关文章

  • Python图像灰度变换及图像数组操作

    Python图像灰度变换及图像数组操作

    这篇文章主要介绍了Python图像灰度变换及图像数组操作的相关资料,需要的朋友可以参考下
    2016-01-01
  • 图文详解python安装Scrapy框架步骤

    图文详解python安装Scrapy框架步骤

    在本篇内容中我们给大家整理了关于python安装Scrapy框架的图文详细步骤，需要的朋友们跟着学习下。
    2019-05-05
  • python 判断文件或文件夹是否存在

    python 判断文件或文件夹是否存在

    这篇文章主要介绍了python 判断文件或文件夹是否存在，Python 操作文件时，我们一般要先判断指定的文件或目录是否存在，不然容易产生异常，下面我们就来学习如何利用python检查文件是否存在吧
    2022-03-03
  • 三步实现Django Paginator分页的方法

    三步实现Django Paginator分页的方法

    这篇文章主要介绍了三步实现Django Paginator分页的方法，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
    2019-06-06
  • Python3 文章标题关键字提取的例子

    Python3 文章标题关键字提取的例子

    今天小编就为大家分享一篇Python3 文章标题关键字提取的例子，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
    2019-08-08
  • 利用Python计算KS的实例详解

    利用Python计算KS的实例详解

    这篇文章主要介绍了利用Python计算KS的实例详解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
    2020-03-03
  • python获取文件版本信息、公司名和产品名的方法

    python获取文件版本信息、公司名和产品名的方法

    这篇文章主要介绍了python获取文件版本信息、公司名和产品名的方法,是Python程序设计中非常实用的技巧,需要的朋友可以参考下
    2014-10-10
  • 儿童python练习实例

    儿童python练习实例

    小编在网上整理了关于儿童python相关编程的练习实例，如果有小朋友对此感兴趣可以学习下。
    2018-05-05
  • 浅析PEP570新语法: 只接受位置参数

    浅析PEP570新语法: 只接受位置参数

    本文通过一个例子给大家介绍了PEP570新语法: 只接受位置参数的一些知识，感兴趣的朋友跟随小编一起看看吧
    2019-10-10
  • python——全排列数的生成方式

    python——全排列数的生成方式

    今天小编就为大家分享一篇python——全排列数的生成方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
    2020-02-02

最新评论