Python爬虫后获取重定向url的两种方法
更新时间:2021年01月19日 10:11:08 作者:lemon_tree1002
这篇文章主要介绍了Python爬虫后获取重定向url的两种方法,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
下面给大家分享Python爬虫后获取重定向url的两种方法,具体内容如下所示;
方法(一)
# 获得重定向url from urllib import request # https://zhidao.baidu.com/question/681501874175782812.html url = "https://www.baidu.com/link?url=IscBx0u8h9q4Uq3ihTs_PqnoNWe7slVWAd2dowQKrnqJedvthb3zrh9JqcMJu3ZqFrbW_DKVuTnTypDbMkZx_hwCQIGFPRVWGyxRXA-65jK&wd=&eqid=f7aeecba00092ed7000000065ec62596" print(request.urlopen(url).geturl())
方法(二)
# 请求头,这里我设置了浏览器代理 headers = headers = {'User-Agent': 'xx'} # 这里chrome的user-agent获取方式:在浏览器地址栏输入 about://version 即可得到结果 url = "https://www.baidu.com/link?url=IscBx0u8h9q4Uq3ihTs_PqnoNWe7slVWAd2dowQKrnqJedvthb3zrh9JqcMJu3ZqFrbW_DKVuTnTypDbMkZx_hwCQIGFPRVWGyxRXA-65jK&wd=&eqid=f7aeecba00092ed7000000065ec62596" # 请求网页 response = requests.get(url, headers=headers) # print(response.status_code) # 打印响应的状态码 print(response.url) # 打印重定向后的网址 # 两个结果都是:https://zhidao.baidu.com/question/681501874175782812.html
到此这篇关于Python爬虫后获取重定向url的两种方法的文章就介绍到这了,更多相关python爬虫获取url内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!
相关文章
Python深度学习pyTorch权重衰减与L2范数正则化解析
这篇文章主要介绍了Python深度学习中的pyTorch权重衰减与L2范数正则化的详细解析,文中附含详细示例代码,有需要的朋友可以借鉴参考下2021-09-09python使用mediapiple+opencv识别视频人脸的实现
本文主要介绍了python使用mediapiple+opencv识别视频人脸,文中通过示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下2022-03-03
最新评论