Python使用requests模块爬取百度翻译

 更新时间:2020年08月25日 10:51:23   作者:Keep__Studying  
这篇文章主要介绍了Python使用requests模块爬取百度翻译,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下

requests模块:

python中原生的一款基于网络请求的模块,功能非常强大,简单便捷,效率极高。

作用:模拟浏览器发请求。

提示:老版使用 urllib模块,但requests比urllib模块要简单好用,现在学习requests模块即可!

requests模块编码流程

指定url

1.1 UA伪装

1.2 请求参数的处理

2.发起请求

3.获取响应数据

4.持久化存储

环境安装:

pip install requests

案例一:破解百度翻译(post请求)

1.代码如下:

#爬取百度翻译
#导入模块
import requests
import json

#UA伪装:将对应的User-Agent封装到一个字典中
headers = {
    'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) '
           'Chrome/57.0.2987.98 Safari/537.36'}

  #网页访问连接
 url='https://fanyi.baidu.com/sug'
 #处理url携带的参数:封装到字典中
word=input("input a word: ")
data={
  'kw': word
}

#请求发送
res=requests.post(url=url,data=data,headers=headers)
#获取响应数据:json()方法返回的是obj(如果确认响应数据是json类型的,才可以使用json())
dic_obj=res.json()

#持久化存储
filename=word+'.json'
fp=open(filename,'w',encoding='utf-8')
json.dump(dic_obj,fp=fp,ensure_ascii=False)

#打印完成提示
print('finish')

其中:

https://fanyi.baidu.com/sug 这个url的定位如下图:

2.运行结果

案例二:爬取搜狗页面数据(get请求)

1.代码如下

import requests
if __name__ == "__main__":
  #step_1:指定url
  url = 'https://www.sogou.com/'
  #step_2:发起请求
  #get方法会返回一个响应对象
  response = requests.get(url=url)
  #step_3:获取响应数据.text返回的是字符串形式的响应数据
  page_text = response.text
  print(page_text)
  #step_4:持久化存储
  with open('./sogou.html','w',encoding='utf-8') as fp:
    fp.write(page_text)
  print('爬取数据结束!!!')

2.运行结果如下:

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持脚本之家。

相关文章

  • python中使用print输出中文的方法

    python中使用print输出中文的方法

    今天小编就为大家分享一篇python中使用print输出中文的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-07-07
  • TOPI如何使TVM代码不那么样板化

    TOPI如何使TVM代码不那么样板化

    这篇文章主要为大家介绍了TOPI如何使TVM代码不那么样板化实现过程详解,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪
    2023-04-04
  • Python解决Flutter项目简体字问题的方法

    Python解决Flutter项目简体字问题的方法

    作为面向大陆外市场的应用,我们经常编写代码的时候往往忘记切换繁体字导致上线后出现简体字,因为研究下业内相关插件,看看怎么好解决这个问题,OpenCC 支持语言比较多,所以基于此尝试了用 Python 去实现,需要的朋友可以参考下
    2024-07-07
  • python文件读取和导包的绝对路径、相对路径详解

    python文件读取和导包的绝对路径、相对路径详解

    每次在读或写文件时,获取脚本文件的绝对路径和相对路径时很容易搞混,下面这篇文章主要给大家介绍了关于python文件读取和导包的绝对路径、相对路径的相关资料,需要的朋友可以参考下
    2022-04-04
  • Python数据报表之Excel操作模块用法分析

    Python数据报表之Excel操作模块用法分析

    这篇文章主要介绍了Python数据报表之Excel操作模块用法,结合实例形式分析了XlsxWriter模块的功能及简单使用方法,需要的朋友可以参考下
    2019-03-03
  • pytorch查看通道数 维数 尺寸大小方式

    pytorch查看通道数 维数 尺寸大小方式

    这篇文章主要介绍了pytorch查看通道数 维数 尺寸大小方式,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-05-05
  • python+lunarcalendar库实现使用农历日期

    python+lunarcalendar库实现使用农历日期

    这篇文章主要为大家详细介绍了python如何通过lunarcalendar库实现使用农历日期,文中的示例代码简洁易懂,有需要的小伙伴可以参考一下
    2024-11-11
  • Python中实现输入超时及如何通过变量获取变量名

    Python中实现输入超时及如何通过变量获取变量名

    这篇文章主要介绍了Python中实现输入超时以及通过变量获取变量的名字,本文给大家分享了解决思路主要是通过多线程法实现,需要的朋友可以参考下
    2020-01-01
  • 在服务器端实现无间断部署Python应用的教程

    在服务器端实现无间断部署Python应用的教程

    这篇文章主要介绍了在服务器端实现无间断部署Python应用的教程,方法主要是Gunicorn进行重载,需要的朋友可以参考下
    2015-04-04
  • Python DBM模块轻松使用小型数据库存储管理数据

    Python DBM模块轻松使用小型数据库存储管理数据

    这篇文章主要介绍了Python DBM模块轻松使用小型数据库存储管理数据,它可以让你轻松地存储和管理键值对数据,可以使用 dbm 模块来操作 DBM 文件,或者使用 shelve 模块来存储任意类型的 Python 对象
    2024-01-01

最新评论