python使用re模块爬取豆瓣Top250电影

 更新时间:2020年10月20日 09:40:07   作者:Gg、  
这篇文章主要介绍了python使用re模块爬取豆瓣Top250电影的示例,帮助大家更好的理解和学习python 爬虫,感兴趣的朋友可以了解下

  爬蟲四步原理:

    1.发送请求:requests

    2.获取相应数据:对方及其直接返回

    3.解析并提取想要的数据:re

    4.保存提取后的数据:with open()文件处理

  爬蟲三步曲:

    1.发送请求

    2.解析数据

    3.保存数据

注意:豆瓣网页爬虫必须使用请求头,否则服务器不予返回数据

import re
import requests

# 爬蟲三部曲:
# 1.获取请求
def get_data(url, headers):
  response = requests.get(url, headers=headers)
  # 如果爬取的是html文本就是用.text方法获取文本数据,如果爬取的是音视频就用.content方法获取二进制流数据
  # print(response.text)  # 获取相应文本,比如html代码
  return response.text

# 2.解析数据
def parser_data(text):
  # re.findall("正则表达式", "过滤的文本", re.S) # 匹配模式:re.S 全局模式
  data = re.findall(
    '<div class="item">.*?<a href="(.*?)" rel="external nofollow" >.*?<span class="title">(.*?)</span>.*?<span class="rating_num" property="v:average">(.*?)</span>.*?<span>(.*?)人评价</span>', text, re.S)
  for move_info in data:
    yield move_info

# 3.保存数据
def save_data(res_list_iter):
  with open("豆瓣TOP250.txt", "a", encoding="utf-8") as f:
    for i in res_list_iter:
      move_page, move_title, move_score, move_evaluation = i
      # print(move_page, move_title, move_score, move_evaluation)
      str1 = f"电影名字:《{move_title}》  电影评分:{move_score}  电影评价:{move_evaluation}  电影详情页:{move_page}\n"
      f.write(str1)

# 使用请求头请求数据
headers = {
  'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.102 \
  Safari/537.36'
}
n = 0
# 获取10个链接
for i in range(10):
  url = f"https://movie.douban.com/top250?start={n}&filter=="
  n += 25
  text = get_data(url, headers)
  res_list_iter = parser_data(text)
  save_data(res_list_iter)

  执行结果:

以上就是python使用re模块爬取豆瓣Top250电影的详细内容,更多关于python 爬取豆瓣电影的资料请关注脚本之家其它相关文章!

相关文章

  • python 如何比较两集合的大小关系

    python 如何比较两集合的大小关系

    这篇文章主要介绍了python 比较两集合的大小关系操作,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2021-03-03
  • Pandas如何将表格的前几行生成html实战案例

    Pandas如何将表格的前几行生成html实战案例

    这篇文章主要介绍了Pandas如何将表格的前几行生成html实战案例,文章围绕主题展开详细的内容介绍,具有一定的参考价值,需要的小伙伴可以参考一下
    2022-08-08
  • Python TCPServer 多线程多客户端通信的实现

    Python TCPServer 多线程多客户端通信的实现

    这篇文章主要介绍了Python TCPServer 多线程多客户端通信的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-12-12
  • Python+wxPython实现批量文件扩展名替换

    Python+wxPython实现批量文件扩展名替换

    这篇文章主要介绍了如何使用 Python和wxPython创建一个简单的图形界面应用程序,使用户能够选择文件夹、输入要替换的文件类型和新的文件类型,并实现批量替换文件扩展名的功能,有需要的可以参考一下
    2023-10-10
  • PyCharm中Matplotlib绘图不能显示UI效果的问题解决

    PyCharm中Matplotlib绘图不能显示UI效果的问题解决

    这篇文章主要介绍了PyCharm中Matplotlib绘图不能显示UI效果的问题解决,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2020-03-03
  • Python selenium自动化测试模型图解

    Python selenium自动化测试模型图解

    这篇文章主要介绍了Python selenium自动化测试模型图解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-04-04
  • Python实现清理微信僵尸粉功能示例【基于itchat模块】

    Python实现清理微信僵尸粉功能示例【基于itchat模块】

    这篇文章主要介绍了Python实现清理微信僵尸粉功能,结合实例形式分析了Python使用itchat模块删除微信僵尸粉的相关原理、操作技巧与注意事项,需要的朋友可以参考下
    2020-05-05
  • 基于Python实现人脸识别相似度对比功能

    基于Python实现人脸识别相似度对比功能

    人脸识别技术是一种通过计算机对人脸图像进行分析和处理,从而实现自动识别和辨认人脸的技术,随着计算机视觉和模式识别领域的快速发展,人脸识别技术取得了长足的进步,本文给大家介绍了基于Python实现人脸识别相似度对比功能,感兴趣的朋友可以参考下
    2024-01-01
  • Python 流程控制实例代码

    Python 流程控制实例代码

    Python是一门简单的语言。对于一个问题,应该只有一个解决方法。在Python中,有三种流程控制方法:if-else、while和for。
    2009-09-09
  • pandas实现将dataframe满足某一条件的值选出

    pandas实现将dataframe满足某一条件的值选出

    今天小编就为大家分享一篇pandas实现将dataframe满足某一条件的值选出,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-06-06

最新评论