python使用re模块爬取豆瓣Top250电影

 更新时间:2020年10月20日 09:40:07   作者:Gg、  
这篇文章主要介绍了python使用re模块爬取豆瓣Top250电影的示例,帮助大家更好的理解和学习python 爬虫,感兴趣的朋友可以了解下

  爬蟲四步原理:

    1.发送请求:requests

    2.获取相应数据:对方及其直接返回

    3.解析并提取想要的数据:re

    4.保存提取后的数据:with open()文件处理

  爬蟲三步曲:

    1.发送请求

    2.解析数据

    3.保存数据

注意:豆瓣网页爬虫必须使用请求头,否则服务器不予返回数据

import re
import requests

# 爬蟲三部曲:
# 1.获取请求
def get_data(url, headers):
  response = requests.get(url, headers=headers)
  # 如果爬取的是html文本就是用.text方法获取文本数据,如果爬取的是音视频就用.content方法获取二进制流数据
  # print(response.text)  # 获取相应文本,比如html代码
  return response.text

# 2.解析数据
def parser_data(text):
  # re.findall("正则表达式", "过滤的文本", re.S) # 匹配模式:re.S 全局模式
  data = re.findall(
    '<div class="item">.*?<a href="(.*?)" rel="external nofollow" >.*?<span class="title">(.*?)</span>.*?<span class="rating_num" property="v:average">(.*?)</span>.*?<span>(.*?)人评价</span>', text, re.S)
  for move_info in data:
    yield move_info

# 3.保存数据
def save_data(res_list_iter):
  with open("豆瓣TOP250.txt", "a", encoding="utf-8") as f:
    for i in res_list_iter:
      move_page, move_title, move_score, move_evaluation = i
      # print(move_page, move_title, move_score, move_evaluation)
      str1 = f"电影名字:《{move_title}》  电影评分:{move_score}  电影评价:{move_evaluation}  电影详情页:{move_page}\n"
      f.write(str1)

# 使用请求头请求数据
headers = {
  'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.102 \
  Safari/537.36'
}
n = 0
# 获取10个链接
for i in range(10):
  url = f"https://movie.douban.com/top250?start={n}&filter=="
  n += 25
  text = get_data(url, headers)
  res_list_iter = parser_data(text)
  save_data(res_list_iter)

  执行结果:

以上就是python使用re模块爬取豆瓣Top250电影的详细内容,更多关于python 爬取豆瓣电影的资料请关注脚本之家其它相关文章!

相关文章

  • Python 中将二进制转换为整数的多种方法

    Python 中将二进制转换为整数的多种方法

    这篇文章主要介绍了Python 中将二进制转换为整数,Python 中提供了多种方式将二进制字符串转换为整数,其中包括使用 int() 函数、使用二进制前缀和使用 eval() 函数,本文通过实例代码讲解的非常详细,需要的朋友可以参考下
    2023-05-05
  • 利用Python写个摸鱼监控进程

    利用Python写个摸鱼监控进程

    继打游戏、看视频等摸鱼行为被监控后,现在打工人离职的倾向也会被监控。今天就带大家领略一下怎么写几行Python代码,就能监控电脑,感兴趣的可以学习一下
    2022-02-02
  • 使用numpy.mean() 计算矩阵均值方式

    使用numpy.mean() 计算矩阵均值方式

    这篇文章主要介绍了numpy.mean() 计算矩阵均值方式,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2022-05-05
  • Python中拆分字符串的操作方法

    Python中拆分字符串的操作方法

    这篇文章主要介绍了Python中拆分字符串的操作方法,本文给大家介绍的非常详细,具有一定的参考借鉴价值,需要的朋友可以参考下
    2019-07-07
  • Python 多继承中的一个诡异现象 既是 Father又是grandfather

    Python 多继承中的一个诡异现象 既是 Father又是grandfather

    我们知道,在面向对象编程里面,继承是一个很重要的概念。子类可以使用父类的方法和属性,接下来小编将用举例的方式为大家讲解Python 多继承中的一个诡异现象 其即是爸爸又是爷爷的奇葩现象,感兴趣的小伙伴可以看下面文章具体了解
    2021-09-09
  • python+pytest接口自动化之日志管理模块loguru简介

    python+pytest接口自动化之日志管理模块loguru简介

    python中有一个用起来非常简便的第三方日志管理模块--loguru,不仅可以避免logging的繁琐配置,而且可以很简单地避免在logging中多进程多线程记录日志时出现的问题,甚至还可以自定义控制台输出的日志颜色,接下来我们来学习怎么使用loguru模块进行日志管理
    2022-05-05
  • pandas初学者容易犯的六个错误总结

    pandas初学者容易犯的六个错误总结

    Pandas是Python的一个数据分析包,该工具为解决数据分析任务而创建,Pandas纳入大量库和标准数据模型,提供高效的操作数据集所需的工具,这篇文章主要给大家介绍了总结介绍了pandas初学者容易犯的六个错误,需要的朋友可以参考下
    2021-10-10
  • python爬取一组小姐姐图片实例

    python爬取一组小姐姐图片实例

    大家好,本篇文章主要讲的是python爬取一组小姐姐图片实例,感兴趣的同学赶快来看一看吧,对你有帮助的话记得收藏一下
    2022-01-01
  • Pytorch学习笔记DCGAN极简入门教程

    Pytorch学习笔记DCGAN极简入门教程

    网上GAN的教程太多了,这边也谈一下自己的理解,本文给大家介绍一下GAN的两部分组成,有需要的朋友可以借鉴参考下,希望能够有所帮助
    2021-09-09
  • Python实现控制手机电脑拍照并自动发送邮箱

    Python实现控制手机电脑拍照并自动发送邮箱

    这篇文章主要介绍了如何实现利用Python控制手机电脑拍照并自动发送邮箱,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起动手试一试
    2022-02-02

最新评论