python爬取豆瓣电影TOP250数据

 更新时间:2021年05月22日 17:16:01   作者:秋无之地  
这次以豆瓣电影TOP250网为例编写一个爬虫程序,并将爬取到的数据(排名、电影名和电影海报网址)存入MySQL数据库中。

在执行程序前,先在MySQL中创建一个数据库"pachong"。

import pymysql
import requests
import re


#获取资源并下载
def resp(listURL):
    #连接数据库
    conn = pymysql.connect(
        host = '127.0.0.1',
        port = 3306,
        user = 'root',
        password = '******',  #数据库密码请根据自身实际密码输入
        database = 'pachong', 
        charset = 'utf8'
    )

    #创建数据库游标
    cursor = conn.cursor()

    #创建列表t_movieTOP250(执行sql语句)
    cursor.execute('create table t_movieTOP250(id INT PRIMARY KEY 												auto_increment NOT NULL ,movieName VARCHAR(20) NOT NULL 									,pictrue_address VARCHAR(100))')

    try:
        # 爬取数据
        for urlPath in listURL:
            # 获取网页源代码
            response = requests.get(urlPath)
            html = response.text

            # 正则表达式
            namePat = r'alt="(.*?)" src='
            imgPat = r'src="(.*?)" class='

            # 匹配正则(排名【用数据库中id代替,自动生成及排序】、电影名、电影海报(图片地址))
            res2 = re.compile(namePat)
            res3 = re.compile(imgPat)
            textList2 = res2.findall(html)
            textList3 = res3.findall(html)

            # 遍历列表中元素,并将数据存入数据库
            for i in range(len(textList3)):
                cursor.execute('insert into t_movieTOP250(movieName,pictrue_address) 									VALUES("%s","%s")' % (textList2[i],textList3[i]))

        #从游标中获取结果
        cursor.fetchall()

        #提交结果
        conn.commit()
        print("结果已提交")

    except Exception as e:
        #数据回滚
        conn.rollback()
        print("数据已回滚")

    #关闭数据库
    conn.close()

#top250所有网页网址
def page(url):
    urlList = []
    for i in range(10):
        num = str(25*i)
        pagePat = r'?start=' + num + '&filter='
        urL = url+pagePat
        urlList.append(urL)
    return urlList


if __name__ == '__main__':
    url = r"https://movie.douban.com/top250"
    listURL = page(url)
    resp(listURL)

结果如下图:

以上就是我的分享,如果有什么不足之处请指出,多交流,谢谢!

以上就是python爬取豆瓣电影TOP250数据的详细内容,更多关于python爬取豆瓣电影的资料请关注脚本之家其它相关文章!

相关文章

  • Python文件操作函数用法实例详解

    Python文件操作函数用法实例详解

    这篇文章主要介绍了Python文件操作函数用法实例详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2019-12-12
  • python实现的汉诺塔算法示例

    python实现的汉诺塔算法示例

    这篇文章主要介绍了python实现的汉诺塔算法,结合实例形式分析了汉诺塔算法的原理、实现方法及相关操作注意事项,需要的朋友可以参考下
    2019-10-10
  • Matplotlib自定义坐标轴刻度的实现示例

    Matplotlib自定义坐标轴刻度的实现示例

    这篇文章主要介绍了Matplotlib自定义坐标轴刻度的实现示例,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2020-06-06
  • Python实现windows自动关机功能

    Python实现windows自动关机功能

    这篇文章主要为大家详细介绍了如何使用Python实现windows自动关机功能,文中的示例代码讲解详细,具有一定的借鉴价值,有需要的小伙伴可以参考一下
    2025-01-01
  • PyCharm进行Django项目开发环境搭建

    PyCharm进行Django项目开发环境搭建

    本文主要介绍了PyCharm进行Django项目开发环境搭建,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2025-02-02
  • Python实现微博动态图片爬取详解

    Python实现微博动态图片爬取详解

    这篇文章主要为大家介绍了如何利用Python中的爬虫实现微博动态图片的爬取,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起动手试一试
    2022-03-03
  • 如何用Pytorch搭建一个房价预测模型

    如何用Pytorch搭建一个房价预测模型

    这篇文章主要介绍了用Pytorch搭建一个房价预测模型,在这里我将主要讨论PyTorch建模的相关方面,作为一点额外的内容,我还将演示PyTorch中开发的模型的神经元重要性,需要的朋友可以参考下
    2023-03-03
  • Python合并ts文件至mp4格式及解密教程详解

    Python合并ts文件至mp4格式及解密教程详解

    m3u8准确来说是一种索引文件,使用m3u8文件实际上是通过它来解析对应的放在服务器上的视频网络地址,从而实现在线播放。本文给大家介绍Python合并ts文件至mp4格式及解密教程,需要的朋友参考下吧
    2021-07-07
  • 在IPython中进行Python程序执行时间的测量方法

    在IPython中进行Python程序执行时间的测量方法

    今天小编就为大家分享一篇在IPython中进行Python程序执行时间的测量方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-11-11
  • Python机器学习之手写KNN算法预测城市空气质量

    Python机器学习之手写KNN算法预测城市空气质量

    KNN(K-Nearest Neighbor)最邻近分类算法是数据挖掘分类(classification)技术中常用算法之一,本文将介绍如何通过KNN算法实现城市空气质量的预测,感兴趣的同学可以了解一下
    2021-12-12

最新评论