python爬取豆瓣评论制作词云代码

 更新时间:2022年01月04日 10:17:01   作者:大学生编程地  
大家好,本篇文章主要讲的是python爬取豆瓣评论制作词云代码,感兴趣的同学赶快来看一看吧,对你有帮助的话记得收藏一下,方便下次浏览

一、爬取豆瓣热评

该程序进行爬取豆瓣热评,将爬取的评论(json文件)保存到与该python文件同一级目录下
注意需要下载这几个库:requests、lxml、json、time

import requests
from lxml import etree
import json
import time
class Spider(object):
    def __init__(self):
        #seif.ure='https://movie.douban.com/subject/23885074/reviews?start=0'
        self.headers={
            'User-Agent':'Mozilla/5.0(Windows NT6.1;Win64;x64)AppleWebKit/537.36(KHTML,like Gecko)Chrome/75.0.3700.100Safari/537.36'
        }
    def get_data(self,url):
        response = requests.get(url,headers=self.headers).content.decode('utf-8')
        page=etree.HTML(response)#xpath 对象
        #获取所有数据节点
        node_list = page.xpath('//div[@class="review-list  "]/div')
        for node in node_list:
            #作者
            author = node.xpath('.//header[@class="main-hd"]//a[2]/text()')[0]
            #评论
            text = node.xpath('string(.//div[@class="main-bd"]//div[@class="short-content"])')

            items={
                'author':author,
                'text':text.strip()
            }
            #持久化存储
            with open('yewen.json','a',encoding='utf-8') as f:
                f.write(json.dumps(items,ensure_ascii=False)+'\n')
    def run(self):
        for i in range(1,47):
            url='https://movie.douban.com/subject/26885074/reviews?start{}'.format(i*20)
            print('正在爬取第{}页'.format(i))
            self.get_data(url)
            time.sleep(3)
if __name__=='__main__':
    s=Spider()
    s.run()

二、制作词云

该程序将json中的数据进行处理,提取重要信息,并用wordcloud库制作词云图片,同样保存到与该python文件同一级目录下
注意需要下载这几个库:jieba、wordcloud、json

import jieba
from wordcloud import WordCloud
import json
f= open("yewen.json", "r", encoding="utf-8")
data_list= f.readlines()
str =''
for data in data_list:
    text= json.loads(data)['text']
    str +=text
#替换无关紧要的词语
result_str = str.replace('展开', '').replace('这篇','').replace('影评','').replace('电影','').replace('这部', '').replace('可能', '').replace('剧情','')
cut_text = jieba.lcut(result_str)
result = " ".join(cut_text)
wc = WordCloud(font_path='simhei.ttf',
               background_color="white",
               max_words=600,
               width=1000,
               height=1000,
               min_font_size=20,
               max_font_size=100,)
    #mast=plt.imreda('snake.jpg')#背景图片
wc.generate(result)#转化为词云的操作
wc.to_file("text.jpg")#保存
f.close()

在这里插入图片描述

总结

到此这篇关于python爬取豆瓣评论制作词云代码的文章就介绍到这了,更多相关python爬取豆瓣评论内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • python判断两个序列的成员是否一样的实例代码

    python判断两个序列的成员是否一样的实例代码

    在本篇文章里小编给大家整理了关于python判断两个序列的成员是否一样的实例代码,需要的朋友们参考下。
    2020-03-03
  • Python使用sys.exc_info()方法获取异常信息

    Python使用sys.exc_info()方法获取异常信息

    这篇文章主要介绍了Python使用sys.exc_info()方法获取异常信息,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-07-07
  • Python从单元素字典中获取key和value的实例

    Python从单元素字典中获取key和value的实例

    今天小编就为大家分享一篇Python从单元素字典中获取key和value的实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-12-12
  • Python Unittest自动化单元测试框架详解

    Python Unittest自动化单元测试框架详解

    这篇文章主要为大家详细介绍了Python Unittest自动化单元测试框架的相关资料,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2018-04-04
  • 利用Python为女神制作一个专属网站

    利用Python为女神制作一个专属网站

    520不知道送什么礼物?快跟随小编一起学习一下如何利用Python语言制作一个专属的网站送给女神吧!文中的示例代码讲解详细,需要的可以参考一下
    2022-05-05
  • 如何基于Python按行合并两个txt

    如何基于Python按行合并两个txt

    这篇文章主要介绍了如何基于Python按行合并两个txt,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-11-11
  • python数据结构输入输出及控制和异常

    python数据结构输入输出及控制和异常

    这篇文章主要介绍了python数据结构输入输出及控制和异常,上一章节中我们介绍了python的基础数据类型和集合数据类型,这章节给大家介绍一下python的输入输出、控制和异常,对数据类型感兴趣的同学可以查看一下文章<BR>
    2021-12-12
  • Python全局变量global关键字详解

    Python全局变量global关键字详解

    这篇文章主要介绍了Python全局变量global关键字详解,需要的朋友可以参考下
    2021-04-04
  • PyTorch中torch.nn.Linear实例详解

    PyTorch中torch.nn.Linear实例详解

    torch.nn是包含了构筑神经网络结构基本元素的包,在这个包中可以找到任意的神经网络层,下面这篇文章主要给大家介绍了关于PyTorch中torch.nn.Linear的相关资料,文中通过实例代码介绍的非常详细,需要的朋友可以参考下
    2022-06-06
  • Django与图表的数据交互的实现

    Django与图表的数据交互的实现

    本文主要介绍了Django与图表的数据交互的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2022-08-08

最新评论