基于PyQt5制作Excel文件数据去重小工具

 更新时间:2022年04月02日 08:15:07   作者:Python 集中营  
这篇文章主要介绍了如何利用PyQt5模块制作一个Excel文件数据去重小工具,可以将单个或者多个Excel文件数据进行去重操作,去重的列可以通过自定义制定,需要的可以参考一下

需求说明:将单个或者多个Excel文件数据进行去重操作,去重的列可以通过自定义制定。

开始源码说明之前,先说明一下工具的使用过程。

1、准备需要去重的数据文件。

2、使用工具执行去重操作。

3、处理完成后的结果文件。

PyQt5 界面UI相关的模块引用

from PyQt5.QtWidgets import *
from PyQt5.QtGui import *

核心组件

from PyQt5.QtCore import *

主题样式模块引用

from QCandyUi import CandyWindow

在这个应用中使用一个默认的杨氏模块QCandyUi,可以改变整个应用的主题颜色设计不用一个控件一个控件的去修改样式。有一个不好的地方就是应用本身设置的标题和应用图标不能生效,必须利用这个样式控件CandyWindow来修改,就像下面这样需要将我们自己写的UI空间放到里面。

# w = CandyWindow.createWindow(EDataDel(), theme='blueGreen', title='Excel批数据去重器  公众号:[Python 集中营]',
#                                  ico_path='数据去重.ico')
#     w.show()

应用操作相关模块

import sys
import os

Excel数据处理模块

import pandas as pd
import openpyxl as pxl

UI界面布局设计、信号量槽函数绑定实现

class EDataDel(QWidget):
    def __init__(self):
        super(EDataDel, self).__init__()
        self.init_ui()

    def init_ui(self):
        self.brower = QTextBrowser()
        self.brower.setReadOnly(True)
        self.brower.setFont(QFont('微软雅黑', 8))
        self.brower.setPlaceholderText('处理进程展示区域...')
        self.brower.ensureCursorVisible()

        form = QFormLayout()
        self.file_paths = QLineEdit()
        self.file_paths.setReadOnly(True)

        self.file_paths_btn = QPushButton()
        self.file_paths_btn.setText('加载批文件')
        self.file_paths_btn.clicked.connect(self.file_paths_btn_click)

        self.colums_label = QLabel()
        self.colums_label.setText('自定义去重复列')

        self.colums_text = QLineEdit()
        self.colums_text.setPlaceholderText('列名1,列名2,列名3,...')


        form.addRow(self.file_paths, self.file_paths_btn)
        form.addRow(self.colums_label, self.colums_text)

        self.work = DataWork(self)
        self.work.trigger.connect(self.update_log)
        self.work.finished.connect(self.finished)

        vbox = QVBoxLayout()
        self.start_btn = QPushButton()
        self.start_btn.setText('开始执行')
        self.start_btn.clicked.connect(self.start_btn_click)

        vbox.addLayout(form)
        vbox.addWidget(self.start_btn)

        hbox = QHBoxLayout()
        hbox.addWidget(self.brower)
        hbox.addLayout(vbox)

        self.setLayout(hbox)

    def file_paths_btn_click(self):
        paths = QFileDialog.getOpenFileNames(self, '选择文件', os.getcwd(), 'Excel Files(*.xlsx)')
        files = paths[0]
        path_strs = ''
        for file in files:
            path_strs = path_strs + file + ';'
        self.file_paths.setText(path_strs)
        if self.file_paths.text().strip() != '':
            self.update_log('已经完成批文件路径加载!')
        else:
            self.update_log('没有选择任何文件!')

    def save_dir_btn_click(self):
        directory = QFileDialog.getExistingDirectory(self, '选择文件夹', os.getcwd())
        self.save_dir.setText(directory)

    def update_log(self, text):
        cursor = self.brower.textCursor()
        cursor.movePosition(QTextCursor.End)
        self.brower.append(text)
        self.brower.setTextCursor(cursor)
        self.brower.ensureCursorVisible()

    def start_btn_click(self):
        self.start_btn.setEnabled(False)
        self.work.start()

    def finished(self, finished):
        if finished is True:
            self.start_btn.setEnabled(True)

创建子线程,处理业务逻辑(清理Excel重复文件)

class DataWork(QThread):
    trigger = pyqtSignal(str)
    finished = pyqtSignal(bool)

    def __init__(self, parent=None):
        super(DataWork, self).__init__(parent)
        self.parent = parent
        self.working = True

    def __del__(self):
        self.working = False
        self.wait()

    def run(self):
        self.trigger.emit('启动批量处理子线程...')
        file_paths = self.parent.file_paths.text().strip()
        colums_text = self.parent.colums_text.text().strip()
        colums = []
        if ',' in colums_text:
            colums = colums_text.split(',')
        else:
            colums.append(colums_text)
        self.trigger.emit('获取配置项完成!')
        for file in file_paths.split(';'):
            if file.strip() != '':
                web_sheet = pxl.load_workbook(file)
                sheets = web_sheet.sheetnames
                print(file)
                new_file = file.split('.')[0] + '_已去重.' + file.split('.')[1]
                print(new_file)
                writer = pd.ExcelWriter(new_file)
                for sheet in sheets:
                    sheet_name = sheet.title()
                    print(sheet_name)
                    self.trigger.emit('准备处理工作表名称:' + str(sheet.title()))
                    data_frame = pd.read_excel(file, sheet_name=sheet_name)
                    print(data_frame)
                    repe = data_frame.duplicated(subset=colums)
                    repe = repe[repe]
                    print(data_frame.iloc[repe.index])
                    res = data_frame.drop_duplicates(subset=colums)
                    print(res)

                    self.trigger.emit(str(sheet.title()) + ':已清除')
                    res.to_excel(writer, sheet_name, index=False)
                writer.save()
            else:
                self.trigger.emit('当前文件路径为空,继续...')
        self.trigger.emit('数据处理完成...')
        self.finished.emit(True)

使用主函数启动整个应用

if __name__ == '__main__':
    app = QApplication(sys.argv)
    w = CandyWindow.createWindow(EDataDel(), theme='blueGreen', title='Excel批数据去重器  公众号:[Python 集中营]',
                                 ico_path='数据去重.ico')
    w.show()
    sys.exit(app.exec_())

以上就是基于PyQt5制作Excel文件数据去重小工具的详细内容,更多关于PyQt5数据去重的资料请关注脚本之家其它相关文章!

相关文章

  • pandas对dataFrame中某一个列的数据进行处理的方法

    pandas对dataFrame中某一个列的数据进行处理的方法

    这篇文章主要介绍了pandas对dataFrame中某一个列的数据进行处理的方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-07-07
  • python中的多cpu并行编程

    python中的多cpu并行编程

    这篇文章主要介绍了python中的多cpu并行编程,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2022-05-05
  • 用PyQt进行Python图形界面的程序的开发的入门指引

    用PyQt进行Python图形界面的程序的开发的入门指引

    这篇文章主要介绍了用PyQt进行Python图形界面的程序的开发的入门指引,来自于IBM官方网站技术文档,需要的朋友可以参考下
    2015-04-04
  • Python支持异步的列表解析式

    Python支持异步的列表解析式

    这篇文章主要为大家介绍了Python支持异步的列表解析式示例详解,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪
    2022-07-07
  • Python实现的科学计算器功能示例

    Python实现的科学计算器功能示例

    这篇文章主要介绍了Python实现的科学计算器功能,涉及Python基于数值运算与事件响应实现科学计算器功能相关操作技巧,需要的朋友可以参考下
    2017-08-08
  • Python3中urllib库添加请求头的两种方式

    Python3中urllib库添加请求头的两种方式

    Python 3中的urllib模块可以用来处理URL,包括下载和上传文件、创建和读取cookie、访问Web API等,本文给大家介绍Python3中urllib库添加请求头的两种方式,感兴趣的朋友一起看看吧
    2023-10-10
  • 基于django 的orm中非主键自增的实现方式

    基于django 的orm中非主键自增的实现方式

    这篇文章主要介绍了基于django 的orm中非主键自增的实现方式,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-05-05
  • Python matplotlib实现多重图的绘制

    Python matplotlib实现多重图的绘制

    Matplotlib作为Python的2D绘图库,它以各种硬拷贝格式和跨平台的交互式环境生成出版质量级别的图形。本文将利用Matplotlib库绘制多重图,感兴趣的可以了解一下
    2022-03-03
  • Python+gensim实现文本相似度分析详解

    Python+gensim实现文本相似度分析详解

    这篇文章主要介绍了Python+gensim实现文本相似度分析详解,在开发中我们会遇到进行文本相似度分析的需求,计算文本相似度,用于鉴别文章是否存在抄袭,需要的朋友可以参考下
    2023-07-07
  • PyTorch中的参数类torch.nn.Parameter()详解

    PyTorch中的参数类torch.nn.Parameter()详解

    这篇文章主要给大家介绍了关于PyTorch中torch.nn.Parameter()的相关资料,要内容包括基础应用、实用技巧、原理机制等方面,文章通过实例介绍的非常详细,需要的朋友可以参考下
    2022-02-02

最新评论