MySQL实现去重的几种方法小结

 更新时间:2024年07月30日 09:45:27   作者:码农研究僧  
在MySQL中,SELECT DISTINCT 和 GROUP BY 可以用来去除重复记录,二者有相似的功能,但在某些情况下有所不同,本文将通过代码示例给大家详细介绍这几种方法,感兴趣的小伙伴跟着小编一起来看看吧

前言

在MySQL中,SELECT DISTINCT 和 GROUP BY 可以用来去除重复记录,二者有相似的功能,但在某些情况下有所不同

1. DISTINCT

SELECT DISTINCT 用于从表中选择唯一的记录,去除所有重复的数据行

直接作用于结果集,并去除所有指定列上的重复值

SELECT DISTINCT equipment_no
FROM equipment_check_order;

在单列去重的场景下,效率较高。但是在处理大数据集时,可能会影响性能,因为需要全表扫描和去重

2. GROUP BY

GROUP BY 用于将具有相同值的记录分组,并可以进行聚合操作

即使不使用聚合函数,仅使用 GROUP BY 也可以达到去重的效果

SELECT equipment_no
FROM equipment_check_order
GROUP BY equipment_no;

3. Mysql版本

3.1 低版本

在不支持窗口函数的 MySQL 版本中,可以使用子查询来进行去重

假设希望去除 equipment_check_order 表中的重复 equipment_no,并保留每个 equipment_no 的最新记录,可以使用子查询的方式来实现

-- 创建目标表
CREATE TABLE IF NOT EXISTS deduplicated_orders (
    equipment_no VARCHAR(255),
    check_date DATE,
    PRIMARY KEY (equipment_no, check_date)
);

-- 将去重后的数据插入到目标表
INSERT INTO deduplicated_orders (equipment_no, check_date)
SELECT equipment_no, check_date
FROM equipment_check_order AS e
WHERE check_date = (
    SELECT MAX(check_date)
    FROM equipment_check_order
    WHERE equipment_no = e.equipment_no
);

或者使用自联拼接的方式:

-- 创建目标表
CREATE TABLE IF NOT EXISTS deduplicated_orders (
    equipment_no VARCHAR(255),
    check_date DATE,
    PRIMARY KEY (equipment_no, check_date)
);

-- 使用自联接将去重后的数据插入到目标表
INSERT INTO deduplicated_orders (equipment_no, check_date)
SELECT e1.equipment_no, e1.check_date
FROM equipment_check_order e1
LEFT JOIN equipment_check_order e2
ON e1.equipment_no = e2.equipment_no
AND e1.check_date < e2.check_date
WHERE e2.check_date IS NULL;

3.2 高版本

使用 ROW_NUMBER() 和 WITH 子句进行去重

基本步骤:

  • 定义公共表表达式(CTE): 使用 WITH 子句创建一个临时结果集
  • 应用 ROW_NUMBER() 函数: 在 CTE 内部为每一行分配唯一的行号
  • 选择需要的记录: 在外层查询中,根据行号筛选出需要的记录

示例:保留每个 equipment_no 的最新记录
假设有一个表 equipment_check_order,包含 equipment_no 和 check_date 列,希望去除重复的 equipment_no,并保留每个 equipment_no 的最新记录(即 check_date 最大的记录)

-- 创建目标表(如果不存在)
CREATE TABLE IF NOT EXISTS deduplicated_orders (
    equipment_no VARCHAR(255),
    check_date DATE,
    PRIMARY KEY (equipment_no, check_date)
);

-- 使用 CTE 和 ROW_NUMBER() 进行去重
WITH ranked AS (
  SELECT equipment_no,
         check_date,
         ROW_NUMBER() OVER (PARTITION BY equipment_no ORDER BY check_date DESC) AS rn
  FROM equipment_check_order
)
INSERT INTO deduplicated_orders (equipment_no, check_date)
SELECT equipment_no, check_date
FROM ranked
WHERE rn = 1;
  • PARTITION BY equipment_no:根据 equipment_no 列进行分组
  • SELECT equipment_no, check_date FROM ranked WHERE rn = 1:从 CTE ranked 中选择行号为 1 的记录,即每个分组中最新的记录,如果为小于5,代表去重并保留多条记录

4. 总结

方法用法示例优点缺点适用场景
SELECT DISTINCTSELECT DISTINCT equipment_no FROM equipment_check_order;简单易用,直观对大数据集性能影响可能较大单列去重,简单查询
GROUP BYSELECT equipment_no FROM equipment_check_order GROUP BY equipment_no;灵活,与聚合函数结合使用方便语法复杂,对性能影响与数据量有关复杂查询或需要与聚合函数结合使用的场景
子查询 + ROW_NUMBER()高灵活性,可选择特定记录需使用窗口函数,语法复杂高级去重,保留特定记录
临时表适合复杂数据处理,多步骤数据操作操作步骤多,占用额外存储空间数据清理、迁移,复杂操作

以上就是MySQL实现去重的几种方法小结的详细内容,更多关于MySQL去重的资料请关注脚本之家其它相关文章!

相关文章

  • PHP mysqli扩展库 预处理技术的使用分析

    PHP mysqli扩展库 预处理技术的使用分析

    本篇文章,介绍了PHP mysqli扩展库 预处理技术的使用分析。需要的朋友参考下
    2013-05-05
  • MySQL中count()和count(1)有何区别以及哪个性能最好详解

    MySQL中count()和count(1)有何区别以及哪个性能最好详解

    count是一个函数,用来统计数据,但是count函数传入的参数有很多种,比如count(1)、count(*)、count(字段)等,下面这篇文章主要给大家介绍了关于MySQL中count()和count(1)有何区别以及哪个性能最好的相关资料,需要的朋友可以参考下
    2022-08-08
  • 关于查询MySQL字段注释的5种方法总结

    关于查询MySQL字段注释的5种方法总结

    在MySQL数据库中,字段或列的注释是用属性comment来添加,下面这篇文章主要给大家介绍了关于查询MySQL字段注释的5种方法,文中通过实例代码介绍的非常详细,需要的朋友可以参考下
    2022-01-01
  • mysql中替代null的IFNULL()与COALESCE()函数详解

    mysql中替代null的IFNULL()与COALESCE()函数详解

    这篇文章主要给大家介绍了关于mysql中替代null的IFNULL()与COALESCE()函数的相关资料,文中通过示例代码介绍的非常详细,对大家具有一定的参考学习价值,需要的朋友们下面来一起看看看吧。
    2017-06-06
  • MySQL中常见关键字的用法总结

    MySQL中常见关键字的用法总结

    这篇文章主要为大家详细介绍了MySQL中常见关键字的用法,例如GROUP BY、ORDER BY和LIMIT,文中的示例代码讲解详细,感兴趣的小伙伴可以了解一下
    2023-09-09
  • mysql group_concat 实现把分组字段写成一行的方法示例

    mysql group_concat 实现把分组字段写成一行的方法示例

    这篇文章主要介绍了mysql group_concat实现把分组字段写成一行的方法,结合实例形式分析了group_concat函数的功能、查询用法及相关操作技巧,需要的朋友可以参考下
    2019-10-10
  • MySQL数据库无法远程连接的问题详细解决过程

    MySQL数据库无法远程连接的问题详细解决过程

    这篇文章主要介绍了MySQL数据库无法远程连接问题的详细解决过程,解决MySQL无法远程连接的问题需要检查并修改MySQL的用户权限,确保配置文件允许远程访问,并且防火墙开放3306端口,需要的朋友可以参考下
    2025-05-05
  • MySQL和Python交互的示例

    MySQL和Python交互的示例

    这篇文章主要介绍了MySQL和Python交互的示例,帮助大家更好的理解和学习使用python,感兴趣的朋友可以了解下
    2021-03-03
  • mysql 5.7.17 以及workbench安装配置图文教程

    mysql 5.7.17 以及workbench安装配置图文教程

    这篇文章主要为大家详细介绍了mysql 5.7.17 以及workbench安装配置图文教程,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2019-06-06
  • MySQL表数据删除与清理的最佳实践

    MySQL表数据删除与清理的最佳实践

    在MySQL运维中,删除操作看似简单,却隐藏着诸多风险,误删表导致数据永久丢失、delete全表引发主从延迟、删数据后磁盘空间不释放等等,本文基于实际运维场景,详细讲解删除表、清空表、部分数据删除、分区表清理四大核心场景的最佳操作方案,需要的朋友可以参考下
    2025-12-12

最新评论