MySQL中删除重复数据SQL的三种写法

 更新时间:2025年01月12日 11:49:54   作者:大梦谁先觉i  
这篇文章主要介绍了MySQL中删除重复数据SQL的三种写法,文中通过代码示例讲解的非常详细,对大家的学习或工作有一定的帮助,需要的朋友可以参考下

要在 MySQL 中删除重复的数据并只保留一条,可以使用下面的方法(要用的时候直接复制小改下条件和表名称即即可)

方法一:使用 left join + 子查询删除重复数据(推荐)

温馨提示:本人在 500w 数据下执行此 SQL 耗费 15s-30s 左右

使用 left join (推荐方法删除重复数据,添加唯一组合索引,可以使用,数据量大的也可以)

// 先把历史数据删除,才能够添加唯一的组合索引
DELETE u1
FROM uf_cs_record_batch_detail u1
LEFT JOIN (
    SELECT MIN(id) AS min_id
    FROM uf_cs_record_batch_detail
    GROUP BY cs_contact_name, cs_safe_remark
) u2
ON u1.id = u2.min_id
WHERE u2.min_id IS NULL;

另外在附上添加唯一组合索引的 SQL 写法(很实用):

// 添加组合的唯一索引
ALTER TABLE uf_cs_record_batch_detail ADD UNIQUE KEY idx_uni_contact_safe_stat (cs_contact_name, cs_safe_remark);

方法二:创建临时表(需分多步执行,逻辑清晰,但会改变ID值)

这种方法假设你有一个表 your_table,并且你要基于某些列来判断哪些数据是重复的。
例如,如果你想删除基于 column1 和 column2 的重复记录,只保留一条记录,你可以按照以下步骤操作:

  • 使用 CREATE TABLE 语句创建一个临时表,用于存储唯一的记录。
  • 使用 INSERT INTO ... SELECT 语句将唯一的记录插入到临时表中。
  • 删除原始表中的所有记录。
  • 使用 INSERT INTO ... SELECT 语句将临时表中的记录插入回原始表。
  • 删除临时表。

以下是一个完整的 SQL 例子:

-- 创建临时表 SQL 参考
CREATETABLE temp_table AS
SELECT*FROM your_table

-- 将不重复的数据临时存在这个 temp_table 临时表中
INSERTINTO temp_table
SELECT*FROM your_table t1
WHERE t1.id = (
    SELECTMIN(t2.id)
    FROM your_table t2
    WHERE t1.column1 = t2.column1
    AND t1.column2 = t2.column2
);

-- 然后将源表中的数据删除
DELETEFROM your_table whereWHERE 字段1=值;

-- 再将临时表中不重复数据重新写回到源表中
INSERTINTO your_table
SELECT*FROM temp_table;

-- 最后删除临时表
DROPTABLE temp_table;

这样,你就成功地删除了原始表中的重复记录,只保留了一条唯一记录。

注意:但是这种方法会改变原来的数据 ID ,所以这种方法看场合使用

方法三:使用 JOIN 自连查询(需要注意性能问题)

为了避免改变原来的数据 ID,我们可以使用一个不同的方法,通过使用自连接来标记重复的数据并删除多余的记录。这种方法在保留原始 ID 的情况下删除重复记录。

假设你的表结构如下:

  • 表名:your_table
  • 列名:id (主键), column1column2, 以及其他列。

你可以使用以下 SQL 来删除重复记录,只保留一条(通常是保留 ID 最小的那一条):

-- Step 1: 标记要删除的重复记录
DELETE t1
FROM your_table t1
INNER JOIN your_table t2 
WHERE 
    t1.id > t2.id
    AND t1.column1 = t2.column1
    AND t1.column2 = t2.column2;

-- Step 2: 确认删除成功,查看剩余数据
SELECT * FROM your_table;

解释:

-标记要删除的重复记录:我们使用自连接 INNER JOIN 来找到重复的记录,并且使用 WHERE t1.id > t2.id 来确保只删除 id 较大的记录,从而保 留 id 最小的记录。

  • 确认删除成功:通过 SELECT 语句查看剩余的数据,确保删除操作正确。这个方法的优点是:不会改变原始数据的 ID。保留每组重复记录中 ID 最小的一条记录。操作简单且高效。

小总结

  • 使用 left join 删除重复数据(推荐使用),适合大数据量,性能 OK
  • 创建临时表 适合需要重建数据表的场景,适合数据量中等的情况,不过比较繁琐
  • 自连查询 能保留最小 ID,适合不想改变 ID 的情况下删除重复数据。

到此这篇关于MySQL中删除重复数据SQL的三种写法的文章就介绍到这了,更多相关MySQL删除重复数据内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • MySQL与Oracle的语法区别详细对比

    MySQL与Oracle的语法区别详细对比

    Oracle和mysql的一些简单命令对比在本文中将会涉及到很多的实例,感兴趣的你不妨学习一下,就当巩固自己的知识了
    2013-03-03
  • 一文详细讲解如何查看mysql里面的锁

    一文详细讲解如何查看mysql里面的锁

    锁是MySQL里面最难理解的知识,但是又无处不在,下面这篇文章主要给大家介绍了关于关于如何查看mysql里面锁的相关资料,文中通过代码介绍的非常详细,需要的朋友可以参考下
    2023-11-11
  • MySQL常用SQL语句总结包含复杂SQL查询

    MySQL常用SQL语句总结包含复杂SQL查询

    今天小编就为大家分享一篇关于MySQL常用SQL语句总结包含复杂SQL查询,小编觉得内容挺不错的,现在分享给大家,具有很好的参考价值,需要的朋友一起跟随小编来看看吧
    2019-02-02
  • mysql正则函数REGEXP使用及说明

    mysql正则函数REGEXP使用及说明

    本文介绍了MySQL中的正则表达式匹配操作符REGEXP及其在不同版本中的使用方法和差异,包括基本语法、支持的元字符与量词、版本差异及常用函数如REGEXP_LIKE、REGEXP_SUBSTR、REGEXP_REPLACE等
    2026-05-05
  • mysql数据库重置表主键id的实现

    mysql数据库重置表主键id的实现

    在我们的开发过程中,难免在做测试的时候会生成一些杂乱无章的SQL主键数据,本文主要介绍了mysql数据库重置表主键id的实现,具有一定的参考价值,感兴趣的可以了解一下
    2025-03-03
  • 详解MySQL中的pid与socket

    详解MySQL中的pid与socket

    不知道你有没有注意过,MySQL 启动时需要配置 pid 及 socket 文件路径。偶尔还会出现因 pid 文件找不到而启动失败的现象,那么 pid 与 socket 文件究竟是干什么用的呢?我们一起来看下本篇文章。
    2021-06-06
  • MySql查询时间段的方法

    MySql查询时间段的方法

    这篇文章主要介绍了MySql查询时间段的方法,包括了传统的针对时间字段的查询方法与UNIX时间戳的查询技巧,非常具有实用价值,需要的朋友可以参考下
    2014-12-12
  • mysql 将列值转变为列的方法

    mysql 将列值转变为列的方法

    应同学的请求,写个将列值转变为列的sql语句,记录一下。
    2013-05-05
  • 如何用SQL命令查看Mysql数据库大小

    如何用SQL命令查看Mysql数据库大小

    本篇文章是对用SQL命令查看Mysql数据库大小的方法进行了详细的分析介绍,需要的朋友参考下
    2013-06-06
  • windows系统中MySQL和SQLyog的安装和配置教程

    windows系统中MySQL和SQLyog的安装和配置教程

    这篇文章主要介绍了windows系统中MySQL和SQLyog的安装和配置教程的相关资料,包括下载MySQL、解压、设置环境变量、初始化数据库、修改密码等步骤,同时还介绍了如何下载和安装SQLyog图形化工具,以便更方便地管理和操作MySQL数据库,需要的朋友可以参考下
    2025-11-11

最新评论