MySQL快速对比数据技巧
在MySQL运维中，研发同事想对比下两个不同实例上的数据并找出差异，除主键外还需要对比每一个字段，如何做呢？
第一种方案，写程序将两个实例上的每一行数据取出来进行对比，理论可行，但是对比时间较长。
第二种方案，对每一行数据所有字段合并起来，取checksum值，再按照checksum值对比，看着可行，尝试下。
首先要合并所有字段的值，选用MySQL提供的CONCAT函数，如果CONCAT函数中包含NULL值，会导致最终结果为NULL，因此需要使用IFNULL函数来替换NULL值，如:
CONCAT(IFNULL(C1,''),IFNULL(C2,''))
加入表有很多行，手动拼个脚本比较累，别急，可以使用information_schema.COLUMNS来处理：
## 获取列名的拼接串
SELECT
GROUP_CONCAT('IFNULL(',COLUMN_NAME,','''')')
FROM information_schema.COLUMNS
WHERE TABLE_NAME='table_name';
假设我们有测试表：
CREATE TABLE t_test01 ( id INT AUTO_INCREMENT PRIMARY KEY, C1 INT, C2 INT )
我们便可以拼接出下面的SQL:
SELECT id, MD5(CONCAT( IFNULL(id,''), IFNULL(c1,''), IFNULL(c2,''), )) AS md5_value FROM t_test01
在两个实例上执行下，然后把结果使用beyond compare对比下，就很容易找出不相同的行以及主键ID
对于数据量较大的表，执行出来的结果集也很大，对比起来比较费劲，那就先尝试缩小结果集，可以将多行记录的md5值合并起来求MD5值，如果最后MD5值相同，则这些行相同，如果不同，则证明存在差异，再按照这些行进行逐行对比。
假设我们按照1000行一组来进行对比，如果需要将分组后的结果合并，需要使用GROUP_CONCAT函数，注意在GROUP_CONCAT函数中添加排序保证合并数据的顺序， SQL如下：
SELECT min(id) as min_id, max(id) as max_id, count(1) as row_count, MD5(GROUP_CONCAT( MD5(CONCAT( IFNULL(id,''), IFNULL(c1,''), IFNULL(c2,''), )) ORDER BY id ))AS md5_value FROM t_test01 GROUP BY (id div 1000)
执行结果为：
min_id max_id row_count md5_value 0 999 1000 7d49def23611f610849ef559677fec0c 1000 1999 1000 95d61931aa5d3b48f1e38b3550daee08 2000 2999 1000 b02612548fae8a4455418365b3ae611a 3000 3999 1000 fe798602ab9dd1c69b36a0da568b6dbb
当差异数据较少时，即使需要对比上千万数据，我们可以轻松根据根据min_id和max_id来快速定位到哪1000条数据里存在差异，再进行逐行MD5值对比，最终找到差异行。
最终对比图：
PS:
在使用GROUP_CONCAT时，需要配置MySQL变量group_concat_max_len，默认值为1024，超出部分会被阶段。
相关文章
这篇文章主要介绍了MySQL中varchar类型的字段默认值设置方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教2023-10-10
GaussDB(for MySQL)数据库在写入性能上，在业界同类产品中是最好的，这主要得益于GaussDB(for MySQL)在MySQL内核方面的诸多优化。其中有一项从“送快递”得来灵感的优化——事务异步提交，值得我们分析。2021-05-05
Docker Dockerfile构建MySQL并初始化数据方式
这篇文章主要介绍了Docker Dockerfile构建MySQL并初始化数据方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教2024-04-04
用MyEclipse配置DataBase Explorer(图示)
本文介绍了，用MyEclipse配置DataBase Explorer的图片示例。需要的朋友参考下2013-04-04
在MySQL数据库中,我们经常需要检查某个列是否为空或Null,空值表示该列没有被赋值,而Null表示该列的值是未知的或不存在的,在本文中,我们将讨论如何在MySQL中检查列是否为空或Null,并探讨不同的方法和案例,需要的朋友可以参考下2023-11-11
对于从来自事计算机专业工作的人而言,MySQL并不陌生,下面这篇文章主要给大家介绍了关于cmd进入mysql以及常用的mysql操作的相关资料,需要的朋友可以参考下2023-11-11
这篇文章主要介绍了Mysql索引详细介绍,本文讲解了Mysql索引简介、设计索引的原则、如何使用索引等内容,需要的朋友可以参考下2014-07-07
GROUP_CONCAT函数用于将GROUP BY产生的同一个分组中的值连接起来，返回一个字符串结果，接下来就给大家简单的介绍一下MySQL group_concat函数的使用方法,需要的朋友可以参考下2023-07-07
MySQL InnoDB引擎ibdata文件损坏/删除后使用frm和ibd文件恢复数据
mysql的ibdata文件被误删、被恶意修改,没有从库和备份数据的情况下的数据恢复,不能保证数据库所有表数据的100%恢复,目的是尽可能多的恢复,下面是具体的操作方法2025-03-03
这篇文章主要介绍了jQuery 绑定事件的方式总结的相关资料,这里整理了几种方法，需要的朋友可以参考下2016-11-11
最新评论