mysql迁移指定表历史数据的多种方案

 更新时间:2026年01月08日 10:13:31   作者:yangminlei  
本文介绍了五种MySQL历史数据迁移方案,包括使用mysqldump、ETL工具、分批迁移、主从复制和表空间传输,每种方案都有其适用场景和注意事项,感兴趣的朋友跟随小编一起看看吧

方案一:使用mysqldump导出导入

通过MySQL自带的mysqldump工具导出指定表的历史数据,再导入到目标数据库。适合数据量中等且允许停机迁移的场景。

# 导出指定表结构和数据(按条件筛选历史数据)
mysqldump -u username -p dbname tablename --where="create_time<'2023-01-01'" > history_data.sql
# 导入到目标数据库
mysql -u username -p target_db < history_data.sql

方案二:ETL工具同步

使用Kettle、Talend等ETL工具建立数据管道,可实现定时增量同步。适合需要持续同步历史数据的场景。

  • 配置源数据库和目标数据库连接
  • 编写转换流程:添加输入表(带时间条件筛选)、字段映射、输出表
  • 设置定时任务或立即执行

方案三:程序分批迁移

编写脚本分批次查询和插入数据,避免大事务导致数据库负载过高。适合大数据量迁移。

import pymysql
batch_size = 5000
src_conn = pymysql.connect(source_db_config)
dst_conn = pymysql.connect(target_db_config)
while True:
    with src_conn.cursor() as cursor:
        cursor.execute(f"SELECT * FROM orders WHERE order_date<'2022-01-01' LIMIT {batch_size}")
        batch = cursor.fetchall()
        if not batch: break
    with dst_conn.cursor() as cursor:
        cursor.executemany("INSERT INTO orders_archive VALUES(%s,%s,...)", batch)
    dst_conn.commit()

方案四:主从复制过滤

配置MySQL主从复制时设置复制过滤器,仅同步特定表的历史数据。适合实时性要求高的场景。

# 在my.cnf中配置
replicate-wild-do-table=dbname.tablename_2020%
replicate-wild-do-table=dbname.tablename_2021%

方案五:表空间传输

对于InnoDB引擎,可直接导出表空间文件快速迁移。要求MySQL版本5.6+且目标表结构已存在。

-- 源库执行
FLUSH TABLES tablename FOR EXPORT;
-- 拷贝.ibd和.cfg文件到目标服务器
-- 目标库执行
ALTER TABLE tablename IMPORT TABLESPACE;

注意事项

  • 大表迁移建议在低峰期进行
  • 迁移前后校验数据量和关键字段一致性
  • 考虑建立临时索引加速历史数据查询
  • 对于频繁更新的表,迁移期间建议锁定写入

到此这篇关于mysql迁移指定表历史数据的多种方案的文章就介绍到这了,更多相关mysql迁移指定表内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • Mysql8.0密码问题mysql_native_password和caching_sha2_password详解

    Mysql8.0密码问题mysql_native_password和caching_sha2_password详解

    这篇文章主要介绍了Mysql8.0密码问题mysql_native_password和caching_sha2_password,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
    2024-08-08
  • MySQL在Linux系统上的完整安装与配置流程

    MySQL在Linux系统上的完整安装与配置流程

    文章详细介绍了在Linux系统中安装和卸载MySQL或MariaDB的过程,包括切换到root用户、检查和卸载包、备份数据、配置源、安装服务端和客户端、设置密码、检查服务状态以及常见问题处理等步骤,需要的朋友可以参考下
    2026-03-03
  • MYSQL必知必会读书笔记第六章之过滤数据

    MYSQL必知必会读书笔记第六章之过滤数据

    本文给大家分享MYSQL必知必会读书笔记第六章之过滤数据的相关知识,非常实用,特此分享到脚本之家平台,供大家参考
    2016-05-05
  • MySQL8 Connection refused远程访问失败的解决

    MySQL8 Connection refused远程访问失败的解决

    MySQL本地连接正常但远程不通,需检查HOST权限是否允许远程(使用%通配符),确认MySQL绑定地址是否为0.0.0.0,若仅监听本地需修改并重启服务,同时通过telnet测试本地与远程端口连通性
    2025-09-09
  • mysql表分区的方式和实现代码示例

    mysql表分区的方式和实现代码示例

    通俗地讲表分区是将一个大表,根据条件分割成若干个小表,下面这篇文章主要给大家介绍了关于mysql表分区的方式和实现代码,文中通过代码介绍的非常详细,需要的朋友可以参考下
    2024-02-02
  • MySQL5.6迁移到DM8的实现示例

    MySQL5.6迁移到DM8的实现示例

    本文主要介绍了MySQL5.6迁移到DM8的实现示例,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2024-08-08
  • mysql查询结果输出到文件的方法

    mysql查询结果输出到文件的方法

    下面小编就为大家带来一篇mysql查询结果输出到文件的方法。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2017-01-01
  • MySQL事务的四种特性总结

    MySQL事务的四种特性总结

    事务就是一组DML语句组成,这些语句在逻辑上存在相关性,这一组DML语句要么全部成功,要么全部失败,是一个整体,一个 MySQL 数据库,可不止你一个事务在运行,所以一个完整的事务,绝对不是简单的 sql 集合,本文就给大家总结一下MySQL事务的四种特性
    2023-08-08
  • MySQL 分组函数全面详解与最佳实践(最新整理)

    MySQL 分组函数全面详解与最佳实践(最新整理)

    本文系统讲解MySQL分组函数的核心用法、十大注意事项(如NULL处理、分组字段选择等)、高级技巧(多级分组、排名计算)及性能优化方案,结合销售分析案例,提供分组查询的实践指南与常见陷阱规避建议,感兴趣的朋友一起看看吧
    2025-06-06
  • Mysql数据库性能优化一

    Mysql数据库性能优化一

    今天,数据库的操作越来越成为整个应用的性能瓶颈了,这点对于Web应用尤其明显。关于数据库的性能,这并不只是DBA才需要担心的事,而这更是我们程序员需要去关注的事情
    2016-04-04

最新评论