MySQL数据实时同步到MongoDB的实践分享

更新时间：2024年01月16日 10:26:33 作者：海拥✘

很多 DBA 同学经常会遇到要从一个数据库实时同步到另一个数据库的问题,同构数据还相对容易,遇上异构数据、表多、数据量大等情况就难以同步,我自己亲测了一种方式可以实现MySQL数据实时同步到MongoDB,跟大家分享一下,希望对你有帮助

MySQL 到 MongoDB 实时数据同步实操分享

第一步：配置MySQL 连接

1.点击 Tapdata Cloud 操作后台左侧菜单栏的【连接管理】，然后点击右侧区域【连接列表】右上角的【创建连接】按钮，打开连接类型选择页面，然后选择MySQL

在这里插入图片描述

2.在打开的连接信息配置页面依次输入需要的配置信息

在这里插入图片描述

【连接名称】：设置连接的名称，多个连接的名称不能重复

【数据库地址】：数据库 IP / Host

【端口】：数据库端口

【数据库名称】：tapdata 数据库连接是以一个 db 为一个数据源。这里的 db 是指一个数据库实例中的 database，而不是一个 mysql 实例。

【账号】：可以访问数据库的账号

【密码】：数据库账号对应的密码

【时间时区】：默认使用该数据库的时区；若指定时区，则使用指定后的时区设置

测试连接，提示测试通过

在这里插入图片描述

测试通过后保存连接即可。

第二步：配置 MongoDB 连接

3.同第一步操作，点击左侧菜单栏的【连接管理】，然后点击右侧区域【连接列表】右上角的【创建连接】按钮，打开连接类型选择页面，然后选择 MongoDB

在这里插入图片描述

4.在打开的连接信息配置页面依次输入需要的配置信息，配置完成后测试连接保存即可。

在这里插入图片描述

第三步：选择同步模式-全量/增量/全+增

进入Tapdata Cloud 操作后台任务管理页面，点击添加任务按钮进入任务设置流程

在这里插入图片描述

根据刚才建好的连接，选定源端与目标端。

在这里插入图片描述

根据数据需求，选择需要同步的库、表，如果你对表名有修改需要，可以通过页面中的表名批量修改功能对目标端的表名进行批量设置.

在这里插入图片描述

在以上选项设置完毕后，下一步选择同步类型，平台提供全量同步、增量同步、全量+增量同步，设定写入模式和读取数量。

如果选择的是全量+增量同步，在全量任务执行完毕后，Tapdata Agent 会自动进入增量同步状态。在该状态中，Tapdata Agent 会持续监听源端的数据变化（包括：写入、更新、删除），并实时的将这些数据变化写入目标端。

在这里插入图片描述

点击任务名称可以打开任务详情页面，可以查看任务详细信息。

在这里插入图片描述

点击任务监控可以打开任务执行详情页面，可以查看任务进度/里程碑等的具体信息。

在这里插入图片描述

第四步：进行数据校验

一般同步完成后，我都习惯性进行一下数据校验，防止踩坑。

Tapdata Cloud 有三种校验模式，我常用最快的快速count校验，只需要选择到要校验的表，不用设置其他复杂的参数和条件，简单方便。

在这里插入图片描述

如果觉得不够用，也可以选择表全字段值校验，这个除了要选择待校验表外，还需要针对每一个表设置索引字段。

在这里插入图片描述

在进行表全字段值校验时，还支持进行高级校验。通过高级校验可以添加JS校验逻辑，可以对源和目标的数据进行校验。

在这里插入图片描述

还有一个校验方式关联字段值校验，创建关联字段值校验时，除了要选择待校验表外，还需要针对每一个表设置索引字段。

在这里插入图片描述

完美支持SQL->NOSQL，简直不要太方便了。以上就是 MySQL数据实时同步到 MongoDB 的操作分享，希望上面的操作分享对你有帮助！

到此这篇关于MySQL数据实时同步到MongoDB的实践分享的文章就介绍到这了,更多相关MySQL MongoDB数据同步内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！

您可能感兴趣的文章:

mysql8如何设置不区分大小写ubuntu20
这篇文章主要介绍了mysql8如何设置不区分大小写ubuntu20问题，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教
2023-05-05
如何提高MySQL Limit查询性能的方法详解
今天小编就为大家分享一篇关于如何提高MySQL Limit查询性能的方法详解，小编觉得内容挺不错的，现在分享给大家，具有很好的参考价值，需要的朋友一起跟随小编来看看吧
2019-03-03
MySQL 常见错误分析与解决方法
Mysql 在使用过程中经常遇到错误，都是本人在实际应用中处理检验过的，本文对常见错误出现的代码进行详细分析，并有中文解释，以及解决方法！
2016-07-07
MySQL表的CURD操作(数据的增删改查)
数据库本质上是一个文件系统,通过标准的SQL语句对数据进行CURD操作,下面这篇文章主要给大家介绍了关于MySQL表的CURD操作的相关资料,文中通过实例代码介绍的非常详细,需要的朋友可以参考下
2023-02-02
mysql创建用户授权步骤详解
这篇文章主要介绍了mysql创建用户授权,本文分步骤给大家介绍的非常详细，对mysql创建用户授权详细步骤感兴趣的朋友一起看看吧
2023-07-07
MySQL脚本批量自动插入数据及数据可按条件插入实现
在初始化数据库或者导入一些数据时,常常会用到批量的操作，本文主要介绍了MySQL脚本批量自动插入数据及数据可按条件插入实现，具有一定的参考价值，感兴趣的可以了解一下
2024-01-01
Mysql性能调优之max_allowed_packet使用及说明
这篇文章主要介绍了Mysql性能调优之max_allowed_packet使用及说明，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教
2022-11-11
Navicat中新建MySQL数据库与新建、修改、删除数据表及删除数据库详细操作方法
Navicat是一套快速、可靠并价格相当便宜的数据库管理工具,专为简化数据库的管理及降低系统管理成本而设,这篇文章主要给大家介绍了关于Navicat中新建MySQL数据库与新建、修改、删除数据表及删除数据库详细操作的相关资料,需要的朋友可以参考下
2023-11-11
MYSQL事务回滚的2个问题分析
在事务中，每个正确的原子操作都会被顺序执行，直到遇到错误的原子操作，此时事务会将之前的操作进行回滚。回滚的意思是如果之前是插入操作，那么会执行删除插入的记录，如果之前是update操作，也会执行update操作将之前的记录还原
2014-05-05
一篇文章带你了解MySQL索引下推
索引条件下推,也叫索引下推,英文全称Index Condition Pushdown,简称ICP,索引下推是MySQL5.6新添加的特性,用于优化数据的查询,下面这篇文章主要给大家介绍了关于MySQL索引下推的相关资料,需要的朋友可以参考下
2022-10-10