基于python的mysql复制工具详解

 更新时间:2019年06月26日 10:10:01   作者:yangyidba  
python-mysql-replication 是基于python实现的 MySQL复制协议工具,我们可以用它来解析binlog 获取日志的insert,update,delete等事件 ,并基于此做其他业务需求。这篇文章主要介绍了基于python的mysql复制工具,需要的朋友可以参考下

一 简介

python-mysql-replication 是基于python实现的 MySQL复制协议工具,我们可以用它来解析binlog 获取日志的insert,update,delete等事件 ,并基于此做其他业务需求。比如数据更改时失效缓存,监听dml事件通知下游业务方做对应处理。

其项目信息

二 实践

2.1 安装配置

获取源代码

git clone http://www.github.com/noplay/python-mysql-replication

使用pip 安装

pip install mysql-replication

权限: 可以直接使用复制账号也可以使用其他账号,但是该账号必须 SELECT, REPLICATION SLAVE, REPLICATION CLIENT 权限

GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT ON . TO 'replicator'@'%' IDENTIFIED BY 'xxxxx';

数据库日志相关的参数设置如下:

log_bin=on ,binlog_format=row,binlog_row_image=FULL

2.2 核心类介绍

python-mysql-replication 的入口是类BinLogStreamReader(),我们在使用该工具时需要实例化一个BinLogStreamReader()对象 stream, BinLogStreamReader 通过 ReportSlave 向主库注册作为一个slave角色,用于接受MySQL的binlog广播 。有兴趣的可以研究其代码具体实现。

该实例提供解析 binlog 各种事件的集合,每个事件也是一个对象。

初始化BinLogStreamReader()实例需要使用的参数如下:

2.3 如何使用呢?

最简单的用法 脚本名 pyreplica.py

开启两个窗口,一个窗口执行,另外一个窗口操作mysql 写入或者修改数据

python pyreplica.py

输出如下:

2.3 拓展

基于该工具提供的日志事件解析我们可以做很多事情,比较有名的工具 binlog2sql 利用该工具解析binlog 做数据回滚 。

mysql-replication.py

执行脚本结果 如下图

除了解析binlog,我们还可以用python-mysql-replication 做数据全量加增量迁移。比如仅仅迁移某些大表而不是整个库的时候,可以用到。有兴趣的朋友可以想想大概的算法。

总结

以上所述是小编给大家介绍的基于python的mysql复制工具,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对脚本之家网站的支持!
如果你觉得本文对你有帮助,欢迎转载,烦请注明出处,谢谢!

相关文章

  • MySql数据库基础知识点总结

    MySql数据库基础知识点总结

    这篇文章主要介绍了MySql数据库基础知识点,总结整理了mysql数据库基本创建、查看、选择、删除以及数据类型相关操作技巧,需要的朋友可以参考下
    2020-06-06
  • Mysql sql 如何对行数据求和

    Mysql sql 如何对行数据求和

    这篇文章主要介绍了Mysql使用sql实现对行数据求和问题,具有很好的参考价值,希望对大家有所帮助。
    2023-05-05
  • 通过HSODBC访问mysql的实现步骤

    通过HSODBC访问mysql的实现步骤

    通过HSODBC访问mysql的实现方法,需要的朋友可以参考下。
    2009-10-10
  • MySQL忘记了root用户密码如何重置的解决方案

    MySQL忘记了root用户密码如何重置的解决方案

    MySQL是当前被广泛使用的关系型数据库,MySQL需要设置root用户的密码,用于验证登录数据库服务器,但往往可能由于各种原因导致忘记了该密码,于是就有了本次分享的内容,MySQL忘记root密码的解决方案,需要的朋友可以参考下
    2024-05-05
  • MySQL索引概念及七种索引类型分享介绍

    MySQL索引概念及七种索引类型分享介绍

    这篇文章主要介绍了MySQL索引概念及七种索引类型分享介绍,索引是存储引擎用于快速找到记录的一种数据结构,这也是索引最基本的功能
    2022-08-08
  • CentOS6.4上使用yum安装mysql

    CentOS6.4上使用yum安装mysql

    这篇文章主要为大家详细介绍了CentOS6.4上使用yum安装mysql图文教程,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2016-10-10
  • MySQL中如何进行SQL调优举例详解

    MySQL中如何进行SQL调优举例详解

    这篇文章主要介绍了SQL调优的几种方法,包括合理设计索引,避免SELECT*,避免在SQL中进行函数计算等操作,避免使用%LIKE,注意联合索引需满足最左匹配原则,不要对无索引字段进行排序操作,文中通过代码介绍的非常详细,需要的朋友可以参考下
    2025-01-01
  • MySQL中查询JSON字段的实现示例

    MySQL中查询JSON字段的实现示例

    MySQL自5.7版本起,对JSON数据类型提供了全面的支持,本文主要介绍了MySQL中查询JSON字段的实现示例,具有一定的参考价值,感兴趣的可以了解一下
    2024-06-06
  • Mysql 5.7.18 解压版下载安装及启动mysql服务的图文详解

    Mysql 5.7.18 解压版下载安装及启动mysql服务的图文详解

    这篇文章主要介绍了Mysql 5.7.18 解压版下载安装及启动mysql服务的图文详解,非常不错,具有参考借鉴价值,需要的朋友可以参考下
    2017-05-05
  • SQL优化老出错,那是你没弄明白MySQL解释计划用法

    SQL优化老出错,那是你没弄明白MySQL解释计划用法

    本篇文章讲的是SQL优化老出错,那是你没弄明白MySQL解释计划用法,有兴趣的小伙伴速度来看看吧,希望本篇文章能够帮助到你
    2021-11-11

最新评论