mysql同步问题之Slave延迟很大优化方法

 更新时间:2016年05月28日 20:55:36   作者:ourmysql  
这篇文章主要介绍了mysql同步问题之Slave延迟很大优化方法,需要的朋友可以参考下

一般而言,slave相对master延迟较大,其根本原因就是slave上的复制线程没办法真正做到并发。简单说,在master上是并发模式(以InnoDB引擎为主)完成事务提交的,而在slave上,复制线程只有一个sql thread用于binlog的apply,所以难怪slave在高并发时会远落后master。

   ORACLE MySQL 5.6版本开始支持多线程复制,配置选项 slave_parallel_workers 即可实现在slave上多线程并发复制。不过,它只能支持一个实例下多个 database 间的并发复制,并不能真正做到多表并发复制。因此在较大并发负载时,slave还是没有办法及时追上master,需要想办法进行优化。

   另一个重要原因是,传统的MySQL复制是异步(asynchronous)的,也就是说在master提交完后,才在slave上再应用一遍,并不是真正意义上的同步。哪怕是后来的Semi-sync Repication(半同步复制),也不是真同步,因为它只保证事务传送到slave,但没要求等到确认事务提交成功。既然是异步,那肯定多少会有延迟。因此,严格意义上讲,MySQL复制不能叫做MySQL同步(处女座的面试官有可能会在面试时把说成MySQL同步的一律刷掉哦)。

   另外,不少人的观念里,slave相对没那么重要,因此就不会提供和master相同配置级别的服务器。有的甚至不但使用更差的服务器,而且还在上面跑多实例。

   综合这两个主要原因,slave想要尽可能及时跟上master的进度,可以尝试采用以下几种方法:

1、采用MariaDB发行版,它实现了相对真正意义上的并行复制,其效果远比ORACLE MySQL好的很多。在我的场景中,采用MariaDB作为slave的实例,几乎总是能及时跟上master。如果不想用这个版本的话,那就老实等待官方5.7大版本发布吧;

   关于MariaDB的Parallel Replication具体请参考:Replication and Binary Log Server System Variables#slave_parallel_threads – MariaDB Knowledge Base

2、每个表都要显式指定主键,如果没有指定主键的话,会导致在row模式下,每次修改都要全表扫描,尤其是大表就非常可怕了,延迟会更严重,甚至导致整个slave库都被挂起,可参考案例:mysql主键的缺少导致备库hang

3、应用程序端多做些事,让MySQL端少做事,尤其是和IO相关的活动,例如:前端通过内存CACHE或者本地写队列等,合并多次读写为一次,甚至消除一些写请求;

4、进行合适的分库、分表策略,减小单库单表复制压力,避免由于单库单表的的压力导致整个实例的复制延迟;

其他提高IOPS性能的几种方法,根据效果优劣,我做了个简单排序:

1、更换成SSD,或者PCIe SSD等IO设备,其IOPS能力的提升是普通15K SAS盘的数以百倍、万倍,甚至几十万倍计;

2、加大物理内存,相应提高InnoDB Buffer Pool大小,让更多热数据放在内存中,降低发生物理IO的频率;

3、调整文件系统为 XFS 或 ReiserFS,相比ext3可以极大程度提高IOPS能力。在高IOPS压力下,相比ext4有更稳健的IOPS表现(有人认为 XFS 在特别的场景下会有很大的问题,但我们除了剩余磁盘空间少于10%时引发丢数据外,其他的尚未遇到);

4、调整RAID级别为raid 1+0,它相比raid1、raid5等更能提高IOPS性能。如果已经全部是SSD设备了,可以2块盘做成RAID 1,或者多快盘做成RAID 5(并且可以设置全局热备盘,提高阵列容错性),甚至有些土豪用户直接将多块SSD盘组成RAID 50;

5、调整RAID的写cache策略为WB或FORCE WB,详情请参考:常用PC服务器阵列卡、硬盘健康监控 以及 PC服务器阵列卡管理简易手册

6、调整内核的io scheduler,优先使用deadline,如果是SSD,则可以使用noop策略,相比默认的cfq,个别情况下对IOPS的性能提升至少是数倍的。

   其他更多方法,欢迎大家帮忙补充 :)

相关文章

  • 解决Mysql同步到ES时date和time字段类型转换问题

    解决Mysql同步到ES时date和time字段类型转换问题

    这篇文章主要介绍了Mysql同步到ES时date和time字段类型转换问题解决办法,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2023-07-07
  • MySQL复合查询的实现示例

    MySQL复合查询的实现示例

    复合查询语句是MySQL中一种非常重要的查询方式,可以用于优化查询性能和控制查询的结果集,具有一定的参考价值,感兴趣的可以了解一下
    2023-10-10
  • mysql数据库索引损坏及修复经验分享

    mysql数据库索引损坏及修复经验分享

    这篇文章主要介绍了mysql数据库索引损坏及修复经验分享,需要的朋友可以参考下
    2015-06-06
  • MySQL优化SQL语句的技巧

    MySQL优化SQL语句的技巧

    这篇文章主要介绍了常见优化SQL语句的技巧,帮助大家更好的提高数据库的性能,感兴趣的朋友可以了解下
    2020-08-08
  • mysqld_safe启动脚本源码阅读、分析

    mysqld_safe启动脚本源码阅读、分析

    这篇文章主要介绍了mysqld_safe启动脚本源码阅读、分析,mysqld_safe是一个带有安全特性的启动脚本,使用Shell语言编写,需要的朋友可以参考下
    2014-07-07
  • MySQL从MyISAM转换成InnoDB错误与常用解决办法

    MySQL从MyISAM转换成InnoDB错误与常用解决办法

    由于一些程序的要求,需要MyISAM数据引擎或InnoDB,下面是具体的解决方法,经测试偶尔会出现一些问题。
    2011-05-05
  • 关于MySQL与Golan分布式事务经典的七种解决方案

    关于MySQL与Golan分布式事务经典的七种解决方案

    本文介绍了分布式事务的一些基础理论,并对常用的分布式事务方案进行了讲解;在文章的后半部分还给出了事务异常的原因、分类以及优雅的解决方案;最后以一个可运行的分布式事务例子,将前面介绍的内容以简短的程序进行演示,需要的朋友可以参考一下文章具体内容
    2021-10-10
  • 安全地关闭MySQL服务的教程

    安全地关闭MySQL服务的教程

    这篇文章主要介绍了安全地关闭MySQL服务的教程,包括使用kill指令时的一些注意点,需要的朋友可以参考下
    2015-11-11
  • 源码编译安装MySQL8.0.20的详细教程

    源码编译安装MySQL8.0.20的详细教程

    这篇文章主要介绍了源码编译安装MySQL8.0.20的详细教程,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2020-05-05
  • mysql分区表学习之日期分区

    mysql分区表学习之日期分区

    这篇文章主要给大家介绍了关于mysql分区表学习之日期分区的相关资料,分区是一种表的设计模式,通俗地讲表分区是将一大表,根据条件分割成若干个小表,需要的朋友可以参考下
    2023-08-08

最新评论