MySQL中修改表结构时需要注意的一些地方

 更新时间:2015年06月25日 09:52:01   投稿:goldensun  
这篇文章主要介绍了MySQL中修改表结构时需要注意的一些地方,作者援引Percona的相关的说明来讲述如何避免相关操作导致表无法使用的问题,一些需要的朋友可以参考下

MySql 在修改表结构的时候可能会中断产品的正常运行影响用户体验,甚至更坏的结果,丢失数据。不是所有的数据库管理员、程序员、系统管理员都非常了解Mysql能避免这种情况。DBA会经常碰到这种生产中断的情况,当升级脚本修改了应用层和数据库层,或者缺乏经验的管理员、开发在不是很了解Mysql内部工作机制的情况下修改了规范文件。

真相是:

  • 直接修改表结构的过程中会锁表(在5.6版本之前)
  • 在线的数据定义语言在5.6版本不总是在线的而且也会锁表
  • 就算使用Percona工具包(在线修改定义文件)也会有若干个步骤会锁表

Percona MySQL  服务器开发团队鼓励用户在计划或者执行数据库迁移的时候先和我们沟通。我们的目标是基于用户给出的各种情况给出最佳的方案。旨在避免锁表当用户对非常大的表执行DDL,以确保应用能像平常一样正常运行,同时也在努力改善响应时间或增加系统功能。最差的情况是确保那些经不起当机的系统在黄金交易时间正常运行。

我们使用的大多数安装包仍然小于Mysql5.6,这需要我们不停尝试新的安装环境来把数据库迁移造成的损失降到最低。这可能需要一个能“在线修改规范定义文件”的工具来升级或者修改规范文件。Mysql5.6解决这一问题的做法是通过减少重建表和锁表的场景,但这个方法不能覆盖所有的可能的操作,例如当修改一列的数据类型时必然需要全表重构。Przemys?aw和 Malkowski在去年尽可能详尽的讨论了Mysql5.6运行中修改定义。

  •     随着 MySQL 5.7的新功能, 我们寻求不会锁表的DDL操作 例如; 表优化 和 索引重命名. (More info)


对于Mysql5.6的用户,最好的建议是回顾一下数矩阵来熟悉在MYSQL之外执行定义的更改,好消息是我们很擅长解决这一问题。

说实话,锁表操作会经常被忽视,在操作30M大小的表时我们更倾向于直接修改,但是30G,300G的表就要考虑一下了。当使用率不高或者对锁定时间要求不是很高的的系统来说直接操作也许更好。可是,我们常常会遇到一个需要立即执行的SQL,或者因为性能问题需要紧急增加一个索引来减少加载时间。


是否需要在系统在线期修改表定义

上面提到,在线修改表定义是工作流中的一个模块。通常是不错的解决方案,但也会遇到不能使用的场合,例如:当某个表使用了触发器。了解pt-osc在我们项目中的工作过程很重要,让我们来看一下源代码:
 

复制代码 代码如下:
[moore@localhost]$ egrep 'Step' pt-online-schema-change
# 步骤 1: 创建一个新表
 
# 步骤 2: 修改清空表. 这应该比较快,
# Step 3: 创建触发器来捕获原始表的改变 <--(锁定元数据)
 
# Step 4: 复制数据.
# Step 5: 重命名表: <--(锁定元数据
 
# Step 6: 更新外键 如果是子表.
 
# Step 7: 删除旧表.

 我把上面第三步到第五步高亮出来,这是锁表可能引起系统停机的时间。但步骤六设计外键更新是一个循环的操作,是避免在更新关系的时候隐含地重建表。有很多方法可以确保表的完整性约束,在pt-osc的说明文档中详细说明了,在开始之前预览你的表结构包括约束,并知道怎样把修改表定义所造成的影响降到最低。


最近,我们通知了一个拥有高并发高事务量系统的用户运行pt-osc在大型数据表上。这件事对于他们来说很平常,几小时后我们的客服被告知该客户遇到了最大连接数超过的问题。这个问题是如何产生的呢?当pt-osc运行到步骤五的时候会尝试去锁定数据并重命名原表和隐藏表,然而这不会在开启事务的时候立即执行,因此这条线程会被排在重命名后面。这表现在用户应用上就是系统停机。数据库无法开启新的连接并且所有的线程都被阻塞在重命名命令之后。

 

201562594352787.png (300×296)    5.5.3版本的说明,当开启一个事务时会锁定它会用到的所有表的数据(不依赖于存储引擎),并在事务提交的时候释放锁。这样做确保了在开启事务期间不能修改表的定义。


长远来看我们可以采用一些新的技术来避免这种情况,例如non-default pt-osc的选项,换言之就是不会删除原表把数据换到新表。这种联合脱离了隐藏表和触发器,我们应该鼓励将重命名操作变得原子化。

校订:2.2版本的percona工具新增了一个变量–tries  和变量–set-vars 共同被部署,解决了各种pt-osc操作可能会锁表的情况。pt-osc (–set-vars)默认会设置如下的会话变量当连接到数据库服务器的时候。

   

复制代码 代码如下:
wait_timeout=10000
    innodb_lock_wait_timeout=1
    lock_wait_timeout=60


当使用 –tries 我们可以颗粒化地鉴别操作,尝试次数、在尝试的间隔等待。这种组合可以确保pt-osc在合适的时机杀掉自己的等待会话进程,确保线程堆栈的空闲,并提供给我们循环操作来获取管理因触发器、重命名、修改外键而造成的锁。

   

复制代码 代码如下:
–tries swap_tables:5:0.5,drop_triggers:5:0.5

说明文档在这里http://www.percona.com/doc/percona-toolkit/2.2/pt-online-schema-change.html#cmdoption-pt-online-schema-change–tries

它阐述了即便使用了诸如pt-osc之类的工具,充分了解你想解决的问题是很重要。下面的流程图会帮助你当你了解修改了MYSQL数据库的结构的注意事项。请仔细阅读建议尽管有些图上未标出,例如磁盘空间,IO加载等。

201562594352787.png (300×296)

选择合适的DDL操作

确保能清楚了解在修改表结构对你的系统会产生何种影响,并选择合适的方法来使这种影响降到最低。有时这意味着需要将改动延期直到系统到了不常使用的时候或者使用能在操作期间不锁表的工具。当你表中有触发器的时候一般直接修改表结构。

  • -大多数情况下pt-osc正是我们所需要的
  • -在很多案例中pt-osc是需要的,但是用法需要稍作调整
  • -在少数情况下pt-osc不是很合适,我们需要考虑本地阻塞修改,或者采用转移的操作改成在副本集中复制。

 

相关文章

  • MySQL数据库索引的弊端及合理使用

    MySQL数据库索引的弊端及合理使用

    索引可以说是数据库中的一个大心脏了,如果说一个数据库少了索引,那么数据库本身存在的意义就不大了,和普通的文件没什么两样,本文从细节和实际业务的角度看看在MySQL中B+树索引好处
    2021-11-11
  • MySQL复制优点、原理详解

    MySQL复制优点、原理详解

    本篇文章主要给大家详细讲解了MySQL复制优点以及Mysql复制的原理知识,对此有兴趣的朋友学习下。
    2018-02-02
  • 详解mysql中的静态变量的作用

    详解mysql中的静态变量的作用

    这篇文章主要介绍了详解mysql中的静态变量的作用的相关资料,希望通过本大家能理解掌握MySQL 静态变量的用法,需要的朋友可以参考下
    2017-09-09
  • SQL实战演练之网上商城数据库用户信息数据操作

    SQL实战演练之网上商城数据库用户信息数据操作

    一直认为,扎实的SQL功底是一名数据分析师的安身立命之本,甚至可以称得上是所有数据从业者的基本功。当然,这里的SQL绝不单单是写几条查询语句那么简单,接下来请跟着小编通过案例项目进一步提高SQL的能力吧
    2021-10-10
  • MySQL数据备份方法的选择与思考

    MySQL数据备份方法的选择与思考

    这篇文章主要介绍了MySQL数据备份方法该如何选择,帮助大家更好的理解和学习使用MySQL,感兴趣的朋友可以了解下
    2021-03-03
  • MySQL中order by的执行过程

    MySQL中order by的执行过程

    这篇文章主要介绍了MySQL中order by的执行过程,一订单表为例展开相应的内容介绍,具有一定的参考价值,需要的小伙伴可以参考一下
    2022-06-06
  • Mysql表连接的误区与原理详析

    Mysql表连接的误区与原理详析

    在使用MySQL数据库过程中,left join 基本是必用的语法,下面这篇文章主要给大家介绍了关于Mysql表连接的误区与原理的相关资料,需要的朋友可以参考下
    2022-09-09
  • 如何利用MySQL查询varbinary中存储的数据

    如何利用MySQL查询varbinary中存储的数据

    varbinary 类型和char与varchar类型是相似的,他们是包含字节流而不是字符流,他们有二进制字符的集合和顺序,他们的对比,排序是基于字节的数值进行的,本文给大家介绍如何利用MySQL查询varbinary中存储的数据,感兴趣的朋友一起看看吧
    2023-07-07
  • mysql升级到5.7时,wordpress导数据报错1067的问题

    mysql升级到5.7时,wordpress导数据报错1067的问题

    小编最近把mysql升级到5.7了,wordpress导数据报错,导入数据库时报1067 – Invalid default value for ‘字段名’的问题,怎么解决这个问题,下面小编把我的解决方案分享到脚本之家平台供大家参考,希望对大家有所帮助
    2021-05-05
  • MySQL中with rollup的用法及说明

    MySQL中with rollup的用法及说明

    这篇文章主要介绍了MySQL中with rollup的用法及说明,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2022-10-10

最新评论