Mysql optimize table 时报错:Temporary file write fail的解决

 更新时间:2022年09月27日 09:05:54   作者:大雪冬至  
这篇文章主要介绍了Mysql optimize table 时报错:Temporary file write fail的解决方案,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教

1. 问题描述

当我们执行 optimize table xxx ; 尝试进行碎片整理时,也可能报错 Temporary file write failure.

Tips: MySQL 8.x

# 执行 optimize  命令时会发现报错
mysql>  optimize local table t_word;
+-------------------------+----------+----------+-------------------------------------------------------------------+
| Table                   | Op       | Msg_type | Msg_text                                                          |
+-------------------------+----------+----------+-------------------------------------------------------------------+
| abc.t_word | optimize | note     | Table does not support optimize, doing recreate + analyze instead |
| abc.t_word | optimize | error    | Temporary file write failure.                                     |
| abc.t_word | optimize | status   | Operation failed                                                  |
+-------------------------+----------+----------+-------------------------------------------------------------------+
3 rows in set, 1 warning (54 min 27.89 sec)


查看mysql日志文件,也会发现报错 [InnoDB] Error number 28 means ‘No space left on device’

[ERROR] [MY-012639] [InnoDB] Write to file (merge) failed at offset 5405409280, 1048576 bytes should have been written, only 114688 were written. Operating system error number 28. Check that your OS and file system support files of this size. Check also that the disk is not full or a disk quota exceeded.
2022-05-10T14:00:58.817066+08:00 2272191 [ERROR] [MY-012640] [InnoDB] Error number 28 means 'No space left on device'

但是实际上我的 MySQL 的数据盘空间是足够保存这个表的两倍空间的,那么则说明这个报错(No space left on device)说的是系统盘的空间。

Tips: 由于在 MySQL 5.6.7 之后推出了 Online DDL ,所以我执行的 optimize local table t_word; 将会以 Online DDL 的方式执行

为了进一步验证此问题,查阅一下官方文档

官方文档可知 Online DDL 会需要创建 临时日志文件, 临时排序文件,中间表文件,其中的 临时排序文件(Temporary sort files)会就写入 mysql的临时目录(tmpdir)。

查看下MySQL的 tmpdir 的位置

# 进入MySQL
mysql> SHOW VARIABLES LIKE 'tmpdir';
+---------------+-------+
| Variable_name | Value |
+---------------+-------+
| tmpdir        | /tmp  |
+---------------+-------+
1 row in set (0.00 sec)

# 回到Linux ,可见 /tmp 目录实际上是在系统盘(vda1)上的。(这个是默认位置)
> df -h /tmp
Filesystem      Size  Used Avail Use% Mounted on
/dev/vda1        20G  6.0G   13G  33% /

这里简单这几个文件做个小结

  • 临时日志文件则由 innodb_sort_buffer_size 变量控制, 在(data-dir)中创建。
  • 临时排序文件 则在 (tmp-dir) 中创建。
  • 临时中间表文件则在(data-dir)中创建。

2. 解决方案

由上可知,解决方案只剩下这几种:

1. 方案一: 扩容系统盘,扩容系统盘后就会有足够的空间存储 Online DDL 所需的 临时排序文件。 (不建议)

* 虽然Linux支持在线扩容,但是依然存在风险,所以不建议。

2. 方案二: 设置 tmpdir 的目录位置到其他硬盘 (不建议)

网上普遍推荐这种,但是需要重启MySQL才能生效,代价太大,所以也不建议。

这里也备注一下修改方式 (若能接受重启MySQL,那么可以这样做)

#1.查看 tmpdir
mysql> SHOW VARIABLES LIKE 'tmpdir';
+---------------+-------+
| Variable_name | Value |
+---------------+-------+
| tmpdir        | /tmp  |
+---------------+-------+
1 row in set (0.00 sec)

#2.创建 tmpdir目录

mkdir -p /data/tmpdir
chown -R mysql:mysql /data/tmpdir
chmod a+w /data/tmpdir

#3. 修改MySQL配置,设置 tmpdir 
vim /etc/my.cnf
把tmpdir设置到 /data/tmpdir
tmpdir=/data/tmpdir

# 4. 修改完成后,重启mysql服务
service mysqld restart

Tips: 官方建议可以给 tmpdir 变量配置多个目录分摊负载 。

3. 方案三: 为 online ddl 单独设置 innodb_tmpdir , 此变量允许动态设置,无需重启mysql即可生效。【推荐】

  • innodb_tmpdir : 此选项在 MySQL 5.7.11 中引入,以帮助避免由于大型临时排序文件而可能发生的临时目录溢出

设置方式:

	#注意: 执行前必须确保 /mnt/mysql-innodb-temp 目录已经创建了,并且给这个目录设置权限,确保MySQL能够读写改目录
 	mysql> set global innodb_tmpdir= '/mnt/mysql-innodb-temp'
 	```
	
下面是操作(踩坑)示例: 
	
```sh
# 注意: 必须先在系统上创建临时文件目录,并且确保mysql用户有权限访问这个目录
mysql> show VARIABLES like 'innodb_tmpdir';
+---------------+-------+
| Variable_name | Value |
+---------------+-------+
| innodb_tmpdir |       |
+---------------+-------+
1 row in set (0.09 sec)

# 1. 设置   innodb_tmpdir
mysql> set global innodb_tmpdir= '/mnt/mysql-innodb-temp';
#  或者执行
mysql> set @@global.innodb_tmpdir=/mnt/mysql-innodb-temp

# 如果报错 ERROR 1231 (42000): Variable 'innodb_tmpdir' can't be set to the value of '/mnt/mysql-innodb-temp' 则说明这个目录跟 data-dir 重复了,如果没重复则执行这个已经查看详情
# 显示最近一次警告信息
# 语法: SHOW WARNINGS [LIMIT [offset,] row_count]
mysql> SHOW WARNINGS;
+---------+------+-------------------------------------------------------------------------------------------+
| Level   | Code | Message                                                                                   |
+---------+------+-------------------------------------------------------------------------------------------+
| Warning | 1210 | InnoDB: Path doesn't exist.                                                               |
| Error   | 1231 | Variable 'innodb_tmpdir' can't be set to the value of '/mnt/mysql-innodb-temp' |
+---------+------+-------------------------------------------------------------------------------------------+

# Path doesn't exist. 说明该目录不存在, 创建目录后再执行命令,如果发现依然报错,那么也可能是因为没有文件权限
mysql>  SHOW WARNINGS limit 10;
+---------+------+---------------------------------------------------------------------------------+
| Level   | Code | Message                                                                         |
+---------+------+---------------------------------------------------------------------------------+
| Warning | 1210 | InnoDB: Server doesn't have permission in the given location.                   |
| Error   | 1231 | Variable 'innodb_tmpdir' can't be set to the value of '/mnt/mysql-innodb-temp' |
+---------+------+---------------------------------------------------------------------------------+
2 rows in set (0.00 sec)

# 那么设置该目录的文件权限即可。 
> chmod 777 /mnt/mysql-innodb-temp

# 再回到 mysql 发现执行成功了!
mysql> set @@global.innodb_tmpdir='/mnt/mysql-innodb-temp';
Query OK, 0 rows affected (0.00 sec)

# 检查下效果
mysql>  show VARIABLES like 'innodb_tmpdir';
+---------------+-----------------------------------+
| Variable_name | Value                             |
+---------------+-----------------------------------+
| innodb_tmpdir |/mnt/mysql-innodb-temp |
+---------------+-----------------------------------+
1 row in set (0.01 sec)

小结一下 :

innodb_tmpdir , 此变量允许动态设置,无需重启mysql即可生效。

  • 有效值是 MySQL 数据目录路径(data-dir)以外的任何目录路径。
  • 设置innodb_tmpdir要求用户有file权限
  • 引入该innodb_tmpdir选项是为了帮助避免溢出位于tmpfs文件系统上的临时文件目录。ALTER TABLE由于在重建表的 联机操作期间创建的大型临时排序文件可能会发生此类溢出。
  • 主从复制模式中,建议 innodb_tmpdir在每台服务器上单独配置。

3. 解决了上面的问题后,再执行DDL, 就会发现能执行成功了

mysql> optimize local table t_word;
-------------------------+----------+----------+-------------------------------------------------------------------+
| Table                   | Op       | Msg_type | Msg_text                                                          |
+-------------------------+----------+----------+-------------------------------------------------------------------+
| abc.t_word| optimize | note     | Table does not support optimize, doing recreate + analyze instead |
| abc.t_word| optimize | status   | OK                                                                |
+-------------------------+----------+----------+-------------------------------------------------------------------+
2 rows in set (2 hours 29 min 54.20 sec)

以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • 详细解读分布式锁原理及三种实现方式

    详细解读分布式锁原理及三种实现方式

    这篇文章从三种基于不同形式的分布式锁的实现,数据库、缓存和zookeeper,内容比较详细,具有一定参考价值,需要的朋友可以了解下。
    2017-10-10
  • 不使用MySQL数据库的五个给力理由解析

    不使用MySQL数据库的五个给力理由解析

    众所周知,MySQL数据库虽然功能未必很强大,但因为它的开源、广泛传播,导致很多人都了解到这个数据库。
    2011-03-03
  • mysql 5.7.16 zip包安装配置方法图文教程

    mysql 5.7.16 zip包安装配置方法图文教程

    这篇文章主要为大家分享了mysql 5.7.16 zip包安装配置方法图文教程,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2016-10-10
  • mysql下centos安装mariadb的方法及遇到的问题

    mysql下centos安装mariadb的方法及遇到的问题

    这篇文章主要介绍了mysql下centos安装mariadb的方法及遇到的问题,在安装之前要删除之前安装的mariadb,具体安装方法及遇到问题解决方法,大家参考下本文
    2018-05-05
  • 一键重置mysql的root密码脚本

    一键重置mysql的root密码脚本

    本节主要介绍了一键重置mysql的root密码的实现脚本,需要的朋友可以参考下
    2014-07-07
  • MYSQL大表加索引的实现

    MYSQL大表加索引的实现

    本文主要介绍了MYSQL大表加索引的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2023-05-05
  • 在C#和MySQL中存取中文字符时避免乱码的方法

    在C#和MySQL中存取中文字符时避免乱码的方法

    这篇文章主要介绍了在C#和MySQL中存取中文字符时避免乱码的方法,主要还是老办法先转换成Unicode编码,需要的朋友可以参考下
    2015-05-05
  • MySQL生僻字插入失败的处理方法(Incorrect string value)

    MySQL生僻字插入失败的处理方法(Incorrect string value)

    最近,业务方反馈有个别用户信息插入失败,报错提示类似Incorrect string value:"\xF0\xA5 .....看这个提示应该是字符集不支持某个生僻字造成的,需要的朋友可以参考下
    2017-05-05
  • 怎样设置才能允许外网访问MySQL

    怎样设置才能允许外网访问MySQL

    大多数情况下,mysql数据库只要本机访问就可以了,这样的话,默认安装就OK,但是如果需要外网访问mysql数据库的话,应该如何操作呢,想知道的话,就好好看看下面的介绍吧
    2014-08-08
  • mysql中的存储过程传参问题

    mysql中的存储过程传参问题

    这篇文章主要介绍了mysql中的存储过程传参问题,具有很好的参考价值,希望对大家有所帮助,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
    2023-10-10

最新评论