MySQL两种临时表的用法详解

 更新时间:2017年10月11日 09:23:46   作者:百里挑一  
这篇文章主要介绍了MySQL两种临时表的用法详解,.内容比较详细,这里分享给大家,供大家参考,学习。

外部临时表

通过CREATE TEMPORARY TABLE 创建的临时表,这种临时表称为外部临时表。这种临时表只对当前用户可见,当前会话结束的时候,该临时表会自动关闭。这种临时表的命名与非临时表可以同名(同名后非临时表将对当前会话不可见,直到临时表被删除)。

内部临时表

内部临时表是一种特殊轻量级的临时表,用来进行性能优化。这种临时表会被MySQL自动创建并用来存储某些操作的中间结果。这些操作可能包括在优化阶段或者执行阶段。这种内部表对用户来说是不可见的,但是通过EXPLAIN或者SHOW STATUS可以查看MYSQL是否使用了内部临时表用来帮助完成某个操作。内部临时表在SQL语句的优化过程中扮演着非常重要的角色, MySQL中的很多操作都要依赖于内部临时表来进行优化。但是使用内部临时表需要创建表以及中间数据的存取代价,所以用户在写SQL语句的时候应该尽量的去避免使用临时表。

内部临时表有两种类型:一种是HEAP临时表,这种临时表的所有数据都会存在内存中,对于这种表的操作不需要IO操作。另一种是OnDisk临时表,顾名思义,这种临时表会将数据存储在磁盘上。OnDisk临时表用来处理中间结果比较大的操作。如果HEAP临时表存储的数据大于MAX_HEAP_TABLE_SIZE(详情请参考MySQL手册中系统变量部分),HEAP临时表将会被自动转换成OnDisk临时表。OnDisk临时表在5.7中可以通过INTERNAL_TMP_DISK_STORAGE_ENGINE系统变量选择使用MyISAM引擎或者InnoDB引擎。

本篇文章主要介绍哪些操作可能会利用到内部临时表。如果用户在书写SQL语句的时候能够尽量少的使用内部临时表进行查询优化,将有效的提高查询执行的效率。

首先我们定义一个表t1,

CREATE TABLE t1( a int, b int); INSERT INTO t1 VALUES(1,2),(3,4);

下面所有的操作都是基于表t1进行举例的。

在SQL语句中使用SQL_BUFFER_RESULT hint

SQL_BUFFER_RESULT主要用来让MySQL尽早的释放表上的锁。因为如果数据量很大的话,需要较长时间将数据发送到客户端,通过将数据缓冲到临时表中可以有效的减少读锁对表的占用时间。

例如:

mysql> explain format=json select SQL_BUFFER_RESULT * from t1; 
EXPLAIN 
{ 
 "query_block": { 
"select_id": 1, 
"cost_info": { 
 "query_cost": "2.00" 
}, 
"buffer_result": { 
 "using_temporary_table": true, 
 "table": { 
"table_name": "t1", 
"access_type": "ALL", 
... 

如果SQL语句中包含了DERIVED_TABLE。

在5.7中,由于采用了新的优化方式,我们需要使用 set optimizer_switch='derived_merge=off'来禁止derived table合并到外层的Query中。

例如:

mysql> explain format=json select * from (select * from t1) as tt; 
EXPLAIN 
{ 
 "query_block": { 
"select_id": 1, 
"cost_info": { 
 "query_cost": "2.40" 
}, 
"table": { 
 "table_name": "tt", 
 "access_type": "ALL", 
 ... 
 "materialized_from_subquery": { 
"using_temporary_table": true, 
... 

如果我们查询系统表的话,系统表的数据将被存储到内部临时表中。

我们当前不能使用EXPLAIN来查看是否读取系统表数据需要利用到内部临时表,但是可以通过SHOW STATUS来查看是否利用到了内部临时表。

例如:

mysql> select * from information_schema.character_sets; 
mysql> show status like 'CREATE%'; 

如果DISTINCT语句没有被优化掉,即DISTINCT语句被优化转换为GROUP BY操作或者利用UNIQUE INDEX消除DISTINCT, 内部临时表将会被使用。

mysql> explain format=json select distinct a from t1; 
EXPLAIN 
{ 
{ 
 "query_block": { 
"select_id": 1, 
"cost_info": { 
 "query_cost": "1.60" 
}, 
"duplicates_removal": { 
 "using_temporary_table": true, 
... 

如果查询带有ORDER BY语句,并且不能被优化掉。下面几种情况会利用到内部临时表缓存中间数据,然后对中间数据进行排序。

1)如果连接表使用BNL(Batched Nestloop)/BKA(Batched Key Access)

例如:

1))BNL默认是打开的

mysql> explain format=json select * from t1, t1 as t2 order by t1.a; 
EXPLAIN 
{ 
 "query_block": { 
 "select_id": 1, 
 "cost_info": { 
"query_cost": "22.00" 
 }, 
 "ordering_operation": { 
"using_temporary_table": true, 
 ... 

2))关掉BNL后,ORDER BY将直接使用filesort。

mysql> set optimizer_switch='block_nested_loop=off'; 
Query OK, 0 rows affected (0.00 sec) 
mysql> explain format=json select * from t1, t1 as t2 order by t1.a; 
EXPLAIN 
{ 
  "query_block": { 
"select_id": 1, 
"cost_info": { 
 "query_cost": "25.00" 
}, 
"ordering_operation": { 
 "using_filesort": true, 
... 

2)ORDER BY的列不属于执行计划中第一个连接表的列。

例如:

mysql> explain format=json select * from t as t1, t as t2 order by t2.a; 
EXPLAIN 
{ 
  "query_block": { 
"select_id": 1, 
"cost_info": { 
 "query_cost": "25.00" 
}, 
"ordering_operation": { 
 "using_temporary_table": true, 
... 

3)如果ORDER BY的表达式是个复杂表达式。

那么什么样的ORDER BY表达式,MySQL认为是复杂表达式呢?

1))如果排序表达式是SP或者UDF。

例如:

drop function if exists func1; 
delimiter | 
create function func1(x int) 
returns int deterministic 
begin 
declare z1, z2 int; 
set z1 = x; 
set z2 = z1+2; 
return z2; 
end| 
delimiter ; 
explain format=json select * from t1 order by func1(a); 
{ 
"query_block": { 
"select_id": 1, 
"cost_info": { 
 "query_cost": "2.20" 
}, 
"ordering_operation": { 
 "using_temporary_table": true, 
... 

2))ORDER BY的列包含聚集函数

为了简化执行计划,我们利用INDEX来优化GROUP BY语句。

例如:

 create index idx1 on t1(a); 
 explain format=json SELECt a FROM t1 group by a order by sum(a); 
 | { 
  "query_block": { 
"select_id": 1, 
"cost_info": { 
 "query_cost": "1.20" 
}, 
"ordering_operation": { 
 "using_temporary_table": true, 
 "using_filesort": true, 
 "grouping_operation": { 
"using_filesort": false, 
... 
 drop index idx1 on t1; 

3))ORDER BY的列中包含有SCALAR SUBQUERY,当然该SCALAR SUBQUERY没有被优化掉。

例如:

explain format=json select (select rand() from t1 limit 1) as a from t1 order by a; 
| { 
 "query_block": { 
"select_id": 1, 
"cost_info": { 
 "query_cost": "1.20" 
}, 
"ordering_operation": { 
 "using_temporary_table": true, 
 "using_filesort": true, 
... 

4) 如果查询既带有ORDER BY同时也有GROUP BY语句,但是两个语句使用的列不相同。

注意: 如果是5.7,我们需要将sql_mode设置为非only_full_group_by模式,否则会报错。

同样为了简化执行计划,我们利用INDEX来优化GROUP BY语句。

例如:

set sql_mode=''; 
create index idx1 on t1(b); 
explain format=json select t1.a from t1 group by t1.b order by 1; 
| { 
"query_block": { 
"select_id": 1, 
"cost_info": { 
 "query_cost": "1.40" 
}, 
"ordering_operation": { 
 "using_temporary_table": true, 
 "using_filesort": true, 
 "grouping_operation": { 
"using_filesort": false, 
... 
drop index idx1 on t1; 

如果查询带有GROUP BY语句,并且不能被优化掉。下面几种情况会利用到内部临时表缓存中间数据,然后对中间数据进行GROUP BY。

1)如果连接表使用BNL(Batched Nestloop)/BKA(Batched Key Access)。

例如:

explain format=json select t2.a from t1, t1 as t2 group by t1.a; 
| { 
"query_block": { 
"select_id": 1, 
"cost_info": { 
 "query_cost": "8.20" 
}, 
"grouping_operation": { 
 "using_temporary_table": true, 
 "using_filesort": true, 
 "cost_info": { 
"sort_cost": "4.00" 
... 

2) 如果GROUP BY的列不属于执行计划中的第一个连接表。

例如:

explain format=json select t2.a from t1, t1 as t2 group by t2.a; 
| { 
"query_block": { 
"select_id": 1, 
"cost_info": { 
 "query_cost": "8.20" 
}, 
"grouping_operation": { 
 "using_temporary_table": true, 
 "using_filesort": true, 
 "nested_loop": [ 
... 

3) 如果GROUP BY语句使用的列与ORDER BY语句使用的列不同。

例如:

set sql_mode=''; 
explain format=json select t1.a from t1 group by t1.b order by t1.a; 
| { 
  "query_block": { 
"select_id": 1, 
"cost_info": { 
 "query_cost": "1.40" 
}, 
"ordering_operation": { 
 "using_filesort": true, 
 "grouping_operation": { 
"using_temporary_table": true, 
"using_filesort": false, 
... 

4) 如果GROUP BY带有ROLLUP并且是基于多表外连接。

例如:

explain format=json select sum(t1.a) from t1 left join t1 as t2 on true group by t1.a with rollup; 
| { 
"query_block": { 
"select_id": 1, 
"cost_info": { 
 "query_cost": "7.20" 
}, 
"grouping_operation": { 
 "using_temporary_table": true, 
 "using_filesort": true, 
 "cost_info": { 
"sort_cost": "4.00" 
 }, 
... 

5) 如果GROUP BY语句使用的列来自于SCALAR SUBQUERY,并且没有被优化掉。

例如:

explain format=json select (select avg(a) from t1) as a from t1 group by a; 
| { 
"query_block": { 
"select_id": 1, 
"cost_info": { 
 "query_cost": "3.40" 
}, 
"grouping_operation": { 
 "using_temporary_table": true, 
 "using_filesort": true, 
 "cost_info": { 
"sort_cost": "2.00" 
 }, 
... 

IN表达式转换为semi-join进行优化

1) 如果semi-join执行方式为Materialization

例如:

set optimizer_switch='firstmatch=off,duplicateweedout=off'; 
explain format=json select * from t1 where a in (select b from t1); 
| { 
"query_block": { 
"select_id": 1, 
"cost_info": { 
 "query_cost": "5.60" 
}, 
"nested_loop": [ 
 { 
"rows_examined_per_scan": 1, 
 "materialized_from_subquery": { 
"using_temporary_table": true, 
"query_block": { 
 "table": { 
"table_name": "t1", 
"access_type": "ALL", 
... 

2) 如果semi-join执行方式为Duplicate Weedout

例如:

set optimizer_switch='firstmatch=off'; 
explain format=json select * from t1 where a in (select b from t1); 
| { 
"query_block": { 
"select_id": 1, 
"cost_info": { 
 "query_cost": "4.80" 
}, 
"duplicates_removal": { 
 "using_temporary_table": true, 
 "nested_loop": [ 
{ 
... 

 如果查询语句带有UNION,MySQL将利用内部临时表帮助UNION操作消除重复。

例如:

explain format=json select * from t1 union select * from t1; 
| { 
"query_block": { 
"union_result": { 
 "using_temporary_table": true, 
 "table_name": "", 
... 

如果查询语句使用多表更新。

这里Explain不能看到内部临时表被利用,所以需要查看status。

例如:

update t1, t1 as t2 set t1.a=3; 
show status like 'CREATE%'; 

如果聚集函数中包含如下函数,内部临时表也会被利用。

1) count(distinct *) 
例如: 
explain format=json select count(distinct a) from t1; 
2) group_concat 

例如: 

explain format=json select group_concat(b) from t1; 

总之,上面列出了10种情况,MySQL将利用内部临时表进行中间结果缓存,如果数据量比较大的话,内部临时表将会把数据存储在磁盘上,这样显然会对性能有所影响。为了尽可能的减少性能损失,我们需要尽量避免上述情况的出现。

总结

以上就是本文关于MySQL两种临时表的用法详解的全部内容,希望对大家有所帮助。感兴趣的朋友可以参阅:几个比较重要的MySQL变量MySQL prepare原理详解MySQL删除表数据的方法等,有什么问题请留言,欢迎大家交流讨论。

相关文章

  • MySQL中索引与视图的用法与区别详解

    MySQL中索引与视图的用法与区别详解

    索引与视图是我们在日常使用mysql必不可少的一部分,最近在学习中看到一本书中关于这方法写的不错,所以这篇文章主要给大家介绍了关于MySQL中索引与视图的使用与区别的相关资料,需要的朋友可以参考借鉴,下面随着小编来一起学习学习吧。
    2017-11-11
  • 三种常用的MySQL 数据类型

    三种常用的MySQL 数据类型

    这篇文章主要介绍了MySQL 的数据类型的的相关资料,文中讲解非常细致,帮助大家更好的理解和学习MySQL,感兴趣的朋友可以了解下
    2020-06-06
  • MySQL索引是啥?不懂就问

    MySQL索引是啥?不懂就问

    索引是帮助数据库高效获取数据的一种数据结构,是基于数据表创建的,它包含了一个表中某些列的值以及记录对应的地址,并且把这些值存在一个数据结构中,常见的有使用哈希表、B+树作为索引
    2021-07-07
  • MySQL启动报错问题InnoDB:Unable to lock/ibdata1 error

    MySQL启动报错问题InnoDB:Unable to lock/ibdata1 error

    这篇文章主要介绍了MySQL启动报错问题InnoDB:Unable to lock/ibdata1 error,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2019-07-07
  • navicat如何利用sql语句查询表所有字段的字段名、类型及长度

    navicat如何利用sql语句查询表所有字段的字段名、类型及长度

    Navicat使用了极好的图形用户界面(GUI),可以让你用一种安全和更为容易的方式快速和容易地创建、组织、存取和共享信息,下面这篇文章主要给大家介绍了关于navicat如何利用sql语句查询表所有字段的字段名、类型及长度的相关资料,需要的朋友可以参考下
    2023-05-05
  • MySQL配置文件my.cnf中文详解附mysql性能优化方法分享

    MySQL配置文件my.cnf中文详解附mysql性能优化方法分享

    Mysql参数优化对于新手来讲,是比较难懂的东西,其实这个参数优化,是个很复杂的东西,对于不同的网站,及其在线量,访问量,帖子数量,网络情况,以及机器硬件配置都有关系,优化不可能一次性完成,需要不断的观察以及调试,才有可能得到最佳效果。
    2011-09-09
  • MySQL为何不建议使用默认值为null列

    MySQL为何不建议使用默认值为null列

    本文主要介绍了MySQL为何不建议使用默认值为null列,文中通过示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2021-08-08
  • 教你如何让spark sql写mysql的时候支持update操作

    教你如何让spark sql写mysql的时候支持update操作

    spark提供了一个枚举类,用来支撑对接数据源的操作模式,本文重点给大家介绍如何让spark sql写mysql的时候支持update操作,本文通过实例代码给大家介绍的非常详细,需要的朋友参考下吧
    2022-02-02
  • 使用mydumper多线程备份MySQL数据库

    使用mydumper多线程备份MySQL数据库

    MySQL在备份方面包含了自身的mysqldump工具,但其只支持单线程工作,这就使得它无法迅速的备份数据。而 mydumper作为一个实用工具,能够良好支持多线程工作,这使得它在处理速度方面十倍于传统的
    2013-11-11
  • 浅谈mysql 自定义函数

    浅谈mysql 自定义函数

    本文主要是分析了一下在工作中写的一个mysql的自定义函数,很简单,仅仅是希望能对大家理解mysql自定义函数有所帮助。
    2014-09-09

最新评论