MySQL中的两种临时表

时间:2022-09-09 14:03:28

MySQL中的两种临时表

声明:本文由入驻搜狐公众平台的作者撰写,除搜狐官方账号外,观点仅代表作者本人,不代表搜狐立场。举报

  外部临时表

  通过CREATE TEMPORARY TABLE 创建的临时表,这种临时表称为外部临时表。这种临时表只对当前用户可见,当前会话结束的时候,该临时表会自动关闭。这种临时表的命名与非临时表可以同名(同名后非临时表将对当前会话不可见,直到临时表被删除)。

  内部临时表

  内部临时表是一种特殊轻量级的临时表,用来进行性能优化。这种临时表会被MySQL自动创建并用来存储某些操作的中间结果。这些操作可能包括在优化阶段或者执行阶段。这种内部表对用户来说是不可见的,但是通过EXPLAIN或者SHOW STATUS可以查看MYSQL是否使用了内部临时表用来帮助完成某个操作。内部临时表在SQL语句的优化过程中扮演着非常重要的角色, MySQL中的很多操作都要依赖于内部临时表来进行优化。但是使用内部临时表需要创建表以及中间数据的存取代价,所以用户在写SQL语句的时候应该尽量的去避免使用临时表。

  内部临时表有两种类型:一种是HEAP临时表,这种临时表的所有数据都会存在内存中,对于这种表的操作不需要IO操作。另一种是OnDisk临时表,顾名思义,这种临时表会将数据存储在磁盘上。OnDisk临时表用来处理中间结果比较大的操作。如果HEAP临时表存储的数据大于MAX_HEAP_TABLE_SIZE(详情请参考MySQL手册中系统变量部分),HEAP临时表将会被自动转换成OnDisk临时表。OnDisk临时表在5.7中可以通过INTERNAL_TMP_DISK_STORAGE_ENGINE系统变量选择使用MyISAM引擎或者InnoDB引擎。

  本篇文章主要介绍哪些操作可能会利用到内部临时表。如果用户在书写SQL语句的时候能够尽量少的使用内部临时表进行查询优化,将有效的提高查询执行的效率。

  首先我们定义一个表t1,

  CREATE TABLE t1( a int, b int); INSERT INTO t1 VALUES(1,2),(3,4);

  下面所有的操作都是基于表t1进行举例的。

  在SQL语句中使用SQL_BUFFER_RESULT hint

  SQL_BUFFER_RESULT主要用来让MySQL尽早的释放表上的锁。因为如果数据量很大的话,需要较长时间将数据发送到客户端,通过将数据缓冲到临时表中可以有效的减少读锁对表的占用时间。

  例如:

  1

  2

  3

  4

  5

  6

  7

  8

  9

  10

  11

  12

  13

  14

  mysql>explain format=json select SQL_BUFFER_RESULT *from t1;

  EXPLAIN

  {

  "query_block":{

  "select_id":1,

  "cost_info":{

  "query_cost":"2.00"

  },

  "buffer_result":{

  "using_temporary_table":true,

  "table":{

  "table_name":"t1",

  "access_type":"ALL",

  ...

  如果SQL语句中包含了DERIVED_TABLE。

  在5.7中,由于采用了新的优化方式,我们需要使用 set optimizer_switch=’derived_merge=off’来禁止derived table合并到外层的Query中。

  例如:

  1

  2

  3

  4

  5

  6

  7

  8

  9

  10

  11

  12

  13

  14

  15

  mysql>explain format=json select *from(select *from t1)astt;

  EXPLAIN

  {

  "query_block":{

  "select_id":1,

  "cost_info":{

  "query_cost":"2.40"

  },

  "table":{

  "table_name":"tt",

  "access_type":"ALL",

  ...

  "materialized_from_subquery":{

  "using_temporary_table":true,

  ...

  如果我们查询系统表的话,系统表的数据将被存储到内部临时表中。

  我们当前不能使用EXPLAIN来查看是否读取系统表数据需要利用到内部临时表,但是可以通过SHOW STATUS来查看是否利用到了内部临时表。

  例如:

  1

  2

  mysql>select *from information_schema.character_sets;

  mysql>show status like'CREATE%';

  如果DISTINCT语句没有被优化掉,即DISTINCT语句被优化转换为GROUP BY操作或者利用UNIQUE INDEX消除DISTINCT, 内部临时表将会被使用。

  1

  2

  3

  4

  5

  6

  7

  8

  9

  10

  11

  12

  mysql>explain format=json select distinctafrom t1;

  EXPLAIN

  {

  {

  "query_block":{

  "select_id":1,

  "cost_info":{

  "query_cost":"1.60"

  },

  "duplicates_removal":{

  "using_temporary_table":true,

  ...

  如果查询带有ORDER BY语句,并且不能被优化掉。下面几种情况会利用到内部临时表缓存中间数据,然后对中间数据进行排序。

  1)如果连接表使用BNL(Batched Nestloop)/BKA(Batched Key Access)

  例如:

  1))BNL默认是打开的

  1

  2

  3

  4

  5

  6

  7

  8

  9

  10

  11

  mysql>explain format=json select *from t1,t1 ast2 order by t1.a;

  EXPLAIN

  {

  "query_block":{

  "select_id":1,

  "cost_info":{

  "query_cost":"22.00"

  },

  "ordering_operation":{

  "using_temporary_table":true,

  ...

  2))关掉BNL后,ORDER BY将直接使用filesort。

  1

  2

  3

  4

  5

  6

  7

  8

  9

  10

  11

  12

  13

  mysql>set optimizer_switch='block_nested_loop=off';

  Query OK,0rows affected(0.00sec)

  mysql>explain format=json select *from t1,t1 ast2 order by t1.a;

  EXPLAIN

  {

  "query_block":{

  "select_id":1,

  "cost_info":{

  "query_cost":"25.00"

  },

  "ordering_operation":{

  "using_filesort":true,

  ...

  2)ORDER BY的列不属于执行计划中第一个连接表的列。

  例如:

  1

  2

  3

  4

  5

  6

  7

  8

  9

  10

  11

  mysql>explain format=json select *fromtast1,tast2 order by t2.a;

  EXPLAIN

  {

  "query_block":{

  "select_id":1,

  "cost_info":{

  "query_cost":"25.00"

  },

  "ordering_operation":{

  "using_temporary_table":true,

  ...

  3)如果ORDER BY的表达式是个复杂表达式。

  那么什么样的ORDER BY表达式,MySQL认为是复杂表达式呢?

  1))如果排序表达式是SP或者UDF。

  例如:

  1

  2

  3

  4

  5

  6

  7

  8

  9

  10

  11

  12

  13

  14

  15

  16

  17

  18

  19

  20

  21

  drop functionifexists func1;

  delimiter|

  create functionfunc1(xint)

  returns intdeterministic

  begin

  declarez1,z2 int;

  set z1=x;

  set z2=z1+2;

  returnz2;

  end|

  delimiter;

  explain format=json select *from t1 order by func1(a);

  {

  "query_block":{

  "select_id":1,

  "cost_info":{

  "query_cost":"2.20"

  },

  "ordering_operation":{

  "using_temporary_table":true,

  ...

  2))ORDER BY的列包含聚集函数

  为了简化执行计划,我们利用INDEX来优化GROUP BY语句。

  例如:

  1

  2

  3

  4

  5

  6

  7

  8

  9

  10

  11

  12

  13

  14

  15

  create index idx1 on t1(a);

  explain format=json SELECtaFROM t1 group byaorder by sum(a);

  |{

  "query_block":{

  "select_id":1,

  "cost_info":{

  "query_cost":"1.20"

  },

  "ordering_operation":{

  "using_temporary_table":true,

  "using_filesort":true,

  "grouping_operation":{

  "using_filesort":false,

  ...

  drop index idx1 on t1;

  3))ORDER BY的列中包含有SCALAR SUBQUERY,当然该SCALAR SUBQUERY没有被优化掉。

  例如:

  1

  2

  3

  4

  5

  6

  7

  8

  9

  10

  11

  explain format=json select(select rand()from t1 limit1)asafrom t1 order bya;

  |{

  "query_block":{

  "select_id":1,

  "cost_info":{

  "query_cost":"1.20"

  },

  "ordering_operation":{

  "using_temporary_table":true,

  "using_filesort":true,

  ...

  4) 如果查询既带有ORDER BY同时也有GROUP BY语句,但是两个语句使用的列不相同。

  注意: 如果是5.7,我们需要将sql_mode设置为非only_full_group_by模式,否则会报错。

  同样为了简化执行计划,我们利用INDEX来优化GROUP BY语句。

  例如:

  1

  2

  3

  4

  5

  6

  7

  8

  9

  10

  11

  12

  13

  14

  15

  16

  set sql_mode='';

  create index idx1 on t1(b);

  explain format=json select t1.afrom t1 group by t1.border by1;

  |{

  "query_block":{

  "select_id":1,

  "cost_info":{

  "query_cost":"1.40"

  },

  "ordering_operation":{

  "using_temporary_table":true,

  "using_filesort":true,

  "grouping_operation":{

  "using_filesort":false,

  ...

  drop index idx1 on t1;

  如果查询带有GROUP BY语句,并且不能被优化掉。下面几种情况会利用到内部临时表缓存中间数据,然后对中间数据进行GROUP BY。

  1)如果连接表使用BNL(Batched Nestloop)/BKA(Batched Key Access)。

  例如:

  1

  2

  3

  4

  5

  6

  7

  8

  9

  10

  11

  12

  13

  explain format=json select t2.afrom t1,t1 ast2 group by t1.a;

  |{

  "query_block":{

  "select_id":1,

  "cost_info":{

  "query_cost":"8.20"

  },

  "grouping_operation":{

  "using_temporary_table":true,

  "using_filesort":true,

  "cost_info":{

  "sort_cost":"4.00"

  ...

  2) 如果GROUP BY的列不属于执行计划中的第一个连接表。

  例如:

  1

  2

  3

  4

  5

  6

  7

  8

  9

  10

  11

  12

  explain format=json select t2.afrom t1,t1 ast2 group by t2.a;

  |{

  "query_block":{

  "select_id":1,

  "cost_info":{

  "query_cost":"8.20"

  },

  "grouping_operation":{

  "using_temporary_table":true,

  "using_filesort":true,

  "nested_loop":[

  ...

  3) 如果GROUP BY语句使用的列与ORDER BY语句使用的列不同。

  例如:

  1

  2

  3

  4

  5

  6

  7

  8

  9

  10

  11

  12

  13

  14

  set sql_mode='';

  explain format=json select t1.afrom t1 group by t1.border by t1.a;

  |{

  "query_block":{

  "select_id":1,

  "cost_info":{

  "query_cost":"1.40"

  },

  "ordering_operation":{

  "using_filesort":true,

  "grouping_operation":{

  "using_temporary_table":true,

  "using_filesort":false,

  ...

  4) 如果GROUP BY带有ROLLUP并且是基于多表外连接。

  例如:

  1

  2

  3

  4

  5

  6

  7

  8

  9

  10

  11

  12

  13

  14

  explain format=json select sum(t1.a)from t1 left join t1 ast2 on truegroup by t1.awith rollup;

  |{

  "query_block":{

  "select_id":1,

  "cost_info":{

  "query_cost":"7.20"

  },

  "grouping_operation":{

  "using_temporary_table":true,

  "using_filesort":true,

  "cost_info":{

  "sort_cost":"4.00"

  },

  ...

  5) 如果GROUP BY语句使用的列来自于SCALAR SUBQUERY,并且没有被优化掉。

  例如:

  1

  2

  3

  4

  5

  6

  7

  8

  9

  10

  11

  12

  13

  14

  explain format=json select(select avg(a)from t1)asafrom t1 group bya;

  |{

  "query_block":{

  "select_id":1,

  "cost_info":{

  "query_cost":"3.40"

  },

  "grouping_operation":{

  "using_temporary_table":true,

  "using_filesort":true,

  "cost_info":{

  "sort_cost":"2.00"

  },

  ...

  IN表达式转换为semi-join进行优化

  1) 如果semi-join执行方式为Materialization

  例如:

  1

  2

  3

  4

  5

  6

  7

  8

  9

  10

  11

  12

  13

  14

  15

  16

  17

  18

  19

  set optimizer_switch='firstmatch=off,duplicateweedout=off';

  explain format=json select *from t1 whereain(selectbfrom t1);

  |{

  "query_block":{

  "select_id":1,

  "cost_info":{

  "query_cost":"5.60"

  },

  "nested_loop":[

  {

  "rows_examined_per_scan":1,

  "materialized_from_subquery":{

  "using_temporary_table":true,

  "query_block":{

  "table":{

  "table_name":"t1",

  "access_type":"ALL",

  ...

  2) 如果semi-join执行方式为Duplicate Weedout

  例如:

  1

  2

  3

  4

  5

  6

  7

  8

  9

  10

  11

  12

  13

  set optimizer_switch='firstmatch=off';

  explain format=json select *from t1 whereain(selectbfrom t1);

  |{

  "query_block":{

  "select_id":1,

  "cost_info":{

  "query_cost":"4.80"

  },

  "duplicates_removal":{

  "using_temporary_table":true,

  "nested_loop":[

  {

  ...

  如果查询语句带有UNION,MySQL将利用内部临时表帮助UNION操作消除重复。

  例如:

  1

  2

  3

  4

  5

  6

  7

  explain format=json select *from t1 union select *from t1;

  |{

  "query_block":{

  "union_result":{

  "using_temporary_table":true,

  "table_name":"",

  ...

  如果查询语句使用多表更新。

  这里Explain不能看到内部临时表被利用,所以需要查看status。

  例如:

  1

  2

  update t1,t1 ast2 set t1.a=3;

  show status like'CREATE%';

  如果聚集函数中包含如下函数,内部临时表也会被利用。

  1

  2

  3

  4

  5

  6

  1)count(distinct *)

  例如:

  explain format=json select count(distincta)from t1;

  2)group_concat

  例如:

  explain format=json select group_concat(b)from t1;

  总之,上面列出了10种情况,MySQL将利用内部临时表进行中间结果缓存,如果数据量比较大的话,内部临时表将会把数据存储在磁盘上,这样显然会对性能有所影响。为了尽可能的减少性能损失,我们需要尽量避免上述情况的出现。

MySQL中的两种临时表的更多相关文章

  1. MySQL 中的两种临时表

    来源:阿里云RDS - 数据库内核组 链接:http://mysql.taobao.org/monthly/2016/06/07/ 外部临时表 通过CREATE TEMPORARY TABLE 创建的 ...

  2. PHP中实现MySQL嵌套事务的两种解决方案

    PHP中实现MySQL嵌套事务的两种解决方案 一.问题起源 在MySQL的官方文档中有明确的说明不支持嵌套事务: Transactions cannot be nested. This is a co ...

  3. C++连接mysql数据库的两种方法

    本文主要介绍了C++连接mysql数据库的两种方法,希望通过本文,能对你有所帮助,一起来看. 现在正做一个接口,通过不同的连接字符串操作不同的数据库.要用到mysql数据库,以前没用过这个数据库,用a ...

  4. ORACLE 查询一个数据表后通过遍历再插入另一个表中的两种写法

    ORACLE 查询一个数据表后通过遍历再插入另一个表中的两种写法 语法 第一种: 通过使用Oracle语句块  --指定文档所有部门都能查看 declare cursor TABLE_DEPT and ...

  5. Linux中的两种守护进程stand alone和xinetd

    Linux中的两种守护进程stand alone和xinetd --http://www.cnblogs.com/itech/archive/2010/12/27/1914846.html#top 一 ...

  6. validate插件:验证密码没有空格 用户名是5-10位 至少包含数字和大小写字母中的两种字符

    //校验密码是否含有空格 jQuery.validator.addMethod("notblank", function(value, element) { var pwdblan ...

  7. Crystal Report在.net中的两种显示方式

    Crystal Report在.net中的两种显示方式 编写人:CC阿爸 2014-7-29 近来在完成深圳一公司的项目,对方对各方面要求相当严格,一不满意就拒绝签收,为了对修正水晶报表显示及导出的一 ...

  8. C#中的两种debug方法

    这篇文章主要介绍了C#中的两种debug方法介绍,本文讲解了代码用 #if DEBUG 包裹.利用宏定义两种方法,需要的朋友可以参考下   第一种:需要把调试方法改成debug代码用 #if DEBU ...

  9. eclipse中的两种Jre 及 Jre与Jdk的区别

    分类: ——————————区分eclipse中的两种Jre———————- (Eclipse也是一个普通的Java程序,因此必须有一个JRE做为运行环境.如果你的机器上没有安装任何JRE(或者JDK ...

随机推荐

  1. nginx的日常应用

    nginx的配置文件nginx.conf配置详解如下: user nginx nginx ; Nginx用户及组:用户 组.window下不指定 worker_processes ; 工作进程:数目. ...

  2. Leetcode 95. Unique Binary Search Tree II

    由于BST的性质,所以右子树或者左子树中Node的值是连续的: 左子树 = [1, i -1], root = i, 右子树 = [i + 1, n].使用一个递归函数构造这个BST.其中返回值应该是 ...

  3. linqPad帮助你快速学习LINQ

    linqPad http://www.cnblogs.com/li-peng/p/3441729.html http://www.linqpad.net/ Linqer http://www.sqlt ...

  4. shutdown彻底关闭tomcat,以及多线程关闭

    最近做的一个Web项目,发现shutdown.sh后,无法关掉tomcat进程. ps -ef | grep tomcat 返回tomcat进程仍然存在.经过调查发现是因为在Web应用中启动了线程池, ...

  5. Spring第二天

    Spring第二天 整体课程安排(3天+2天): 第一天:Spring框架入门.IoC控制反转的配置管理.Spring Web集成.Spring Junit集成. 第二天:Spring AOP面向切面 ...

  6. (NO.00002)iOS游戏精灵战争雏形(十一)

    为了在子弹触碰到目标时做一些事情,我们必须要设置碰撞回调. 首先在MainScene.h的类接口中添加碰撞协议: @interface MainScene : CCNode <CCPhysics ...

  7. Python3解析dex文件

    一.说明 1.1 背景说明 看<加密与解密>的时候反复听说“PE文件格式”,到Android安全兴起就不断听说“dex文件格式”.意思是看得懂的,但自己不能手解析一番总觉得不踏实,所以决定 ...

  8. The superclass &quot&semi;javax&period;servlet&period;http&period;HttpServlet&quot&semi; was not found 问题解决

    项目中报" The superclass "javax.servlet.http.HttpServlet" was not found "这个错误,是因为缺少t ...

  9. 用python做文本情感分析

    情感分析就是分析一句话说得是很主观还是客观描述,分析这句话表达的是积极的情绪还是消极的情绪.原理比如这么一句话:“这手机的画面极好,操作也比较流畅.不过拍照真的太烂了!系统也不好.” ① 情感词 要分 ...

  10. java模板

    public class max { public static void main(String[]args){ """ /* xxx */ ""& ...