性能分析
SQL性能下降的原因
- 查询语句写的差。
- 索引失效:索引建了,但是没有用上。
- 关联 查询太多
join
(设计缺陷或者不得已的需求)。 - 服务器调优以及各个参数的设置(缓冲、线程数等)
SQL执行顺序
手写
机读
性能分析
MySQL Query Optimizer
在MySQL中有一个专门负责优化SELECT 语句的优化器模块,这就是我们本节将要重点分析的MySQL Optimizer,其主要的功能就是通过计算分析系统中收集的各种统计信息,为客户端请求的Query 给出他认为最优的执行计划,也就是他认为最优的数据检索方式。
当MySQLOptimizer 接收到从Query Parser (解析器)送过来的Query 之后,会根据MySQL Query 语句的相应语法对该Query 进行分解分析的同时,还会做很多其他的计算转化工作。如常量转化,无效内容删除,常量计算等等。所有这些工作都只为了Optimizer 工作的唯一目的,分析出最优的数据检索方式,也就是我们常说的执行计划。
基本原理
当客户端向MySQL请求一条Query ,到命令解析器模块完成请求分类区别出是SELECT 并转发给Query Optimizer 之后,Query Optimizer 首先会对整条Query 进行,优化处理掉一些常量表达式的预算,直接换算成常量值。并对Query 中的查询条件进行简化和转换,如去掉一些无用或者显而易见的条件,结构调整等等。然后则是分析Query中的Hint 信息(如果有),看显示Hint信息是否可以完全确定该Query的执行计划。如果没有Hint或者Hint 信息还不足以完全确定执行计划,则会读取所涉及对象的统计信息,根据Query进行相应的计算分析,然后再得出最后的执行计划。
Mysql常见瓶颈
CPU:CPU在饱和的时候一般发生在数据装入内存或从磁盘上读取数据的时候
IO:磁盘IO瓶颈发生在装入数据远大于内存容量的时候
服务器硬件的性能瓶颈:top,free.iostat和vmstat来查看系统的性能状态
Explain
Explain简介
-
EXPLAIN是什么
EXPLAIN:SQL的执行计划,使用EXPLAIN关键字可以模拟优化器执行SQL查询语句,从而知道MySQL是如何处理SQL语句的。
-
EXPLAIN怎么使用
语法:explain + SQL。
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15
mysql> explain select * from pms_category \G; *************************** 1. row *************************** id: 1 select_type: SIMPLE table: pms_category partitions: NULL type: ALL possible_keys: NULL key: NULL key_len: NULL ref: NULL rows: 1425 filtered: 100.00 Extra: NULL 1 row in set, 1 warning (0.00 sec)
-
EXPLAIN能干嘛
可以查看以下信息:
id
:表的读取顺序。select_type
:数据读取操作的操作类型。possible_keys
:哪些索引可以使用。key
:哪些索引被实际使用。ref
:表之间的引用。rows
:每张表有多少行被优化器查询。
Explain字段
id,type,key,rows,Extra 这个5个非常重要
概念
使用 EXPLAIN 关键字可以模拟优化器执行 SQL 查询语句,从而知道 MySQL 是如何处理你的 SQL 语句的。分 析你的查询语句或是表结构的性能瓶颈。 用法: Explain+SQL 语句。 Explain 执行后返回的信息:
|
|
准备工作
|
|
id
select 查询的序列号,包含一组数字,表示查询中执行 select 子句或操作表的顺序。
-
id 相同,执行顺序由上至下
1
explain select * from t1, t2, t3 where t1.id = t2.id and t2.id = t3.id;
-
id 不同,如果是子查询, id 的序号会递增, id 值越大优先级越高,越先被执行
-
有相同也有不同
id 如果相同,可以认为是一组,从上往下顺序执行;在所有组中, id 值越大,优先级越高,越先执行衍生 = DERIVED
DERIVED衍生虚表,延伸的ID是2的表
小表永远驱动大表
select_type
select_type
:数据查询的类型,主要是用于区别,普通查询、联合查询、子查询等的复杂查询。
SIMPLE
:简单的SELECT
查询,查询中不包含子查询或者UNION
。PRIMARY
:查询中如果包含任何复杂的子部分,最外层查询则被标记为PRIMARY
。SUBQUERY
:在SELECT
或者WHERE
子句中包含了子查询。DERIVED
:在FROM
子句中包含的子查询被标记为DERIVED(衍生)
,MySQL会递归执行这些子查询,把结果放在临时表中。UNION
:如果第二个SELECT
出现在UNION
之后,则被标记为UNION
;若UNION
包含在FROM
子句的子查询中,外层SELECT
将被标记为DERIVED
。UNION RESULT
:从UNION
表获取结果的SELECT
。
table
显示这一行数据属于哪个表
type
访问类型排列,显示查询使用了何种类型
- type显示的是访问类型,是较为重要的一个指标,结果值从最好到最坏依次是:
system>const>eq_ref>ref>fultext>ref_or_null>index_merge>unique_subquery>index_subquery>range>index>ALL
- 挑重要的来说:
system>const>eq_ref>ref>range>index>ALL
,一般来说,得保证查询至少达到range级别,最好能达到ref。
从最好到最差依次是:system>const>eq_ref>ref>range>index>ALL
-
system:表只有一行记录(等于系统表),这是const类型的特例,平时不会出现,这个也可以忽略不计
-
const:表示通过索引一次就找到了,const用于比较primary key或者unique索引。因为只匹配一行数据,所以很快。如将主键置于where列表中,MySQL就能将该查询转换为一个常量
-
eq_ref:唯一性索引,对于每个索引键,表中只有一条记录与之匹配,常见于主键或唯一索引扫描
-
ref:非唯一索引扫描,返回匹配某个单独值的所有行。本质上也是一种索引访问,它返回所有匹配某个单独值的行,然而,它可能会找到多个符合条件的行,所以他应该属于查找和扫描的混合体
-
range:只检索给定范围的行,使用一个索引来选择行。key列显示使用了哪个索引一般就是在你的where语句中出现了
between
、<
、>
、in
等的查询这种范围扫描索引扫描比全表扫描要好,因为他只需要开始索引的某一点,而结束于另一点,不用扫描全部索引 -
index:Full Index Scan,index与ALL区别为index类型只遍历索引树。这通常比ALL快,因为索引文件通常比数据文件小。(也就是说虽然all和index都是读全表,但index是从索引中读取的,而all是从硬盘数据库文件中读的)
-
all:FullTable Scan,将遍历全表以找到匹配的行(全表扫描)
const只有一条记录,eq_ref是可能多条,但是A表的外键对应B表中只有一条记录,可以想象一个圆规,当一个脚(t2)固定时另一个脚可以画圈(t1)。ref就是一对多,指单表,eq_ref是圆规,一个脚固定时,另一个脚可以画圈
possible_keys
- 显示可能应用在这张表中的索引,一个或多个
- 若查询涉及的字段上存在索引,则该索引将被列出,但不一定被查询实际使用
key
-
实际使用的索引,如果为null,则没有使用索引
-
若查询中使用了覆盖索引,则该索引仅出现在key列表中
possible_key为空,因为没有带where条件,但是使用上了覆盖索引
key_len
- 表示索引中使用的字节数,可通过该列计算查询中使用的索引的长度。在不损失精确性的情况下,长度越短越好
- key_len显示的值为索引最大可能长度,并非实际使用长度,即key_len是根据表定义计算而得,不是通过表内检索出的
key_len计算规则
各种数据类型计算规则如下:
|
|
ref
- 显示表中哪一列被使用了,如果可能的话,最好是一个常数。哪些列或常量被用于查找索引列上的值
- 由key_len可知t1表的索引idx_col1_col2被充分使用,t1表的col1匹配t2表的col1,t1表的col2匹配了一个常量,即’ac’
圆规花圆,先固定一脚(t2)再转动另一角(t1),所以t2的ref是null
可以理解为条件中等号后面的字段或常量
rows
根据表统计信息及索引选用情况,大致估算出找到所需的记录所需要读取的行数
Extra
Using filesort
- MySQL中无法利用索引完成排序操作成为“文件排序”
- 说明mysql会对数据使用一个外部的索引排序,而不是按照表内的索引顺序进行读取
- 出现 Using filesort 不好(九死一生),需要尽快优化 SQL
- 示例中第一个查询只使用了 col1 和 col3,原有索引派不上用场,所以进行了外部文件排序
- 示例中第二个查询使用了 col1、col2 和 col3,原有索引派上用场,无需进行文件排序
Using temporary
- 使用了临时表保存中间结果,MySQL在对查询结果排序时使用临时表。常见于排序 order by 和分组查询 group by同时使用
- 出现 Using temporary 超级不好(十死无生),需要立即优化 SQL
- 示例中第一个查询只使用了 col1,原有索引派不上用场,所以创建了临时表进行分组
- 示例中第二个查询使用了 col1、col2,原有索引派上用场,无需创建临时表
Using index
- 表示相应的select操作中使用了覆盖索引(Coveing Index),避免访问了表的数据行,效率不错!
- 如果同时出现using where,表明索引被用来执行索引键值的查找
- 如果没有同时出现using where,表明索引用来读取数据而非执行查找动作
同时出现Using where 表明索引被用来执行查找动作,select list list里不仅有该索引列还有其他内容
如果没有出现Using where 表明索引被用来读取数据,select list list里仅有该索引列
覆盖索引(Covering Index),也说为索引覆盖
- 理解方式一:就是select的数据列只用从索引中就能够取得,不必读取数据行,MySQL可以利用索引返回select列表中的字段,而不必根据索引再次读取数据文件,换句话说查询列要被所建的索引覆盖。
- 理解方式二:索引是高效找到行的一个方法,但是一般数据库也能使用索引找到一个列的数据,因此它不必读取整个行。毕竟索引叶子节点存储了它们索引的数据;当能通过读取索引就可以得到想要的数据,那就不需要读取行了。一个索引包含了(或覆盖了)满足查询结果的数据就叫做覆盖索引。
- 注意:如果要使用覆盖索引,一定要注意select列表中只取出需要的列,不可select * ,因为如果将所有字段一起做索引会导致索引文件过大,查询性能下降。
Using where
表明使用了where过滤
Using join buffer
表明使用了连接缓存
Using impossible where
where子句的值总是false,不能用来获取任何元组
select tables optimized away
select tables optimized away:在没有GROUPBY子句的情况下,基于索引优化MIN/MAX操作或者对于MyISAM存储引擎优化COUNT(*)
操作,不必等到执行阶段再进行计算,查询执行计划生成的阶段即完成优化。
distinct
优化distinct,在找到第一匹配的元组后即停止找同样值的工作
Explain Case
- 第一行(执行顺序4):id列为1,表示是union里的第一个select,select_type列的primary表示该查询为外层查询,table列被标记为
<derived3>
,表示查询结果来自一个衍生表,其中derived3中3代表该查询衍生自第三个select查询,即id为3的select。【select d1.name ...
】 - 第二行(执行顺序2):id为3,是整个查询中第三个select的一部分。因查询包含在from中,所以为derived。【
select id, name from t1 where other_column= ' '
】 - 第三行(执行顺序3):select列表中的子查询select_type为subquery,为整个查询中的第二个select。【
select id from t3
】 - 第四行(执行顺序1):select_type为union,说明第四个select是union里的第二个select,最先执行【
select name, id from t2
】 - 第五行(执行顺序5):代表从union的临时表中读取行的阶段,table列的<union1, 4>表示用第一个和第四个select的结果进行union操作。【两个结果进行uinion操作】