MySQL高级SQL 优化

Posted 2020-12-14 Song-zw

优化 SQL 的步骤

在应用的开发过程中，由于初期数据量小，开发人员写 SQL 语句时更重视功能上的实现，但是当应用系统正式上线后，随着生产数据量的急剧增长，很多 SQL 语句开始逐渐显露出性能问题，对生产的影响也越来越大，此时这些有问题的 SQL 语句就成为整个系统性能的瓶颈，因此必须要对它们进行优化。

当面对一个有 SQL 性能问题的数据库时，应该从以下几个方面入手来进行系统的分析，使得能够尽快定位问题 SQL 并尽快解决问题。

查看 SQL 执行频率

mysql 客户端连接成功后，通过 show [session|global] status 命令可以提供服务器状态信息。参数“session”或者“global”来显示 session 级（当前连接）的统计结果和 global 级（自数据库上次启动至今）的统计结果。如果不写，默认使用参数是“session”。

下面的命令显示了当前 session 中所有统计参数的值：

show status like ‘Com_______‘;  

show status like ‘Innodb_rows_%‘;

• Com_*** : 这些参数对于所有存储引擎的表操作都会进行累计，表示每个 xxx 语句执行的次数。

• Innodb_*** : 这几个参数只是针对InnoDB 存储引擎的，累加的算法也略有不同。

参数	含义
Com_select	执行 select 操作的次数，一次查询只累加 1。
Com_insert	执行 INSERT 操作的次数，对于批量插入的 INSERT 操作，只累加一次。
Com_update	执行 UPDATE 操作的次数。
Com_delete	执行 DELETE 操作的次数。
Innodb_rows_read	select 查询返回的行数。
Innodb_rows_inserted	执行 INSERT 操作插入的行数。
Innodb_rows_updated	执行 UPDATE 操作更新的行数。
Innodb_rows_deleted	执行 DELETE 操作删除的行数。
Connections	试图连接 MySQL 服务器的次数。
Uptime	服务器工作时间。
Slow_queries	慢查询的次数。

定位低效率执行SQL

• 慢查询日志 : 通过慢查询日志定位那些执行效率较低的 SQL 语句，用 --log-slow-queries[=file_name] 选项启动时，MySQL 写一个包含所有执行时间超过 long_query_time 秒的 SQL 语句的日志文件。

• show processlist：慢查询日志在查询结束以后才记录，所以在应用反映执行效率出现问题的时候查询慢查询日志并不能定位问题，可以使用 show processlist 命令查看当前 MySQL 在进行的线程，包括线程的状态、是否锁表等，可以实时地查看 SQL 的执行情况，同时对一些锁表操作进行优化。

  show processlist; -- 结果显示表格
  

  字段	含义
  id	用户登录mysql时，系统分配的 "connection_id"，可以使用函数 connection_id() 查看
  user	显示当前用户。如果不是root，这个命令就只显示用户权限范围的sql语句
  host	显示这个语句是从哪个ip的哪个端口上发的，可以用来跟踪出现问题语句的用户
  db	显示这个进程目前连接的是哪个数据库
  command	显示当前连接的执行的命令，一般取值为休眠（sleep），查询（query），连接（connect）等
  time	显示这个状态持续的时间，单位是秒
  state	显示使用当前连接的sql语句的状态，很重要的列。state描述的是语句执行中的某一个状态。一个sql语句，以查询为例，可能需要经过 copying to tmp table、sorting result、sending data 等状态才可以完成
  info	显示这个sql语句，是判断问题语句的一个重要依据

explain 分析执行计划

通过以上步骤查询到效率低的 SQL 语句后，可以通过 EXPLAIN 或者 DESC 命令获取 MySQL 如何执行 SELECT 语句的信息，包括在 SELECT 语句执行过程中表如何连接和连接的顺序。

查询SQL语句的执行计划 ：

explain  select * from tb_item where id = 1;  

字段	含义
id	select查询的序列号，是一组数字，表示的是查询中执行 select 子句或者是操作表的顺序。
select_type	表示 SELECT 的类型，常见的取值有 SIMPLE（简单表，即不使用表连接或者子查询）、PRIMARY（主查询，即外层的查询）、UNION（UNION 中的第二个或者后面的查询语句）、SUBQUERY（子查询中的第一个 SELECT）等
table	输出结果集的表
type	表示表的连接类型，性能由好到差的连接类型为( system ---> const -----> eq_ref ------> ref -------> ref_or_null----> index_merge ---> index_subquery -----> range -----> index ------> all )
possible_keys	表示查询时，可能使用的索引
key	表示实际使用的索引
key_len	索引字段的长度
rows	扫描行的数量
extra	执行情况的说明和描述

1、explain 之 id

id 字段是 select查询的序列号，是一组数字，表示的是查询中执行select子句或者是操作表的顺序。

id 情况有三种 ：

1. id 相同，表示加载表的顺序是从上到下。

2. id 不同，id 值越大，优先级越高，越先被执行。

3. id 有相同，也有不同，同时存在。id相同的可以认为是一组，从上往下顺序执行；在所有的组中，id 的值越大，优先级越高，越先执行。

2、explain 之 select_type

表示 SELECT 的类型，常见的取值如下表所示（从上到下效率越来越低）：

select_type	含义
SIMPLE	简单的 select 查询，查询中不包含子查询或者 UNION
PRIMARY	查询中若包含任何复杂的子查询，最外层查询标记为该标识
SUBQUERY	在 SELECT 或 WHERE 列表中包含了子查询
DERIVED	在 FROM 列表中包含的子查询，被标记为 DERIVED（衍生） MYSQL 会递归执行这些子查询，把结果放在临时表中
UNION	若第二个 SELECT 出现在UNION之后，则标记为UNION ； 若 UNION 包含在 FROM 子句的子查询中，外层 SELECT 将被标记为 ： DERIVED
UNION RESULT	从 UNION 表获取结果的 SELECT

3、explain 之 table

展示这一行的数据是关于哪一张表的

4、explain 之 type

type 显示的是访问类型，是较为重要的一个指标，可取值为：

type	含义
NULL	MySQL 不访问任何表、索引，直接返回结果
system	表只有一行记录（等于系统表），这是 const 类型的特例，一般不会出现
const	表示通过索引一次就找到了，const 用于比较 primary key 或者 unique 索引。因为只匹配一行数据，所以很快。如将主键置于where列表中，MySQL 就能将该查询转换为一个常量。const 于将 "主键" 或 "唯一" 索引的所有部分与常量值进行比较
eq_ref	类似ref，区别在于使用的是唯一索引，使用主键的关联查询，关联查询出的记录只有一条。常见于主键或唯一索引扫描
ref	非唯一性索引扫描，返回匹配某个单独值的所有行。本质上也是一种索引访问，返回所有匹配某个单独值的所有行（多个）
range	只检索给定返回的行，使用一个索引来选择行。 where 之后出现 between ， < , > , in 等操作。
index	index 与 ALL的区别为 index 类型只是遍历了索引树， 通常比ALL 快， ALL 是遍历数据文件。
all	将遍历全表以找到匹配的行

结果值从最好到最坏以此是：

NULL > system > const > eq_ref > ref > fulltext > ref_or_null > index_merge > unique_subquery > index_subquery > range > index > ALL


system > const > eq_ref > ref > range > index > ALL

一般来说， 我们需要保证查询至少达到 range 级别， 最好达到ref 。

5、explain 之 key

possible_keys : 显示可能应用在这张表的索引， 一个或多个。 

key ： 实际使用的索引， 如果为NULL， 则没有使用索引。

key_len : 表示索引中使用的字节数， 该值为索引字段最大可能长度，并非实际使用长度，在不损失精确性的前提下， 长度越短越好 。

6、explain 之 rows

扫描行的数量。

7、explain 之 extra

其他的额外的执行计划信息，在该列展示 。

extra	含义
using filesort	说明 mysql 会对数据使用一个外部的索引排序，而不是按照表内的索引顺序进行读取，称为 “文件排序”，效率低。
using temporary	使用了临时表保存中间结果，MySQL在对查询结果排序时使用临时表。常见于 order by 和 group by， 效率低。
using index	表示相应的 select 操作使用了覆盖索引， 避免访问表的数据行， 效率不错。

show profile分析SQL

Mysql 从 5.0.37 版本开始增加了对 show profiles 和 show profile 语句的支持。show profiles 能够在做SQL 优化时帮助我们了解时间都耗费到哪里去了。通过 profile 能够更清楚地了解 SQL 执行的过程。

通过 have_profiling 参数，能够看到当前MySQL是否支持profile：

selsect @@have_profiling;

默认 profiling 是关闭的，可以通过 set 语句在 Session 级别开启 profiling：

select @@profiling; -- 查看profiling是否打开
set profiling=1; -- 开启profiling 开关；

可以先执行一系列的操作，执行完之后，再执行 show profiles 指令， 可以查看SQL语句执行的耗时， 通过 show profile for query query_id 语句可以查看到该 SQL 执行过程中每个线程的状态和消耗的时间。

Sending data 状态表示 MySQL 线程开始访问数据行并把结果返回给客户端，而不仅仅是返回给客户端。由于在Sending data 状态下，MySQL 线程往往需要做大量的磁盘读取操作，所以经常是整各查询中耗时最长的状态。

在获取到最消耗时间的线程状态后，MySQL支持进一步选择 all、cpu、block io 、context switch、page faults 等明细类型类查看 MySQL 在使用什么资源上耗费了过高的时间。例如，选择查看 CPU 的耗费时间： show profile cpu for query query_id，其中参数含义如下：

字段	含义
Status	sql 语句执行的状态
Duration	sql 执行过程中每一个步骤的耗时
CPU_user	当前用户占有的cpu
CPU_system	系统占有的cpu

trace分析优化器执行计划

MySQL5.6 提供了对 SQL 的跟踪trace, 通过 trace 文件能够进一步了解为什么优化器选择 A 计划, 而不是选择 B 计划。

打开 trace ， 设置格式为 JSON，并设置 trace 最大能够使用的内存大小，避免解析过程中因为默认内存过小而不能够完整展示。

SET optimizer_trace="enabled=on",end_markers_in_json=on;
set optimizer_trace_max_mem_size=1000000;

执行SQL语句 ：

select * from tb_item where id < 4;

最后， 检查 information_schema.optimizer_trace 就可以知道MySQL是如何执行SQL的 ：

select * from information_schema.optimizer_traceG;

---

---

SQL 优化

大批量插入数据

当使用 load 命令导入数据的时候，适当的设置可以提高导入的效率。

load data local infile ‘/root/sql.log‘ int table ‘tb_user‘ fields teminated ny ‘,‘ lines terminated by ‘
‘;

对于 InnoDB 类型的表，有以下几种方式可以提高导入的效率：

1. 主键顺序插入

   因为 InnoDB 类型的表是按照主键的顺序保存的，所以将导入的数据按照主键的顺序排列，可以有效的提高导入数据的效率。如果 InnoDB 表没有主键，那么系统会自动默认创建一个内部列作为主键，所以如果可以给表创建一个主键，将可以利用这点，来提高导入数据的效率。

2. 关闭唯一性校验

   在导入数据前执行 SET UNIQUE_CHECKS=0，关闭唯一性校验，在导入结束后执行 SET UNIQUE_CHECKS=1，恢复唯一性校验，可以提高导入的效率。

   唯一性校验是对唯一性索引的校验，如果当前表结构存在唯一性索引，那么导入时不允许插入。

3. 手动提交事务

   如果应用使用自动提交的方式，建议在导入前执行 SET AUTOCOMMIT=0，关闭自动提交，导入结束后再执行 SET AUTOCOMMIT=1，打开自动提交，也可以提高导入的效率。

优化insert语句

当进行数据的 insert 操作的时候，可以考虑采用以下几种优化方案。

• 如果需要同时对一张表插入很多行数据时，应该尽量使用多个值表的 insert 语句，这种方式将大大的缩减客户端与数据库之间的连接、关闭等消耗，使得效率比分开执行的单个insert语句快。

  insert into tb_test values(1,‘Tom‘);
  insert into tb_test values(2,‘Cat‘);
  insert into tb_test values(3,‘Jerry‘);
  
  -- 优化后的方案为 ：
  insert into tb_test values(1,‘Tom‘),(2,‘Cat‘)，(3,‘Jerry‘);
  

• 在事务中进行数据插入

  start transaction;
  insert into tb_test values(1,‘Tom‘);
  insert into tb_test values(2,‘Cat‘);
  insert into tb_test values(3,‘Jerry‘);
  commit;
  

• 数据有序插入

  insert into tb_test values(4,‘Tim‘);
  insert into tb_test values(1,‘Tom‘);
  insert into tb_test values(3,‘Jerry‘);
  insert into tb_test values(5,‘Rose‘);
  insert into tb_test values(2,‘Cat‘);
  
  -- 优化后
  insert into tb_test values(1,‘Tom‘);
  insert into tb_test values(2,‘Cat‘);
  insert into tb_test values(3,‘Jerry‘);
  insert into tb_test values(4,‘Tim‘);
  insert into tb_test values(5,‘Rose‘);
  

优化order by语句

1、两种排序方式

• 第一种是通过对返回数据进行排序，也就是通常说的 filesort 排序，所有不是通过索引直接返回排序结果的排序都叫 FileSort 排序。

• 第二种通过有序索引顺序扫描直接返回有序数据，这种情况即为 using index，不需要额外排序，操作效率高。

多字段排序有可能会都用到这两种排序方式。

优化目标：尽量减少额外的排序，通过索引直接返回有序数据。where 条件和 Order by 使用相同的索引，并且Order by 的顺序和索引顺序相同， 并且 Order by 的字段都是升序，或者都是降序（排序顺序和索引顺序保持一致）。否则肯定需要额外的操作，这样就会出现 FileSort。

2、Filesort 的优化

通过创建合适的索引，能够减少 Filesort 的出现，但是在某些情况下，条件限制不能让 Filesort 消失，那就需要加快 Filesort 的排序操作。对于 Filesort ，MySQL 有两种排序算法：

• 两次扫描算法 ：MySQL4.1 之前，使用该方式排序。首先根据条件取出排序字段和行指针信息，然后在排序区 sort buffer 中排序，如果 sort buffer 不够，则在临时表 temporary table 中存储排序结果。完成排序之后，再根据行指针回表读取记录，该操作可能会导致大量随机 I/O 操作。

• 一次扫描算法：一次性取出满足条件的所有字段，然后在排序区 sort buffer 中排序后直接输出结果集。排序时内存开销较大，但是排序效率比两次扫描算法要高。

MySQL 通过比较系统变量 max_length_for_sort_data 的大小和 Query 语句取出的字段总大小， 来判定是否那种排序算法，如果 max_length_for_sort_data 更大，那么使用第二种优化之后的算法；否则使用第一种。

可以适当提高 sort_buffer_size 和 max_length_for_sort_data 系统变量，来增大排序区的大小，提高排序的效率。

show variables like ‘max_length_for_sort_data‘;
show variables like ‘ sort_buffer_size‘;

优化group by 语句

由于 GROUP BY 实际上也同样会进行排序操作，而且与 ORDER BY 相比，GROUP BY 主要只是多了排序之后的分组操作。当然，如果在分组的时候还使用了其他的一些聚合函数，那么还需要一些聚合函数的计算。所以，在GROUP BY 的实现过程中，与 ORDER BY 一样也可以利用到索引。

如果查询包含 group by 但是用户想要避免排序结果的消耗， 则可以执行order by null 禁止排序。如下 ：

explain select age,count(*) from emp group by age;
-- 优化后
explain select age,count(*) from emp group by age order by null;

第一个SQL语句需要进行 "filesort"，而第二个 SQL 由于order by null 不需要进行 "filesort"。

优化嵌套查询

Mysql4.1 版本之后，开始支持 SQL 的子查询。这个技术可以使用 SELECT 语句来创建一个单列的查询结果，然后把这个结果作为过滤条件用在另一个查询中。使用子查询可以一次性的完成很多逻辑上需要多个步骤才能完成的 SQL 操作，同时也可以避免事务或者表锁死，并且写起来也很容易。但是，有些情况下，子查询是可以被更高效的连接（JOIN）替代。

连接（Join）查询之所以更有效率一些 ，是因为 MySQL 不需要在内存中创建临时表来完成这个逻辑上需要两个步骤的查询工作。

 explain select * from t_user where id in (select user_id from user_role );
 -- 优化后:
 explain select * from t_user u , user_role ur where u.id = ur.user_id;

优化 OR 条件

对于包含OR的查询子句，如果要利用索引，则 OR 之间的每个条件列都必须用到索引 ， 而且不能使用到复合索引； 如果没有索引，则应该考虑增加索引。 更加建议使用 union 替换 or 。

explain select * from emp where id = 1 or id = 10;

-- 使用 union 替换 or ：
explain select * from emp where id = 1 union select * from emp where id = 10;

主要差别是 type 这个指标：

UNION 语句的 type 值为 const，OR 语句的 type 值为 range，可以看到这是一个很明显的差距，说明了 UNION 要优于 OR 。

type 显示的是访问类型，是较为重要的一个指标，结果值从好到坏依次是：
system > const > eq_ref > ref > fulltext > ref_or_null  > index_merge > unique_subquery > index_subquery > range > index > ALL

优化分页查询

一般分页查询时，通过创建覆盖索引能够比较好地提高性能。一个常见又非常头疼的问题就是 limit 2000000,10 ，此时需要 MySQL 排序前 2000010 记录，仅仅返回 2000000 - 2000010 的记录，其他记录丢弃，查询排序的代价非常大 。

• 优化思路一

  在索引上完成排序分页操作，最后根据主键关联回原表查询所需要的其他列内容。

  explain select * from tb_item t, (select id from tb_item order by id limit 2000000,10) a where t.id = a.id;
  

• 优化思路二

  把 limit 查询转换成某个位置的查询，该方案适用于主键自增的表，主键不能断层 。

  explain select * from tb_item where id > 1000000 limit 10;
  

使用SQL提示

SQL 提示，在 SQL 语句中加入一些人为的提示来达到优化操作的目的。

1、USE INDEX

在查询语句中表名的后面，添加 use index 来提供希望 MySQL 去参考的索引列表，就可以让 MySQL 不再考虑其他可用的索引。

create index idx_seller_name 1 on tb_seller(name);
explain select * from tb_seller use index(idx_seller_name) where name = ‘小米科技‘;

2、IGNORE INDEX

如果用户只是单纯的想让 MySQL 忽略一个或者多个索引，则可以使用 ignore index 作为 hint 。

 explain select * from tb_seller ignore index(idx_seller_name) where name = ‘小米科技‘; 

3、FORCE INDEX

强制 MySQL 使用一个特定的索引，可在查询中使用 force index 作为 hint 。

explain select * from tb_seller force index(idx_seller_name) where name = ‘小米科技‘;