MySQL索引与优化

Posted ythunder

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了MySQL索引与优化相关的知识,希望对你有一定的参考价值。

内容包括:

  • 概念和基本使用
  • 索引的优缺点及使用场景
  • 索引底层结构(B,B+树及优缺点对比)
  • 高效使用索引
  • 聚簇索引与非聚簇索引

概念

索引存储在内存中,为服务器存储引擎为了快速找到记录的一种数据结构。

基本操作

为数据表添加索引:

ALTER TABLE table_name ADD INDEX index_name (column_list)  //普通索引
ALTER TABLE table_name ADD UNIQUE (column_list)   //唯一性索引,设置后,不允许插入重复值
ALTER TABLE table_name ADD PRIMARY KEY (column_list) //唯一索引,通常用于自增主键。

删除索引

DROP INDEX index_name ON talbe_name
ALTER TABLE table_name DROP INDEX index_name
ALTER TABLE table_name DROP PRIMARY KEY

查看索引

 SHOW INDEX FROM tblname;
 SHOW KEYS FROM tblname;

优缺点及使用场景

  • 减少表的检索行数,提高查询效率
  • 建立唯一索引或者主键索引,保证数据字段的唯一性
  • 检索时有分组和排序需求时,减少服务器排序的时间

缺点:

  • 创建和维护索引需要消耗时间及内存,随着数据的增加而增加
  • 索引字段过多,数据量巨大时,索引占据空间可能比表更大。
  • 当对表的数据进行更新操作时,索引也要动态的维护,这样就会降低数据的维护速度。

使用注意:

  • 表数据较小时不建议使用,此时全表扫描可能效率更好。
  • 在经常需要where、排序、分组、取区间的列上建议使用。
  • 列不能作为表达式的一部分,或者用作函数参数,否则失效。
  • 当表更新操作远大于select操作时,不建议添加索引。

索引底层数据结构了解

数据组织方面

  • 选择树形存储
    基础数据结构中,hash时间复杂度(O(1))但支持顺序查找困难。数组链表复杂度(O(n))。树在查找上时间复杂度居中(O(logn)),天然支持顺序。
  • 存储引擎等块
    每块数据长度不定,索引中至少必须存储磁盘id、起始号、偏移号这三个值。由此问题,设计出以块为单位,避免跨页读取数据,块的单位一般等同磁盘的页或其倍数。(innodb块大小为16k,操作系统一页=4k)
  • 有序存储
    索引有序 + 磁盘内有序,加速查找时间 且 更好的支持顺序查找。
  • 聚簇索引
    这是数据组织方式。innodb使用聚簇索引,叶子节点中包含索引+数据; MyIsm引擎非聚簇,叶子节点中包含索引+数据指针,数据被存储在其他地方。

B树

平衡多路查找树,一棵m阶的B树。
特性:

  1. 树中每个结点最多含有m个孩子( m >= 2 );
  2. 除根结点和叶子结点外,其他每个结点至少 m/2 个孩子。
  3. 若根结点不是叶子,至少2个孩子。
  4. 有 j 个孩子的非叶节点恰好有 j-1 个关键码,关键码按递增次序排序。

B树存在磁盘中,我们想要查找29,查找过程:
1. 根据根结点找到文件目录的根磁盘块1,将其中信息导入内存。 【磁盘IO操作一次】
2. 此时内存中有两个文件17,35和三个存储其他磁盘页面地址的数据。 比较:17<29<35,因此我们访问指针P2
3. 根据P2指针,我们定位到磁盘3,并将其信息导入内存。【磁盘IO操作2次】
4. 此时内存中有两个文件26,30和三个存储其他磁盘页面地址信息的指针,26<29<30,因此我们找到P2指针。
5. 根据P2指针,定位到磁盘8,将其中信息导入内存。【磁盘IO操作3次】

B+

相对B树的不同特性:

  1. 非叶子节点的值会以最大或最小值出现在其子节点中,即叶子节点包含所有元素。
  2. 非叶子节点带有索引数据和指向叶子节点的指针,不包含指向实际元素数据的地址信息。仅叶子节点有所有元素信息。
  3. 每个元素不保存数据,只保存索引值即主键。
  4. 所有叶子节点形成一个有序链表。

单行查询时与B树相同
范围查询时,比如查找大于3小于8的数据,根据单行查找方式查找到3之后,通过链表直接遍历后面的元素。

B+树优势:

  1. B+树的磁盘读写代价更低/效率更高。同样的一块磁盘大小,B树需要存储表元素数据,B+只需要存储索引,可以存储更多节点。同等元素数据量下,B+树层数更少。
  2. B+树的查询效率稳定。因为非终结点只是关键字的索引,所以任何关键字的查找必须走一条根到叶子的路。
  3. B+树中叶子结点也形成一个链表,所以B+树在面对范围查询时比B树更加高效。

InnoDB索引使用

索引分主索引和辅助索引
主索引在表创建后即存在。以主键为索引,叶子节点存储元素数据。
为主键外的字段添加的索引为辅助索引。以字段内容为索引,叶子节点存储元素对应主键。
MyISAM不同点在于叶子存储的不是元素数据,而是元素数据地址。实现索引与实际数据分离。

如何高效率使用索引

独立列查询

SQL语句使用不当时,将无法使用现存索引而去全表扫描。所以需要注意:索引列不能是表达式的一部分,也不能是函数的参数。
通过在查询SQL前加explain,查看是否有使用索引。

上图中,为timestamp字段添加了索引。 明显使用DATE()函数后,timestamp不使用索引,rows行数为总数据行数。

前缀索引查询(注意选择性把握)

选择性指不重复的索引值和数据表的记录总数的比值。选择性最高时,即所有键不重复时选择性为1。
由上面对索引内部实现的描述我们得知,我们索引的字段越长时,所占内存也就越大。前缀索引意在保持较高选择性的情况下,取字段的前缀部分用于索引,降低内存使用率。
我对测试表中pdl字段及前缀部分的选择性进行观测如下:



如图,前缀为9时选择性已经较高,再增加时,没有明显提升。这时,如果pdl字段很长,就可以考虑使用pdl的前缀9个字符作为前缀索引。

alter table com_pdl_stat add key `left_pdl`(pdl(9));

注意:无法使用前缀索引做ORDER BY 和 GROUP BY,考虑业务场景做取舍。

多列索引合并

很多时候我们为了查询方便,为很多列单独创建索引。但我们在使用where筛选时,却多使用AND,OR等条件。
当我为表的pdl,timestamp字段单独设置索引时,and查询为:

通过key标志知道此时仅使用了pdl字段的索引。filtered仅17.92.
这里的仅使用了pdl字段索引。(高性能提到5.0之后的版本会各自使用pdl和timestamp字段,然后SQL服务器对多个索引结果做相交(AND)或联合操作(OR)操作,通过extra可查询,但是我的5.7没有这种优化,不知道为什么~~)

如上,仅使用where条件的第一个字段索引 或者 服务器消耗CPU,内存等资源去做合并工作,都会影响查询性能。

这是有必要合并索引,创建pdl_time(pdl, timestamp)索引后同样的查询结果如下:

pdl_time索引被使用,filtered达到100%。
在创建多列索引时注意:
- 通常将选择性高的字段放在前面
- 多列字段的前缀也可以作为索引(例如(a,b)索引时,可以单独使用a索引,但不能单独使用b索引)

聚簇索引

聚簇索引指的是一种数据组织结构。判断标准为:索引的叶子节点中,存储的是数据还是只想数据块的指针。如果是指向数据块指针,则为非聚簇索引。

索引类型依赖存储引擎,Innodb使用的是聚簇索引,MyISAM使用非聚簇索引

Innodb主键索引图:


如图为Innodb存储引擎生成的主键索引结构。非叶子节点存储主键,叶子节点存储主键和行数据(还有事务ID和回滚指针)。

Innodb辅助索引图:

如图为Innodb存储引擎生成的辅助索引结构。叶子节点存储索引字段和对应的主键值,索引到主键值后,根据主键值再去主键索引中查找对应的数据。

优点在于:
  • 减少磁盘IO次数。使用索引查询数据时,索引节点和数据被一起载入内存,不需要根据指针再进行一次IO读取。
  • 无需维护辅助索引。当出现数据页分裂时,无需更新索引中的数据块指针。

非聚簇索引图:

非聚簇索引主键索引和辅助索引结构一致。

SQL慢查询原因

先确保服务响应慢时,不是一些偶然情况或者机器性能问题,确定响应慢源头是SQL操作。

  • 定位慢查询
// 查看是否开启了慢查询日志
show variables like '%slow_query_log';
// 开启
set global slow_query_log='ON';
// 执行show variables like '%slow_query_log'就有log_file地址
+---------------------+--------------------------------------------+
| Variable_name       | Value                                      |
+---------------------+--------------------------------------------+
| slow_query_log      | ON                                         |
| slow_query_log_file | /usr/local/mysql/data/TEST-slow.log |
+---------------------+--------------------------------------------+
// 查看慢查询阈值
show variables like '%long_query_time%';
// 调整阈值
set global long_query_time = 1;
// 关闭当前session再开启,执行一个超过1s的SQL时,将被记录在 `/usr/local/mysql/data/TEST-slow.log`
  • explain (👆使用过)
    在指令前➕explain,打印如下
// 使用JOIN时会有两条记录
+----+-------------+-------+------------+------+---------------+------+---------+------+------+----------+----------------------------------------------------+
| id | select_type | table | partitions | type | possible_keys | key  | key_len | ref  | rows | filtered | Extra                                              |
+----+-------------+-------+------------+------+---------------+------+---------+------+------+----------+----------------------------------------------------+
|  1 | SIMPLE      | a2    | NULL       | ALL  | NULL          | NULL | NULL    | NULL |  180 |   100.00 | NULL                                               |
|  1 | SIMPLE      | a1    | NULL       | ALL  | NULL          | NULL | NULL    | NULL |  732 |    10.00 | Using where; Using join buffer (Block Nested Loop) |
+----+-------------+-------+------------+------+---------------+------+---------+------+------+----------+----------------------------------------------------+
type字段含义
 	- all  全数据表扫描 == 这种情况下的是急需优化的
 	- index  全索引扫描,此时如果extra = Using index,则索引字段覆盖select的字段,不需要到回表扫描,效率更高些。
	- range  在索引中进行范围查找
	- index_merge 使用多个单列索引合并查找
- filtered 命中率。这个字段表示存储引擎返回的数据在server层过滤后,剩下多少满足查询的记录数量的比例,图为百分之10。此值过低也不行。
- key 查询中使用到的索引
  • profile (相对explain分析更详细)
// 查询profile是否开启
show variables like 'profiling';
// 开启
set profiling = 'ON';
// 再执行以下,将显示 id -> 最近操作的SQL
show profiles;

// show profile for query $id时,展示某个指令详细消耗情况。以下子命令可跟在profile后展示。
// help profile 可查看show profile子命令
type: 
    ALL  			// 展示所有
  | BLOCK IO		// 显示磁盘块IO消耗时间
  | CONTEXT SWITCHES	// 上下文切换开销
  | CPU				// 用户+系统cpu消耗时间
  | IPC				// 通信发送/接受消息消耗时间
  | MEMORY			// 暂未处理
  | PAGE FAULTS		// 页面错误消耗时间
  | SOURCE			// 显示和source_funcation、source_file、source_line相关的开销信息
  | SWAPS			// 显示交换次数


// 样例
mysql> show profile for query 2;
+----------------------+----------+
| Status               | Duration |
+----------------------+----------+
| starting             | 0.000351 | 	// 开始
| checking permissions | 0.000009 |		// 检查权限
| checking permissions | 0.000007 |		// 检查权限(有两个表)
| Opening tables       | 0.000624 |		// 打开表
| init                 | 0.000116 |		// 初始化
| System lock          | 0.000154 |		// 系统🔒
| optimizing           | 0.000039 |		// 优化
| statistics           | 0.000047 |		// 统计
| preparing            | 0.000164 |		// 准备
| executing            | 0.000007 |		// 执行
| Sending data         | 0.012874 |		// 发送+接收数据
| end                  | 0.000008 |		// 结束
| query end            | 0.000019 |		// 查询结束标志
| closing tables       | 0.000032 |		// 关闭表
| freeing items        | 0.000017 |		// 释放信息
| logging slow query   | 0.000917 |		// 记录慢查询日志
| cleaning up          | 0.000078 |		// 清理
+----------------------+----------+

以上是关于MySQL索引与优化的主要内容,如果未能解决你的问题,请参考以下文章

mysql---索引优化

聊聊MySQL的索引吧

Day811.MySQL调优之索引:索引的失效与优化 -Java 性能调优实战

MySQL存储引擎,索引及基本优化策略

【Mysql】查询优化——减少回表操作

MYSQL数据库的设计与调优