Day811.MySQL调优之索引:索引的失效与优化 -Java 性能调优实战

Posted 阿昌喜欢吃黄桃

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Day811.MySQL调优之索引:索引的失效与优化 -Java 性能调优实战相关的知识,希望对你有一定的参考价值。

mysql调优之索引:索引的失效与优化

Hi,我是阿昌,今天学习记录的是关于MySQL调优之索引:索引的失效与优化


一、MySQL 索引存储结构

索引是优化数据库查询最重要的方式之一,它是在 MySQL 的存储引擎层中实现的,所以每一种存储引擎对应的索引不一定相同。

可以通过下面这张表格,看看不同的存储引擎分别支持哪种索引类型

B+Tree 索引Hash 索引是比较常用的两个索引数据存储结构.

  • B+Tree 索引是通过 B+ 树实现的,是有序排列存储,所以在排序和范围查找方面都比较有优势。如果对 B+Tree 索引不够了解,可以通过该链接了解下它的数据结构原理。

  • Hash 索引相对简单些,只有 Memory 存储引擎支持 Hash 索引。Hash 索引适合 key-value 键值对查询,无论表数据多大,查询数据的复杂度都是 O(1),且直接通过 Hash 索引查询的性能比其它索引都要优越。

在创建表时,无论使用 InnoDB 还是 MyISAM 存储引擎,默认都会创建一个主键索引,而创建的主键索引默认使用的是 B+Tree 索引。不过虽然这两个存储引擎都支持 B+Tree 索引,但它们在具体的数据存储结构方面却有所不同。

InnoDB 默认创建的主键索引是聚簇索引(Clustered Index),其它索引都属于辅助索引(Secondary Index),也被称为二级索引或非聚簇索引

通过一个简单的例子,说明下这两种索引在存储数据中的具体实现。

首先创建一张商品表,如下:

CREATE TABLE `merchandise`  (
  `id` int(11) NOT NULL,
  `serial_no` varchar(20)  DEFAULT NULL,
  `name` varchar(255) DEFAULT NULL,
  `unit_price` decimal(10, 2) DEFAULT NULL,
  PRIMARY KEY (`id`) USING BTREE
) CHARACTER SET = utf8 COLLATE = utf8_general_ci ROW_FORMAT = Dynamic;

然后新增了以下几行数据,如下:

如果使用的是 MyISAM 存储引擎,由于 MyISAM 使用的是辅助索引,索引中每一个叶子节点仅仅记录的是每行数据的物理地址,即行指针,如下图所示:


如果使用的是 InnoDB 存储引擎,由于 InnoDB 使用的是聚簇索引,聚簇索引中的叶子节点则记录了主键值、事务 id、用于事务和 MVCC 的回流指针以及所有的剩余列,如下图所示:

基于上面的图示,如果需要根据商品编码查询商品,就需要将商品编码 serial_no 列作为一个索引列。

此时创建的索引是一个辅助索引,与 MyISAM 存储引擎的主键索引的存储方式是一致的,但叶子节点存储的就不是行指针了,而是主键值,并以此来作为指向行的指针。

这样的好处就是当行发生移动或者数据分裂时,不用再维护索引的变更。如果使用主键索引查询商品,则会按照 B+ 树的索引找到对应的叶子节点,直接获取到行数据:

select * from merchandise where id=7

如果使用商品编码查询商品,即使用辅助索引进行查询,则会先检索辅助索引中的 B+ 树的 serial_no,找到对应的叶子节点,获取主键值,然后再通过聚簇索引中的 B+ 树检索到对应的叶子节点,然后获取整行数据。这个过程叫做回表

1、覆盖索引优化查询

假设只需要查询商品的名称、价格信息,有什么方式来避免回表呢?

可以建立一个组合索引,即商品编码、名称、价格作为一个组合索引。

如果索引中存在这些数据,查询将不会再次检索主键索引,从而避免回表。

从辅助索引中查询得到记录,而不需要通过聚簇索引查询获得,MySQL 中将其称为覆盖索引。

使用覆盖索引的好处很明显,我们不需要查询出包含整行记录的所有信息,因此可以减少大量的 I/O 操作。

通常在 InnoDB 中,除了查询部分字段可以使用覆盖索引来优化查询性能之外,统计数量也会用到。

例如,在 SELECT COUNT(*) 时,如果不存在辅助索引,此时会通过查询聚簇索引来统计行数,如果此时正好存在一个辅助索引,则会通过查询辅助索引来统计行数,减少 I/O 操作。

通过 EXPLAIN,可以看到 InnoDB 存储引擎使用了 idx_order 索引列来统计行数,如下图所示:

2、自增字段作主键优化查询

InnoDB 创建主键索引默认为聚簇索引数据被存放在了 B+ 树的叶子节点上

也就是说,同一个叶子节点内的各个数据是按主键顺序存放的,因此,每当有一条新的数据插入时,数据库会根据主键将其插入到对应的叶子节点中。

如果使用自增主键,那么每次插入的新数据就会按顺序添加到当前索引节点的位置,不需要移动已有的数据,当页面写满,就会自动开辟一个新页面。

因为不需要重新移动数据,因此这种插入数据的方法效率非常高。如果使用非自增主键,由于每次插入主键的索引值都是随机的,因此每次插入新的数据时,就可能会插入到现有数据页中间的某个位置,这将不得不移动其它数据来满足新数据的插入,甚至需要从一个页面复制数据到另外一个页面,通常将这种情况称为页分裂

页分裂还有可能会造成大量的内存碎片,导致索引结构不紧凑,从而影响查询效率。因此,在使用 InnoDB 存储引擎时,如果没有特别的业务需求,建议使用自增字段作为主键。

3、前缀索引优化

前缀索引顾名思义就是使用某个字段中字符串的前几个字符建立索引,那我们为什么需要使用前缀来建立索引呢?

索引文件是存储在磁盘中的,而磁盘中最小分配单元是页,通常一个页的默认大小为 16KB,假设建立的索引的每个索引值大小为 2KB,则在一个页中,能记录 8 个索引值,假设有 8000 行记录,则需要 1000 个页来存储索引。

如果使用该索引查询数据,可能需要遍历大量页,这显然会降低查询效率。减小索引字段大小,可以增加一个页中存储的索引项,有效提高索引的查询速度。在一些大字符串的字段作为索引时,使用前缀索引可以帮助我们减小索引项的大小。

不过,前缀索引是有一定的局限性的,例如 order by 就无法使用前缀索引,无法把前缀索引用作覆盖索引。

4、防止索引失效

当习惯建立索引来实现查询 SQL 的性能优化后,是不是就万事大吉了呢?

当然不是,有时候我们看似使用到了索引,但实际上并没有被优化器选择使用。

对于 Hash 索引实现的列,如果使用到范围查询,那么该索引将无法被优化器使用到。

也就是说 Memory 引擎实现的 Hash 索引只有在“=”的查询条件下,索引才会生效。

将 order 表设置为 Memory 存储引擎,分析查询条件为 id<10 的 SQL,可以发现没有使用到索引。


如果是以 % 开头的 LIKE 查询将无法利用节点查询数据:


当在使用复合索引时,需要使用索引中的最左边的列进行查询,才能使用到复合索引。

例如在 order 表中建立一个复合索引 idx_user_order_status(order_no, status, user_id),如果我们使用 order_no、order_no+status、order_no+status+user_id 以及 order_no+user_id 组合查询,则能利用到索引;

而如果用 status、status+user_id 查询,将无法使用到索引,这也是经常听过的最左匹配原则。

如果查询条件中使用 or,且 or 的前后条件中有一个列没有索引,那么涉及的索引都不会被使用到。


二、总结

在大多数情况下,习惯使用默认的 InnoDB 作为表存储引擎。

在使用 InnoDB 作为存储引擎时,创建的索引默认为 B+ 树数据结构,如果是主键索引,则属于聚簇索引,非主键索引则属于辅助索引。

基于主键查询可以直接获取到行信息,而基于辅助索引作为查询条件,则需要进行回表,然后再通过主键索引获取到数据。

如果只是查询一列或少部分列的信息,可以基于覆盖索引来避免回表。覆盖索引只需要读取索引,且由于索引是顺序存储,对于范围或排序查询来说,可以极大地极少磁盘 I/O 操作。

除了了解索引的具体实现和一些特性,还需要注意索引失效的情况发生。


假设我们有一个订单表 order_detail,其中有主键 id、主订单 order_id、商品 sku 等字段,其中该表有主键索引、主订单 id 索引。现在有一个查询订单详情的 SQL 如下,查询订单号范围在 5000~10000,请问该查询选择的索引是什么?有什么方式可以强制使用我们期望的索引呢?

select * from order_detail where order_id between 5000 and 10000

可以利用子查询去减少回表操作,既然有主键自增id,便可以利用聚簇索引的优势来强制走索引。

代码方法如下:

select * from order_detail where id in (select id from order_detail where order_id between 5000 and 10000)

以上是关于Day811.MySQL调优之索引:索引的失效与优化 -Java 性能调优实战的主要内容,如果未能解决你的问题,请参考以下文章

MySQL调优之-索引指南

MySQL 性能调优之索引

Elasticsearch性能调优之索引写入性能优化

MySQL调优之EXPLAIN关键字

Day809.MySQL调优之SQL语句 -Java 性能调优实战

MySQL 性能调优之存储引擎