mysql查询所用时间过长如何优化？

Posted 2023-04-09

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了mysql查询所用时间过长如何优化？相关的知识，希望对你有一定的参考价值。

图片是我做的几次查询
在未设定limit或limit值大于所查询结果的总笔数时查询需要近100秒（第1,3种情况）
但limit设定小于所查询结果的总笔数时查询只需0.1秒左右（第2种情况）

去计算总笔数同样需要较长时间

那么问题来了：
在不知道总笔数的情况如何做查询能够让查询时间最短（最好缩短到第2种情况一样）

ps:总数据量近1亿

建议这种情况下，可以只查询部分内容即可。可以用limit方法进行限制查询条数的多少。
举例：
select * from tablename;//此时查询的是所有的记录，用时可能比较多。
select * from tablename limit 20,40;//这样就只会查询出需要的第20条到40条。
备注：除了此优化外，可以只查询需要的字段，还可以增加其余的一些where条件，来减少数据查询的压力。参考技术A 这limit是最重要的了，也是最常错的。
体现在网页上有2中一种是上一页，下一页。
一种是上一页 2 3 4 ······ 下一页共100页第____页
你看淘宝的。第一种是最简单的，
下面列出下一页的写法。上一页自己改下吧。
selcet * from xxx where id>$id and a=0001 and b=0014 order by id limit 10
假如现在我们在第二页，一页10行，那么 $id=10*1, 然后做好做组合索引(id,a,b) ，字段id要递增，而且表要用innodb。
第二种呢要跳页，你看淘宝他们都不跳很多了吧，跳页越大，压力也越大。所以有的干脆就没有第多少页给你填写。或者索性就限制在100页里了。,
由第一种演化而来。下面也是下一页的写法，其他的自己可以修改的。
selcet * from xxx where id>$id and a=0001 and b=0014 order by id limit $id,10
假如现在我们在第三页，一页10行，那么$id=10*2 。同上面一样看情况做好组合索引，没有的话就直接 id 递增表用innodb。
另外
desc和asc 什么的我也没帮你加你自己选择

这个方法我没测试过。也不一定都对，也有缺点的吧参考技术B 这limit是最重要的了，也是最常错的。
体现在网页上有2中一种是上一页，下一页。
一种是上一页 2 3 4 ······ 下一页共100页第____页
你看淘宝的。第一种是最简单的，
下面列出下一页的写法。上一页自己改下吧。
selcet * from xxx where id>$id and a=0001 and b=0014 order by id limit 10
假如现在我们在第二页，一页10行，那么 $id=10*1, 然后做好做组合索引(id,a,b) ，字段id要递增，而且表要用innodb。
第二种呢要跳页，你看淘宝他们都不跳很多了吧，跳页越大，压力也越大。所以有的干脆就没有第多少页给你填写。或者索性就限制在100页里了。,
由第一种演化而来。下面也是下一页的写法，其他的自己可以修改的。
selcet * from xxx where id>$id and a=0001 and b=0014 order by id limit $id,10
假如现在我们在第三页，一页10行，那么$id=10*2 。同上面一样看情况做好组合索引，没有的话就直接 id 递增表用innodb。
另外
desc和asc 什么的我也没帮你加你自己选择

这个方法我没测试过。也不一定都对，也有缺点的吧

《高性能MySQL》之MySQL查询性能优化

为什么查询会慢?

响应时间过长。如果把查询看做是一个任务，那么它由一系列子任务组成，每个子任务都会消耗一定的时间。如果要优化查询，实际上优化其子任务，要么消除其中一些子任务，要么减少子任务的执行次数，要么让子任务运行得更快。

查询的生命周期:

客户端->服务器->服务器上解析->生成执行计划->执行->返回结果给客户端。

其中”执行”包括大量为了检索数据到存储引擎的调用以及调用后的数据处理，包括排序、分组等。

慢查询:优化数据访问

查询性能低下最基本的原因:访问的数据太多。

低效查询分析:

1.确认应用程序是否在检索大量超过需要的数据;

2.确认MySQL服务器层是否在分析大量超过需要的数据行;

是否向数据库请求了不需要的数据

典型案例(主要体现为了省事，使用SELECT *):

查询不需要的记录
多表关联时返回全部列
总是取出全部列
重复查询相同数据

MySQL是否在扫描额外的记录

在确定查询只返回需要的数据以后，接下来看查询为了返回结果是否扫描过多的数据。对于MySQL,最简单的衡量查询开销的三个指标:

响应时间

响应时间包含服务时间和排队时间。

服务时间是指数据库处理这个查询真正花了多长时间。

排队时间是指服务器因为等待某些资源而没有真正执行查询的时间，可能等I/O操作完成，也可能等待行锁。

扫描的行数和返回的列数

在一定程度上能够说明该查询找出需要的数据的效率高不高。
理想情况下扫描行数和返回的行数应该是相同的。

扫描的行数和访问类型

访问类型主要指全表扫描、索引扫描、范围扫描、唯一索引查询、常数引用。

一般MySQL能够使用如下三种方式应用WHERE条件，从好到坏依次为:

在索引中使用WHERE条件来过滤不匹配的记录。这是存储引擎层完成的。
使用索引覆盖扫描(在Extra列中出现了Using index)来返回记录，直接从索引中过滤不需要的记录并返回命中的结果。这是在MySQL服务器层完成的，但无须再回表查询记录。
从数据表中返回数据，然后过滤不满足条件的记录(在Extra列中出现Using Where)。这在MySQL服务器层完成，MySQL需要先从数据表读出记录然后过滤。

如果发现查询需要扫描大量的数据但只返回少数的行，那么通常可以尝试下面的技巧去优化它:

使用索引覆盖扫描，把所有需要用的列都放在索引中，这样存储引擎无须回表获取对应行就可以返回结果了。
改变库表结构。例如使用单独的汇总表。
重写这个复杂查询，让MySQL优化器能够以更优化的方式执行这个查询。

重构查询的方式

复杂查询拆分多个简单查询

切分查询

将大查询拆分为小查询，每个查询功能完全一样，只完成一小部分，每次只返回一小部分查询结果。

分解关联查询

用分解关联查询的方式重构查询有如下优势:

让缓存效率更高。
将查询分解后，执行单个查询可以减少锁的竞争。
在应用层做关联，可以更容易对数据库进行拆分，更容易做到高性能和可扩展。
查询本身效率也可能会有所提升。
可以减少冗余记录的查询。
相当于在应用中实现了哈希关联，而不是使用MySQL的嵌套循环关联。
查询执行的基础
1.客户端发送一条查询给服务器。

2.服务器先检查查询缓存，如果命中缓存，则立刻返回存储在缓存中的结果。否则进入下一阶段。

3.服务器端进行SQL解析、预处理，再由优化器生成对应的执行计划。

4.MySQL根据优化器生成的执行计划，调用存储引擎的API来执行查询。

5.将结果返回给客户端。

优化特定类型的查询

优化COUNT()查询

优化关联查询

确保ON或USING子句中的列上有索引。
确保任何GROUP BY和ORDER BY 中的表达式只涉及到一个表中的列，这样MySQL才有可能使用索引来优化这个过程。
当升级MySQL的时候需要注意:关联语法、运算符优先级等其他可能会发生变化的地方。因为以前是普通关联的地方可能会变成笛卡尔积，不同类型的关联可能会生成不同的结果等。

优化子查询

对于子查询的优化，尽可能使用关联查询代替。

优化GROUP BY 和 ORDER BY

最有效的优化办法是使用索引。

当无法使用索引时，可以使用临时表或者文件排序来做分组。

另外如果需要对关联查询做分组，并且是按照查找表中的某个列进行分组，那么通常采用查找表的标识列分组的效率会比其他列更高。

优化LIMIT 分页

在系统中需要进行分页操作的时候，我们通常会使用LIMIT 加上偏移量的办法实现，同时加上合适的ORDER BY子句。如果有对应的索引，通常效率会不错，否则，MySQL需要做大量的文件排序操作。

优化UNION查询

静态查询分析

使用用户自定义变量

那些场景不能使用用户自定义变量:

使用自定义变量的查询，无法使用查询缓存;
不能再使用常量或者标识符的地方使用自定义变量，例如表名、列名和LIMIT子句中。
用户自定义变量的生命周期是在一个连接中有效，所以不能用它们来做连接间的通信。
如果使用连接池或者持久化连接，自定义变量可能让看起来毫无关系的代码发生交互。
在5.0之前的版本，是大小写敏感的，所以要注意代码在不同MySQL版本间的兼容性问题。
不能显式地声明自定义变量的类型。确定未定义变量的具体类型的时机在不同MySQL版本中也可能不一样。如果你希望变量是整数类型，那么最好在初始化的时候就赋值为0，如果希望是浮点型则赋值为0.0，如果希望是字符串则赋值为’’，用户自定义变量的类型在赋值的时候会改变。MySQL的用户自定义变量是一个动态类型。
MySQL优化器在某项些场景下可能会将这些变量优化掉，这可能导致代码不按预想的方式运行。
赋值的顺序和赋值的时间点并不总是固定的，这依赖于优化器的决定，实际情况可能很让人困惑，后面我们将看到这一点。
赋值符号:=的优先级非常低，所以需要注意，赋值表达式应该使用明确的括号。
使用未定义变量不会产生任何语法错误，如果没有意识到这一点，非常容易犯错。

用户自定义变量的用法: