面试题：在日常工作中怎么做MySQL性能测试及调优的？

Posted 2021-08-11 测试萌萌

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了面试题：在日常工作中怎么做MySQL性能测试及调优的？相关的知识，希望对你有一定的参考价值。

在这里插入图片描述

前言：

服务器性能测试工具原理

性能测试工具的主要作用是通过模拟生产环境中的真实业务操作，对被测试系统实行压力负载测试，监视被测试系统在不同业务、不同压力性能下的性能表现，找出潜在的性能瓶颈进行分析、优化。

客户端与服务器相当于两个人，通过信息来进行交流。由于初次见面不好意思直接交流，与是找来了中间传话人，客户端把信息告诉给传话人，由传话人来转达给服务器。那么服务器反馈的信息也由传话人转达给客户端。一般性能测试工具都需要录制或编写客户端行为脚本。

这样传达人就有了客户端的行为能力，从而假扮客户端来欺骗服务器，与之进行通信。有了客户端行为了传达人可以进行自我复制。从而变出N多个传达人对服务器进通信。—这个传达人的行为和能力也就是性能测试工具的基本特质。对于目前流行的性能测试工具，他们的基本工作原理都是一致的。在客户端通过多线程或多进程模拟虚拟用户访问，对服务器端施加压力，然后在过程中监控和收集性能数据。

一、mysql性能指标及问题分析和定位

1、我们在监控图表中关注的性能指标大概有这么几个：CPU、内存、连接数、io读写时间、io操作时间、慢查询、系统平均负载以及memoryOver

2、性能分析

一般在产生Mysql瓶颈的时候往往伴随着的是CPU使用率急速上升，需要top看一下是哪个线程占据了大量的CPU资源，如果发现Mysql进程占用较高，那么基本可以判断是Mysql数据库出现了问题。

接下来就是对问题具体的分析和定位。

对于数据库的操作基本上就是大量的查询，会导致数据库出现性能问题。对有问题的场景使用jmeter模拟场景进行并发，并观察Grafana的图表。

Mysql的几个问题基本上就是：

（1）缓存区较小，大量查询导致了缓存区溢出，使用io进行读写，众所周知，io的读写速度远远比内存读写速度要慢得多。

（2）sql语句问题，导致mysql数据库出现瓶颈的查询语句类型很多，最后会给大家列举一些。

那么怎么定位到这些问题呢？

（1）在负载测试中，通过Grafana图表观察Memory Over这个图表，如果发现占用基本占满所分配给Mysql数据库缓存区的内存，然后IO读写时间非常长，读写频率非常高，那基本上是可以判断是缓存区较小导致的问题。（这个问题已经很少出现了）

（2）判断慢查询：在mysql数据库的配置文件中找到

log_output=file,table #二选 1 或者 2 个都选

slow_query_log=on

slow_query_log_file = /tmp/mysql-slow.log long_query_time = 1 #设置如何判断慢查询，这边设置超过1s就算慢查询

#使用完记得关闭

重启Mysql数据库

在Grafana图表中如果看到慢查询的时间超过1s时，基本判断为存在慢查询。

登入数据库运行命令

select * from mysql.slow_log;#查看慢查询表数据

运行完这条命令后，可以查看到所有超过1s的查询语句，这个时候复制这条语句到查询输入框中，选中右键点击解释。

type列，连接类型。一个好的sql语句至少要达到range级别。杜绝出现all级别

key列，使用到的索引名。如果没有选择索引，值是NULL。可以采取强制索引方式

key_len列，索引长度

rows列，扫描行数。该值是个预估值

extra列，详细说明。注意常见的不太友好的值有：Using filesort, Using temporary

三、sql语句调优

1、SQL语句中IN包含的值不应过多

MySQL对于IN做了相应的优化，即将IN中的常量全部存储在一个数组里面，而且这个数组是排好序的。但是如果数值较多，产生的消耗也是比较大的。再例如：select id from t where num in(1,2,3) 对于连续的数值，能用 between 就不要用 in 了；再或者使用连接来替换。

2、SELECT语句务必指明字段名称

SELECT *增加很多不必要的消耗（cpu、io、内存、网络带宽）；增加了使用覆盖索引的可能性；当表结构发生改变时，前断也需要更新。所以要求直接在select后面接上字段名。

3、当只需要一条数据的时候，使用limit 1

这是为了使EXPLAIN中type列达到const类型

4、如果排序字段没有用到索引，就尽量少排序

5、如果限制条件中其他字段没有索引，尽量少用or

or两边的字段中，如果有一个不是索引字段，而其他条件也不是索引字段，会造成该查询不走索引的情况。很多时候使用 union all 或者是union(必要的时候)的方式来代替“or”会得到更好的效果

6、区分in和exists， not in和not exists

select * from表A where id in (select id from 表B)

上面sql语句相当于

select * from表A where exists(select * from 表B where 表B.id=表A.id)

区分in和exists主要是造成了驱动顺序的改变（这是性能变化的关键），如果是exists，那么以外层表为驱动表，先被访问，如果是IN，那么先执行子查询。所以IN适合于外表大而内表小的情况；EXISTS适合于外表小而内表大的情况。

关于not in和not exists，推荐使用not exists，不仅仅是效率问题，not in可能存在逻辑问题。如何高效的写出一个替代not exists的sql语句？

原sql语句

select colname … from A表 where a.id not in (select b.id from B表)

高效的sql语句

select colname … from A表 Left join B表 on where a.id = b.id where b.id is null

7、分段查询

在一些用户选择页面中，可能一些用户选择的时间范围过大，造成查询缓慢。主要的原因是扫描行数过多。这个时候可以通过程序，分段进行查询，循环遍历，将结果合并处理进行展示

8、避免在 where 子句中对字段进行 null 值判断

对于null的判断会导致引擎放弃使用索引而进行全表扫描。

9、不建议使用%前缀模糊查询

例如LIKE “%name”或者LIKE “%name%”，这种查询会导致索引失效而进行全表扫描。但是可以使用LIKE “name%”。

10、注意范围查询语句

对于联合索引来说，如果存在范围查询，比如between,>,<等条件时，会造成后面的索引字段失效。

type

访问类型

ALL扫描全表数据

index遍历索引

range索引范围查找

index_subquery在子查询中使用 ref

unique_subquery在子查询中使用 eq_ref

ref_or_null对Null进行索引的优化的 ref

fulltext使用全文索引

ref使用非唯一索引查找数据

eq_ref在join查询中使用PRIMARY KEYorUNIQUE NOT NULL索引关联。

const使用主键或者唯一索引，且匹配的结果只有一条记录。

system const连接类型的特例，查询的表为系统表。

性能从好到差依次为：

system，const，eq_ref，ref，fulltext，ref_or_null，unique_subquery，index_subquery，range，index_merge，index，ALL，除了ALL之外，其他的type都可以使用到索引，除了index_merge之外，其他的type只可以用到一个索引。

所以，如果通过执行计划发现某张表的查询语句的type显示为ALL，那就要考虑添加索引，或者更换查询方式，使用索引进行查询。

possible_keys

可能使用的索引，注意不一定会使用。查询涉及到的字段上若存在索引，则该索引将被列出来。当该列为NULL时就要考虑当前的SQL是否需要优化了。

key

显示MySQL在查询中实际使用的索引，若没有使用索引，显示为NULL。

TIPS:查询中若使用了覆盖索引(覆盖索引：索引的数据覆盖了需要查询的所有数据)，则该索引仅出现在key列表中

一些SQL优化建议

1、SQL语句不要写的太复杂。

一个SQL语句要尽量简单，不要嵌套太多层。

2、使用like的时候要注意是否会导致全表扫

3、尽量避免使用!=或<>操作符

在where语句中使用!=或<>，引擎将放弃使用索引而进行全表扫描。

4、尽量避免使用 or 来连接条件

在where子句中使用 or 来连接条件，引擎将放弃使用索引而进行全表扫描。

5、尽量避免使用in和not in

在where子句中使用 in和not in，引擎将放弃使用索引而进行全表扫描。

6、尽量避免使用表达式、函数等操作作为查询条件

7、尽量避免大事务操作，提高系统并发能力。

8、任何地方都不要使用 select * from t ，用具体的字段列表代替“*”，不要返回用不到的任何字段。

9、尽量使用数字型字段，若只含数值信息的字段尽量不要设计为字符型，这会降低查询和连接的性能，并会增加存储开销。

10、索引并不是越多越好，索引固然可以提高相应的 select 的效率，但同时也降低了 insert 及 update 的效率

11、并不是所有索引对查询都有效，SQL是根据表中数据来进行查询优化的，当索引列有大量数据重复时，SQL查询可能不会去利用索引

在这里插入图片描述

有兴趣的小伙伴可以来我的软件测试交流群：902061117 欢迎各位大佬来交流~

说到这，再问大家一句，平时大家做性能测试都喜欢用什么测试工具呢，又会怎样去选择呢，接下来就分享一些我的个人见解：

当我们做性能测试的时候，测试协议需要用到性能测试工具。市场上有很多可以做性能测试的工具。有些是收费的，有些是开源免费的。选择的时候它是否友好支持所有的协议呢？接下来就带大家来看看一些行业中常用的流行的性能测试工具。

ApacheBench

ApacheBench是一个轻量级工具。主要用于 HTTP 协议的性能测试。非常简单快捷。不支持场景化测试。

ab是个小巧而简便容易上手的工具，但是没有图形化的界面，提供的也是基本的性能参数，不能监控，一般用于临时测试某个接口的效率。

ab -n 1 -c 1 https://testerhome.com/

-n：总请求次数

-c：并发次数（并发请求不能大于总请求次数）、

在这里插入图片描述

JMeter

JMeter是 Apache 开源基金会提供的完全开源的性能测试工具，旨在加载测试功能行为和衡量性能。它最初是为测试Web应用程序而设计的，但此后已扩展到其他测试功能。

Apache JMeter也可用于测试静态和动态资源，Web动态应用程序的性能。用于模拟服务器，服务器组，网络或对象上的繁重负载，以测试其强度或分析不同负载类型下的总体性能。支持分布式运行，JMeter 使用 Java 语言开发的，使用前需要安装 Java 运行环境。某些私有协议可以二次开发插件来支持相应的协议。

在这里插入图片描述

LoadRunner

LoadRunner是一个性能测试工具，它最初是Mercury公司的产品，2006年Mercury公司被HP收购。

LoadRunner是一种预测系统行为和性能的负载测试工具。通过以模拟上千万用户实施并发负载及实时性能监测的方式来确认和查找问题，LoadRunner 能够对整个企业架构进行测试。通过使用LoadRunner 企业能最大限度地缩短测试时间优化性能和加速应用系统的发布。因为是闭源收费的软件，且授权费用高昂。使用也较为复杂，而且该工具体积比较大。

LR强调的是对整个企业应用架构进行测试，它通过模拟实际用户的操作行为和实行实时性能监控来帮助客户更快的确认和查找问题。LR能支持广泛的协议，可以为客户的特殊环境，提供特殊的解决方案。

Locust

Locust是易于使用的分布式用户负载测试工具。它旨在对网站进行负载测试，并确定系统可以处理多少个并发用户。非常易用。很方便地基于Python进行脚本扩展和业务请求实现。完全基于事件驱动，所以不受进程和线程的限制，可以支持发起更高的并发数请求。可以分布式发起并发请求。

在这里插入图片描述

nGrinder

nGrinder是一个用于在多台机器上运行用 jython（在 JVM 上运行的 python）编写的测试脚本的应用程序。它的内部引擎是基于 Grinder。nGrinder 分别用 controler 和 agent 将 Grinder 的 controler 和 agent 包装起来，并扩展了支持多个并发测试的特性。

nGrinder是一个压力测试的平台，使您可以同时执行脚本创建，测试执行，监视和结果报告生成器。提供了进行压力测试的简便方法。

在这里插入图片描述