MySql:监控及优化

Posted 花醉红尘

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了MySql:监控及优化相关的知识,希望对你有一定的参考价值。

1、mysql的生命周期

①MySql服务器监听3306端口

②验证访问用户

③创建mysql线程

④检查内存(Qcache)

⑤解析sql

⑥生成查询计划

⑦打开表

⑧检查内存(Buffer Pool)

⑨到磁盘取数据

⑩写入内存

①①返回数据给客户端

①②关闭表

①③关闭线程

①④关闭连接

 

2、mysql配置

linux下两种进入mysql的方式:

  ①设置别名

  ②将mysql的/opt/lampp/bin/目录加入环境变量

  ③让设置的别名永久生效

    vi ~/.bashrc

    alias my=\'/opt/lampp/bin/mysql -uroot -p123456\'

    source ~/.bashrc

mysql安装完成后,最大默认连接数是100,连接数设置小的话,会影响性能

mysql配置文件的位置:

  [root@besttest ~]# find / -name my.cnf

  /opt/lampp/etc/my.cnf → 使用lampp的mysql

  /etc/my.cnf → Linux系统自带mysql配置文件的位置

mysql设置编码方式:

  [client]
  default-character-set=utf8
  [mysql]
  default-character-set=utf8
  [mysqld]
  character-set-server=utf8

mysql最大连接数设置:

  在配置文件的[mysqld]下面

修改配置文件后,需要重启mysql:

  /opt/lampp/lampp stopmysql

  /opt/lampp/lampp startmysql

  max_connections=1000#mysql的最大连接数

  wait_timeout=10 超时时间

  show status like \'%Threads_connected%\';查看当前连接数

  show processlist;#查看当前连接数

 

3、缓存

queryCache(Mysql层):
  ①数据有变化的时候,缓存就失效了
  ②select语句必须一模一样才能走缓存,只要有一点不一样就不会走
  ③任何一个包含不确定的函数(比如now(),current_date())的查询不会被缓存

开启qcache:

  在mysql配置文件中添加,linux下为my.cnf,windows下为my.ini

  在配置文件的[mysqld]下面
    query_cache_type = on#开启缓存
    query_cache_size = 10M #总大小
    query_cache_limit = 1M #select查询结果超过设置值,就不会被缓存
  SHOW VARIABLES LIKE \'%query_cache%\';查看queryCache状态

开启profile:
  set @@profiling=1;#设置profile开启
  select @@profiling;#查看profile是否被开启
  show profiles;#查看所有的profile
  show profile for query n;查看指定的sql语句

queryCache使用状态:
  SHOW STATUS LIKE \'Qcache%\';#使用状态监控
    Qcache_free_memory Query Cache 中目前剩余的内存大小
    Qcache_hits 缓存命中次数
    Qcache_inserts 多少次未命中然后插入
    Query Cache 命中率= Qcache_hits / ( Qcache_hits + Qcache_inserts );
    Qcache_free_blocks Query Cache中目前还有多少剩余的blocks。如果该值显示较大,则说明Query Cache 中的内存碎片较多了,可能需要寻找合适的机会进行整理。
    如果这个值非常大,可以使用FLUSH QUERY CACHE;语句来清理查询缓存碎片以提高内存使用性能。该语句不从缓存中移出任何查询。

 

4、存储引擎

Innodb 存储引擎
  支持外键、支持事物,行级锁,innodb
MyISAM
  MyISAM表不支持事务
  MyISAM表不支持外键(Foreign Key)。
  Innodb是行级锁,myisam是表锁
开启innodb_buffer_pool
  在配置文件的[mysqld]下面
  innodb_buffer_pool_size=20M #设置bufferpool大小
  innodb_buffer_pool_dump_now=on#默认为关闭OFF。如果开启该参数,停止MySQL服务时,InnoDB将InnoDB缓冲池中的热数据保存到本地硬盘。
  innodb_buffer_pool_load_at_startup = off#默认为关闭OFF 。如果开启该参数,停止MySQL服务时,InnoDB将InnoDB缓冲池中的热数据保存到本地硬盘。
  SHOW VARIABLES LIKE \'%innodb_buffer_pool%\';#查看是否配置了innodb_buffer_pool
#查看bp的设置
  SHOW STATUS LIKE \'%Innodb_buffer_pool%\';
查询Innodb_buffer_pool当前使用情况:
  innodb_buffer_pool_bytes_data 已经使用了多少
  innodb_buffer_pool_read_requests 总共查询bp的次数
  innodb_buffer_pool_reads 从物理磁盘中获取到数据的次数

 

5、MySql复制

偶发性延时的话,控制写入速度:

  主:只负责写数据  

  从:只负责读数据

频发性延时:

  拆分数据库实现多点写入

  把数据分散到不同的数据库上

 

6、慢查询

SHOW VARIABLES LIKE \'%query%\';#查询慢查询日志是否开启
set global slow_query_log=on;#开启慢查询日志
set global long_query_time=1;#设置记录查询超过多长时间的sql
set global slow_query_log_file=\'/opt/data/slow_query.log\';#设置mysql慢查询日志路径,此路径需要有写权限
mysqldumpslow(可以解析日志中查询速度慢的sql语句)命令参数如下:
-s,是表示按照何种方式排序,c、t、l、r分别是按照记录次数、时间、查询时间、返回的记录数来排序,ac、at、al、ar,表示相应的倒叙;
-t,是top n的意思,即为返回前面多少条的数据;
-g,后边可以写一个正则匹配模式,大小写不敏感的
例子:#比如说要按照sql执行时间最长的前20条sql
mysqldumpslow -s t -t 20 -g \'select\' /opt/data/slowquery_2016050921.log
通过慢查询日志,就可以找到执行效率不高的sql

 

7、explain/desc

该命令是查看查询优化器如何决定执行查询的主要方法

简单说明:

①id:如果相同,可以认为是一组,从上往下顺序执行;在所有组中,id值越大,优先级越高,越先执行;

②select_type有3中值:

simple 它表示简单的select,没有union和子查询.
primary 最外面的select,在有子查询的语句中,最外面的select查询就是primary
DERIVED 值表示包含在FROM字句的子查询中的SELECT,MySQL会递归执行并将结果放到一个临时表中。服务器内部称其“派生表”,因为该临时表是从子查询中派生来的

③type列:指MySQL的访问类型,也就是如何查找表中的记录,下面是最重要的访问方法,依次从最差到最优:

all<index<range<ref<eq_ref<const,system<null

Explain能做什么?

查看sql的执行效率,帮助我们分析 select 语句,让我们知道查询效率低下的原因,从而改进我们的查询。

 

8、索引

普通索引:所有列都可以添加索引
  create index \'my_index\' on bkl(name);
  alter table blk add index my_index2 (sex);
#上面这两种方式都是添加普通索引

alter table blk add index my_index3 (sex,name);#添加组合索引

alter table blk add unique index my_index4 (phone);#添加唯一索引
create unique index \'my_index5\' on bkl(phone);
#添加唯一索引

添加主键索引:
  alter table blk modify id int primary key;
删除索引:
  alter table blk drop index my_index2;

唯一索引:unique
主键索引:primary ky
组合索引、多列索引

 

索引的优化:

①最适合索引的列是出现在WHERE 子句中的列,或连接子句中指定的列
②对于惟一值的列,索引的效果最好,而具有多个重复值的列,其索引效果最差
③不要过度索引,根据业务需要、系统模块实现来使用索引

 

9、锁

MyISAM存储引擎,其锁是表锁。并发情况下的读没有问题,但是并发写入性能比较差。

InnoDB存储引擎是通过对索引上的索引项加锁来实现行锁。这种特点也就意味着,只有通过索引条件检索数据,InnoDB才使用行级锁,否则,InnoDB将使用表锁。

查看死锁:

  show processlist;

  show engine innodb status;#一般日志里有dblock、lock等字样

引发死锁的原因一般是多少线程并发,lock的对象仅在对应表sql commit或者rollback后释放

可以根据MySQL的加锁规则,定位出线上产生死锁的原因

关闭自动提交:
  set @@autocommit=0;

查看自动提交是否关闭:

  select @@autocommit;

 

10、事务

事务是访问并可能更新数据库中各种数据项的一个程序执行单元。事事务由事务开始(begin transaction)和事务结束(end transaction)之间执行的全体操作组成。
例如:在关系数据库中,一个事务可以是一条SQL语句,一组SQL语句或整个程序。
事务的四个特性:
  原子性(atomicity)
  一致性(consistency)
  隔离性(isolation)
  持久性(durability)

 

11、SQL的优化

目标:减少IO次数,降低CPU计算

①尽量减少查询的模糊匹配

②不要在建立的索引的数据列上进行下列操作

  避免对索引字段进行计算操作
  避免在索引字段上使用not,<>,!=
  避免在索引列上使用IS NULL和IS NOT NULL
  避免在索引列上出现数据类型转换
  避免在索引字段上使用函数
  避免建立索引的列中使用空值。

③尽量减少排序

  通过利用索引来排序的方式进行优化
  减少参与排序的记录条数
  非必要不对数据进行排序

③尽量避免select *

  Select * 一般都会造成全表扫描,显示所有列,select 需要的字段即可

④尽量用 join 代替子查询

⑤尽量用 union all 代替 union

⑥避免类型转换

⑦避免在WHERE子句中使用in,not  in,or 或者having

 

12、监控工具

Spotlight on mysql:可以监控到mysql的io、qcache、连接数、buffer pool等等,还有预警的功能
Lepus:一个开源的国产监控平台,可以监控到mysql的慢查询、 qcache、连接数、buffer pool等等,可以同时监控多台
Zabbix:也是一个开源的监控平台,和lepus类似,配置比较复杂

 

以上是关于MySql:监控及优化的主要内容,如果未能解决你的问题,请参考以下文章

MySql:监控及优化

mysql的监控及优化

MySQL性能优化浅析及线上案例

MySQL查询优化

Spark Streaming 实时计算在甜橙金融监控系统中的应用及优化

DBA很忙—MySQL的性能优化及自动化运维实践