实现MySQL读写分离，MySQL性能调优

Posted 以後

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了实现MySQL读写分离，MySQL性能调优相关的知识，希望对你有一定的参考价值。

实现mysql读写分离

1.1 问题

本案例要求配置2台MySQL服务器+1台代理服务器，实现MySQL代理的读写分离：

  • 用户只需要访问MySQL代理服务器，而实际的SQL查询、写入操作交给后台的2台MySQL服务器来完成
  • 其中Master服务器允许SQL查询、写入，Slave服务器只允许SQL查询

1.2 方案

使用4台RHEL 7.2虚拟机，如图-1所示。其中192.168.4.10、192.168.4.20分别作为MySQL主、从服务器，是整个服务的后端；另一台 192.168.4.100作为MySQL代理服务器，是直接面向客户的服务前端；客户机192.168.4.120用作访问测试。

技术分享图片

图－1

对比两种方式的读写分离效果——

  • MySQL主从复制：客户机访问Master服务器来写数据库，客户机访问Slave服务器来读数据库。这种情况下，需要客户端自行区分向何处写、从何处读。
  • MySQL主从复制+代理：客户机访问Proxy服务器，读、写请求交给Proxy识别，如果是写数据库操作则交给 Master，如果是读数据库操作则交给Slave处理，具体由分配策略控制。这种情况下，无需客户端区分读、写目标，而是由Proxy服务器代劳了，从 而降低了客户端程序的复杂度。

其中MySQL主、从复制结构的搭建参考前面的课程，这里不再赘述。

1.3 步骤

实现此案例需要按照如下步骤进行。

步骤一：部署mysql-proxy代理服务器

1）安装mariadb官方提供的maxscale软件包

  1. [[email protected] ~]# rpm -ivh maxscale-2.1.2-1.rhel.7.x86_64.rpm

修改配置文件：

  1. [[email protected] pub]# [[email protected] ~]# grep -E -v ‘^#‘ /etc/maxscale.cnf
  4. [maxscale]
  5. threads=1
  8. [server1] #指定ip地址对应的名字
  9. type=server
  10. address=192.168.4.10 #主数据库服务器ip地址
  11. port=3306
  12. protocol=MySQLBackend
  14. [server2] #指定ip地址对应的名字
  15. type=server
  16. address=192.168.4.20 #从数据库服务器ip地址
  17. port=3306
  18. protocol=MySQLBackend
  20. [MySQL Monitor] #指定要监控的主机 和监控时连接的用户
  21. type=monitor
  22. module=mysqlmon
  23. servers=server1， server2 #前边定义的主机名
  24. user=scalemon # 用户名
  25. passwd=111111 # 密码
  26. monitor_interval=10000
  30. #[Read-Only Service]
  31. #type=service
  32. #router=readconnroute
  33. #servers=server1
  34. #user=myuser
  35. #passwd=mypwd
  36. #router_options=slave
  39. [Read-Write Service] #定义服务器列表
  40. type=service
  41. router=readwritesplit
  42. servers=server1， server2 #前边定义的主机名
  43. user=maxscale # 用户名
  44. passwd=111111 # 密码
  45. max_slave_connections=100%
  48. [MaxAdmin Service]
  49. type=service
  50. router=cli
  53. #[Read-Only Listener]
  54. #type=listener
  55. #service=Read-Only Service
  56. #protocol=MySQLClient
  57. #port=4008
  59. [Read-Write Listener]
  60. type=listener
  61. service=Read-Write Service
  62. protocol=MySQLClient
  63. port=4006
  65. [MaxAdmin Listener]
  66. type=listener
  67. service=MaxAdmin Service
  68. protocol=maxscaled
  69. socket=default
  70. [[email protected] ~]#

分别在主、从数据库服务器上添加授权用户（只在主服务器授权即可 从服务器会自动同步）：

  1. [[email protected] pub]# mysql> grant replication slave, replication client on *.* to [email protected]‘%‘ identified by “111111”; //创建监控用户
  4. mysql> grant select on mysql.* to [email protected]‘%‘ identified by “111111”; //创建路由用户
  7. mysql> grant all on *.* to [email protected]‘%‘ identified by “111111”;
  8. //创建客户端访问用户    

2）启动maxscale服务

  1. [[email protected] ~]# maxscale --config=/etc/maxscale.cnf
  2. [[email protected] ~]# netstat -utnalp | grep maxscale
  3. tcp 0 0 192.168.4.100:58960 192.168.4.10:3306 ESTABLISHED 19081/maxscale
  4. tcp 0 0 192.168.4.100:43508 192.168.4.20:3306 ESTABLISHED 19081/maxscale
  5. tcp6 0 0 :::4006 :::* LISTEN 19081/maxscale
  6. [[email protected] ~]# kill -9 19081        //通过杀进程的方式停止服务

步骤二：测试配置

1）在客户端192.168.4.120上使用上边授权用户student 连接代理服务器192.168.4.100:

  1. [[email protected] ~]# mysql -h192.168.4.100 -P4006 -ustudent -p111111
  2. MySQL [(none)]> select @@hostname; //显示当前访问的主机
  3. +----------------+
  4. | @@hostname |
  5. +----------------+
  6. | slave20 | //显示的是从服务器的主机名
  7. +----------------+
  8. Query OK, 0 rows affected (0.00 sec)
  10. MySQL [(none)]> insert into bbsdb.a values(111);//插入新纪录

客户端当前访问的是从数据库服务器，仍然能够插入纪录。表示成功。

2 MySQL性能调优

2.1 问题

基于一台普通版的MySQL服务器，执行下列操作：

  • 练习my.cnf配置相关选项
  • 启用慢查询日志
  • 查看各种系统变量、状态变量

2.2 步骤

实现此案例需要按照如下步骤进行。

步骤一：MySQL并发及连接控制

max_connections对应并发客户端连接的数量，增加该值会增加 mysqld 要求的文件描述符的数量。若这个数值太小，可能会经常出现“too many connections”错误。比如 默认的数值是151，可以将其改为1024。

1）查看当前已建立的连接数

  1. mysql> FLUSH STATUS;
  2. Query OK, 0 rows affected (0.00 sec)
  4. mysql> SHOW GLOBAL STATUS LIKE ‘max_used_connections‘;
  5. +----------------------+-------+
  6. | Variable_name | Value |
  7. +----------------------+-------+
  8. | Max_used_connections | 5 |
  9. +----------------------+-------+
  10. 1 row in set (0.05 sec)

2）查看当前的最大连接数限制

  1. mysql> SHOW VARIABLES LIKE ‘max_connections‘;
  2. +-----------------+-------+
  3. | Variable_name | Value |
  4. +-----------------+-------+
  5. | max_connections | 151 |
  6. +-----------------+-------+
  7. 1 row in set (0.00 sec)

步骤二：MySQL缓存参数控制

当 Key_reads / Key_read_requests 较低时，可适当加大key_buffer_size的缓存值，以提高性能。而增大sort_buffer_size的值，可以显著提高ORDER和GROUP的响应速度。

1）查看key_read相关数值

  1. mysql> SHOW GLOBAL STATUS LIKE ‘key_read%‘;
  2. +-------------------+-------+
  3. | Variable_name | Value |
  4. +-------------------+-------+
  5. | Key_read_requests | 0 |
  6. | Key_reads | 0 |
  7. +-------------------+-------+
  8. 2 rows in set (0.00 sec)

2）查看当前的key_buffer_size缓存大小

  1. mysql> SHOW VARIABLES LIKE ‘key_buffer_size‘;
  2. +-----------------+---------+
  3. | Variable_name | Value |
  4. +-----------------+---------+
  5. | key_buffer_size | 8388608 |
  6. +-----------------+---------+
  7. 1 row in set (0.03 sec)

3）查看当前的sort_buffer_size大小

  1. mysql> SHOW VARIABLES LIKE ‘sort_buffer_size‘;
  2. +------------------+--------+
  3. | Variable_name | Value |
  4. +------------------+--------+
  5. | sort_buffer_size | 262144 |
  6. +------------------+--------+
  7. 1 row in set (0.00 sec)

4）查看检索表记录时的读取缓存大小

缓存值read_buffer_size和read_rnd_buffer_size会影响SQL查询的响应速度：

  1. mysql> SHOW VARIABLES LIKE ‘read_%_size‘;
  2. +----------------------+--------+
  3. | Variable_name | Value |
  4. +----------------------+--------+
  5. | read_buffer_size | 131072 |
  6. | read_rnd_buffer_size | 262144 |
  7. +----------------------+--------+
  8. 2 rows in set (0.00 sec)

步骤三：MySQL线程重用和开表控制

分析“已打开表的数量/当前可缓存表的数量”，比值不超过95%就基本正常。

1）查看当前已打开、一共打开过多少个表

  1. mysql> SHOW GLOBAL STATUS LIKE ‘open%tables‘;
  2. +---------------+-------+
  3. | Variable_name | Value |
  4. +---------------+-------+
  5. | Open_tables | 23 |
  6. | Opened_tables | 72 |
  7. +---------------+-------+
  8. 2 rows in set (0.01 sec)

2）查看当前可缓存多少个打开的表

  1. mysql> SHOW VARIABLES LIKE ‘table_open_cache‘;
  2. +------------------+-------+
  3. | Variable_name | Value |
  4. +------------------+-------+
  5. | table_open_cache | 2000 |
  6. +------------------+-------+
  7. 1 row in set (0.00 sec)

步骤四：MySQL调整示例：记录慢查询

1）调整my.cnf配置文件，启用慢查询

  1. [[email protected] ~]# vim /etc/my.cnf
  2. [mysqld]
  3. .. ..
  4. slow_query_log=1                             //启用慢查询
  5. slow_query_log_file=mysql-slow.log         //制定慢查询日志文件
  6. long_query_time=5                             //查询耗时超过5秒才记录
  7. log_queries_not_using_indexes=1             //记录未使用索引的查询
  9. [[email protected] ~]# service mysql restart
  10. Shutting down MySQL..... [确定]
  11. Starting MySQL.... [确定]

2）查看慢查询日志（mysqldumpslow工具）

  1. [[email protected] ~]# mysqldumpslow /var/lib/mysql/mysql-slow.log
  2. Reading mysql slow query log from /var/lib/mysql/mysql-slow.log
  3. Count: 1 Time=0.00s (0s) Lock=0.00s (0s) Rows=0.0 (0), [email protected]
  4. .. ..

3）了解与查询相关的缓存选项

查看当前的查询缓存大小：

  1. mysql> SHOW VARIABLES LIKE ‘query_cache%‘;
  2. +------------------------------+---------+
  3. | Variable_name | Value |
  4. +------------------------------+---------+
  5. | query_cache_limit | 1048576 |         //超过此大小则不再缓存
  6. | query_cache_min_res_unit | 4096 |
  7. | query_cache_size | 1048576 |         //缓存空间的大小
  8. | query_cache_type | OFF |
  9. | query_cache_wlock_invalidate | OFF |
  10. +------------------------------+---------+
  11. 5 rows in set (0.00 sec)

查看当前的查询缓存统计数据：

  1. mysql> SHOW GLOBAL STATUS LIKE ‘qcache%‘;
  2. +-------------------------+---------+
  3. | Variable_name | Value |
  4. +-------------------------+---------+
  5. | Qcache_free_blocks | 1 |
  6. | Qcache_free_memory | 1031368 |             //缓存中的空闲内存
  7. | Qcache_hits | 0 |
  8. | Qcache_inserts | 0 |
  9. | Qcache_lowmem_prunes | 0 |
  10. | Qcache_not_cached | 100 |             //不适合缓存的数量
  11. | Qcache_queries_in_cache | 0 |
  12. | Qcache_total_blocks | 1 |
  13. +-------------------------+---------+
  14. 8 rows in set (0.00 sec)

步骤五：关于MySQL状态和相关变量的查看

1）查看服务器的相关状态值（运行中动态变化）

使用SHOW GLOBAL STATUS语句，可结合LIKE条件做模糊过滤。

默认有400多个状态值：

  1. mysql> SHOW GLOBAL STATUS\G
  2. *************************** 1. row ***************************
  3. Variable_name: Aborted_clients
  4. Value: 0
  5. *************************** 2. row ***************************
  6. Variable_name: Aborted_connects
  7. Value: 0
  8. *************************** 3. row ***************************
  9. Variable_name: Binlog_cache_disk_use
  10. Value: 0
  11. *************************** 4. row ***************************
  12. Variable_name: Binlog_cache_use
  13. Value: 0
  14. *************************** 5. row ***************************
  15. Variable_name: Binlog_stmt_cache_disk_use
  16. Value: 0
  17. .. ..                                             //省略中间的大量状态值
  18. .. ..
  19. *************************** 435. row ***************************
  20. Variable_name: Threads_connected
  21. Value: 1
  22. *************************** 436. row ***************************
  23. Variable_name: Threads_created
  24. Value: 1
  25. *************************** 437. row ***************************
  26. Variable_name: Threads_running
  27. Value: 1
  28. *************************** 438. row ***************************
  29. Variable_name: Uptime
  30. Value: 5322
  31. *************************** 439. row ***************************
  32. Variable_name: Uptime_since_flush_status
  33. Value: 2283
  34. 439 rows in set (0.00 sec)

2）查看服务器的运行选项（一般为静态限制，可通过my.cnf文件配置，或SET修改）

使用SHOW VARIABLES语句，也可结合LIKE条件做模糊过滤。

默认也有400多个（接近500个）配置选项：

  1. mysql> SHOW VARIABLES\G
  2. *************************** 1. row ***************************
  3. Variable_name: auto_increment_increment
  4. Value: 1
  5. *************************** 2. row ***************************
  6. Variable_name: auto_increment_offset
  7. Value: 1
  8. *************************** 3. row ***************************
  9. Variable_name: autocommit
  10. Value: ON
  11. *************************** 4. row ***************************
  12. Variable_name: automatic_sp_privileges
  13. Value: ON
  14. *************************** 5. row ***************************
  15. Variable_name: back_log
  16. Value: 80
  17. .. ..                                             //省略中间的大量状态值
  18. .. ..
  19. *************************** 486. row ***************************
  20. Variable_name: version_comment
  21. Value: MySQL Cluster Community Server (GPL)
  22. *************************** 487. row ***************************
  23. Variable_name: version_compile_machine
  24. Value: x86_64
  25. *************************** 488. row ***************************
  26. Variable_name: version_compile_os
  27. Value: Linux
  28. *************************** 489. row ***************************
  29. Variable_name: wait_timeout
  30. Value: 28800
  31. *************************** 490. row ***************************
  32. Variable_name: warning_count
  33. Value: 0
  34. 490 rows in set (0.01 sec)

以上是关于实现MySQL读写分离，MySQL性能调优的主要内容，如果未能解决你的问题，请参考以下文章

29_MySQL读写分离 MySQL多实例 MySQL性能调优

6MySQL 主从同步 MySQL 读写分离 MySQL 性能调优

主从同步读写分离mysql性能调优(软优化)

MYSQL数据库性能调优之七：其他（读写分离分表等）

mysql数据库性能调优总结积累

Mysql索引性能调优