MySQL MHA高可用集群部署及故障切换

Posted 2021-08-01 王大雏

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了MySQL MHA高可用集群部署及故障切换相关的知识，希望对你有一定的参考价值。

mysql MHA高可用集群部署及故障切换

一、MHA概述
二、MHA的组成
三、MHA的特点
四、MHA的原理
五、搭建MySQL+MHA

一、MHA概述

MHA（MasterHigh Availability）是一套优秀的MySQL高可用环境下故障切换和主从复制的软件。
MHA 的出现就是解决MySQL 单点的问题。
MySQL故障切换过程中，MHA能做到0-30秒内自动完成故障切换操作。
MHA能在故障切换的过程中最大程度上保证数据的一致性，以达到真正意义上的高可用。

二、MHA的组成

MHA Node（数据节点）
- MHA Node 运行在每台 MySQL 服务器上。
MHA Manager（管理节点）
- MHA Manager 可以单独部署在一台独立的机器上，管理多个 master-slave 集群；也可以部署在一台 slave 节点上
- MHA Manager 会定时探测集群中的 master 节点。当 master 出现故障时，它可以自动将最新数据的 slave 提升为新的 master，然后将所有其他的 slave 重新指向新的 master。整个故障转移过程对应用程序完全透明。

三、MHA的特点

自动故障切换过程中，MHA试图从宕机的主服务器上保存二进制日志，最大程度的保证数据不丢失
使用半同步复制，可以大大降低数据丢失的风险
目前MHA支持一主多从架构，最少三台服务，即一主两从

四、MHA的原理

1、从宕机的 Master 保存二进制日志事件（binlog event）；
2、识别含有最新更新的 Slave；
3、应用差异的中继日志（relay log）到其他 Slave；
4、应用从 Master 保存的二进制日志事件；
5、提升一个 Slave 为新的 Master；
6、使其他的 Slave 连接新的 Master 进行复制；

在这里插入图片描述

五、搭建MySQL+MHA

实验思路

1、MHA架构
- 数据库安装
- 一主两从
- MHA搭建
2、故障模拟
- 模拟主库失效
- 备选主库成为主库
- 原故障主库恢复重新加入到MHA成为从库

服务器配置

主机名	ip地址	角色	所需安装软件包（MHA）
manager	192.168.184.70	manager管理节点	manager组件，node组件
master	192.168.184.10	mysql主数据库	node组件
slave1	192.168.184.20	mysql从数据库	node组件( 主-备 )
slave2	192.168.184.40	mysql从数据库	node组件

实验步骤

1、先使用三台mysql服务器，配置一主两从，实现主从复制
2、安装MHA软件
3、配置免密登录和MHA的高可用
4、模拟故障并进行查看

1、所有服务器，关闭系统防火墙和安全机制

netstat -natp | grep 3306  #查看mysql服务器是否启动成功

systemctl stop firewalld
systemctl disable firewalld
setenforce 0

2、修改 master（192.168.184.20）、Slave1（192.168.184.30）、Slave2（192.168.184.40）节点的主机名

hostnamectl set-hostname mysql1
su -

hostnamectl set-hostname mysql2
su -

hostnamectl set-hostname mysql3
su -

3、修改三台MySQL节点服务器的主配置文件/etc/my.cnf

master节点：mysql1(192.168.184.20)

vim /etc/my.cnf
[mysqld]
server-id = 20
log_bin = master-bin
log-slave-updates = true

systemctl restart mysqld

#在节点上创建两个软连接
ln -s /usr/local/mysql/bin/mysql /usr/sbin/
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/

slave1、2：mysql2(192.168.184.30)、mysql3(192.168.184.40)

vim /etc/my.cnf
server-id = 30  
#server-id = 40  mysql3则为40，三台服务器 server-id 不能一样
log_bin = master-bin
relay-log = relay-log-bin
relay-log-index = slave-relay-bin.index

systemctl restart mysqld

#在节点上创建两个软连接
ln -s /usr/local/mysql/bin/mysql /usr/sbin/
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/

4、配置MySQL一主两从

（1）所有MySQL服务器进行MySQL授权

#在所有数据库节点上授权两个用户，一个是从库同步使用，另一个是manager使用
第四个账户managter 管理mysql集群使用（监控）
mysql -uroot -p
grant replication slave on *.* to 'myslave'@'192.168.184.%' identified by '123';     #从数据库同步使用
grant all privileges on *.* to 'mha'@'192.168.184.%' identified by 'manager';    #manager使用

#下面三条授权，理论上不用添加，但是实验环境通过MHA检查MySQL主从报错，
报两个从库通过主机名连接不上主库，所有数据库都需要添加以下授权
grant all privileges on *.* to 'mha'@'master' identified by 'manager';    #防止从库通过主机名连接不上主库
grant all privileges on *.* to 'mha'@'slave1' identified by 'manager';
grant all privileges on *.* to 'mha'@'slave2' identified by 'manager';

flush privileges;

（2）在Master节点查看二进制文件和同步点

mysql -e "show master status;"

例：每个人的二进制文件名或者偏移量都可能不一样，记住自己的
+-------------------+----------+--------------+------------------+-------------------+
| File              | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+-------------------+----------+--------------+------------------+-------------------+
| master-bin.000001 |     4193 |              |                  |                   |
+-------------------+----------+--------------+------------------+-------------------+

（3）在 Slave1、Slave2 节点执行同步操作

change master to master_host='192.168.184.10',master_user='myslave',master_password='010230',master_log_file='master-bin.000001',master_log_pos=1499;

start slave;

（4）在 Slave1、Slave2 节点查看数据同步结果

show slave status\\G
//确保IO和SQL线程都是YES，代表同步正常

（5）两个从库Slave1、Slave2 节点设置为只读模式

set global read_only=1;

5、主从复制验证

在Master创建库

slave查询库验证

主从复制搭建完成

在这里插入图片描述

6、安装 MHA 软件

（1）所有服务器上都安装 MHA 依赖的环境，首先安装 epel 源，需要在线源安装

在所有服务器上安装 node 组件

mv /etc/yum.repos.d/repos.bak/CentOS-* /etc/yum.repos.d/
yum list

yum install epel-release --nogpgcheck -y

yum install -y perl-DBD-MySQL \\
perl-Config-Tiny \\
perl-Log-Dispatch \\
perl-Parallel-ForkManager \\
perl-ExtUtils-CBuilder \\
perl-ExtUtils-MakeMaker \\
perl-CPAN

（2）将软件包mha4mysql-node-0.57.tar.gz放入/opt目录下

cd /opt
tar zxvf mha4mysql-node-0.57.tar.gz
cd mha4mysql-node-0.57
perl Makefile.PL
make -j4 && make install

对于每个操作系统版本不一样，这里 CentOS7.4 必须选择 0.57 版本。
在所有服务器上必须先安装 node 组件，最后在 MHA-manager 节点上安装 manager 组件，因为 manager 依赖 node 组件。

（3）在 MHA manager 节点上安装 manager 组件

将软件包mha4mysql-manager-0.57.tar.gz放入/opt目录下

cd /opt
tar zxvf mha4mysql-manager-0.57.tar.gz
cd mha4mysql-manager-0.57
perl Makefile.PL
make -j4 && make install

manager组件安装后在/usr/local/bin下面会生成几个工具，主要包括以下几个：

masterha_check_ssh	检查 MHA 的 SSH 配置状况
masterha_check_repl	检查 MySQL 复制状况
masterha_manger	启动 manager的脚本
masterha_check_status	检测当前 MHA 运行状态
masterha_master_monitor	检测 master 是否宕机
masterha_master_switch	控制故障转移（自动或者手动）
masterha_conf_host	添加或删除配置的 server 信息
masterha_stop	关闭manager

node组件安装后也会在/usr/local/bin 下面会生成几个脚本（这些工具通常由 MHAManager 的脚本触发，无需人为操作）主要如下：

save_binary_logs	保存和复制 master 的二进制日志
apply_diff_relay_logs	识别差异的中继日志事件并将其差异的事件应用于其他的 slave
filter_mysqlbinlog	去除不必要的 ROLLBACK 事件

7、在所有服务器上配置无密码认证

（1）在 manager（192.168.184.10）节点上配置到所有【数据库节点】的无密码认证

ssh-keygen -t rsa 				#一路按回车键
ssh-copy-id 192.168.184.20
ssh-copy-id 192.168.184.30
ssh-copy-id 192.168.184.40

（2）在 mysql1（192.168.184.20）上配置到数据库节点 mysql2（192.168.184.30）和mysql3（192.168.184.40）的无密码认证

ssh-keygen -t rsa
ssh-copy-id 192.168.184.30
ssh-copy-id 192.168.184.40

（3）在 mysql2（192.168.184.30）上配置到数据库节点 mysql1（192.168.184.20）和mysql3（192.168.184.40）的无密码认证

ssh-keygen -t rsa
ssh-copy-id 192.168.184.20
ssh-copy-id 192.168.184.40

（4）在 mysql3（192.168.184.40）上配置到数据库节点 mysql1（192.168.184.20）和mysql2（192.168.184.30）的无密码认证

ssh-keygen -t rsa
ssh-copy-id 192.168.184.20
ssh-copy-id 192.168.184.30

8、在 manager 节点上配置 MHA

（1）在 manager 节点上复制相关脚本到/usr/local/bin 目录

cp -rp /opt/mha4mysql-manager-0.57/samples/scripts /usr/local/bin

#复制后会有四个执行文件
ll /usr/local/bin/scripts/

master_ip_failover	自动切换时 VIP 管理的脚本
master_ip_online_change	在线切换时 vip 的管理
power_manager	故障发生后关闭主机的脚本
send_report	因故障切换后发送报警的脚本

（2）复制上述的自动切换时 VIP 管理的脚本到 /usr/local/bin 目录，这里使用master_ip_failover脚本来管理 VIP 和故障切换

cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin

（3）修改内容如下：（删除原有内容，直接复制并修改vip相关参数，vip自定义）

echo '' > /usr/local/bin/master_ip_failover

vim /usr/local/bin/master_ip_failover

#!/usr/bin/env perl
use strict;
use warnings FATAL => 'all';

use Getopt::Long;

my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
#############################添加内容部分#########################################
my $vip = '192.168.184.200';								#指定vip的地址
my $brdc = '192.168.184.255';								#指定vip的广播地址
my $ifdev = 'ens33';										#指定vip绑定的网卡
my $key = '1';												#指定vip绑定的虚拟网卡序列号
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";		#代表此变量值为ifconfig ens33:1 192.168.184.200
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";		#代表此变量值为ifconfig ens33:1 192.168.184.200 down
my $exit_code = 0;											#指定退出状态码为0
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
##################################################################################
GetOptions(
'command=s' => \\$command,
'ssh_user=s' => \\$ssh_user,
'orig_master_host=s' => \\$orig_master_host,
'orig_master_ip=s' => \\$orig_master_ip,
'orig_master_port=i' => \\$orig_master_port,
'new_master_host=s' => \\$new_master_host,
'new_master_ip=s' => \\$new_master_ip,
'new_master_port=i' => \\$new_master_port,
);

exit &main();

sub main {

print "\\n\\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\\n\\n";

if ( $command eq "stop" || $command eq "stopssh" ) {

my $exit_code = 1;
eval {
print "Disabling the VIP on old master: $orig_master_host \\n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
warn "Got Error: $@\\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {

my $exit_code = 10;
eval {
print "Enabling the VIP - $vip on the new master - $new_master_host \\n";
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "Checking the Status of the script.. OK \\n";
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
`ssh $ssh_user\\@$new_master_host \\" $ssh_start_vip \\"`;
}
## A simple system call that disable the VIP on the old_master
sub stop_vip() {
`ssh $ssh_user\\@$orig_master_host \\" $ssh_stop_vip \\"`;
}

sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\\n";
}

（4）创建 MHA 软件目录并复制配置文件，使用app1.cnf配置文件来管理 mysql 节点服务器，配置文件一般放在/etc/目录下

mkdir /etc/masterha
cp /opt/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha

#删除原有内容，直接复制并修改节点服务器的IP地址


echo '' > /etc/masterha/app1.cnf
vim /etc/masterha/app1.cnf	

[server default]
manager_log=/var/log/masterha/app1/manager.log
manager_workdir=/var/log/masterha/app1
master_binlog_dir=/usr/local/mysql/data
master_ip_failover_script=/usr/local/bin/master_ip_failover
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
password=manager
ping_interval=1
remote_workdir=/tmp
repl_password=123123
repl_user=myslave
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.184.30 -s 192.168.184.40
shutdown_script=""
ssh_user=root
user=mha

[server1]
hostname=192.168.184.20
port=3306

[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.184.30
port=3306

[server3]
hostname=192.168.184.40
port=3306

[server default]
manager_log=/var/log/masterha/app1/manager.log　　　　　  #manager日志
manager_workdir=/var/log/masterha/app1.log　　　　		#manager工作目录
master_binlog_dir=/usr/local/mysql/data/　　　　　　　　 　#master保存binlog的位置，这里的路径要与master里配置的binlog的路径一致，以便MHA能找到
master_ip_failover_script=/usr/local/bin/master_ip_failover　          　#设置自动failover时候的切换脚本，也就是上面的那个脚本
master_ip_online_change_script=/usr/local/bin/master_ip_online_change　　#设置手动切换时候的切换脚本
password=manager			#设置mysql中root用户的密码，这个密码是前文中创建监控用户的那个密码
ping_interval=1				#设置监控主库，发送ping包的时间间隔1秒，默认是3秒，尝试三次没有回应的时候自动进行failover
remote_workdir=/tmp			#设置远端mysql在发生切换时binlog的保存位置
repl_password=123123		#设置复制用户的密码
repl_user=myslave			#设置复制用户的用户
report_script=/usr/local/send_report　　　　　#设置发生切换后发送的报警的脚本
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.184.30 -s 192.168.184.40	#指定检查的从服务器IP地址
shutdown_script=""			#设置故障发生后关闭故障主机脚本（该脚本的主要作用是关闭主机防止发生脑裂,这里没有使用）
ssh_user=root				#设置ssh的登录用户名
user=mha					#设置监控用户root

[server1]
hostname=192.168.184.20
port=3306

[server2]
hostname=192.168.184.30
port=3306
candidate_master=1
#设置为候选master，设置该参数以后，发生主从切换以后将会将此从库提升为主库，即使这个主库不是集群中最新的slave

check_repl_delay=0
#默认情况下如果一个slave落后master 超过100M的relay logs的话，MHA将不会选择该slave作为一个新的master， 因为对于这个slave的恢复需要花费很长时间；通过设置check_repl_delay=0，MHA触发切换在选择一个新的master的时候将会忽略复制延时，这个参数对于设置了candidate_master=1的主机非常有用，因为这个候选主在切换的过程中一定是新的master

[server3]
hostname=192.168.184.40
port=3306

（5）在Master服务器上手动开启vip

ifconfig ens33:1 192.168.184.200/24

（6）在 manager 节点上测试 ssh 无密码认证，如果正常最后会输出 successfully。

masterha_check_ssh -conf=/etc/masterha/app1.cnf

（7）在 manager 节点上测试 mysql 主从连接情况，最后出现 MySQL Replication Health is OK 字样说明正常。

masterha_check_repl -conf=/etc/masterha/app1.cnf

（8）在 manager 节点上启动 MHA

nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &

- -remove_dead_master_conf	该参数代表当发生主从切换后，老的主库的 ip 将会从配置文件中移除。
- -manger_log	日志存放位置。
- -ignore_last_failover	在缺省情况下，如果 MHA 检测到连续发生宕机，且两次宕机间隔不足 8 小时的话，则不会进行 Failover，之所以这样限制是为了避免 ping-pong 效应。该参数代表忽略上次 MHA 触发切换产生的文件，默认情况下，MHA 发生切换后会在日志记目录，也就是上面设置的日志app1.failover.complete文件，下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换，除非在第一次切换后收到删除该文件，为了方便，这里设置为–ignore_last_failover。

- -remove_dead_master_conf

该参数代表当发生主从切换后，老的主库的 ip 将会从配置文件中移除。

- -manger_log

日志存放位置。

- -ignore_last_failover

在缺省情况下，如果 MHA 检测到连续发生宕机，且两次宕机间隔不足 8 小时的话，则不会进行 Failover，之所以这样限制是为了避免 ping-pong 效应。该参数代表忽略上次 MHA 触发切换产生的文件，默认情况下，MHA 发生切换后会在日志记目录，也就是上面设置的日志app1.failover.complete文件，下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换，除非在第一次切换后收到删除该文件，为了方便，这里设置为–ignore_last_failover。

查看 MHA 状态，可以看到当前的 master 是 Mysql1 节点。

masterha_check_status --conf=/etc/masterha/app1.cnf

查看 MHA 日志，也以看到当前的 master 是 192.168.184.20，如下所示。

cat /var/log/masterha/app1/manager.log | grep "current master"

查看 Mysql1 的 VIP 地址 192.168.184.200 是否存在，这个 VIP 地址不会因为 manager 节点停止 MHA 服务而消失。

ifconfig

若要关闭 manager 服务，可以使用如下命令。

masterha_stop --conf=/etc/masterha/app1.cnf
或者可以直接采用 kill 进程 ID 的方式关闭

9、故障模拟

在 manager 节点上监控观察日志记录

tail -f /var/log/masterha/app1/manager.log

在 Master 节点 Mysql1 上停止mysql服务

systemctl stop mysqld

正常自动切换一次后，MHA 进程会退出。HMA 会自动修改 app1.cnf 文件内容，将宕机的 mysql1 节点删除。

查看 mysql2 是否接管 VIP

ifconfig

查看manager节点动态日志

故障切换备选主库的算法：

1、一般判断从库的是从（position/GTID）判断优劣，数据有差异，最接近于master的slave，成为备选主。
2、数据一致的情况下，按照配置文件顺序，选择备选主库。
3、设定有权重（candidate_master=1），按照权重强制指定备选主。
默认情况下如果一个slave落后master 100M的relay logs的话，即使有权重，也会失效。
如果check_repl_delay=0的话，即使落后很多日志，也强制选择其为备选主。
故障修复

（1）修复master

systemctl restart mysqld

（2）修复主从

在现主库服务器 Mysql2(192.168.184.30) 查看二进制文件和同步点

mysql -e "show master status;"

在原主库服务器 mysql1(192.168.184.20)执行同步操作

mysql -e "change master to master_host='192.168.184.30',master_user='myslave',master_password='123123',master_log_file='master-bin.000001',master_log_pos=1595;"

mysql -e "start slave;"
mysql -e "show slave status\\G" | awk '/Running:/{print}'

（3）在 manager 节点上修改配置文件app1.cnf（再把这个记录添加进去，因为它检测掉失效时候会自动消失）

vim /etc/masterha/app1.cnf
……
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.184.20 -s 192.168.184.40
......
[server1]
hostname=192.168.184.30
port=3306

[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.184.20
port=3306

[server3]
hostname=192.168.184.40
port=3306

（4）在 manager 节点上启动 MHA

masterha_stop --conf=/etc/masterha/app1.cnf

nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &

masterha_check_status --conf=/etc/masterha/app1.cnf

以上是关于MySQL MHA高可用集群部署及故障切换的主要内容，如果未能解决你的问题，请参考以下文章

MySQL MHA高可用集群部署及故障切换

数据库之MHA高可用集群部署及故障切换

MHA-结合MySQL半同步复制高可用集群(Centos7)

MySQL MHA高可用集群部署及故障切换

mysql MHA高可用集群部署及故障切换

一、MHA概述

二、MHA的组成

三、MHA的特点

四、MHA的原理

五、搭建MySQL+MHA

实验思路

服务器配置

实验步骤

1、所有服务器，关闭系统防火墙和安全机制

2、修改 master（192.168.184.20）、Slave1（192.168.184.30）、Slave2（192.168.184.40） 节点的主机名

3、修改三台MySQL节点服务器的主配置文件/etc/my.cnf

4、配置MySQL一主两从

5、主从复制验证

6、安装 MHA 软件

7、在所有服务器上配置无密码认证

8、在 manager 节点上配置 MHA

9、故障模拟

2、修改 master（192.168.184.20）、Slave1（192.168.184.30）、Slave2（192.168.184.40）节点的主机名