高可用mysql之MHA源码剖析

Posted 2020-08-07 6ruce

* MHA的整个故障（离线）切换过程

----------------------------------------------------------------------------------------------------
- 检测主库的状态，确认是否崩溃。
- 确认服务崩溃，保存binlog，推送到主控机，并可以强制关闭主库避免脑裂。
- 找出数据最新的从库（也就是read_master_log_pos最大的），确定下新主库。
- 从最新从库上生成差异的relaylog，再加上未读取的binlog，应用到新主库，记下偏移。
- （并发）的为其他从库生成差异的relaylog和binlog，应用到各个从库。
- 从库指向新主库的偏移处，开始复制。

源码部分关键逻辑

--------------------------------------------------------------------------------------------------------
** 读取配置
** 检查配置
- 检查apply_diff_relay_log的版本号
- 连接所有服务器并读取状态（得知老主库）
- 检查参数传进来的崩溃主库是否与老主库地址一致，否则终止切换
- 检查老主库是否在离线主机列表中，不在的话就终止切换
- 检查是否真的连接不上mysql服务
- 检查所有在线从库，是否都指向老主库
- 检查是否有些不该忽略失败的从库已经离线
- 检查上次切换是否失败
- 检查上次切换发生时间与本次切换的时间间隔，太短则终止
- 从所有从库获取“切换锁”
- 保证所有从库的slave sql线程已经启动
** 如果支持gtid自动定位但未启用，那么应该强制apply_diff_relay_log禁用log_bin？？
** 强制关闭
- （并发）强制停止所有从库的slave io线程
- 探测从主控机到崩溃主库所在主机的ssh可达性
- 执行master_ip_failover_script，保证崩溃主库所在主机的ip失活防脑裂，否则终止切换
- 只要有一个在线从库的salve io线程停止失败，那么就终止切换

** 探测出复制延迟最小的从库、复制延迟最大的从库
** 根据最新从库的slave io线程的读头，保存老主库的binlog。
- 如果崩溃主库所在主机不可达，那么久丢失binlog（Read_Master_Log_Pos to the tail）
- 如果可达，ssh连接上去，然后执行save_binary_logs --command=save，将保存后的binlog拷贝到主控机，这步称呼read_to_tail。
** 根据最新、最老从库的读头以及某些从库的可忽略失败，来决定哪个从库作为relaylog、binlog补偿的基准
- 如果所有从库的读头一致，跳过
- ssh逐一连接最新从库，执行apply_diff_relay_logs --command=find，看是否realylog包含了最老从库的读头。
- 如果没有用来补偿的基准从库，终止切换
** 选择新主库（新主库不一定是最新从库，参照“在线切换”中的描述）
** 恢复新主库
- 若果新主库的读头落后于最新从库，那么ssh连接上最新从库，执行apply_diff_relay_logs --command=generate_and_send，
从最新从库的relaylog中提取新主库读头直到最新从库读头处的二进制日志，这步称呼为read_to_latest,
$latest_slave->{Master_Log_File}:$latest_slave->{Read_Master_Log_Pos}
- 将主控机保存好的最新从库读头到主库binlog尾部的日志（read_to_tail），拷贝到新主库
- 如果不是最新从库或者有保存过read_to_tail，那么就应用差异日志。
-- 首先等待新主库上已经有的relaylog都重放完毕，停止slave sql线程
-- 读取最新复制状态
-- ssh执行save_binary_logs --command=save， 从自身relaylog中恢复exec_to_read
-- ssh执行apply_diff_relay_logs --command=apply，将前面生成的3部分补偿日志全部导入。
- 执行主控机上的master_ip_failover --command=start脚本，激活新主库的ip。
- 关闭新主库的只读，开启可写模式。
** 恢复所有从库（类似单独恢复主库的过程）
- （并发）中继补偿，生成read_to_latest
- （并发）将早生成的read_to_tail部分，拷贝到各个从库，应用差异日志，指向新主库，启动复制
- 新主库执行reset slave

 

 

* MHA在线主库切换过程

--------------------------------------------------------------------------------------------------------------------------------------
sudo /usr/bin/masterha_master_switch --master_state=alive --conf=/etc/masterha/app1.cnf --new_master_host=192.168.128.130 --new_master_port=3309 --orig_mast\
er_is_new_slave

** 识别老主库。
- 读取配置MHA配置文件；

- 连接并读取所有的数据库服务状态；
- （并发）连接所有从库，看mysql服务是否在运行，如果机器都宕机了，那就终止本次切换。
- 遍历每台从库，获取所有能获取的信息，比如：msyql服务版本号、是否开启了gtid、是否开启了log-bin、
是否只读、复制相关系统变量和状态变量。
- 统计服务器信息：离线服务器、在线服务器、在线从库、失败从库等。
- 比较所有从库的mysql服务版本，找出最老和最新的版本。
- 验证当前真正的主库是谁？
- 统计在线服务器中的“非从库”（not_slave）标记，只能为1，否则终止本次切换过程。
- 根据从库的指向来找出存在哪些主库（支持3层复制结构（主-从-从的从））。
真正的主库必须是在“线并且可写”，如果没有一台主库可写或者存在两台可写，那么终止切换。
- 判断本次切换是否支持gtid。

- 检查所有在线从库上是否有复制账户并有相应的REPLICATION SLAVE权限；
- 必要时在老主库上进行flush tables操作；
- 从老主库获取“监视锁”；
- 从所有从库获取“切换锁”；
- 检查所有在线从库的复制健康状况；
- 读取当前的复制状态；
- 判断是否有问题（IO、SQL线程是否在运行，数据延迟多久）

** 识别新主库。
- 识别数据最新的从库；
- 比较master_log_file:read_master_log_pos。
- 选择新主库；
- 识别优先从库，在线的并带有candidate_master标记。
- 识别应该忽略的从库，带有no_master标记、或者未开启log_bin、或者mysql服务版本不是最老、与最新从库相比数据延迟比较大。
- 选择优先级依次为：优先列表、最新从库列表、所有从库列表，但一定要排除忽略列表。
- 检查新老主库的复制过滤规则是否一致；
- Binlog_Do_DB、Binlog_Ignore_DB、Replicate_Do_Table等。

** 拒绝更新，防止脑裂。
- 调用master_ip_online_change脚本，stop子命令。新主库上，设置为只读；
老主库上，禁止会话级别的log_bin、优雅等待所有sql线程退出、设置为只读、
- 必要时，在老主库，锁住所有表，并检查binlog是否已经停止前进。
binlog停止前进后，记下偏移位置。

** 重新读取所有在线从库的运行状态。

** 新主库从老主库应用完所有的事件日志。
- 新主库上，执行master_pos_wait，然后记下新主库binlog的file:pos。
- 调用master_ip_online_change脚本，start。新主库上，设置为只读。

** （并发）从库应用完老主库所有的事件日志并指向新主库。
- master_pos_wait
- change_master_and_start_slave