九爷带你了解 mysql 主从复制的 工作原理

Posted 2020-09-11

mysql 主从复制原理

主从形式

---

 

mysql主从复制 灵活

• 一主一从

• 主主复制

• 一主多从---扩展系统读取的性能，因为读是在从库读取的；

• 多主一从---5.7开始支持

• 联级复制---

 

 

用途及条件

---

 

mysql主从复制用途

• 实时灾备，用于故障切换

• 读写分离，提供查询服务

• 备份，避免影响业务

 

主从部署必要条件：

• 主库开启binlog日志（设置log-bin参数）

• 主从server-id不同

• 从库服务器能连通主库

 

主从原理

---

mysql主从复制原理

 

 

从库生成两个线程，一个I/O线程，一个SQL线程；

 

i/o线程去请求主库 的binlog，并将得到的binlog日志写到relay log（中继日志） 文件中；

主库会生成一个 log dump 线程，用来给从库 i/o线程传binlog；

 

SQL 线程，会读取relay log文件中的日志，并解析成具体操作，来实现主从的操作一致，而最终数据一致；

 

问题及解决方法

---

 

mysql主从复制存在的问题：

• 主库宕机后，数据可能丢失

• 从库只有一个sql Thread，主库写压力大，复制很可能延时

 

解决方法：

• 半同步复制---解决数据丢失的问题

• 并行复制----解决从库复制延迟的问题

 

半同步复制

---

 

mysql semi-sync（半同步复制）

半同步复制：

• 5.5集成到mysql，以插件的形式存在，需要单独安装

• 确保事务提交后binlog至少传输到一个从库

• 不保证从库应用完这个事务的binlog

• 性能有一定的降低，响应时间会更长

• 网络异常或从库宕机，卡主主库，直到超时或从库恢复

 

主从复制--异步复制原理

 

半同步复制原理：

 

 

并行复制

---

 

mysql并行复制

• 社区版5.6中新增

• 并行是指从库多线程apply binlog

• 库级别并行应用binlog，同一个库数据更改还是串行的(5.7版并行复制基于事务组)

设置

set global slave_parallel_workers=10;

设置sql线程数为10

 

 

其他

---

 

部分数据复制

主库添加参数：

binlog_do_db=db1
binlog_ignore_db=db1
binlog_ignore_db=db2

或从库添加参数

replicate_do_db=db1
replicate_ignore_db=db1
replicate_do_table=db1.t1
replicate_wild_do_table=db%.%replicate_wild_ignore_table=db1.%

 

联级复制（常用）

A->B->C

B中添加参数：

log_slave_updates
B将把A的binlog记录到自己的binlog日志中

 

复制的监控：

show  slave status \G

 

复制出错处理

常见：1062（主键冲突），1032（记录不存在）

解决：

• 手动处理

• 跳过复制错误：set global sql_slave_skip_counter=1

 

 

 

总结

---

 

• 主从形式

• 
  

  • 一主一从

  • 一主多从--扩展系统读取性能

  • 多主一从--5.7开始支持

  • 主主复制

  • 联级复制

• 用途：实时灾备的故障切换，读写分离，备份

• 原理

• 
  

  • i/o线程接受读取binlog，并写入relay log文件

  • sql线程从relay log 文件中读取binlog并持久化

  • 主：log dump线程传binlog；

  • 从

  • 
    

• 问题及解决

• 
  

  • 并行复制

  • 半同步复制

  • 主库宕机后，数据丢失

  • 
    

  • 主库写压力大，因从库只有一个sql 线程来持久化，复制可能延迟

  • 
    

• 半同步复制：

• 
  

  • 事务在主库写完binlog后需要从库返回一个已接受，才放回给客户端；

  • 原理

  • 
    

  • 5.5集成到mysql，以插件的形式存在，需要单独安装

  • 确保事务提交后binlog至少传输到一个从库

  • 不保证从库应用完成这个事务的binlog

  • 性能有一定的降低

  • 网络异常或从库宕机，卡主库，直到超时或从库恢复

• 并行复制

• 
  

  • 原理：从库多线程apply binlog

  • 在社区5.6中新增

  • 库级别并行应用binlog，同一个库数据更改还是串行的

  • 5.7版本并行复制基于事务组

• 部分数据复制

• 联级复制（常用）

• 
  

  • A->B->C

  • B中添加参数log_slave_updates

  • B将把A的binlog记录到自己的binlog日志中

• 复制的监控

• 
  

  • show slave status

• 复制出错处理

• 
  

  • 手动处理

  • 跳过复制错误：set global sql_slave_skip_counter=1

  • 常见：1062（主键冲突），1032（记录不存在）

  • 解决：

  • 
    

• mysql主从复制是mysql高可用性，高性能（负载均衡）的基础

• 简单，灵活，部署方式多样，可以根据不同业务场景部署不同复制结构

• 复制过程中应该时刻监控复制状态，复制出错或延时可能给系统造成影响

• mysql主从复制目前也存在一些问题，可以根据需要部署复制增强功能

本文出自 “李世龙” 博客，谢绝转载！