linux Mysql 主从复制 原理介绍和步骤详解

Posted 2020-10-28

          大家好，我是霸王卸甲，今天我给大家带来的是linux数据库中的主从复制的简单介绍和步骤详解。

主从复制

mysql主从复制 灵活

一主一从
主主复制
一主多从---扩展系统读取的性能，因为读是在从库读取的；
多主一从---5.7开始支持
联级复制---

用途及条件

mysql主从复制用途

实时灾备，用于故障切换
读写分离，提供查询服务
备份，避免影响业务

主从部署必要条件：

主库开启binlog日志（设置log-bin参数）
主从server-id不同
从库服务器能连通主库

主从原理
mysql主从复制原理

从库生成两个线程，一个I/O线程，一个SQL线程；

i/o线程去请求主库 的binlog，并将得到的binlog日志写到relay log（中继日志） 文件中；
主库会生成一个 log dump 线程，用来给从库 i/o线程传binlog；

SQL 线程，会读取relay log文件中的日志，并解析成具体操作，来实现主从的操作一致，而最终数据一致；

问题及解决方法

mysql主从复制存在的问题：

主库宕机后，数据可能丢失
从库只有一个sql Thread，主库写压力大，复制很可能延时

解决方法：

半同步复制---解决数据丢失的问题
并行复制----解决从库复制延迟的问题

半同步复制

mysql semi-sync（半同步复制）
半同步复制：

5.5集成到mysql，以插件的形式存在，需要单独安装
确保事务提交后binlog至少传输到一个从库
不保证从库应用完这个事务的binlog
性能有一定的降低，响应时间会更长
网络异常或从库宕机，卡主主库，直到超时或从库恢复

主从复制--异步复制原理

半同步复制原理：

并行复制

mysql并行复制

社区版5.6中新增
并行是指从库多线程apply binlog
库级别并行应用binlog，同一个库数据更改还是串行的(5.7版并行复制基于事务组)

设置

set global slave_parallel_workers=10;

设置sql线程数为10

其他

部分数据复制
主库添加参数：

binlog_do_db=db1
binlog_ignore_db=db1
binlog_ignore_db=db2

或从库添加参数

replicate_do_db=db1
replicate_ignore_db=db1
replicate_do_table=db1.t1
replicate_wild_do_table=db%.%
replicate_wild_ignore_table=db1.%

联级复制（常用）
A->B->C
B中添加参数：

log_slave_updates
B将把A的binlog记录到自己的binlog日志中

复制的监控：

show slave status \G

复制出错处理
常见：1062（主键冲突），1032（记录不存在）
解决：

手动处理
跳过复制错误：set global sql_slave_skip_counter=1

总结

主从形式
    一主一从
    一主多从--扩展系统读取性能
    多主一从--5.7开始支持
    主主复制
    联级复制
用途：实时灾备的故障切换，读写分离，备份
原理
    主：log dump线程传binlog；
    从
        i/o线程接受读取binlog，并写入relay log文件
        sql线程从relay log 文件中读取binlog并持久化
问题及解决
    主库宕机后，数据丢失
        半同步复制
    主库写压力大，因从库只有一个sql 线程来持久化，复制可能延迟
        并行复制
半同步复制：
    原理
        事务在主库写完binlog后需要从库返回一个已接受，才放回给客户端；
    5.5集成到mysql，以插件的形式存在，需要单独安装
    确保事务提交后binlog至少传输到一个从库
    不保证从库应用完成这个事务的binlog
    性能有一定的降低
    网络异常或从库宕机，卡主库，直到超时或从库恢复
并行复制
    原理：从库多线程apply binlog
    在社区5.6中新增
    库级别并行应用binlog，同一个库数据更改还是串行的
    5.7版本并行复制基于事务组
部分数据复制
联级复制（常用）
    A->B->C
    B中添加参数log_slave_updates
    B将把A的binlog记录到自己的binlog日志中
复制的监控
    show slave status
复制出错处理
    常见：1062（主键冲突），1032（记录不存在）
    解决：
        手动处理
        跳过复制错误：set global sql_slave_skip_counter=1
mysql主从复制是mysql高可用性，高性能（负载均衡）的基础
简单，灵活，部署方式多样，可以根据不同业务场景部署不同复制结构
复制过程中应该时刻监控复制状态，复制出错或延时可能给系统造成影响
mysql主从复制目前也存在一些问题，可以根据需要部署复制增强功能

一主一从
步骤解析：

准备4台机器：
10.18.42.116 kvm4
10.18.42.79 kvm5
10.18.42.171 kvm6
10.18.42.69 kvm7
在/etc/hosts 进行解析

主机
1.在看kvm4中开启二进制日志，服务器id gtid
vim /etc/my.cof
log-bin
server-id=1
gtid_mode=ON
enfore_gtid_consistency=1
重启：
systemctl restart mysqld

2.授权复制用户rep
grant replication slave,replication client on . to ‘rep‘@‘10.18.42.%‘ identified by ‘[email protected]‘;
刷新：
flush privileges;

3.备份数据库数据
mysqldump -p‘[email protected]‘ --all-databases --single-transaction --master-data=2 --flush-logs > date +%F-mysql-all.sql
用scp 传到从机上 进行数据同步
scp 2018-1-1-mysql-all.sql kvm5:/tmp

4.模拟数据变化 可作可不做 创表 创库

从机
1.测试rep用户是否可用
mysql -h kvm4 -urep -p‘[email protected]‘(注意防火墙应该关闭)

2 启动二进制日志，服务器ID，GTID
vim /etc/my.cnf
log-bin
server-id=2
gtid_mode=ON
enforce_gtid_consistency=1
重启数据库
systemctl restart mysqld 测试配置是否有问题，如果启动失败。请检查配置。

3.恢复手动同步数据
ls /tmp/2018-1-1-mysql-all.sql
进到库中
set sql_log_bin=0;
source /tmp/2018-1-1-mysql-all.sql
查看数据是否同步 否则请重新操作

4.设置主服务器
change master tobr/>master_host=‘kvm4‘,
master_user=‘rep‘,
master_password=‘[email protected]‘,
master_auto_position=1;
start slave;
show slave status\G;
查看
Slave_IO_Running: Yes
Slave_SQL_Running: Yes
成功

5 返回主服务器（kvm4）更新数据，在从服务器（kvm5）观察是否同步。

双主双从（MM-SS）
因为上边已经完成了kvm4主 kvm5从
所以接下来作kvm5主 kvm4从

1.设置kvm5为kvm4的主服务器
进入到kvm5中
change master tobr/>master_host=‘kvm4‘,
master_user=‘rep‘,
master_password=‘[email protected]‘,
master_auto_position=1;
重启
start slave;
show slave status\G;
如果状态不佳，重启一下master2的mysqld

进行测试 互相创建数据 是否同步

2.同步现有数据库
kvm4 mysqldump -p‘[email protected]‘ --all-databases --single-transaction --master-data=2 --flush-logs > date +%F-mysql-all.sql

用scp传到kvm6 kvm7
scp -r 2018-1-1-mysql-all.sql kvm6:/tmp
scp -r 2018-1-1-mysql-all.sql kvm7:/tmp

kvm6 mysql -p‘[email protected]‘ < /tmp/2018-1-1-mysql-all.sql
kvm7 mysql -p‘[email protected]‘ < /tmp/2018-1-1-mysql-all.sql

3.启动kvm6 kvm7的id gtid 主信息存储库=表 中继日志信息存储库=表
kvm6

vim /etc/my.cnf
server-id=3
gtid_mode=ON
enforce_gtid_consistency=1
master-info-repository=TABLE
relay-log-info-repository=TABLE

systemctl restart mysqld

kvm7

vim /etc/my.cnf
server-id=4
gtid_mode=ON
enforce_gtid_consistency=1
master-info-repository=TABLE
relay-log-info-repository=TABLE

systemctl restart mysqld

4.在kvm6 kvm7 中进行设置主服务器
kvm6:
change master tobr/>master_host=‘kvm4‘,
master_user=‘rep‘,
master_password=‘[email protected]‘,
master_auto_position=1 for channel ‘kvm4‘;

change master tobr/>master_host=‘kvm5‘,
master_user=‘rep‘,
master_password=‘[email protected]‘,
master_auto_position=1 for channel ‘kvm5‘;

start slave;
show slave status\G;

kvm7:
change master tobr/>master_host=‘kvm4‘,
master_user=‘rep‘,
master_password=‘[email protected]‘,
master_auto_position=1 for channel ‘kvm4‘;

change master tobr/>master_host=‘kvm5‘,
master_user=‘rep‘,
master_password=‘[email protected]‘,
master_auto_position=1 for channel ‘kvm5‘;

start slave;
show slave status\G;

测试 数据是否同步

总结 ，出错的几个点 和 解决的办法
Slave_IO_Running: no
Slave_SQL_Running: Yes

进入到数据库
stop slave；
reset slave;
重新进行主从配置
start slave；
show slave status\G;

Slave_IO_Running: yes
Slave_SQL_Running: no

进入到show slave status\G;
Last_SQL_Errno: 1008 报错1008
进入到配置文件跳过这个错误
vim /etc/my.cnf
slave-skip-errors=1008
重启数据库
进入数据库
start slavr;
进行查看是show slave status\G;
这样就跳过此错误
出去注释掉 slave-skip-errors=1008
就可以了

1236是因为某种原因 造成的数据不同步
这样 的话就进行手动同步
在主机器上重新备份发到从机器上
手动更新
重启数据库
进到数据库
start slave；
start slave;
(打两次)
双 yes

以上就是今天的全部内容，主要是一主一从和双主双从，除了以上提到的问题还遇到新的问题可以私信我，我会在第一时间回复大家，谢谢大家。