MySQL主从配置及mysqldump备份实战

Posted 2020-12-09

1. mysql主从概念：

mysql的主从复制，是用来建立一个和主数据库完全一样的数据库环境，从库会同步主库的所有数据，可轻松实现故障转移。

1.1 mysql主从主要作用：

• 在业务复杂的系统中，有这么一个情景，有一句sql语句需要锁表，导致暂时不能使用读的服务，那么就很影响运行中的业务，使用主从复制，让主库负责写，从库负责读，这样，即使主库出现了锁表的情景，通过读从库也可以保证业务的正常运行。
• 做数据的热备，主库宕机后能够及时替换主库，保证业务可用性。
• 架构的扩展。业务量越来越大，I/O访问频率过高，单机无法满足，此时做多库的存储，降低磁盘I/O访问的频率，提高单个机器的I/O性能。

1.2 常见mysql主从架构：

1.2.1MySQL主从复制的流程

1. 主库的更新事件(update、insert、delete)被写到binlog；
2. 从库启动并发起连接，连接到主库；
3. 主库创建一个binlog dump thread，把binlog的内容发送到从库；
4. 从库启动之后，创建一个I/O线程，读取主库传过来的binlog内容并写入到relay log；
5. 从库启动之后，创建一个SQL线程，从relay log里面读取内容，从Exec_Master_Log_Pos位置开始执行读取到的更新事件，将更新内容写入到slave的数据库。

1.2.2 MySQL主从复制的原理

MySQL主从复制是一个异步的复制过程，主库发送更新事件到从库，从库读取更新记录，并执行更新记录，使得从库的内容与主库保持一致。

binlog：binary log，主库中保存所有更新事件日志的二进制文件。binary log是从数据库服务启动的一刻起，保存数据库所有变更记录（数据库结构和内容）的文件。在主库中，只要有更新事件出现，就会被依次地写入到binary log中，之后会推送到从库中作为从库进行复制的数据源。

binlog输出线程：每当有从库连接到主库的时候，主库都会创建一个线程然后发送binlog内容到从库。 对于每一个即将发送给从库的sql事件，binlog输出线程会将其锁住。一旦该事件被线程读取完之后，该锁会被释放，即使在该事件完全发送到从库的时候，该锁也会被释放。

在从库中，当复制开始时，从库就会创建从库I/O线程和从库的SQL线程进行复制处理。

从库I/O线程：当start slave语句在从库开始执行之后，从库创建一个I/O线程，该线程连接到主库并请求主库发送binlog里面的更新记录到从库上。 从库I/O线程读取主库的binlog输出线程发送的更新并拷贝这些更新到本地文件，其中包括relay log文件。

从库的SQL线程：从库创建一个SQL线程，这个线程读取从库I/O线程写到relay log的更新事件并执行。

综上所述，可知：

对于每一个主从复制的连接，都有三个线程。拥有多个从库的主库为每一个连接到主库的从库创建一个binlog输出线程，每一个从库都有它自己的I/O线程和SQL线程。

从库通过创建两个独立的线程，使得在进行复制时，从库的读和写进行了分离。因此，即使负责执行的线程运行较慢，负责读取更新语句的线程并不会因此变得缓慢。比如说，如果从库有一段时间没运行了，当它在此启动的时候，尽管它的SQL线程执行比较慢，它的I/O线程可以快速地从主库里读取所有的binlog内容。这样一来，即使从库在SQL线程执行完所有读取到的语句前停止运行了，I/O线程也至少完全读取了所有的内容，并将其安全地备份在从库本地的relay log，随时准备在从库下一次启动的时候执行语句。

1.3 MySQL主从部署：

node3：master，192.168.48.183
node4：slave， 192.168.48.184

1.3.2 master端配置：

xxxxxxxxxx
# 安装好mysql/mariadb数据库：
[root@node03 ~]# yum install mariadb mariadb-server -y
# 修改/etc/my.cnf配置文件，在[mysqld]指令段添加以下行：
log-bin=node3-bin
server-id=1

# 启动数据库服务：
[root@node03 ~]# systemctl start mariadb
[root@node03 ~]# 
# 查看mysql进程：
[root@node03 ~]# ps -ef|grep mysqld
mysql      6130      1  0 20:37 ?        00:00:00 /bin/sh /usr/bin/mysqld_safe --basedir=/usr
mysql      6316   6130  0 20:37 ?        00:00:00 /usr/libexec/mysqld --basedir=/usr --datadir=/var/lib/mysql --plugin-dir=/usr/lib64/mysql/plugin --log-error=/var/log/mariadb/mariadb.log --pid-file=/var/run/mariadb/mariadb.pid --socket=/var/lib/mysql/mysql.sock
root       6365   5819  0 20:38 pts/0    00:00:00 grep --color=auto mysqld
[root@node03 ~]# 
# 查看mysql端口：
[root@node03 ~]# netstat -ntlp|grep 3306
tcp        0      0 0.0.0.0:3306            0.0.0.0:*               LISTEN      6316/mysqld         
[root@node03 ~]# 

1.3.3 查看配置是否生效：

xxxxxxxxxx
# 通过mysql直接进入数据库：
[root@node03 ~]# mysql
Welcome to the MariaDB monitor.  Commands end with ; or g.
Your MariaDB connection id is 2
Server version: 5.5.65-MariaDB MariaDB Server

Copyright (c) 2000, 2018, Oracle, MariaDB Corporation Ab and others.

Type ‘help;‘ or ‘h‘ for help. Type ‘c‘ to clear the current input statement.

MariaDB [(none)]> 
# 查看log_bin和sql_log_bin是否均为on;
MariaDB [(none)]> show variables like "%log_bin";
+---------------+-------+
| Variable_name | Value |
+---------------+-------+
| log_bin       | ON    |
| sql_log_bin   | ON    |
+---------------+-------+
2 rows in set (0.00 sec)

MariaDB [(none)]> 

1.3.4 授权从库：

xxxxxxxxxx
MariaDB [(none)]> grant replication slave on *.* to "superman"@"192.168.48.184" identified by "123456";
Query OK, 0 rows affected (0.00 sec)

MariaDB [(none)]> flush privileges;
Query OK, 0 rows affected (0.00 sec)

MariaDB [(none)]> 

1.3.5 查看master状态：

xxxxxxxxxx
MariaDB [(none)]> show master status;
+------------------+----------+--------------+------------------+
| File             | Position | Binlog_Do_DB | Binlog_Ignore_DB |
+------------------+----------+--------------+------------------+
| node3-bin.000004 |      479 |              |                  |
+------------------+----------+--------------+------------------+
1 row in set (0.00 sec)

MariaDB [(none)]> 

1.3.6 slave端配置：

xxxxxxxxxx
# 修改/etc/my.cnf配置文件，在[mysqld]指令块下添加如下行：
server-id=2

1.3.7 启动slave数据库服务：

xxxxxxxxxx
[root@node04 ~]# systemctl start mariadb

1.3.8 在slave数据库上指定master:

xxxxxxxxxx
[root@node04 ~]# mysql
Welcome to the MariaDB monitor.  Commands end with ; or g.
Your MariaDB connection id is 2
Server version: 5.5.65-MariaDB MariaDB Server

Copyright (c) 2000, 2018, Oracle, MariaDB Corporation Ab and others.

Type ‘help;‘ or ‘h‘ for help. Type ‘c‘ to clear the current input statement.

MariaDB [(none)]> 
MariaDB [(none)]> change master to
    -> master_host="192.168.48.183",
    -> master_user="superman",
    -> master_password="123456",
    -> master_log_file="node3-bin.000004",
    -> master_log_pos=479;
Query OK, 0 rows affected (0.02 sec)

MariaDB [(none)]> 

1.3.9 查看slave状态：

xxxxxxxxxx
MariaDB [(none)]> slave start;
Query OK, 0 rows affected (0.00 sec)

MariaDB [(none)]> 
MariaDB [(none)]> show slave statusG
*************************** 1. row ***************************
               Slave_IO_State: Waiting for master to send event
                  Master_Host: 192.168.48.183
                  Master_User: superman
                  Master_Port: 3306
                Connect_Retry: 60
              Master_Log_File: node3-bin.000004
          Read_Master_Log_Pos: 479
               Relay_Log_File: mariadb-relay-bin.000002
                Relay_Log_Pos: 529
        Relay_Master_Log_File: node3-bin.000004
             Slave_IO_Running: Yes
            Slave_SQL_Running: Yes
              Replicate_Do_DB: 
          Replicate_Ignore_DB: 
           Replicate_Do_Table: 
       Replicate_Ignore_Table: 
      Replicate_Wild_Do_Table: 
  Replicate_Wild_Ignore_Table: 
                   Last_Errno: 0
                   Last_Error: 
                 Skip_Counter: 0
          Exec_Master_Log_Pos: 479
              Relay_Log_Space: 825
              Until_Condition: None
               Until_Log_File: 
                Until_Log_Pos: 0
           Master_SSL_Allowed: No
           Master_SSL_CA_File: 
           Master_SSL_CA_Path: 
              Master_SSL_Cert: 
            Master_SSL_Cipher: 
               Master_SSL_Key: 
        Seconds_Behind_Master: 0
Master_SSL_Verify_Server_Cert: No
                Last_IO_Errno: 0
                Last_IO_Error: 
               Last_SQL_Errno: 0
               Last_SQL_Error: 
  Replicate_Ignore_Server_Ids: 
             Master_Server_Id: 1
1 row in set (0.00 sec)

MariaDB [(none)]> 

1.3.10 验证数据同步：

xxxxxxxxxx
# 在主库创建一个数据库：
MariaDB [(none)]> create database zabbix charset=utf8;
Query OK, 1 row affected (0.00 sec)

MariaDB [(none)]> 
MariaDB [(none)]> show databases;
+--------------------+
| Database           |
+--------------------+
| information_schema |
| mysql              |
| performance_schema |
| test               |
| zabbix             |
+--------------------+
5 rows in set (0.00 sec)

MariaDB [(none)]> 

# 在从库查看：
MariaDB [(none)]> show databases;
+--------------------+
| Database           |
+--------------------+
| information_schema |
| mysql              |
| performance_schema |
| test               |
| zabbix             |
+--------------------+
5 rows in set (0.00 sec)

MariaDB [(none)]> 

1.3.11 同步错误分析:

xxxxxxxxxx
Slave_IO_Running: Connecting
# 第一种：主库宕机
# 第二种：从库指定的用户名与密码错误（与主库授权的用户名和密码不一致）
# 第三种：关闭防火墙
Slave_IO_Running: No
# 从库指定的二进制文件有误
Slave_SQL_Running: No
# pos点问题

1.4 主从复制延迟问题及解决方法：

1.4.1 从库过多：

建议从库数量3-5 为宜，要复制的从节点数量过多，会导致复制延迟。

1.4.2 从库硬件差：

从库硬件比主库差，导致复制延迟，查看master和slave的系统配置，可能会因为机器配置的问题，包括磁盘IO、CPU、内存等各方面因素造成复制的延迟，一般发生在高并发大数据量写入场景。

1.4.3 网络问题：

主从库之间的网络延迟，主库的网卡、网线、连接的交换机等网络设备都可能成为复制的瓶颈，导致复制延迟。

1.5 Mysqldump备份：

1.5.1 只备份表，不备份数据本身：

xxxxxxxxxx
# 备份zabbix数据库中的所有表，但是不会自动生成创建zabbix数据库的语句：
[root@node03 ~]# mysqldump -uroot -p*** zabbix > zabbix_tables.sql
[root@node03 ~]#

1.5.2 备份zabbix数据库与表：

xxxxxxxxxx
备份zabbix数据库中的所有表，并且会生成创建zabbix数据库的SQL语句，也就是导入时不需要先创建数据库：
[root@node03 ~]# mysqldump -uroot -p*** --databases zabbix > zabbix_database.sql
[root@node03 ~]#

1.5.3 备份多个数据库：

xxxxxxxxxx
[root@node03 ~]# mysqldump -uroot -p*** --databases zabbix mysql > zabbix_mysql_database.sql
[root@node03 ~]#

1.5.4 备份所有数据库：

xxxxxxxxxx
[root@node03 ~]# mysqldump -uroot -p*** --all-databases > all_databases.sql
[root@node03 ~]#
或者：
[root@node03 ~]# mysqldump -uroot -p*** -A > all.sql
[root@node03 ~]#

1.5.5 备份zabbix数据库，并且记录pos点：

xxxxxxxxxx
[root@node03 ~]# mysqldump -uroot -p*** --master-data zabbix > zabbix_pos.sql
[root@node03 ~]#

1.5.6 备份数据库，并刷新日志：

xxxxxxxxxx
[root@node03 ~]# mysqldump -uroot -p*** --master-data --flush-logs zabbix > zabbix_pos_flush.sql
[root@node03 ~]#