Linux 搭建 MariaDB Galera Cluster 高可用集群

Posted 笨小孩@GF 知行合一

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Linux 搭建 MariaDB Galera Cluster 高可用集群相关的知识,希望对你有一定的参考价值。

  • MariaDB Galera Cluster 集群介绍

  • MariaDB Galera Cluster(下文简称MGC集群),是一套在mysql innodb存储引擎上面实现多主、数据实时同步以及强一致性的关系存储架构,业务层面无需做读写分离工作,数据库读写压力都能按照既定的规则分发到 各个节点上去,在数据方面完全兼容 MariaDB 和 MySQL。

  • MGC 是基于 Galera 协议的高可用方案:
    Galera 是 Codership 提供的多主数据同步复制机制,可以实现多个节点间的数据同步复制以及读写,并且可保障数据库的服务高可用及数据一致性。
  • MGC 集群是由节点组成的,推荐配置至少 3 个节点,但是也可以运行在 2 个节点上。
  • 每个节点都包含完整的数据副本。
  • MGC 最大的优势:强一致性、无同步延迟

  • MGC 的优点:

        1、同步复制 Synchronous replication

        2、Active-active multi-master 拓扑逻辑

        3、可对集群中任一节点进行数据读写

        4、自动成员控制,故障节点自动从集群中移除

        5、自动节点加入

        6、真正并行的复制,基于行级

        7、直接客户端连接,原生的 MySQL 接口

        8、每个节点都包含完整的数据副本

        9、多台数据库中数据同步由 wsrep 接口实现

  • MGC 的缺点:

                  1、目前的复制仅仅支持InnoDB存储引擎,任何写入其他引擎的表,包括mysql.*表将不会复制,但是DDL语句会被复制,因此创建用户将会被复制,但是insert into mysql.user…将不会被复制

        2、DELETE操作不支持没有主键的表,没有主键的表在不同的节点顺序将不同,如果执行SELECT…LIMIT… 将出现不同的结果集.

        3、在多主环境下LOCK/UNLOCK TABLES不支持,以及锁函数GET_LOCK(), RELEASE_LOCK()…

        4、查询日志不能保存在表中。如果开启查询日志,只能保存到文件中。

        5、允许最大的事务大小由wsrep_max_ws_rows和wsrep_max_ws_size定义。任何大型操作将被拒绝。如大型的LOAD DATA操作。

        6、由于集群是乐观的并发控制,事务commit可能在该阶段中止。如果有两个事务向在集群中不同的节点向同一行写入并提交,失败的节点将中止。对 于集群级别的中止,集群返回死锁错误代码(Error: 1213 SQLSTATE: 40001 (ER_LOCK_DEADLOCK)).

        7、XA事务不支持,由于在提交上可能回滚。

        8、整个集群的写入吞吐量是由最弱的节点限制,如果有一个节点变得缓慢,那么整个集群将是缓慢的。为了稳定的高性能要求,所有的节点应使用统一的硬件。

        9、集群节点建议最少3个。

        10、如果DDL语句有问题将破坏集群。

  • MGC 原理描述
    MGC 会使用大概 4 个端口号
    3306:数据库对外服务的端口号
    4444:请求 SST。 SST: 指数据镜象传输端口,使用方法 xtrabackup , rsync ,mysqldump
    4567: 组成员之间进行沟通的一个端口号
    4568: 传输 IST 用的。相对于 SST 来说的一个增量。
    PXC 的架构示意图
  • 部署 MGC 高可用集群

  • 集群 统一使用 CentOS 7.9
     主  机  名IP 地 址版  本
    mysql1192.168.1.231MariaDB 10.7
    mysql2192.168.1.232MariaDB 10.7
    mysql3192.168.1.233MariaDB 10.7
  • 首先配置好主机名、静态IP、关闭 firewalld 防火墙、SElinux、交换分区 swap、修改内核参数、配置阿里云 repo 源、配置时间同步等等

  • 安装 MGC 集群
    Installing MariaDB with yum/dnf - MariaDB Knowledge Base

  • MGC 属于 Multi-master Replication(多主复制)。
  • 多主复制意味着支持对任意节点的读写,数据会同步复制到其他节点。
  • 配置 yum 源

  • 分别在 mysql1 、mysql2 和 mysql3 上做如下操作:
    vim /etc/yum.repos.d/MariaDB.repo

    [mariadb]
    name = MariaDB
    baseurl = http://yum.mariadb.org/10.7/centos7-amd64
    gpgkey=https://yum.mariadb.org/RPM-GPG-KEY-MariaDB
    gpgcheck=1
    
    或者使用国内yum源
    [mariadb]
    name=mariadb
    baseurl=https://mirrors.tuna.tsinghua.edu.cn/mariadb/yum/10.7/centos7-amd64/
    gpgkey=https://yum.mariadb.org/RPM-GPG-KEY-MariaDB
    gpgcheck=1
    


    导入 KEY
    rpm --import https://yum.mariadb.org/RPM-GPG-KEY-MariaDB
    #安装 qpress
    yum -y install https://repo.percona.com/yum/release/7/RPMS/x86_64/qpress-11-1.el7.x86_64.rpm

    yum -y install MariaDB-server galera-4 MariaDB-client MariaDB-shared MariaDB-backup MariaDB-common  MariaDB-server-debuginfo MariaDB-client-debuginfo MariaDB-shared-debuginfo MariaDB-backup-debuginfo MariaDB-common-debuginfo
  • 修改数据库 root 密码

  • 三个节点都安装完软件包之后,接下来只对第一个节点 mysql1 进行修改密码操作。

     #先启动 maridbd服务。
    systemctl start mysqld       

    使用空密码登录 MySQL
    mysql -u root -p
    更改 root 用户的密码,之后退出。
    mysql> alter user 'root'@'localhost' identified by 'NEWPASSWORD';
    mysql> exit
    关闭 MySQL 服务。
    systemctl stop mysqld
     
  • 注意:以上修改密码操作只需在第一个节点进行即可。配置好第二个和第三个节点,启动服务操作后会自动复制到其他节点中。

  • mysql2 和 mysql3 上的 mysql 服务,现在不需要启动。

  • 配置 MGC 集群第 1 个节点
    配置第一个节点 mysql1 的 /etc/my.cnf.d/server.cnf
    vim /etc/my.cnf.d/server.cnf
    [client]
    socket=/var/lib/mysql/mysql.sock
    
    [mysqld]
    server-id=1
    datadir=/var/lib/mysql
    socket=/var/lib/mysql/mysql.sock
    log-error=/var/log/mysqld.log
    pid-file=/var/run/mysqld/mysqld.pid
    binlog_expire_logs_seconds=604800
    skip-external-locking
    skip-name-resolve
    max_connections=5000
    connect_timeout=5
    wait_timeout=600
    max_allowed_packet=16M
    thread_cache_size=128
    sort_buffer_size=4M
    bulk_insert_buffer_size=16M
    tmp_table_size=32M
    max_heap_table_size=32M
    
    character-set-client-handshake = FALSE
    character-set-server = utf8mb4
    collation-server = utf8mb4_unicode_ci
    init_connect='SET NAMES utf8mb4'
    
    wsrep_causal_reads=ON
    wsrep_provider_options="gcache.size=128M"
    wsrep_certify_nonPK=ON
    log-bin=/data/mariadb/data/mysql-bin
    log_slave_updates=1
    query_cache_size=0
    wsrep_on=ON
    wsrep_provider=/usr/lib64/galera-4/libgalera_smm.so
    wsrep_cluster_name=MGC-Cluster
    wsrep_cluster_address=gcomm://192.168.1.231,192.168.1.232,192.168.1.233
    wsrep_node_name=mysql1
    wsrep_node_address=192.168.1.231
    wsrep_sst_method=xtrabackup-v2
    wsrep_sst_method=rsync
    binlog_format=row  
    default_storage_engine=InnoDB  
    innodb_autoinc_lock_mode=2
    wsrep_slave_threads=8
    innodb_flush_log_at_trx_commit=0
    innodb_buffer_pool_size=500M
    

    /etc/my.cnf.d/server.cnf 增加的参数说明:
    # 集群通讯地址
    wsrep_cluster_address=gcomm://192.168.1.231,192.168.1.232,192.168.1.233
    # 本节点的地址
    wsrep_node_address=192.168.1.231
    # 本节点的名称
    wsrep_node_name= mysql1

    这些内容也同样对 mysql2.和 mysql3 进行配置,只有两个参数 wsrep_node_name, wsrep_node_address 配置的值需要修改一下

  • 扩展:主配置文件 my.cnf 其他参数说明
    wsrep_provider #指定 Galera 库的路径。
    wsrep_cluster_name #指定集群的逻辑名称,集群内的所有节点,这个名称必须一致。
    wsrep_cluster_address #指定集群内节点的 IP 地址,建议将集群节点都配上。
    wsrep_node_name #指定单个节点的逻辑名称,如果没有指定,将使用 hostname 作为逻辑名称。
    wsrep_node_address #指定此特定节点的 IP 地址。
    wsrep_sst_method #默认的使用 Percona Xtrabackup 进行 State Snapshot Transfer 
    (SST),强烈建议使用 wsrep_sst_method=xtrabackup-v2
    binlog_format #Galera 只支持 row-level replication,默认设置为 binlog_format=ROW。
    innodb_autoinc_lock_mode #Galera 只支持 lock mode 为 2 的 InnoDB 引擎,默认设置为 innodb_autoinc_lock_mode=2。

  • 引导 GRC 集群启动并将其他节点加到集群中

  • 1、在第一个节点上引导 GRC 集群启动
    在第一个节点 mysql1 使用如下命令引导 PXC 集群启动
    galera_new_cluster

    为确保初始化完成,可以使用如下命令查看
    登录 MySQL
    mysql -u root -p
    mysql> show status like 'wsrep%';

  • 可以看到集群数量是 1,本节点为 Synced 状态,表示连接成功,并且准备好进行 write-set replication。

  • 注意:所有其他节点的数据和配置都会被第一个节点的数据覆盖,不要同时加入多个节点,避免数据或网络开销过大。等一个节点加入成功后,再加入另一个新节点。

  • 启动第二个节点

  • systemctl start mysqld
    启动完成后,mysql2 会接到 mysql1的数据,可以使用如下命令查看状态
    mysql -u root -p
    登录到 MySQL 后,输入如下命令
    mysql> show status like 'wsrep%';

    可以看到 wsrep_cluster_size 的值是 2 表示集群已经有 2 个节点了。
    wsrep_local_state_comment 的值是 Synced 表示已经同步了。

  • 注意 如果 wsrep_local_state_comment 的状态是 Joiner,表示正在同步,请不要启动第三个节点的服务。
  • 启动第三个节点

  • 注意:确认好第二个节点的状态为 Synced 后,再启动第三个节点。
    步骤与启动第二个节点相同
    systemctl start mysqld
    启动完成后,mysql3 会接到集群,可以使用如下命令查看状态
    mysql -u root -p
    登录到 MySQL 后,输入如下命令
    mysql> show status like 'wsrep%';

  • 测试数据同步

  • 在 mysql3 上删除 test 库
    drop database test;

  • 模拟故障

  • 测试 单点故障

  • 首先停止 mysql3
  • 在 mysql2 上观察

  •  停止 mysql1

  • 测试 全部故障

  • 这时候直接 start 发现无法启动

  • 因为是同时关闭,seqno 号无法提供有效的信息,无从判断最后的有效节点

  • 在任意节点

  • 模拟 2台故障

  • MGC 集群只有有任意节点存活,其他节点即可加入。

  • seqno 选择数值大的优先启动

  • 全新节点加入

  • 配置好主机名、静态IP、关闭 firewalld 防火墙、SElinux、交换分区 swap、修改内核参数、配置阿里云 repo 源、配置时间同步等等
  • 所有节点都要添加 新节点的 IP和主机名
  • 准备工作做完后,在新节点安装 MGC
  • yum -y install MariaDB-server  MariaDB-Galera-server galera-4 MariaDB-client MariaDB-shared MariaDB-backup MariaDB-common MariaDB-server-debuginfo MariaDB-client-debuginfo MariaDB-shared-debuginfo MariaDB-backup-debuginfo MariaDB-common-debuginfo
  • 启动 mysql

  • 加入 slave 节点
  • 创建 slave 复制用户

垣份手游 娱乐平台-手游公益服

以上是关于Linux 搭建 MariaDB Galera Cluster 高可用集群的主要内容,如果未能解决你的问题,请参考以下文章

Linux 搭建 MariaDB Galera Cluster 高可用集群

MariaDB Galera Cluster环境搭建及高可用测试

mariadb galera启动问题

初见 MariaDB Galera Cluster

实战Mariadb galera Cluster集群架构

MariaDB Galera Cluster(mariadb10.1.22)部署