数据库 之 Mysql主从复制的读写分离

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了数据库 之 Mysql主从复制的读写分离相关的知识,希望对你有一定的参考价值。

1  概述

一般而言,主节点只有一个,从节点有多个,从节点只支持读操作,主节点支持写操作。

实现读写分离有两种解决,一是在程序端实现,二是加中间层实现,一般要对客户端透明,所以建议最好加中间层来实现。

中间层有如下几个软件:

mysql-proxy : 后续的atlas是基于mysql-proxy的改进版本,atlas开源项目依然处于维护中。

amoeba for MySQL:读写分离、分片;

        cobar:分片框架,基于amoeba版本的升级,基于java开发,因此要安装jdk

        mycat: 后续的版本是OneProxy

OneProxy:双授权。有商业公司在维护,支持到mysql5.7版本。是一个较好的选择,有开源版本

MaxScale:是mariadb负责维护,也是双授权,但是配置接口使用不方便。

ProxySQL:是DBA团队研发的,高性能的开源的mysql代理服务器的中间层,这个是一个较好的选择,8大性能介绍见官网:http://www.proxysql.com/。代码托管在github:

https://github.com/sysown/proxysql/releases

AliSQL:阿里公司开发的。已经开源。

如果不使用以上的sql 代理实现读写分离,因为读写分离由延迟,数据不一致等问题,建议可以使用双主或多主模型是无须实现读写分离,仅需要负载均衡,使用haproxy, nginx, lvs, ...等工具进行调度,后端mysql集群有如下两个方案:

使用pxc工具:Percona XtraDB Cluster

或者使用MariaDB Cluster,但是集群可能会由于资源争用导致死锁

这里将演示proxysql进行演示

2  Proxysql配置文件介绍

proxysql的所有配置都定义在一张admin表里。可以使用sql语句进行更改配置,直接更改运行时的配置信息。认证和授权可以由后端来实现,也可以在在前端proxy做检查,将有限的特定账号放在代理服务器上来实现验证,代理服务器访问后端服务器也需要验证,这个代理的权限需要拥有所有账号访问后端的权限

配置文件/etc/proxysql.cnf介绍如下

ProxySQL:建议通过keepalive配置成proxysql高可用,只要ProxySQL配置一样就可以,因为ProxySQL没有状态

配置示例:

datadir="/var/lib/proxysql" #放置数据

admin_variables=   #管理变量

{

admin_credentials="admin:admin" #类似varnish的6082端口,这里是监听在6032端口,这种接口不要开发给远程访问,因为该接口是管理接口

mysql_ifaces="127.0.0.1:6032;/tmp/proxysql_admin.sock" 

}

mysql_variables=  #连接后端服务器的变量,一般只需更改 interfaces参数,其他采用默认值即可

{

threads=4

max_connections=2048

default_query_delay=0

default_query_timeout=36000000 

have_compress=true

poll_timeout=2000 #轮询的超时时长

interfaces="0.0.0.0:3306;/tmp/mysql.sock"  #建议监听标准端口

default_schema="information_schema"

stacksize=1048576

server_version="5.5.30"

connect_timeout_server=3000 #连接后端的超时时长

monitor_username="monitor"#后端主机需要拥有该账号才能监控

monitor_password="monitor"

monitor_history=600000  #每个多长时间重连一次

monitor_connect_interval=60000

monitor_ping_interval=10000

monitor_read_only_interval=1500

monitor_read_only_timeout=500

ping_interval_server=120000

ping_timeout_server=500

commands_stats=true

sessions_sort=true

connect_retries_on_failure=10 #后端主机错误重试的次数

}

mysql_servers =  #定义mysql服务器主机,每一个主机用花括号隔开

(

{

address = "172.18.0.67" # no default, required . If port is 0 , address is interpred as a Unix Socket Domain

port = 3306           # no default, required . If port is 0 , address is interpred as a Unix Socket Domain

hostgroup = 0           # no default, required

status = "ONLINE"     # default: ONLINE

weight = 1            # default: 1

compression = 0       # default: 0

},  #注意,最后一个数据项不能跟逗号

{

address = "172.18.0.68"

port = 3306

hostgroup = 1

status = "ONLINE"     # default: ONLINE

weight = 1            # default: 1

compression = 0       # default: 0

},

{

address = "172.18.0.69" #这里架构不一样不用写69,因为69此时是代理了,不是后端的

port = 3306

hostgroup = 1

status = "ONLINE"     # default: ONLINE

weight = 1            # default: 1

compression = 0       # default: 0

}

)

mysql_users: #支持的用户账号,以下定义的账号是在后端mysql服务器上授权

(

{

username = "root"

password = "mageedu"

default_hostgroup = 0 #0表示默认发给主节点

max_connections=1000

default_schema="mydb"

active = 1  #表示用户处于激活状态

}

)

mysql_query_rules: #定义查询的规则,规则的前后顺序很关键,支持正则表达式格式,

注意,以下是通用规则,可以启用

(

{

    rule_id=1

    active=1

    match_pattern="^SELECT .* FOR UPDATE$"

    destination_hostgroup=0

    apply=1

},

{

    rule_id=2

    active=1

    match_pattern="^SELECT"

    destination_hostgroup=1

    apply=1

}

)

scheduler=  #定义调度器

(

)

mysql_replication_hostgroups=  #真正定义组的用途,如定义读写组

(

{

writer_hostgroup=0 #定义主组,写功能

reader_hostgroup=1 #定义从组,读功能

comment="test repl 1" #注释信息

}

)

3  例子 Proxysql实现读写分离

192.168.1.75为代理服务器,一般情况下,生产环境代理需要有两个网段的ip,降低IO压力,公网ip提供给客户端访问,私有ip对内部mysql集群,但是实验,这里仅配置一个网段的ip

192.168.1.71为主服务器,192.168.1.73为从服务器

75上安装proxysql

[[email protected] ~]#yum -y install /root/proxysql-1.4.5-1-centos7.x86_64.rpm 

修改配置文件

[[email protected] ~]#vim /etc/proxysql.cnf

datadir="/var/lib/proxysql"

admin_variables=

{

admin_credentials="admin:admin"

mysql_ifaces="127.0.0.1:6032;/tmp/proxysql_admin.sock"

}

mysql_variables=

{

threads=4

max_connections=2048

default_query_delay=0

default_query_timeout=36000000

have_compress=true

poll_timeout=2000

interfaces="0.0.0.0:3306;/tmp/mysql.sock"

default_schema="information_schema"

stacksize=1048576

server_version="5.5.30"

connect_timeout_server=3000

monitor_username="monitor"

monitor_password="monitor"

monitor_history=600000

monitor_connect_interval=60000

monitor_ping_interval=10000

monitor_read_only_interval=1500

monitor_read_only_timeout=500

ping_interval_server_msec=120000

ping_timeout_server=500

commands_stats=true

sessions_sort=true

connect_retries_on_failure=10

}

mysql_servers =

(

{

address = "192.168.1.71" # no default, required . If port is 0 , address is interpred as a Unix Socket Domain

port = 3306           # no default, required . If port is 0 , address is interpred as a Unix Socket Domain

hostgroup = 0         # no default, required

status = "ONLINE"     # default: ONLINE

weight = 1            # default: 1

compression = 0       # default: 0

},

{

address = "192.168.1.73" # no default, required . If port is 0 , address is interpred as a Unix Socket Domain

port = 3306           # no default, required . If port is 0 , address is interpred as a Unix Socket Domain

hostgroup = 1         # no default, required

status = "ONLINE"     # default: ONLINE

weight = 1            # default: 1

compression = 0       # default: 0

}

)

mysql_users:

(

{

username = "proxyadm" # no default , required

password = "pass1234" # default: ''

default_hostgroup = 0 # default: 0

active = 1            # default: 1

}

)

mysql_query_rules:

(

{

rule_id=1

active=1

match_pattern="^SELECT .* FOR UPDATE$"

destination_hostgroup=0

apply=1

},

{

rule_id=2

active=1

match_pattern="^SELECT"

destination_hostgroup=1

apply=1

}

)

scheduler=

(

)

mysql_replication_hostgroups=

(

        {

                writer_hostgroup=0

                reader_hostgroup=1

                comment="test repl 1"

       }

)


在后端所有服务器上授权可以管理的账号,建议密码不包含大写字母,可能问题,因为用管理接口查看到的mysql_users,当配置文件写入的账号密码是大写字母的时候,这张表查看到的是小写字母,所以建议授权时密码都用小写

MariaDB [sunnydb]> grant all on *.* to 'proxyadm'@'192.168.1.%' identified by 'pass1234';

启动proxysql服务

[[email protected] ~]#systemctl start proxysql

查看状态

[[email protected] ~]#service proxysql status;

连接服务接口3306

查看proxysql的数据

[[email protected] ~]#ls /var/lib/proxysql/

测试,连接mysql接口,Server version: 5.5.30 (ProxySQL)

[[email protected] ~]#mysql -uproxyadm -ppass1234 -h 192.168.1.75

或者,打开管理接口Server version: 5.5.30 (ProxySQL Admin Module)

MySQL [sunny]> show databases;

连接的主服务器节点,这个是在配置中的default组定义,此时,写操作都被调度到主节点上,读操作都在从服务器上

注意,由于读写分离,如果在mysql读服务器(从)的表能被读出,必须是在mysql从服务器上有对应的库和表,如果从服务器上么有对应的内容,主服务器上有只能被看到表,但是不能被select出内容

连接管理接口6302

[[email protected] ~]#mysql -S /tmp/proxysql_admin.sock -uadmin -padmin;

连接上proxysql后,用show databases 和show tables可以看到相关的表和库,但是这些数据是模拟出来的

如运行MySQL [(none)]> select * from mysql_servers;

可以看到配置文件里配置的mysql_servers配置段可以看到转化为表里的数据,所以直接修改表,相当于是修改了配置文件,直接是运行时生效


以上是关于数据库 之 Mysql主从复制的读写分离的主要内容,如果未能解决你的问题,请参考以下文章

MySql之主从复制及读写分离

数据库 之 Mysql主从复制的读写分离

数据库之MySQL主从复制与读写分离

mysql优化之主从复制与读写分离部署详细教程

学习MySQL之主从复制与读写分离一篇就够了!(数据库并发能力的提升)

mysql主从复制读写分离之——proxysql应用