redis主从复制及keepalived方式实现高可用测试

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了redis主从复制及keepalived方式实现高可用测试相关的知识,希望对你有一定的参考价值。

前言:

redis高可用有Sentinel、Cluster等多种方式,本文主要介绍keepalived方式。


架构:

技术分享图片



配置:

hostname
ip
os
redis版本
keepalived版本
备注
redis-master172.27.9.30
Centos7.3.1611
4.0.10
1.3.5关闭防火墙和selinux
redis-slave172.27.9.31
Centos7.3.16114.0.101.3.5关闭防火墙和selinux


一、redis安装

redis安装有yum和编译两种方式,本文以编译方式安装,参考文档为官网安装文档

1.gcc安装

[[email protected] ~]# yum -y install gcc


2.下载安装包

[[email protected] ~]# wget http://download.redis.io/redis-stable.tar.gz


3.解压编译

[[email protected] ~]# tar xvzf redis-stable.tar.gz
[[email protected] ~]# cd redis-stable
[[email protected] redis-stable]# make
[[email protected] redis-stable]# make install


4.修改配置文件

[[email protected] redis-stable]# mkdir /etc/redis[[email protected] redis-stable]# mkdir -p /var/redis/6379
[[email protected] redis-stable]# cp redis.conf /etc/redis/6379.conf
[[email protected] redis-stable]# cd /etc/redis/
[[email protected] redis]# cp 6379.conf 6379.conf.bak
[[email protected] redis]# grep -Ev '^$|#' 6379.conf.bak > 6379.conf

主要配置修改如下:

#bind 127.0.0.1
protected-mode no
daemonize yes
pidfile /var/run/redis_6379.pid
logfile /var/log/redis_6379.log
dir /var/redis/6379


5.制作启动服务

[[email protected] redis-stable]# cp utils/redis_init_script /etc/init.d/redis_6379


6.启动服务并加入开机启动

[[email protected] redis]# service redis_6379 start
[[email protected] redis]# chkconfig redis_6379 on


7.RedisDesktopManager管理工具

该工具为redis图形化管理工具

软件下载:https://pan.baidu.com/s/1no0IWcIEBapfehNi8dfCfw 密码:7dvc

连接设置:

技术分享图片

连接后效果

技术分享图片


二、redis主从复制及持久化

1.从服务器设置

redis主从复制很简单,只需要在从服务器配置文件新增一条配置即可

[[email protected] redis]# sed -i '$a slaveof 172.27.9.30 6379' /etc/redis/6379.conf


2.主从测试

2.1主机上写入值

[[email protected] ~]# redis-cli set test-key abc
OK

查看从机redis键值:

技术分享图片

2.2从机写入值

[[email protected] redis]# redis-cli set test-key 123
(error) READONLY You can't write against a read only slave.

发现报错,处于slave状态redis无法写入。


3.持久化

redis持久化有RDB和AOF两种方式,默认持久化为RDB方式,关闭默认持久化只需要把默认配置注释就行:

#save 900 1
#save 300 10
#save 60 10000


三、keepalived安装配置

1.keepalived安装

[[email protected] ~]# yum -y install keepalived


2.keepalived配置

[[email protected] ~]# more /etc/keepalived/keepalived.conf
! Configuration File for keepalived
global_defs {
   router_id master      #router_id 机器标识,通常为hostname,但不一定非得是hostname。故障发生时,邮件通知会用到。
}
  
vrrp_script chk_redis {
  script "/etc/keepalived/redis-check.sh"
  interval 2    #健康检查周期
  weight 30     #优先级变化幅度
  fall 2        #尝试两次都成功才成功
  rise 2        #尝试两次都失败才失败
}
 
vrrp_instance VI_1 {            #vrrp实例定义部分
    state MASTER               #设置lvs的状态,MASTER和BACKUP两种,必须大写 
    interface ens33               #设置对外服务的接口
    virtual_router_id 100        #设置虚拟路由标示,这个标示是一个数字,同一个vrrp实例使用唯一标示 
    priority 100               #定义优先级,数字越大优先级越高,在一个vrrp——instance下,master的优先级必须大于backup
    advert_int 1              #设定master与backup负载均衡器之间同步检查的时间间隔,单位是秒
    authentication {           #设置验证类型和密码
        auth_type PASS         #主要有PASS和AH两种
        auth_pass 1111         #验证密码,同一个vrrp_instance下MASTER和BACKUP密码必须相同
    }
    virtual_ipaddress {         #设置虚拟ip地址,可以设置多个,每行一个
        172.27.9.100 
    }
    track_script {              #执行脚本chk_redis
        chk_redis
    }
    
notify_master "/etc/keepalived/redis-master.sh" #指定当切换为master时,执行的脚本
}

相比master,slave配置有3点不同:

router_id slave
state BACKUP 
priority 90


3.启动并设置开机启动

[[email protected] ~]# systemctl start keepalived
[[email protected] ~]# systemctl enable keepalived


四、expect安装

[[email protected] ~]# yum -y install expect

expect是一个提供自动交互的工具,本文notify_master中的脚本会使用到。


五、高可用脚本

1.redis-check.sh脚本

[[email protected] keepalived]# more redis-check.sh 
#!/bin/sh
rediscli="/usr/local/bin/redis-cli"
logfile="/var/log/redis_6379.log"
result=$($rediscli ping)
echo $result
echo "-------------------redis-check-------------------" >> $logfile
date >> $logfile
if [ $result == "PONG" ]; then : 
   echo "Success: the result is $result" >> $logfile 2>&1
   exit 0 
else 
   echo "Failed:the result is $result " >> $logfile 2>&1
   exit 1 
fi

该脚本为对redis状态检查


2.redis-master.sh脚本

[[email protected] keepalived]# more redis-master.sh
#!/bin/bash
rediscli="/usr/local/bin/redis-cli"
logfile="/var/log/redis_6379.log"
sync=`$rediscli info replication|grep master_sync_in_progress|awk -F: '{print $2}'|sed 's/
//'`
#sync=`/usr/local/bin/redis-cli info replication|grep master_sync_in_progress|awk -F: '{print $2}'`
echo $sync
echo "-------------------change to master-------------------" >> $logfile 2>&1
date >> $logfile
if [ $sync == 0 ]; then :
    echo "the master_sync_in_progress is 0 and excute slaveof no one" >>$logfile 2>&1
    $rediscli slaveof no one
elif [ $sync == 1 ]; then :
    sleep 10
    $rediscli slaveof no one
else
    echo "the host is master,do nothing" >>$logfile 2>&1
fi
/etc/keepalived/exp.sh 172.27.9.31 monitor >>$logfile 2>&1

该脚本为本文高可用切换的关键。

monitor为31的root密码;slave脚本的ip应改为172.27.9.30;该脚本为服务器切换为master时执行的脚本,首先会检查切换前与master的主从同步是否完成,然后利用expect工具跳到另一台服务器将其redis状态更改为slave。


3.exp.sh脚本

[[email protected] keepalived]# more exp.sh
#!/usr/bin/expect -f
set ip [lindex $argv 0 ]
set password [lindex $argv 1 ]
set timeout 30
spawn ssh [email protected]$ip
expect {
"*yes/no" { send "yes
"; exp_continue}
"*password:" { send "$password
";exp_continue }
}
expect "#*"  
send "/usr/local/bin/redis-cli slaveof 172.27.9.30 6379
"  
send  "exit
"  
expect eof

slave脚本中的ip为172.27.9.31;该脚本作用是跳到另一台服务执行slaveof命令。


六、测试

1.模拟redis服务异常

操作:停掉master的redis服务

预期:vip漂移,slave主机的redis状态切换为master

测试过程:

1.1停止master的redis服务

[[email protected] keepalived]# service redis_6379 stop

1.2查看虚ip

技术分享图片

技术分享图片

发现vip由30漂移至31

1.3查看redis状态

[[email protected] keepalived]# redis-cli info replication

技术分享图片

31的redis状态切换为master

1.4回切

启动30的redis服务

[[email protected] keepalived]# service redis_6379 start

查看vip和redis状态

30:

技术分享图片

31:

技术分享图片

结论:redis服务异常时会发生切换,从机会切换为master状态对外提供服务。


2.模拟keepalived服务异常

操作:停掉master的keepalived服务

预期:vip漂移,master的redis状态切换为slave,slave的redis状态切换为master

测试过程:

2.1停止master的keepalived服务

[[email protected] keepalived]# systemctl stop keepalived

2.2查看vip和redis状态

30:

技术分享图片

31:

技术分享图片

vip由30漂移至31且主从发生反转;开启keepalived服务会触发回切。

结论:keepalived服务异常时会发生切换,主从会反转。


3.模拟master宕机

操作:master关机

预期:vip漂移,slave的redis状态切换为master

测试过程:

3.1master服务器关机

[[email protected] ~]# init 0

3.2查看vip和redis状态

技术分享图片

vip漂移至31且状态切换为master;30开机会触发回切。

结论:master宕机时会发生切换,从机切换为master状态对外提供服务。


至此完成redis高可用测试。


以上是关于redis主从复制及keepalived方式实现高可用测试的主要内容,如果未能解决你的问题,请参考以下文章

redis如何实现高可用主从复制哨兵机制

keepalived实现redis双机高可用

Redis+Keepalived高可用环境部署记录

Redis集群方案之Twemproxy+HAProxy+Keepalived+Sentinel+主从复制(待实践)

Redis 主从 keepalived高可用 实现 VIP 自动漂移

Memcached主从复制+keepalived高可用架构