企业实战-KeepAlived+Redis实现主从热备秒级切换

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了企业实战-KeepAlived+Redis实现主从热备秒级切换相关的知识,希望对你有一定的参考价值。

最近公司生产环境需要做一个Redis+Keepalived的集群架构,分别用六个端口,实现多路复用,最终实现主从热备、秒级切换。


一、部署Redis集群


首先用两台虚拟机模拟6个节点,一台机器3个节点,创建出3 master、3 salve 环


境。然后模拟成功,方可去线上生产服务器部署。


redis 采用 redis-3.2.4 版本。


两台虚拟机都是 CentOS ,一台 CentOS6.5 (IP:192.168.31.245),一台 


CentOS7(IP:192.168.31.210) 。

安装过程


1. 下载并解压



cd/root/software
 
wget http://download.redis.io/releases/redis-3.2.4.tar.gz
 
tar-zxvf redis-3.2.4.tar.gz 



2. 编译安装



cd redis-3.2.4make && make install



3. 将 redis-trib.rb 复制到 /usr/local/bin 目录下



cd srccp redis-trib.rb /usr/local/bin/ 



4. 创建 Redis 节点


首先在 192.168.31.245 机器上 /root/software/redis-3.2.4 目录下创建 redis_cluster 


目录;



mkdir redis_cluster



在 redis_cluster 目录下,创建名为7000、7001、7002的目录,并将 redis.conf 拷贝到这三个目录中



mkdir 700070017002

cp redis.conf redis_cluster/7000cp redis.conf redis_cluster/7001cp redis.conf redis_cluster/7002



分别修改这三个配置文件,修改如下内容



port  7000                            //端口7000,7002,7003


bind 本机ip                           //默认ip为127.0.0.1 需要改为其他节点机器可访问的ip 否则创建集群时无法访问对应的端口,无法创建集群


daemonize   yes      //redis后台运行pidfile  


/var/run/redis_7000.pid          //pidfile文件对应7000,7001,7002


cluster-enabled  yes              //开启集群  把注释#去掉


cluster-config-file nodes_7000.conf   //集群的配置  配置文件首次启动自动生成 


7000,7001,7002cluster-node-timeout  15000   //请求超时  默认15秒,可自行设置


appendonly  yes                       //aof日志开启 有需要就开启,它会每次写操作都记


录一条日志

 

接着在另外一台机器上(192.168.31.210),的操作重复以上三步,只是把目录改


为7003、7004、7005,对应的配置文件也按照这个规则修改即可



5. 启动各个节点



第一台机器上执行(在/src目录下)



redis-server redis_cluster/7000/redis.conf
redis-server
redis_cluster/7001/redis.conf
redis-server redis_cluster/7002/redis.conf



另外一台机器上执行



redis-server redis_cluster/7003/redis.conf
redis-server redis_cluster/7004/redis.conf
redis-server redis_cluster/7005/redis.conf



6. 检查 redis 启动情况



##一台机器



ps -ef | grep redis
root      610201002:14 ?        00:00:01 redis-server 
127.0.0.1:7000
[cluster]    root      610241002:14 ?        00:00:01 redis-server 127.0.0.1:7001 [cluster]    root      610291002:14 ?        00:00:01 redis-server 127.0.0.1:7002 [cluster]

  


netstat -tnlp | grep redistcp
 00127.0.0.1:170000.0.0.0:*                 LISTEN      61020/redis-server tcp        00127.0.0.1:170010.0.0.0:*                 LISTEN      61024/redis-server tcp        00127.0.0.1:170020.0.0.0:*                 LISTEN      61029/redis-server
tcp        00127.0.0.1:70000.0.0.0:*                   LISTEN      61020/redis-server tcp        00127.0.0.1:70010.0.0.0:*                   LISTEN      61024/redis-server tcp           
00127.0.0.1:70050.0.0.0:*                    LISTEN      9971/redis-server 1



##另外一台机器


ps -ef | grep redisroot       
99571002:32 ?        00:00:01 redis-server 127.0.0.1:7003 [cluster]root       99641002:32 ?        00:00:01 redis-server
127.0.0.1:7004 [cluster]root       99711002:32 ?        00:00:01 redis-server 127.0.0.1:7005 [cluster]root      100654744002:38 pts/000:00:00 grep --color=auto redis



netstat -tlnp | grep redistcp        00127.0.0.1:170030.0.0.0:*          LISTEN      9957/redis-server 1tcp        00127.0.0.1:170040.0.0.0:*               LISTEN      9964/redis-server 1tcp        00127.0.0.1:170050.0.0.0:*               LISTEN      9971/redis-server 1tcp       
00127.0.0.1:70030.0.0.0:*                  LISTEN      9957/redis-server 1tcp        00127.0.0.1:70040.0.0.0:*                 LISTEN      9964/redis-server 1tcp        00127.0.0.1:70050.0.0.0:*                 LISTEN      9971/redis-server
1


7.创建集群



Redis 官方提供了 redis-trib.rb 这个工具,就在解压目录的 src 目录中,第三步中已


将它复制到 /usr/local/bin 目录中,可以直接在命令行中使用了。使用下面这个命令


完成安装。



redis-trib.rb  create  --replicas 1 192.168.31.245:7000192.168.31.245:7001192.168.31.245:7002192.168.31.210:7003192.168.31.210:7004192.168.31.210:7005




其中,前三个 ip:port 为第一台机器的节点,剩下三个为第二台机器。等等,出错了。这个工具是用 ruby 实现的,所以需要安装 ruby。安装命令如下:



yum -y installruby ruby-devel rubygems rpm-build 
 
gem installredis




之后再运行 redis-trib.rb 命令,会出现如下提示:



技术分享



输入 yes 即可,然后出现如下内容,说明安装成功。



技术分享


8. 集群验证



在第一台机器上连接集群的7002端口的节点,在另外一台连接7005节点,连接方式为 redis-cli


-h 192.168.31.245 -c -p 7002  ,加参数 -C 可连接到集群,因为上面 redis.conf 将 


bind 改为了ip地址,所以 -h 参数不可以省略。


在7005节点执行命令  set hello world ,执行结果如下:


技术分享



在另外一台7002端口,查看 key 为 hello 的内容, get hello  ,执行结果如下:


技术分享


说明集群成功


简单说一下原理


redis cluster在设计的时候,就考虑到了去中心化,去中间件,也就是说,集群中的


每个节点都是平等的关系,都是对等的,每个节点都保存各自的数据和整个集群的


状态。每个节点都和其他所有节点连接,而且这些连接保持活跃,这样就保证了


我们只需要连接集群中的任意一个节点,就可以获取到其他节点的数据。


Redis 集群没有并使用传统的一致性哈希来分配数据,而是采用另外一种叫做哈希槽


 (hash slot)的方式来分配的。redis cluster 默认分配了 16384 个slot,当我们set一个


key 时,会用CRC16算法来取模得到所属的slot,然后将这个key 分到哈希槽区间的节点上,


具体算法就是:CRC16(key) % 16384。所以我们在测试的时候看到set 和 get 的时候,直接


跳转到了7000端口的节点。


Redis 集群会把数据存在一个 master 节点,然后在这个 master 和其对应的salve 之


间进行数据同步。当读取数据时,也根据一致性哈希算法到对应的 master 节点获取


数据。只有当一个master 挂掉之后,才会启动一个对应的 salve 节点,充当 master 



需要注意的是:必须要3个或以上的主节点,否则在创建集群时会失败,并且当存活的主节


点小于总节点数的一半时,整个集群就无法提供服务了。


二、部署Keepalived,实现主从热备、秒级切换


redis1:192.168.9.70


redis2:192.168.9.71


VIP地址:192.168.9.91



1、安装keepalived



yum install keepalived



2、修改配置文件



redis1:



[[email protected] ~]# cat /etc/keepalived/keepalived.conf 
/bin/bash: Configuration: command not found
bal_defs {
   notification_email {
        [email protected]
   }
   notification_email_from [email protected]
   smtp_server 127.0.0.1
   smtp_connect_timeout 30
   router_id LVS_DEVEL
}
vrrp_script chk_redis {
    script "/etc/keepalived/chk_redis.sh"
    interval 2
    weight 2
}
vrrp_instance VI_1 {
    state MASTER
    interface ens160
    virtual_router_id 51
    priority 99
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    track_script {
        chk_redis
    }
    virtual_ipaddress {
        192.168.9.91
    }
    notify_backup "/etc/init.d/redis restart"
    notify_fault "/etc/init.d/redis stop"
}



redis2:



[[email protected] ~]# cat /etc/keepalived/keepalived.conf 
/bin/bash: Configuration: command not found
bal_defs {
   notification_email {
        [email protected]
   }
   notification_email_from [email protected]
   smtp_server 127.0.0.1
   smtp_connect_timeout 30
   router_id LVS_DEVEL
}
vrrp_script chk_redis {
    script "/etc/keepalived/chk_redis.sh"
    interval 2
    weight 2
}
vrrp_instance VI_1 {
    state MASTER
    interface ens160
    virtual_router_id 51
    priority 99
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    track_script {
        chk_redis
    }
    virtual_ipaddress {
        192.168.9.91
    }
    notify_backup "/etc/init.d/redis restart"
    notify_fault "/etc/init.d/redis stop"
}



redis_chk.sh:



[[email protected] ~]# cat /etc/keepalived/redis_chk.sh 
#!/bin/bash
if [ $(ps -ef| grep -v grep | grep :7000 | wc -l) -eq 0 ];then
    /etc/init.d/redis7000 start
fi
if [ $(ps -ef| grep -v grep | grep :7001 | wc -l) -eq 0 ];then
    /etc/init.d/redis7001 start
fi
if [ $(ps -ef| grep -v grep | grep :7002 | wc -l) -eq 0 ];then
    /etc/init.d/redis7002 start
fi



3、开启服务、验证是否有VIP地址



[[email protected] ~]# systemctl restart keepalived
[[email protected] ~]# ip addr show dev ens160 
2: ens160: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc mq state UP qlen 1000
    link/ether 00:50:56:94:7b:cd brd ff:ff:ff:ff:ff:ff
    inet 192.168.9.71/24 brd 192.168.9.255 scope global ens160
       valid_lft forever preferred_lft forever
    inet 192.168.9.91/32 scope global ens160
       valid_lft forever preferred_lft forever
    inet6 fe80::250:56ff:fe94:7bcd/64 scope link 
       valid_lft forever preferred_lft forever



由此,所有的操作都完成,可以线上部署咯,O(∩_∩)O~~!!!



本文出自 “一盏烛光” 博客,谢绝转载!

以上是关于企业实战-KeepAlived+Redis实现主从热备秒级切换的主要内容,如果未能解决你的问题,请参考以下文章

Redis 主从 keepalived高可用 实现 VIP 自动漂移

redis主从复制及keepalived方式实现高可用测试

Redis+Keepalived高可用环境部署记录

利用redis主从+keepalived实现高可用

Redis集群方案之Twemproxy+HAProxy+Keepalived+Sentinel+主从复制(待实践)

Redis+Keepalived实现高可用