redis-cluster集群搭建

Posted zenghansen

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了redis-cluster集群搭建相关的知识,希望对你有一定的参考价值。

Redis集群搭建

要想搭建一个最简单的Redis集群,那么至少需要6个节点:3个Master和3个Slave。为什么需要3个Master呢?如果你了解过Hadoop/Storm/Zookeeper这些的话,你就会明白一般分布式要求基数个节点,这样便于选举(少数服从多数的原则)。

技术分享
Redis集群模型

这里,我将采用一种“偷懒”的方式,在一个Linux虚拟机上搭建6个节点的Redis集群。(因为开启6个Linux虚拟机,我的电脑完全扛不住)

实际上,思路很简单,我将在一台节点上开启6个Redis实例,并且这6个Redis各自有自己的端口。这样的话,相当于模拟出了6台机器了。然后在以这6个实例组建Redis集群就可以了。

第一步:为这6个实例创建好各自存放的目录

技术分享
想一想,为什么要这样做呢?

第二步:既然是要启动6个Redis实例,自然需要准备各自的配置文件

技术分享
拷贝redis.conf 6份

 

技术分享
6个Redis实例的具体配置

具体来说,需要注意下:由于在一台机器(192.168.99.121)上,因此每个实例应该有不同的端口;同时,每个实例显然会有自己的存放数据的地方;开启AOF模式(持久化);开启集群配置;开启后台模式;

注: 若该节点的配置文件(redis.conf)指定cluster-require-full-coverage为no的话, 其他节点挂了, 仍可以查询当前节点所负责slots中的数据。

第三步:实际上,Redis集群的操作在后文你可以看到是通过Ruby脚本来完成的,因此我们需要安装Ruby相关的RPM包,以及Redis和Ruby的接口包。

技术分享
yum install ruby
技术分享
yum install rubygems
技术分享
gem install redis

第四步:让Redis集群工作起来!

技术分享
启动6个Redis实例

接下来,我们要通过Ruby脚本来创建集群了。

技术分享
redis-trib.rb是操作Redis集群的脚本

[[email protected] bin]# ./redis-trib.rb create --replicas 1 192.168.99.121:8001 192.168.99.121:8002 192.168.99.121:8003 192.168.99.121:8004 192.168.99.121:8005 192.168.99.121:8006

技术分享
create redis cluster
技术分享
redis cluster info

首先,我们来看一下创建集群命令中 --replicas 1,这个代表什么意思呢?1其实代表的是一个比例,就是主节点数/从节点数的比例。那么想一想,在创建集群的时候,哪些节点是主节点呢?哪些节点是从节点呢?答案是将按照命令中IP:PORT的顺序,先是3个主节点,然后是3个从节点。这一点可以通过上面的2张图片印证。

其次,注意到图中slot的概念。slot对于Redis集群而言,就是一个存放数据的地方,就是一个槽。对于每一个Master而言,会存在一个slot的范围,而Slave则没有。在Redis集群中,依然是Master可以读、写,而Slave只读。数据的写入,实际上是分布的存储在slot中,这和以前1.X的主从模式是不一样的(主从模式下Master/Slave数据存储是完全一致的),因为Redis集群中3台Master的数据存储并不一样。这一点将在后续的实验中得到验证。

第五步:验证Redis集群搭建是否成功

技术分享
cluster info/cluster nodes
技术分享
搭建起来的Redis集群

 

到这里,Redis集群的搭建就完毕了

 

 

数据的分布性

 

技术分享
数据分布性

从上面的操作,你可以看到,当存储某一个数据的时候,会分配一个slot,而这个slot从属于某一个Master,也就是说你需要明白,数据是分布的存储在Redis集群当中的。

在线水平扩容

Redis Cluster有一个非常重要的特点就是可以在线的添加节点,实现不影响业务的水平扩容。在这里,我将会在原来6个redis节点上,再添加2个redis节点。做法和以前一致,注意修改redis.conf,然后在启动8007、8008这2个redis实例。

技术分享
修改redis.conf配置

 

技术分享
启动新添加的2个redis实例

 

技术分享
集群状态

其实,目前虽然启动了新加的2个redis实例,但是它们是不属于集群的。下面,我们来让它们加入集群中。

技术分享
add-node命令

./redis-trib.rb add-node 192.168.99.121:8007 192.168.99.121:8006

./redis-trib.rb add-node 新节点 集群中已经存在的节点

在往集群中添加节点A的时候,需要提供一个在集群中已经存在的节点B的信息。因为知道了B的信息,就知道了整个集群的信息。为什么这么说呢,来,我们看一个文件,你就知道了。

技术分享
nodes-xxx.conf

要知道集群中的每一个节点都有这么一个文件,存储着集群中每一个节点的信息:节点的角色、节点的ID、连接状态、slot范围、IP/PORT信息等。仔细观察图中,你可以发现,新加入的8007节点,实际上被默认为master节点,并且没有slot分配!这说明,新加入的节点现在还不可以存储数据,因此我们要为新节点分配slot槽。

[[email protected] bin]# ./redis-trib.rb reshard 192.168.99.121:8001

要知道slot都分配在master上,因此其实我们要做的就是从集群的masters上进行重新分配。上面的命令需要指定一个master节点进行reshard分片。

技术分享
slot重新分配

图中要为新加入的节点8007分配500个slot,而且分配的方式是"all",all是什么意思呢?all代表从已经存在的所有的master上均匀的分配一部分slot给8007。当然你可以通过"done"来指定某一个master进行分配。注意分配给8007是通过节点ID来指定的。

技术分享
分配后的集群信息

按照上面的操作,我将8008节点也加入集群中,我的想法是让8008成为8007的从节点。既然是从节点,就不需要分配slot槽。注意到add-node方式加入的节点,默认就是master节点,因此这里我们得利用replicate指定主节点。

[[email protected] bin]# ./redis-trib.rb add-node 192.168.99.121:8008 192.168.99.121:8001

 

技术分享
为从节点指定主节点

那么到现在,我们就在线完成了对Redis集群的水平扩容。那么如何删除节点呢?删除节点时,数据怎么办呢?对于从节点,删除就删除了,并不要紧,关键是主节点,因为主节点上有slot。因此,在删除主节点前,我们要对主节点的slot进行重新分配,完成数据的迁移。

集群的使用

一般用predis足矣

https://github.com/nrk/predis

https://www.zybuluo.com/phper/note/248555

 























以上是关于redis-cluster集群搭建的主要内容,如果未能解决你的问题,请参考以下文章

redis-cluster集群单机搭建

基于docker环境搭建redis-cluster集群(多台机器)

redis-cluster集群搭建

docker-compose搭建redis-cluster集群

redis集群redis-cluster搭建

Docker搭建redis-cluster集群三主三备