Redis集群搭建最佳实践

Posted mfmdaoyou

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Redis集群搭建最佳实践相关的知识,希望对你有一定的参考价值。

要搭建Redis集群。首先得考虑以下的几个问题;

Redis集群搭建的目的是什么?或者说为什么要搭建Redis集群?

Redis集群搭建的目的事实上也就是集群搭建的目的。全部的集群主要都是为了解决一个问题,横向扩展。
在集群的概念出现之前,我们使用的硬件资源都是纵向扩展的,可是纵向扩展非常快就会达到一个极限,单台机器的Cpu的处理速度,内存大小。硬盘大小没办法一直满足需求,并且机器纵向扩展的成本是相当高的。

集群的出现就是可以让多台机器像一台机器一样工作,实现了资源的横向扩展。


Redis是内存型数据库。当我们要存储的数据达到一定程度时,单台机器的内存满足不了我们的需求。搭建集群则是一种非常好的解决方式。

那么怎样可以让多台机器上的Redis可以像一台机器上的Redis一样工作呢?

须要解决下面三个问题;
1.对外暴露一个訪问节点
2.请求分片(sharding)
3.分片要合理(分片均匀,相同的请求要分配到相同的redis节点)

首先,要对外暴露一个訪问节点,后面可能有多台redis再工作;我们非常easy想到的就是代理(Proxy),对于client仅仅须要知道代理。通过代理来和后台的多台redis交互。

第二个问题能够使用hash算法解决,将请求的某个key取hash值。对redis个数取余。来分配的不同的redis上;然而这么做不能满足第三点中的相同的请求要分配到相同的redis中。在这样的情况下一致性哈希能够完美的解决问题,一致性哈希能够将redis的节点通过hash算法分布再一个232 个节点的圆环上。将请求的key用相同的hash算法映射到这个圆环上。然后在key值的节点顺时针寻找近期的redis节点,这样就保证了一致性;具体介绍能够參考:http://blog.csdn.net/sparkliang/article/details/5279393 。

假设让我来实现redis集群的话,我会採用zookeeper加上一个redis守护程序加上一致性hash算法来实现。只是twicer的大神们已经实现并开源了一个redis集群方案。我就不反复制造轮子了;来看看这个全球最大的redis集群使用者之中的一个的大神们实现的 twemproxy (nutcracker)有哪些特性。


Twemproxy除了能够作为redis的代理,它相同支持memerycached的ASCII协议。我这里主要了解Twemproxy在redis集群上的解决方式。

Twemproxy除了完美的攻克了上面的三个问题(相同採用了一致性hash算法)。另一个重要的特点;它支持

node ejection。假设使用redis当缓存,不是非常注重数据的一致性的话。开启node ejection能够在集群中某一台redis挂掉的时候将其送集群列表中移除,达到高可用性。

假设redis集群做为数据存储的话,或者非常注重数据的一致性。则能够禁用node jection。但此时须要使用其它方法实现高可用性,比方redis sentiel。

Twemproxy的具体介绍能够看看这篇文章:http://antirez.com/news/44 Twemproxy项目Github地址:https://github.com/twitter/twemproxy 。

 
废话说了这么多。来看看怎么安装twemproxy。搭建redis集群吧

首先依照github提示的步骤安装twemproxy:

To build nutcracker from source with debug logs enabled and assertions disabled:

$ git clone [email protected]:twitter/twemproxy.git
$ cd twemproxy
$ autoreconf -fvi
$ ./configure --enable-debug=log
$ make

依次输入上面的命令。然后输入:
$ src/nutcracker -h
假设显示帮助信息,则表示成功安装;

接下来编辑配置信息。找一个自己喜欢的文件夹,创建配置文件,后缀为yml,如twemproxy.test.yml;填入例如以下信息:
alpha:
  listen: 127.0.0.1:55555
  hash: fnv1a_64
  distribution: ketama
  auto_eject_hosts: true
  redis: true
  server_retry_timeout: 30000
  server_failure_limit: 1
  servers:
    - 192.168.1.10:6379:1
    - 192.168.1.7:6379:1
注意缩进,否则将无法启动twenproxy。
当中listen:表示代理的ip以及port号。是暴露给client使用的。hash: 表示使用哪种hash方法,twemproxy提供了多种方式,详细能够看github介绍;distribution表示分配模式。有三种选择:ketama, modula,random。auto_reject_hosts: 就是上面所说的,自己主动移除失败的节点。redis: 表示使用的是redis集群,剩下的配置非常easy就不一一介绍了......
通过如此简单的配置之后,运行./src/nutcracker -c ./conf/nutcracker.test.yml(这里使用自己的安装路径和配置文件路径) 就启动了twemproxy, client仅仅须要通过redis-cli就能连接上proxy,用法和redis全然一样(但不是全部命令都支持)。

这样redis的集群就搭好了。是不是简单到爆?只是不要开心得太早,twemproxy也有它的不足之处。

1.不支持事务以及批量操作; 2.相较于直接訪问redis性能有所损耗;


尽管twemproxy有上述缺点,单相较于起带来的优点简直不值一提。但也说明它不适用于全部情况。

Redis集群还有非常多种搭建方式。其官方的cluster一直处于beta状态,相信了解了twemproxy后,大家会发现它是如今最好的选择!











以上是关于Redis集群搭建最佳实践的主要内容,如果未能解决你的问题,请参考以下文章

redis集群与分片-Redis Cluster集群的搭建与实践

Redis进阶实践之十一 Redis的Cluster集群搭建

Redis 高可用集群原理和实践

6.《持续演进的Cloud Native 云原生架构下微服务最佳实践》读书笔记-第三章基于Codis实现Redis分布式缓存集群

Redis进阶学习10---redis最佳实践

云计算最佳实践系列之 K8s集群搭建+容器编排