python3之redis cluster初体验

Posted 2020-10-01

一、Redis 介绍

Redis 是一个开源内存的数据存储系统，行业中用作高效数据库缓存较多。它支持多种类型的数据结构：strings：hashes，lists，sets，sorted sets， bitmaps，hyperloglogs ，geospatial。并且支持对这些类型执行 原子操作 ， 列如： int的增减，strings 的append，hashes hincrby，lists lpush，sets的交集sinter，并集union和差集sdiff命令。

redis局限：在cluster未问世前，redis只有主从方式的高可用架构。redis server 侧的可扩展性（容量及性能）严重受到影响。一旦内存达到上限，只能从client侧去优化（client 去做hash），或者升级server的硬件来解决容量和性能问题。

二、Redis cluster的介绍

Redis 集群是 Redis 的一个分布式实现，主要是为了实现以下这些目标（按在设计中的重要性排序）：

在1000个节点的时候仍能表现得很好并且可扩展性（scalability）是线性的。

没有合并操作，这样在 Redis 的数据模型中最典型的大数据值中也能有很好的表现。

写入安全（Write safety）：那些与大多数节点相连的客户端所做的写入操作，系统尝试全部都保存下来。不过公认的，还是会有小部分（small windows?）写入会丢失。

可用性（Availability）：在绝大多数的主节点（master node）是可达的，并且对于每一个不可达的主节点都至少有一个它的从节点（slave）可达的情况下，Redis 集群仍能进行分区（partitions）操作。

三、本文目标：

python 3使用cluster操作（需要远程连接，非回环地址），设置密码

四、cluster的搭建：

略，详见：

https://redis.io/topics/cluster-tutorial

http://www.redis.cn/topics/cluster-spec.html

注意本文使用redis-4.0.1：http://download.redis.io/releases/redis-4.0.1.tar.gz

五、注意事项

搭建中的坑（在一台机器上搭建6个redis 节点）：

1、redis.conf

1）需要bind到非回环的ip（非127.0.0.1）或者0.0.0.0

2）需要关闭 protected-mode，否则

内容如下

bind 0.0.0.0

port 7000

cluster-enabled yes

cluster-config-file "nodes.conf"

cluster-node-timeout 5000

appendonly yes

protected-mode no

#使用redis-trib.rb构建集群，集群构建完成前不要配置密码，集群构建完毕再通过命令逐个机器设置密码。注意，此时，以上配置文件内容中没有pass和auth相关配置

2、创建集群的时候，不能使用127.0.0.1，否则远端的client在set的时候，被Redirected至127.0.0.1就导致连接异常。

例子如下，我本地的ip为：172.16.199.1

./redis-trib.rb create --replicas 1 172.16.199.1:7000 172.16.199.1:7001 172.16.199.1:7002 172.16.199.1:7003 172.16.199.1:7004 172.16.199.1:7005

3、设置密码

1）redis cluster的requirepass和masterauth都要配置，否则发生主从切换时，就会遇到授权问题

2）各个节点的密码都必须一致（从7000到7005端口都需要依次设置），否则Redirected就会失败

redis-cli -c -p 7000 -h 172.16.199.1

redis 172.16.199.1:7000>config set masterauth CATAPI

redis 172.16.199.1:7000>config set requirepass CATAPI

redis 172.16.199.1:7000>auth CATAPI

redis 172.16.199.1:7000>config rewrite

4、client命令测试：

六：python redis cluster的测试：

环境：python3.6.2

centos:6.7

python连接cluster，有redis-py-cluster

python -m pip install redis-py-cluster

1、config.py

# encoding=utf-8

__author__ = ‘river‘

#redis cluster的nodes

REDIS_NODES=[

           {‘host‘:‘172.16.199.1‘,‘port‘:7000},

           {‘host‘:‘172.16.199.1‘,‘port‘:7001},

           {‘host‘:‘172.16.199.1‘,‘port‘:7002},

           {‘host‘:‘172.16.199.1‘,‘port‘:7003},

           {‘host‘:‘172.16.199.1‘,‘port‘:7004},

           {‘host‘:‘172.16.199.1‘,‘port‘:7005}

            ]

#redis的key的过期时间,单位s

REDIS_EXPIRETIME=1200

REDIS_MAX_CONNECTIONS=50

REDIS_PASSWD=‘CATAPI‘

2、redis-test.py

# encoding=utf-8

__author__ = ‘river‘

from rediscluster import StrictRedisCluster

from app import app

def conredis(app):

   redis_nodes = app.config["REDIS_NODES"]

   # redis_expiretime=app.config["REDIS_EXPIRETIME"]

   maxconnections=app.config["REDIS_MAX_CONNECTIONS"]

   redis_password=app.config["REDIS_PASSWD"]

   redisClient=None

   try:

       redisClient = StrictRedisCluster(startup_nodes = redis_nodes,max_connections=maxconnections,password=redis_password)

   except Exception as e:

       app.logger.error("redis cluster connect error,redis_nodes:"+str(redis_nodes))

       redisClient=None

   return redisClient

if __name__==‘__main__‘:

   redis_expiretime=app.config["REDIS_EXPIRETIME"]

   redisClient=conredis(app)

   redis_expiretime=app.config["REDIS_EXPIRETIME"]

   redisClient.set(‘testkey‘,12,redis_expiretime)

   redisClient.incr(‘testkey‘,13)

   print(redisClient.get(‘testkey‘))

3、执行结果

本文出自 “H2O's运维&开发路” 博客，转载请与作者联系！