python3之redis cluster初体验

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python3之redis cluster初体验相关的知识,希望对你有一定的参考价值。

一、Redis 介绍

Redis 是一个开源内存的数据存储系统,行业中用作高效数据库缓存较多。它支持多种类型的数据结构:strings:hashes,lists,sets,sorted sets, bitmaps,hyperloglogs ,geospatial。并且支持对这些类型执行 原子操作 , 列如: int的增减,strings 的append,hashes hincrby,lists lpush,sets的交集sinter,并集union和差集sdiff命令。

redis局限:在cluster未问世前,redis只有主从方式的高可用架构。redis server 侧的可扩展性(容量及性能)严重受到影响。一旦内存达到上限,只能从client侧去优化(client 去做hash),或者升级server的硬件来解决容量和性能问题。

二、Redis cluster的介绍

Redis 集群是 Redis 的一个分布式实现,主要是为了实现以下这些目标(按在设计中的重要性排序):

在1000个节点的时候仍能表现得很好并且可扩展性(scalability)是线性的。

没有合并操作,这样在 Redis 的数据模型中最典型的大数据值中也能有很好的表现。

写入安全(Write safety):那些与大多数节点相连的客户端所做的写入操作,系统尝试全部都保存下来。不过公认的,还是会有小部分(small windows?)写入会丢失。

可用性(Availability):在绝大多数的主节点(master node)是可达的,并且对于每一个不可达的主节点都至少有一个它的从节点(slave)可达的情况下,Redis 集群仍能进行分区(partitions)操作。

三、本文目标:

python 3使用cluster操作(需要远程连接,非回环地址),设置密码

四、cluster的搭建

略,详见:

https://redis.io/topics/cluster-tutorial

http://www.redis.cn/topics/cluster-spec.html

注意本文使用redis-4.0.1:http://download.redis.io/releases/redis-4.0.1.tar.gz

五、注意事项

搭建中的坑(在一台机器上搭建6个redis 节点):

1、redis.conf

1)需要bind到非回环的ip(非127.0.0.1)或者0.0.0.0

2)需要关闭 protected-mode,否则

内容如下

bind 0.0.0.0

port 7000

cluster-enabled yes

cluster-config-file "nodes.conf"

cluster-node-timeout 5000

appendonly yes

protected-mode no

#使用redis-trib.rb构建集群,集群构建完成前不要配置密码,集群构建完毕再通过命令逐个机器设置密码。注意,此时,以上配置文件内容中没有pass和auth相关配置

2、创建集群的时候,不能使用127.0.0.1,否则远端的client在set的时候,被Redirected至127.0.0.1就导致连接异常。

例子如下,我本地的ip为:172.16.199.1

./redis-trib.rb create --replicas 1 172.16.199.1:7000 172.16.199.1:7001 172.16.199.1:7002 172.16.199.1:7003 172.16.199.1:7004 172.16.199.1:7005

3、设置密码

1)redis cluster的requirepass和masterauth都要配置,否则发生主从切换时,就会遇到授权问题

2)各个节点的密码都必须一致(从7000到7005端口都需要依次设置),否则Redirected就会失败

redis-cli -c -p 7000 -h 172.16.199.1

redis 172.16.199.1:7000>config set masterauth CATAPI

redis 172.16.199.1:7000>config set requirepass CATAPI

redis 172.16.199.1:7000>auth CATAPI

redis 172.16.199.1:7000>config rewrite

4、client命令测试:

技术分享

六:python redis cluster的测试:

环境:python3.6.2

centos:6.7

python连接cluster,有redis-py-cluster

python -m pip install redis-py-cluster

1、config.py

# encoding=utf-8

__author__ = ‘river‘

#redis cluster的nodes

REDIS_NODES=[

           {‘host‘:‘172.16.199.1‘,‘port‘:7000},

           {‘host‘:‘172.16.199.1‘,‘port‘:7001},

           {‘host‘:‘172.16.199.1‘,‘port‘:7002},

           {‘host‘:‘172.16.199.1‘,‘port‘:7003},

           {‘host‘:‘172.16.199.1‘,‘port‘:7004},

           {‘host‘:‘172.16.199.1‘,‘port‘:7005}

            ]

#redis的key的过期时间,单位s

REDIS_EXPIRETIME=1200

REDIS_MAX_CONNECTIONS=50

REDIS_PASSWD=‘CATAPI‘

2、redis-test.py

# encoding=utf-8

__author__ = ‘river‘

from rediscluster import StrictRedisCluster

from app import app

def conredis(app):

   redis_nodes = app.config["REDIS_NODES"]

   # redis_expiretime=app.config["REDIS_EXPIRETIME"]

   maxconnections=app.config["REDIS_MAX_CONNECTIONS"]

   redis_password=app.config["REDIS_PASSWD"]

   redisClient=None

   try:

       redisClient = StrictRedisCluster(startup_nodes = redis_nodes,max_connections=maxconnections,password=redis_password)

   except Exception as e:

       app.logger.error("redis cluster connect error,redis_nodes:"+str(redis_nodes))

       redisClient=None

   return redisClient

if __name__==‘__main__‘:

   redis_expiretime=app.config["REDIS_EXPIRETIME"]

   redisClient=conredis(app)

   redis_expiretime=app.config["REDIS_EXPIRETIME"]

   redisClient.set(‘testkey‘,12,redis_expiretime)

   redisClient.incr(‘testkey‘,13)

   print(redisClient.get(‘testkey‘))

3、执行结果

技术分享


本文出自 “H2O's运维&开发路” 博客,转载请与作者联系!

以上是关于python3之redis cluster初体验的主要内容,如果未能解决你的问题,请参考以下文章

Python3爬虫学习分布式爬虫第一步--Redis分布式爬虫初体验

python3.8.1安装初体验

redis初体验

Java开发 - SpringCache初体验

Qt for Python 5.12初体验

redis 之初体验(window)