03-交互与搭建集群

Posted lishuntao

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了03-交互与搭建集群相关的知识,希望对你有一定的参考价值。

安装包

pip install redis

调用模块

from redis import *

  这个模块中提供了StrictRedis对象(Strict严格),?于连接redis服务器,并按照不同类型提供 了不同?法,进?交互操作.

StrictRedis对象方法

通过init创建对象,指定参数host、port与指定的服务器和端口连接,host默认为localhost,port默认为6379.db默认为0.

conn = StrictRedis(host="localhost",port=6379,db=0)
#可以简写成
conn = StrictRedis()

根据不同的类型,拥有不同的实例?法可以调?,与前?学的redis命令对应,?法需要的参数与命令的参数?致

string

  • set
  • setex
  • mset
  • append
  • get
  • mget
  • key

keys

  • exists
  • type
  • delete
  • expire
  • getrange
  • ttl

hash

  • hset
  • hmset
  • hkeys
  • hget
  • hmget
  • hvals
  • hdel

list

  • lpush
  • rpush
  • linsert
  • lrange
  • lset
  • lrem

set

  • sadd
  • smembers
  • srem

zset

  • zadd
  • zrange
  • zrangebyscore
  • zscore
  • zrem
  • zremrangebyscore

学习目标

  • 能够使用StrictRedis对象对string类型数据进行增删改查

准备

在桌面上创建redis目录

使用pycharm打开redis目录

创建redis_string.py文件

from redis import *
if __name__=="__main__":
    try:
        #创建Strict对象,与redis服务器建立连接
        conn = StrictRedis()
    except Exception as e:
        print(e)

string-增加

方法set,添加键、值,如果添加成功则返回True,如果添加失败则返回False。

from redis import *
if __name__=="main":
    try:
        conn = StrictRedis()
        #添加键name,值为itheima
        result = conn.set("name","itheima")
        #成功打印是True,失败False
        print(result)
    except Exception as e:
        print(e)

String-获取

?法get,添加键对应的值,如果键存在则返回对应的值,如果键不存在则返回None

from redis import *
if __name__=="__main__":
    try:
        #创建StrictRedis对象,与redis服务器建?连接
        conn=StrictRedis()
        #获取键name的值
        result = conn.get(name)
        #输出键的值,如果键不存在则返回None
        print(result)
    except Exception as e:
        print(e)

string-修改

?法set,如果键已经存在则进?修改,如果键不存在则进?添加

from redis import *
if __name__=="__main__":
    try:
        #创建StrictRedis对象,与redis服务器建?连接
        conn=StrictRedis()
        #设置键name的值,如果键已经存在则进?修改,如果键不存在则进?添加
        result = conn.set(name,itcast)
        #输出响应结果,如果操作成功则返回True,否则返回False
        print(result)
    except Exception as e:
        print(e)

string-删除

?法delete,删除键及对应的值,如果删除成功则返回受影响的键数,否则则返回0

from redis import *
if __name__=="__main__":
    try:
        #创建StrictRedis对象,与redis服务器建?连接
        conn=StrictRedis()
        #设置键name的值,如果键已经存在则进?修改,如果键不存在则进?添加
        result = conn.delete(name)
        #输出响应结果,如果删除成功则返回受影响的键数,否则则返回0
        print(result)
    except Exception as e:
        print(e)

获取键

?法keys,根据正则表达式获取键

from redis import *
if __name__=="__main__":
    try:
        #创建StrictRedis对象,与redis服务器建?连接
        conn=StrictRedis()
        #获取所有的键
        result=conn.keys()
        #输出响应结果,所有的键构成?个列表,如果没有键则返回空列表
        print(result)
    except Exception as e:
        print(e)

搭建主从

主从概念

  • ?个master可以拥有多个slave,?个slave?可以拥有多个slave,如此下去,形成了强?的多级服务器集群架构
  • master用来写数据,slave用来读数据,经统计:网站的读写比率是10:1
  • 通过主从配置可以实现读写分离

技术图片

 

 master和slave都是一个redis实例(redis服务)

主从配置

配置主:

ifconfig

修改etc/redis/redis.conf文件

sudo vi redis.conf 
bind 192.168.26.128

重启redis服务

sudo service redis stop
redis-server redis.conf

配置从

复制etc/redis/redis.conf文件

sudo cp redis.conf ./slave.conf

修改redis/slave.config文件

sudo vi slave.conf

编辑内容

bind 192.168.26.128
slaveof 192.168.26.128 6379
port 6378

redis服务

sudo redis-server slave.conf

查看主从关系

redis-cli -h 192.168.26.128 info Replication

数据操作

在master和slave分别执?info命令,查看输出信息 进入主客户端

redis-cli -h 192.168.26.128 -p 6379

进入从的客户端

redis-cli -h 192.168.26.128 -p 6378

在master上写数据

set aa aa

在slave上读数据

get aa

搭建集群

  • 之前我们已经讲了主从的概念,一主可以多从,如果同时的访问量过大(1000w),主服务肯定就会挂掉,数据服务就挂掉了或者发生自然灾难
  • 大公司都会有很多的服务器(华东地区、华南地区、华中地区、华北地区、西北地区、西南地区、东北地区、台港澳地区机房)

集群的概念

  集群是一组相互独立的、通过高速网络互联的计算机,它们构成了一个组,并以单一系统的模式加以管理。一个客户与集群相互作用时,集群像是一个独立的服务器。集群配置是用于提高可用性和可缩放性。 

技术图片

 

 

 当请求到来首先由负载均衡服务器处理,把请求转发到另外的一台服务器上。

redis集群

  • 分类
    • 软件层面
    • 硬件层面
  • 软件层面:只有一台电脑,在这一台电脑上启动了多个redis服务。

技术图片

 

 

 

硬件层面:存在多台实体的电脑,每台电脑上都启动了一个redis或者多个redis服务。

技术图片

 

 

 搭建集群

当前拥有两台主机172.16.179.130、172.16.179.131,这?的IP在使?时要改为实际值

参考阅读

配置机器1

  • 在演示中,172.16.179.130为当前ubuntu机器的ip
  • 在172.16.179.130上进?Desktop?录,创建conf?录
  • 在conf?录下创建?件7000.conf,编辑内容如下

port 7000
bind 172.16.179.130
daemonize yes
pidfile 7000.pid
cluster-enabled yes
cluster-config-file 7000_node.conf
cluster-node-timeout 15000
appendonly yes

在conf?录下创建?件7001.conf,编辑内容如下

port 7001
bind 172.16.179.130
daemonize yes
pidfile 7001.pid
cluster-enabled yes
cluster-config-file 7001_node.conf
cluster-node-timeout 15000
appendonly yes

在conf?录下创建?件7002.conf,编辑内容如下

port 7002
bind 172.16.179.130
daemonize yes
pidfile 7002.pid
cluster-enabled yes
cluster-config-file 7002_node.conf
cluster-node-timeout 15000
appendonly yes

总结:三个?件的配置区别在port、pidfile、cluster-config-file三项

使?配置?件启动redis服务

redis-server 7000.conf
redis-server 7001.conf
redis-server 7002.conf

查看进程如下图:

技术图片

 

 

 配置机器2

  • 在演示中,172.16.179.131为当前ubuntu机器的ip
  • 在172.16.179.131上进?Desktop?录,创建conf?录
  • 在conf?录下创建?件7003.conf,编辑内容如下

    port 7003
    bind 172.16.179.131
    daemonize yes
    pidfile 7003.pid
    cluster-enabled yes
    cluster-config-file 7003_node.conf
    cluster-node-timeout 15000
    appendonly yes

     

  • 在conf?录下创建?件7004.conf,编辑内容如下

    port 7004
    bind 172.16.179.131
    daemonize yes
    pidfile 7004.pid
    cluster-enabled yes
    cluster-config-file 7004_node.conf
    cluster-node-timeout 15000
    appendonly yes

     

  • 在conf?录下创建?件7005.conf,编辑内容如下

    port 7005
    bind 172.16.179.131
    daemonize yes
    pidfile 7005.pid
    cluster-enabled yes
    cluster-config-file 7005_node.conf
    cluster-node-timeout 15000
    appendonly yes

     

  • 总结:三个?件的配置区别在port、pidfile、cluster-config-file三项

  • 使?配置?件启动redis服务

    redis-server 7003.conf
    redis-server 7004.conf
    redis-server 7005.conf

    查看进程如下图 

技术图片

 

 创建集群

  • redis的安装包中包含了redis-trib.rb,?于创建集群
  • 接下来的操作在172.16.179.130机器上进?
  • 将命令复制,这样可以在任何?录下调?此命令

sudo cp /usr/share/doc/redis-tools/examples/redis-trib.rb /usr/local/bin/

安装ruby环境,因为redis-trib.rb是?ruby开发的

sudo apt-get install ruby

在提示信息处输?y,然后回?继续安装 

运?如下命令创建集群

redis-trib.rb create --replicas 1 172.16.179.130:7000 172.16.179.130:7001 172.16.179.130:7002 172.16.179.131:7003 172.16.179.131:7004 172.16.179.131:7005
  • 执?上?这个指令在某些机器上可能会报错,主要原因是由于安装的 ruby 不是最 新版本!

  • 天朝的防?墙导致?法下载最新版本,所以需要设置 gem 的源

  • 解决办法如下

-- 先查看??的 gem 源是什么地址
gem source -l -- 如果是https://rubygems.org/ 就需要更换
-- 更换指令为
gem sources --add https://gems.ruby-china.org/ --remove https://rubygems.org/
-- 通过 gem 安装 redis 的相关依赖
sudo gem install redis
-- 然后重新执?指令

技术图片

 

 

redis-trib.rb create --replicas 1 172.16.179.130:7000 172.16.179.130:7001 172.16.179.130:7002 172.16.179.131:7003 172.16.179.131:7004 172.16.179.131:7005

提示如下主从信息,输?yes后回? 

技术图片

 

 提示完成,集群搭建成功

数据验证

  • 根据上图可以看出,当前搭建的主服务器为7000、7001、7003,对应的从服务器是7004、7005、7002
  • 在172.16.179.131机器上连接7002,加参数-c表示连接到集群

redis-cli -h 172.16.179.131 -c -p 7002

写入数据

set name itheima

?动跳到了7003服务器,并写?数据成功 

技术图片

 

 在7003可以获取数据,如果写入数据又重定向到7000(负载均衡) 

技术图片

 

 

在哪个服务器上写数据:CRC16

  • redis cluster在设计的时候,就考虑到了去中?化,去中间件,也就是说,集群中 的每个节点都是平等的关系,都是对等的,每个节点都保存各?的数据和整个集 群的状态。每个节点都和其他所有节点连接,?且这些连接保持活跃,这样就保 证了我们只需要连接集群中的任意?个节点,就可以获取到其他节点的数据
  • Redis集群没有并使?传统的?致性哈希来分配数据,?是采?另外?种叫做哈希 槽 (hash slot)的?式来分配的。redis cluster 默认分配了 16384 个slot,当我们 set?个key 时,会?CRC16算法来取模得到所属的slot,然后将这个key 分到哈 希槽区间的节点上,具体算法就是:CRC16(key) % 16384。所以我们在测试的 时候看到set 和 get 的时候,直接跳转到了7000端?的节点
  • Redis 集群会把数据存在?个 master 节点,然后在这个 master 和其对应的salve 之间进?数据同步。当读取数据时,也根据?致性哈希算法到对应的 master 节 点获取数据。只有当?个master 挂掉之后,才会启动?个对应的 salve 节点,充 当 master
  • 需要注意的是:必须要3个或以上的主节点,否则在创建集群时会失败,并且当存 活的主节点数?于总节点数的?半时,整个集群就?法提供服务了。

Python交互

安装包如下:

pip install redis-py-cluster

redis-py-cluster源码地址https://github.com/Grokzen/redis-py-cluster,创建?件redis_cluster.py,示例码如下:

from rediscluster import *
if __name__ == __main__:
  try:
    # 构建所有的节点,Redis会使?CRC16算法,将键和值写到某个节点上
    startup_nodes = [
        {host: 192.168.26.128, port: 7000},
        {host: 192.168.26.130, port: 7003},
        {host: 192.168.26.128, port: 7001},
    ]
    # 构建StrictRedisCluster对象
    src=StrictRedisCluster(startup_nodes=startup_nodes,decode_responses=True)
    # 设置键为name、值为itheima的数据
    result=src.set(name,itheima)
    print(result)
    # 获取键为name
    name = src.get(name)
    print(name)
  except Exception as e:
    print(e)

以上是关于03-交互与搭建集群的主要内容,如果未能解决你的问题,请参考以下文章

rocketMQ安装配置+与java交互API操作+集群搭建+高级特性

Kafka:ZK+Kafka+Spark Streaming集群环境搭建VMW安装四台CentOS,并实现本机与它们能交互,虚拟机内部实现可以上网。

如何使用 xcode 将快照划分为多个片段,以便让用户与每个片段进行交互?

Zookeeper服务器集群的搭建与操作

Spring-cloud之Eureka服务搭建集群

Kubernetes集群上搭建KubeSphere 教程