Redis集群模式部署

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Redis集群模式部署相关的知识,希望对你有一定的参考价值。

系统环境

系统版本:CentOS 6.8 x86_64
gcc 版本 4.4.7 
redis版本:4.0.8
安装方式:源码安装redis
软件包路径:/opt/tools
安装路径:/usr/local/

依赖环境:

Ruby环境(集群搭建需要用ruby创建, ruby环境在2.2以上。)
rubygems:ruby的一个包管理工具
redis.gem :redis集群需要的ruby插件,通过rubygems安装redis-4.0.1.gem。

1 Redis单节点部署

1.1 下载和编译

[[email protected]_1 ~]# cd /opt/tools/
[[email protected]_1 tools ]# wget http://download.redis.io/releases/redis-4.0.8.tar.gz
[[email protected]_1 tools ]# tar xf redis-4.0.8.tar.gz -C /usr/local/
[[email protected]_1 tools ]# cd /usr/local/redis-4.0.8/
[[email protected]_1 redis-4.0.8 ]# make
[[email protected]_1 redis-4.0.8 ]# make install
编译完成后会在src目录下生成Redis服务端程序redis-server和客户端程序redis-cli。

1.2 前台启动服务

[[email protected]_1 redis-4.0.8 ]# src/redis-server
该方式启动默认为前台方式运行,使用默认配置。

1.3 后台启动服务

可以修改redis.conf文件的daemonize参数为yes,指定配置文件启动,例如:
[[email protected]_1 redis-4.0.8 ]# cp -a redis.conf{,_$(date +%F)}
[[email protected]_1 redis-4.0.8 ]# vim redis.conf
# By default Redis does not run as a daemon. Use 'yes' if you need it.
# Note that Redis will write a pid file in /var/run/redis.pid when daemonized.
daemonize yes
指定配置文件启动。
[[email protected]_1 redis-4.0.8 ]# src/redis-server redis.conf

例如:

# 指定配置文件后台启动
[[email protected]_1 redis-4.0.8]# src/redis-server redis.conf
95778:C 30 Jan 00:44:37.633 # oO0OoO0OoO0Oo Redis is starting oO0OoO0OoO0Oo
95778:C 30 Jan 00:44:37.634 # Redis version=4.0.7, bits=64, commit=00000000, modified=0, pid=95778, just started
95778:C 30 Jan 00:44:37.634 # Configuration loaded

# 查看Redis进程
[[email protected]_1 redis-4.0.8]# ps aux|grep redis
root      95779  0.0  0.0 145268   468 ?        Ssl  00:44   0:00 src/redis-server 127.0.0.1:6379
更多启动参数如下:
[[email protected]_1 src]# ./redis-server --help
Usage: ./redis-server [/path/to/redis.conf] [options]
       ./redis-server - (read config from stdin)
       ./redis-server -v or --version
       ./redis-server -h or --help
       ./redis-server --test-memory <megabytes>

Examples:
       ./redis-server (run the server with default conf)
       ./redis-server /etc/redis/6379.conf
       ./redis-server --port 7777
       ./redis-server --port 7777 --slaveof 127.0.0.1 8888
       ./redis-server /etc/myredis.conf --loglevel verbose

Sentinel mode:
       ./redis-server /etc/sentinel.conf --sentinel

1.4 客户端测试

  [[email protected]_1 redis-4.0.8]# src/redis-cli 
    redis> set foo bar
    OK
    redis> get foo
    "bar"

2. Redis集群配置文件设置及启动实例

2.1 设置配置文件

Redis的集群部署需要在每台集群部署的机器上安装Redis;可参考上述的Redis部署,然后修改配置以集群的方式启动。
我们要在单台机器上搭建Redis集群,方式是通过不同的TCP端口启动多个实例,然后组成集群。
需要注意的是:必须要3个或以上的主节点,否则在创建集群时会失败,并且当存活的主节点数小于总节点数的一半时,整个集群就无法提供服务了。
最小集群模式需要三个master实例,一般建议起六个实例,即三主三从。因此我们创建6个以端口号命名的目录存放实例的配置文件和其他信息。

[[email protected]_1 redis-4.0.8]# mkdir -v redis-cluster/{7000,7001,7002,7003,7004,7005}
[[email protected]_1 redis-4.0.8]# cd redis-cluster/7000


在对应端口号的目录中创建redis.conf的文件,配置文件的内容可参考如下的集群模式配置。每个配置文件中的端口号port参数改为对应目录的端口号。
修改配置文件redis.conf,集群模式的配置文件如下:
[[email protected]_1 7000]# vim redis.conf
daemonize yes                         //redis后台运行
port 7000                             //端口7000,7001,7002,7003,7004,7005
bind 192.168.1.91                     //默认ip为127.0.0.1 需要改为其他节点机器可访问的ip 否则创建集群时无法访问对应的端口,无法创建集群
pidfile  /var/run/redis_7000.pid      //pidfile文件对应7000,7001,7002,7003,7004,7005
cluster-enabled yes                   //开启集群  把注释#去掉
cluster-config-file nodes_7000.conf   //集群的配置  配置文件首次启动自动生成 7000,7001,7002,7003,7004,7005 
cluster-node-timeout 15000            //请求超时  默认15秒,可自行设置
appendonly yes                        //aof日志开启  有需要就开启,它会每次写操作都记录一条日志

更多集群配置参数可参考默认配置文件redis.conf中Cluster模块的说明。


2.2 启动实例

复制redis-server的二进制文件到redis-cluster目录中,通过指定配置文件的方式启动redis服务,例如:
[[email protected]_1 7000]# cp -a /usr/local/redis-4.0.8/src/redis-server /usr/local/redis-4.0.8/redis-server/
[[email protected]_1 7000]# pwd
/usr/local/redis-4.0.8/redis-server/7000
[[email protected]_1 7000]# ../redis-server ./redis.conf       # 需在指定实例目录中执行文件,会在命令当前目录生成文件。

如果是以前台方式运行,则会在控制台输出以下信息:
[82462] 26 Nov 11:56:55.329 * No cluster configuration found, I'm 97a3a64667477371c4479320d683e4c8db5858b1
每个实例都会生成一个Node ID,类似97a3a64667477371c4479320d683e4c8db5858b1,用来作为Redis实例在集群中的唯一标识,而不是通过IP和Port,IP和Port可能会改变,该Node ID不会改变。

目录结构可参考:

    redis-cluster/
    ├── 7000
    │   ├── appendonly.aof
    │   ├── dump.rdb
    │   ├── nodes.conf
    │   └── redis.conf
    ├── 7001
    │   ├── appendonly.aof
    │   ├── dump.rdb
    │   ├── nodes.conf
    │   └── redis.conf
    ├── 7002
    │   ├── appendonly.aof
    │   ├── dump.rdb
    │   ├── nodes.conf
    │   └── redis.conf
    ├── 7003
    │   ├── appendonly.aof
    │   ├── dump.rdb
    │   ├── nodes.conf
    │   └── redis.conf
    ├── 7004
    │   ├── appendonly.aof
    │   ├── dump.rdb
    │   ├── nodes.conf
    │   └── redis.conf
    ├── 7005
    │   ├── appendonly.aof
    │   ├── dump.rdb
    │   ├── nodes.conf
    │   └── redis.conf
    ├── redis-cli
    └── redis-server


注:其中dump.rdb为数据存放文件,第一次启动集群时没有。
Redis的实例全部运行之后,还需要redis-trib.rb工具来完成集群的创建,redis-trib.rb二进制文件在Redis包主目录下的src目录中,运行该工具依赖Ruby环境和gem。

说明:下面第3和第4针对不同环境,安装一个即可。


3 在线安装Redis集群依赖(Ruby和RubyGems和rvm和gem)

3.1 安装Ruby

[[email protected]_1 src]# yum install ruby rubygems -y
查看Ruby版本信息。

[[email protected]_1 src]# ruby --version
ruby 1.8.7 (2013-06-27 patchlevel 374) [x86_64-linux]
由于centos6系统默认支持Ruby版本为1.8.7(centos7系统默认支持Ruby版本为2.0.0),因此执行gem install redis命令时会报以下错误。

[[email protected]_1 src]# gem install redis
Fetching: redis-4.0.1.gem (100%)
ERROR:  Error installing redis:
    redis requires Ruby version >= 2.2.2.

解决方法是先安装rvm,再升级ruby版本。

3.2 安装rvm

curl -L get.rvm.io | bash -s stable
如果遇到以下报错,则执行报错中的gpg2 --recv-keys的命令。
[[email protected]_1 ~]# curl -L get.rvm.io | bash -s stable
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100   194  100   194    0     0    335      0 --:--:-- --:--:-- --:--:--   335
100 24090  100 24090    0     0  17421      0  0:00:01  0:00:01 --:--:-- 44446
Downloading https://github.com/rvm/rvm/archive/1.29.3.tar.gz
Downloading https://github.com/rvm/rvm/releases/download/1.29.3/1.29.3.tar.gz.asc
gpg: 于 2017年09月11日 星期一 04时59分21秒 CST 创建的签名,使用 RSA,钥匙号 BF04FF17
gpg: 无法检查签名:没有公钥
Warning, RVM 1.26.0 introduces signed releases and automated check of signatures when GPG software found. Assuming you trust Michal Papis import the mpapis public key (downloading the signatures).

GPG signature verification failed for '/usr/local/rvm/archives/rvm-1.29.3.tgz' - 'https://github.com/rvm/rvm/releases/download/1.29.3/1.29.3.tar.gz.asc'! Try to install GPG v2 and then fetch the public key:

    gpg2 --recv-keys 409B6B1796C275462A1703113804BB82D39DC0E3
    or if it fails:

    command curl -sSL https://rvm.io/mpapis.asc | gpg2 --import -
the key can be compared with:

    https://rvm.io/mpapis.asc
    https://keybase.io/mpapis
NOTE: GPG version 2.1.17 have a bug which cause failures during fetching keys from remote server. Please downgrade or upgrade to newer version (if available) or use the second method described above.
执行报错中的gpg2 --recv-keys的命令。
例如:

[[email protected]_1 ~]# gpg2 --recv-keys 409B6B1796C275462A1703113804BB82D39DC0E3
gpg: 钥匙环‘/root/.gnupg/secring.gpg’已建立
gpg: 下载密钥‘D39DC0E3’,从 hkp 服务器 keys.gnupg.net
gpg: /root/.gnupg/trustdb.gpg:建立了信任度数据库
gpg: 密钥 D39DC0E3:公钥“Michal Papis (RVM signing) <[email protected]>”已导入
gpg: 没有找到任何绝对信任的密钥
gpg: 合计被处理的数量:1
gpg:           已导入:1  (RSA: 1)

再次执行命令curl -L get.rvm.io | bash -s stable。

[[email protected]_1 ~]# curl -L get.rvm.io | bash -s stable
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100   194  100   194    0     0    310      0 --:--:-- --:--:-- --:--:--   309
100 24090  100 24090    0     0  18230      0  0:00:01  0:00:01 --:--:--  103k
Downloading https://github.com/rvm/rvm/archive/1.29.3.tar.gz
Downloading https://github.com/rvm/rvm/releases/download/1.29.3/1.29.3.tar.gz.asc
gpg: 于 2017年09月11日 星期一 04时59分21秒 CST 创建的签名,使用 RSA,钥匙号 BF04FF17
gpg: 完好的签名,来自于“Michal Papis (RVM signing) <[email protected]>”
gpg:               亦即“Michal Papis <[email protected]>”
gpg:               亦即“[jpeg image of size 5015]”
gpg: 警告:这把密钥未经受信任的签名认证!
gpg:       没有证据表明这个签名属于它所声称的持有者。
主钥指纹: 409B 6B17 96C2 7546 2A17  0311 3804 BB82 D39D C0E3
子钥指纹: 62C9 E5F4 DA30 0D94 AC36  166B E206 C29F BF04 FF17
GPG verified '/usr/local/rvm/archives/rvm-1.29.3.tgz'
Creating group 'rvm'

Installing RVM to /usr/local/rvm/
Installation of RVM in /usr/local/rvm/ is almost complete:

  * First you need to add all users that will be using rvm to 'rvm' group,    
and logout - login again, anyone using rvm will be operating with `umask u=rwx,g=rwx,o=rx`.

  * To start using RVM you need to run `source /etc/profile.d/rvm.sh`    
in all your open shell windows, in rare cases you need to reopen all shell windows.

以上表示执行成功,然后执行以下命令。


[[email protected]_1 ~]# source /usr/local/rvm/scripts/rvm

查看rvm库中已知的ruby版本
rvm list known

例如:


    [[email protected]_1 ~]# rvm list known
    # MRI Rubies
    [ruby-]1.8.6[-p420]
    [ruby-]1.8.7[-head] # security released on head
    [ruby-]1.9.1[-p431]
    [ruby-]1.9.2[-p330]
    [ruby-]1.9.3[-p551]
    [ruby-]2.0.0[-p648]
    [ruby-]2.1[.10]
    [ruby-]2.2[.7]
    [ruby-]2.3[.4]
    [ruby-]2.4[.1]
    ruby-head
    ...

3.3 升级Ruby

#安装ruby


rvm install  2.4.0


#使用新版本
rvm use  2.4.0

#移除旧版本


rvm remove 1.8.7
#查看当前版本
ruby --version

例如:


  [[email protected]_1 ~]# rvm install  2.4.0
    Searching for binary rubies, this might take some time.
    Found remote file https://rvm_io.global.ssl.fastly.net/binaries/centos/7/x86_64/ruby-2.4.0.tar.bz2
    Checking requirements for centos.
    Installing requirements for centos.
    Installing required packages: autoconf, automake, bison, bzip2, gcc-c++, libffi-devel, libtool, readline-devel, sqlite-devel, zlib-devel, libyaml-devel, openssl-devel................................
    Requirements installation successful.
    ruby-2.4.0 - #configure
    ruby-2.4.0 - #download
      % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100 14.0M  100 14.0M    0     0   852k      0  0:00:16  0:00:16 --:--:--  980k
No checksum for downloaded archive, recording checksum in user configuration.
ruby-2.4.0 - #validate archive
ruby-2.4.0 - #extract
ruby-2.4.0 - #validate binary
ruby-2.4.0 - #setup
ruby-2.4.0 - #gemset created /usr/local/rvm/gems/[email protected]
ruby-2.4.0 - #importing gemset /usr/local/rvm/gemsets/global.gems..............................
ruby-2.4.0 - #generating global wrappers........
ruby-2.4.0 - #gemset created /usr/local/rvm/gems/ruby-2.4.0
ruby-2.4.0 - #importing gemsetfile /usr/local/rvm/gemsets/default.gems evaluated to empty gem list
ruby-2.4.0 - #generating default wrappers........

[[email protected]_1 ~]# rvm use  2.4.0
Using /usr/local/rvm/gems/ruby-2.4.0

[[email protected]_1 ~]# rvm remove 1.8.7
ruby-1.8.7-p648 - #already gone
Using /usr/local/rvm/gems/ruby-2.4.0

[[email protected]_1 ~]# ruby --version
ruby 2.4.0p0 (2016-12-24 revision 57164) [x86_64-linux]

3.4 安装gem


[[email protected]_1 ~]# gem install redis
Fetching: redis-4.0.1.gem (100%)
Successfully installed redis-4.0.1
Parsing documentation for redis-4.0.1
Installing ri documentation for redis-4.0.1
Done installing documentation for redis after 2 seconds
1 gem installed

4 源码安装Redis集群依赖(Ruby和RubyGems和OpenSSL和Zlib-devel和gem)

4.1 安装Zlib-devel

官网:https://pkgs.org/download/zlib-devel
选择你的版本,本实验选择CentOS     x86_64的zlib-devel-1.2.3-29.el6.x86_64.rpm包

[[email protected]_1 tools]# wget http://mirror.centos.org/centos/6/os/x86_64/Packages/zlib-devel-1.2.3-29.el6.x86_64.rpm  
[[email protected]_1 tools]# rpm -ivh  zlib-devel-1.2.3-29.el6.x86_64.rpm

4.2 安装Ruby:

到Ruby官网:https://www.ruby-lang.org/en/downloads/
找到2.2版本以上Ruby的稳定版,本实验用ruby-2.3.6
注意:ruby-2.5.0版本在CentOS6.*上安装需升级GCC(4.8)
进入linux,选择一个位置存放安装包,我的位置是/opt/tools
输入命令wget + 刚刚复制的安装包URL

[[email protected]_1 tools]# pwd
/opt/tools
[[email protected]_1 tools]# wget https://cache.ruby-lang.org/pub/ruby/2.3/ruby-2.3.6.tar.gz
[[email protected]_1 tools]# tar zxf ruby-2.3.6.tar.gz -C /usr/local/
[[email protected]_1 tools]# cd /usr/local/ruby-2.3.6
[[email protected]_1 ruby-2.3.6]# ./configure      # 可以指定安装路径./configure --prefix=/usr/local/ruby
[[email protected]_1 ruby-2.3.6]# make
[[email protected]_1 ruby-2.3.6]# make install

验证:

[[email protected]_1 ruby-2.3.6]# ruby -v
ruby 2.3.6p384 (2017-12-14 revision 61254) [x86_64-linux]

[[email protected]_1 ruby-2.3.6]# cd ext/zlib/
[[email protected]_1 zlib]# pwd
/usr/local/ruby-2.3.6/ext/zli
[[email protected]_1 zlib]# ruby ./extconf.rb
checking for deflateReset() in -lz... yes
checking for zlib.h... yes
checking for crc32_combine() in zlib.h... yes
checking for adler32_combine() in zlib.h... yes
checking for z_crc_t in zlib.h... no
creating Makefile
[[email protected]_1 zlib]# make
compiling zlib.c
linking shared-object zlib.so
[[email protected]_1 zlib]# make install
/usr/bin/install -c -m 0755 zlib.so /usr/local/lib/ruby/site_ruby/2.3.0/x86_64-linux
[[email protected]_1 zlib]#

4.3 安装RubyGems:

官网 https://rubygems.org/pages/download
wget + URL,在线下载安装包:
[[email protected]_1 tools]# wget https://rubygems.org/rubygems/rubygems-2.7.6.tgz
[[email protected]_1 tools]# tar xf rubygems-2.7.6.tgz -C /usr/local/
[[email protected]_1 tools]# cd /usr/local/rubygems-2.7.6/
[[email protected]_1 rubygems-2.7.6]# ruby setup.rb
Bundler 1.16.1 installed
RubyGems 2.7.6 installed
... ...
RubyGems installed the following executables:
    /usr/local/bin/gem
    /usr/local/bin/bundle

Ruby Interactive (ri) documentation was installed. ri is kind of like man
pages for Ruby libraries. You may access it like this:
  ri Classname
  ri Classname.class_method
  ri Classname#instance_method
If you do not wish to install this documentation in the future, use the
--no-document flag, or set it as the default in your ~/.gemrc file. See
'gem help env' for details.

验证:

[[email protected]_1 rubygems-2.7.6]# gem -v
2.7.6

4.4 安装OpenSSL:

官网: https://www.openssl.org/source/
wget 下载安装包:


[[email protected]_1 tools]# wget https://www.openssl.org/source/openssl-1.1.1-pre2.tar.gz
[[email protected]_1 tools]# tar xf openssl-1.1.1-pre2.tar.gz -C /usr/local/
[[email protected]_1 tools]# cd /usr/local/openssl-1.1.1-pre2/
[[email protected]_1 openssl-1.1.1-pre2]# mkdir -v /usr/local/openssl
mkdir: 已创建目录 "/usr/local/openssl"

[[email protected]_1 openssl-1.1.1-pre2]# ./config --prefix=/usr/local/openssl --shared
[[email protected]_1 openssl-1.1.1-pre2]# make
[[email protected]_1 openssl-1.1.1-pre2]# make install

[[email protected]_1 openssl-1.1.1-pre2]# cp /etc/ld.so.conf{,_$(date +%F)}
[[email protected]_1 openssl-1.1.1-pre2]# echo -e "/usr/local/openssl/lib" >> /etc/ld.so.conf
[[email protected]_1 openssl-1.1.1-pre2]# cat /etc/ld.so.conf
include ld.so.conf.d/*.conf
/usr/local/openssl/lib					# 添加“/usr/local/openssl/lib”到系统类包;
[[email protected]_1 openssl-1.1.1-pre2]# ldconfig		# 立即生效
[[email protected]_1 openssl-1.1.1-pre2]# vim /etc/profile
	# openssl
	export OPENSSL=/usr/local/openssl/bin
	export PATH=$OPENSSL:$PATH:$HOME/bin
[[email protected]_1 openssl-1.1.1-pre2]# source /etc/profile

# 验证:


[[email protected]_1 openssl-1.1.1-pre2]# echo $OPENSSL
/usr/local/openssl/bin
[[email protected]_1 openssl-1.1.1-pre2]#

4.5 安装redis.gem

官网:https://rubygems.org/gems/redis


[[email protected]_1 redis-4.0.8]# cd /usr/local/redis-4.0.8/
[[email protected]_1 redis-4.0.8]# pwd
/usr/local/redis-4.0.8
[[email protected]_1 redis-4.0.8]# wget https://rubygems.org/downloads/redis-4.0.1.gem
[[email protected]_1 redis-4.0.8]# gem install -l ./redis-4.0.1.gem
Successfully installed redis-4.0.1
Parsing documentation for redis-4.0.1
Done installing documentation for redis after 3 seconds
1 gem installed

5 redis-trib创建集群

#执行redis-trib.rb命令


[[email protected]_1 redis-4.0.8]# cd /usr/local/redis-4.0.8/src/
[[email protected]_1 src]# ./redis-trib.rb create --replicas 1 127.0.0.1:7000 127.0.0.1:7001 > 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005

参数create表示创建一个新的集群,--replicas 1表示为每个master创建一个slave。

如果创建成功会显示以下信息


[OK] All 16384 slots covered

例如:


  [[email protected]_1 src]# ./redis-trib.rb create --replicas 1 127.0.0.1:7000 127.0.0.1:7001     > 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005
    >>> Creating cluster
    >>> Performing hash slots allocation on 6 nodes...
    Using 3 masters:
    127.0.0.1:7000
    127.0.0.1:7001
    127.0.0.1:7002
    Adding replica 127.0.0.1:7004 to 127.0.0.1:7000
    Adding replica 127.0.0.1:7005 to 127.0.0.1:7001
    Adding replica 127.0.0.1:7003 to 127.0.0.1:7002
    >>> Trying to optimize slaves allocation for anti-affinity
    [WARNING] Some slaves are in the same host as their master
    M: d5a834d075fd93eefab877c6ebb86efff680650f 127.0.0.1:7000
       slots:0-5460 (5461 slots) master
    M: 13d0c397604a0b2644244c37b666fce83f29faa8 127.0.0.1:7001
       slots:5461-10922 (5462 slots) master
    M: be2718476eba4e56f696e56b75e67df720b7fc24 127.0.0.1:7002
       slots:10923-16383 (5461 slots) master
    S: 3d02f59b34047486faecc023685379de7b38076c 127.0.0.1:7003
       replicates 13d0c397604a0b2644244c37b666fce83f29faa8
    S: dedf672f0a75faf37407ac4edd5da23bc4651e25 127.0.0.1:7004
       replicates be2718476eba4e56f696e56b75e67df720b7fc24
    S: 99c07119a449a703583019f7699e15afa0e41952 127.0.0.1:7005
       replicates d5a834d075fd93eefab877c6ebb86efff680650f
    Can I set the above configuration? (type 'yes' to accept): yes              # 同意yes
    >>> Nodes configuration updated
    >>> Assign a different config epoch to each node
    >>> Sending CLUSTER MEET messages to join the cluster
    Waiting for the cluster to join....
    >>> Performing Cluster Check (using node 127.0.0.1:7000)
    M: d5a834d075fd93eefab877c6ebb86efff680650f 127.0.0.1:7000
       slots:0-5460 (5461 slots) master   1 additional replica(s)
    M: be2718476eba4e56f696e56b75e67df720b7fc24 127.0.0.1:7002
       slots:10923-16383 (5461 slots) master   1 additional replica(s)
    M: 13d0c397604a0b2644244c37b666fce83f29faa8 127.0.0.1:7001
       slots:5461-10922 (5462 slots) master   1 additional replica(s)
    S: 3d02f59b34047486faecc023685379de7b38076c 127.0.0.1:7003
       slots: (0 slots) slave
       replicates 13d0c397604a0b2644244c37b666fce83f29faa8
    S: 99c07119a449a703583019f7699e15afa0e41952 127.0.0.1:7005
       slots: (0 slots) slave
       replicates d5a834d075fd93eefab877c6ebb86efff680650f
    S: dedf672f0a75faf37407ac4edd5da23bc4651e25 127.0.0.1:7004
       slots: (0 slots) slave
       replicates be2718476eba4e56f696e56b75e67df720b7fc24
    [OK] All nodes agree about slots configuration.
    >>> Check for open slots...
    >>> Check slots coverage...
    [OK] All 16384 slots covered.

6 集群部署结果验证

6.1 客户端验证

使用客户端redis-cli二进制访问某个实例,执行set和get的测试。语法:redis-cli -h $IP-c -p $PORT -a $PASSWORD
[[email protected]_1 src]#  redis-cli -c -p 7000
redis 127.0.0.1:7000> set foo bar
-> Redirected to slot [12182] located at 127.0.0.1:7002
OK
redis 127.0.0.1:7002> set hello world
-> Redirected to slot [866] located at 127.0.0.1:7000
OK
redis 127.0.0.1:7000> get foo
-> Redirected to slot [12182] located at 127.0.0.1:7002
"bar"
redis 127.0.0.1:7000> get hello
-> Redirected to slot [866] located at 127.0.0.1:7000
"world"

6.2 集群状态

使用cluster info命令查看集群状态。


127.0.0.1:7000> cluster info
cluster_state:ok                       #集群状态
cluster_slots_assigned:16384           #被分配的槽位数
cluster_slots_ok:16384                 #正确分配的槽位
cluster_slots_pfail:0
cluster_slots_fail:0
cluster_known_nodes:6                  #当前节点
cluster_size:3
cluster_current_epoch:6
cluster_my_epoch:1
cluster_stats_messages_ping_sent:48273
cluster_stats_messages_pong_sent:49884
cluster_stats_messages_sent:98157
cluster_stats_messages_ping_received:49879
cluster_stats_messages_pong_received:48273
cluster_stats_messages_meet_received:5
cluster_stats_messages_received:98157

6.3 节点状态

使用cluster nodes命令查看节点状态。

127.0.0.1:7000> cluster nodes
be2718476eba4e56f696e56b75e67df720b7fc24 127.0.0.1:[email protected] master - 0 1517303607000 3 connected 10923-16383
13d0c397604a0b2644244c37b666fce83f29faa8 127.0.0.1:[email protected] master - 0 1517303606000 2 connected 5461-10922
3d02f59b34047486faecc023685379de7b38076c 127.0.0.1:[email protected] slave 13d0c397604a0b2644244c37b666fce83f29faa8 0 1517303606030 4 connected
d5a834d075fd93eefab877c6ebb86efff680650f 127.0.0.1:[email protected] myself,master - 0 1517303604000 1 connected 0-5460
99c07119a449a703583019f7699e15afa0e41952 127.0.0.1:[email protected] slave d5a834d075fd93eefab877c6ebb86efff680650f 0 1517303607060 6 connected
dedf672f0a75faf37407ac4edd5da23bc4651e25 127.0.0.1:[email protected] slave be2718476eba4e56f696e56b75e67df720b7fc24 0 1517303608082 5 connected

7 参考:

https://redis.io/download
https://redis.io/topics/cluster-tutorial
http://blog.csdn.net/huwh_/article/details/79242625
http://blog.csdn.net/michaelehome/article/details/79533496

8 附:redis集群密码设置

8.1 密码设置(推荐)

方式一:修改所有Redis集群中的redis.conf文件加入:
masterauth passwd123 
requirepass passwd123
说明:这种方式需要重新启动各节点

方式二:进入各个实例进行设置:redis-cli -h $IP -c -p 端口
./redis-cli -c -p 7000 
config set masterauth passwd123 
config set requirepass passwd123 
config rewrite
之后分别使用./redis-cli -c -p 7001,./redis-cli -c -p 7002…..命令给各节点设置上密码。

注意:各个节点密码都必须一致,否则Redirected就会失败, 推荐这种方式,这种方式会把密码写入到redis.conf里面去,且不用重启。

用方式二修改密码,./redis-trib.rb check 10.104.111.174:6379执行时可能会报[ERR] Sorry, can't connect to node 10.104.111.174:6379,因为6379的redis.conf没找到密码配置。

8.2 设置密码之后如果需要使用redis-trib.rb的各种命令

如:./redis-trib.rb check 127.0.0.1:7000,则会报错ERR] Sorry, can’t connect to node 127.0.0.1:7000 
解决办法:
vim /usr/local/rvm/gems/ruby-2.3.0/gems/redis-4.0.1/lib/redis/client.rb         # 联网安装路径
vim /usr/local/lib/ruby/gems/2.3.0/gems/redis-4.0.1/lib/redis/client.rb         # 源码安装路径
注意:client.rb路径可以通过find命令查找:find / -name 'client.rb'
然后修改passord
class Client
    DEFAULTS = {
      :url => lambda { ENV["REDIS_URL"] },
      :scheme => "redis",
      :host => "127.0.0.1",
      :port => 6379,
      :path => nil,
      :timeout => 5.0,
      :password => "passwd123",
      :db => 0,
      :driver => nil,
      :id => nil,
      :tcp_keepalive => 0,
      :reconnect_attempts => 1,
      :inherit_socket => false
    }
带密码访问集群
./redis-cli -c -p 7000 -a passwd123

END

以上是关于Redis集群模式部署的主要内容,如果未能解决你的问题,请参考以下文章

Redis 主从复制-哨兵-集群 相关部署

redis集群部署

redis 5.x 三主三从集群模式部署详细文档

Redis(主从复制哨兵模式集群)概述及部署

Redis哨兵模式集群部署

redis解决方案之三种集群模式的概念与部署