Redis集群的搭建

Posted 木子木泗

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Redis集群的搭建相关的知识,希望对你有一定的参考价值。

 

1.   学习计划

1、Redis服务器搭建

2、向业务逻辑中添加缓存。

3、使用redis做缓存

4、缓存同步。

2.   首页大广告的展示流程

首页是系统的门户,也就是系统的入口。所以首页的访问量是这个系统最大的。如果每次展示首页都从数据库中查询首页的内容信息,那么势必会对数据库造成很大的压力,所以需要使用缓存来减轻数据库压力。

实现缓存的工具有很多,现在比较流行的是redis。

3.   Redis的安装

 

3.1. Redis的安装

Redis是c语言开发的。

安装redis需要c语言的编译环境。如果没有gcc需要在线安装。yum install gcc-c++

 

安装步骤:

第一步:redis的源码包上传到linux系统。

第二步:解压缩redis。

第三步:编译。进入redis源码目录。make

第四步:安装。make install PREFIX=/usr/local/redis

PREFIX参数指定redis的安装目录。一般软件安装到/usr目录下

3.2. 连接redis

3.2.1.    redis的启动:

前端启动:在redis的安装目录下直接启动redis-server

[root@localhost bin]# ./redis-server

 

后台启动:

把/root/redis-3.0.0/redis.conf复制到/usr/local/redis/bin目录下

[root@localhost redis-3.0.0]# cp redis.conf /usr/local/redis/bin/

修改配置文件:

 

 

[root@localhost bin]# ./redis-server redis.conf

查看redis进程 ps aux|grep redis:

[root@localhost bin]# ps aux|grep redis

root      5190  0.1  0.3  33936  1712 ?        Ssl  18:23   0:00 ./redis-server *:6379   

root      5196  0.0  0.1   4356   728 pts/0    S+   18:24   0:00 grep redis

[root@localhost bin]#

 

3.2.2.    Redis-cli

[root@localhost bin]# ./redis-cli

默认连接localhost运行在6379端口的redis服务。

[root@localhost bin]# ./redis-cli -h 192.168.25.153 -p 6379

-h:连接的服务器的地址

-p:服务的端口号

 

关闭redis:[root@localhost bin]# ./redis-cli shutdown

 

3.3. Redis五种数据类型

String:key-value(做缓存)

Redis中所有的数据都是字符串。命令不区分大小写,key是区分大小写的。Redis是单线程的。Redis中不适合保存内容大的数据。

getset

incr:加一(生成id)

Decr:减一

 

Hash:key-fields-values(做缓存)

相当于一个key对应一个map,map中还有key-value

使用hash对key进行归类。

Hset:向hash中添加内容

Hget:从hash中取内容

 

List:有顺序可重复

192.168.25.153:6379> lpush list1 a b c d

(integer) 4

192.168.25.153:6379> lrange list1 0 -1

1) "d"

2) "c"

3) "b"

4) "a"

192.168.25.153:6379> rpush list1 1 2 3 4

(integer) 8

192.168.25.153:6379> lrange list1 0 -1

1) "d"

2) "c"

3) "b"

4) "a"

5) "1"

6) "2"

7) "3"

8) "4"

192.168.25.153:6379>

192.168.25.153:6379> lpop list1

"d"

192.168.25.153:6379> lrange list1 0 -1

1) "c"

2) "b"

3) "a"

4) "1"

5) "2"

6) "3"

7) "4"

192.168.25.153:6379> rpop list1

"4"

192.168.25.153:6379> lrange list1 0 -1

1) "c"

2) "b"

3) "a"

4) "1"

5) "2"

6) "3"

192.168.25.153:6379>

 

Set:元素无顺序,不能重复

192.168.25.153:6379> sadd set1 a b c c c d

(integer) 4

192.168.25.153:6379> smembers set1

1) "b"

2) "c"

3) "d"

4) "a"

192.168.25.153:6379> srem set1 a

(integer) 1

192.168.25.153:6379> smembers set1

1) "b"

2) "c"

3) "d"

192.168.25.153:6379>

还有集合运算命令,自学。

 

SortedSet(zset):有顺序,不能重复

192.168.25.153:6379> zadd zset1 2 a 5 b 1 c 6 d

(integer) 4

192.168.25.153:6379> zrange zset1 0 -1

1) "c"

2) "a"

3) "b"

4) "d"

192.168.25.153:6379> zrem zset1 a

(integer) 1

192.168.25.153:6379> zrange zset1 0 -1

1) "c"

2) "b"

3) "d"

192.168.25.153:6379> zrevrange zset1 0 -1

1) "d"

2) "b"

3) "c"

192.168.25.153:6379> zrange zset1 0 -1 withscores

1) "c"

2) "1"

3) "b"

4) "5"

5) "d"

6) "6"

192.168.25.153:6379> zrevrange zset1 0 -1 withscores

1) "d"

2) "6"

3) "b"

4) "5"

5) "c"

6) "1"

192.168.25.153:6379>

 

3.4. Key命令

设置key的过期时间。

Expire key second:设置key的过期时间

Ttl key:查看key的有效期

Persist key:清除key的过期时间。Key持久化。

 

192.168.25.153:6379> expire Hello 100

(integer) 1

192.168.25.153:6379> ttl Hello

(integer) 77

4.   Redis的持久化方案

Redis的所有数据都是保存到内存中的。

Rdb:快照形式,定期把内存中当前时刻的数据保存到磁盘。Redis默认支持的持久化方案。

aof形式:append only file。把所有对redis数据库操作的命令,增删改操作的命令。保存到文件中。数据库恢复时把所有的命令执行一遍即可。

 

redis.conf配置文件中配置。

Rdb的配置:

 

 

Aof的配置:

 

 

两种持久化方案同时开启使用aof文件来恢复数据库。

 

5.   Redis集群的搭建

5.1. redis-cluster架构图

 



 

redis-cluster投票:容错

 

 

 

架构细节:

(1)所有的redis节点彼此互联(PING-PONG机制),内部使用二进制协议优化传输速度和带宽.

(2)节点的fail是通过集群中超过半数的节点检测失效时才生效.

(3)客户端与redis节点直连,不需要中间proxy层.客户端不需要连接集群所有节点,连接集群中任何一个可用节点即可

(4)redis-cluster把所有的物理节点映射到[0-16383]slot上,cluster 负责维护node<->slot<->value

Redis 集群中内置了 16384 个哈希槽,当需要在 Redis 集群中放置一个 key-value 时,redis 先对 key 使用 crc16 算法算出一个结果,然后把结果对 16384 求余数,这样每个 key 都会对应一个编号在 0-16383 之间的哈希槽,redis 会根据节点数量大致均等的将哈希槽映射到不同的节点

 

 

5.2. Redis集群的搭建

Redis集群中至少应该有三个节点。要保证集群的高可用,需要每个节点有一个备份机。

Redis集群至少需要6台服务器。

搭建伪分布式。可以使用一台虚拟机运行6个redis实例。需要修改redis的端口号7001-7006

5.2.1.    集群搭建环境

1、使用ruby脚本搭建集群。需要ruby的运行环境。

安装ruby

yum install ruby

yum install rubygems

 

2、安装ruby脚本运行使用的包。

[root@localhost ~]# gem install redis-3.0.0.gem

Successfully installed redis-3.0.0

1 gem installed

Installing ri documentation for redis-3.0.0...

Installing RDoc documentation for redis-3.0.0...

[root@localhost ~]#

 

[root@localhost ~]# cd redis-3.0.0/src

[root@localhost src]# ll *.rb

-rwxrwxr-x. 1 root root 48141 Apr  1  2015 redis-trib.rb

 

5.2.2.    搭建步骤

需要6台redis服务器。搭建伪分布式。

需要6个redis实例。

需要运行在不同的端口7001-7006

 

第一步:创建6个redis实例

每个实例运行在不同的端口。需要修改redis.conf配置文件。配置文件中还需要把cluster-enabled yes前的注释去掉,开启集群模式。

 

 

第二步:启动每个redis实例。

在redis-cluster目录下创建启动脚本start-all.sh,检测一下之前修改的redis能否正常启动,为集群的搭建作准备

cd redis01
./redis-server  redis .conf
cd..
cd redis02
./redis-server  redis .conf
cd..
cd redis03
./redis-server  redis .conf
cd..
cd redis04
./redis-server  redis .conf
cd..
cd redis05
./redis-server  redis .conf
cd..
cd redis06
./redis-server  redis .conf
cd..
View Code

 

为创建的脚本添加可执行权限:

chmod u+x start-all.sh

补充:

如果给所有人添加可执行权限:chmod a+x 文件名;
如果给文件所有者添加可执行权限:chmod u+x 文件名;
如果给所在组添加可执行权限:chmod g+x 文件名;
如果给所在组以外的人添加可执行权限:chmod o+x 文件名

 

查看进程,检测redis是否正常启动

ps aux | gerp redis

 

第三步:使用ruby脚本搭建集群。

./redis-trib.rb create --replicas n ip:port ...

  -n: 从节点个数

./redis-trib.rb create --replicas 1 192.168.25.153:7001 192.168.25.153:7002 192.168.25.153:7003 192.168.25.153:7004 192.168.25.153:7005 192.168.25.153:7006

 

注意:搭建集群使用的redis节点必须是干净的节点,不包含任何数据和残留配置信息。

 

可能会遇到的问题和对应的解决方法:

 

1)、将需要新增的节点下aof、rdb等本地备份文件删除;

 

2)、同时将新Node的集群配置文件删除,即:删除你redis.conf里面cluster-config-file所在的文件;

 

3)、再次添加新节点如果还是报错,则登录新Node,./redis-cli–h x –p对数据库进行清除:

 

172.168.63.201:7001>  flushdb      #清空当前数据库

 

创建关闭集群的脚本:

[root@localhost redis-cluster]# vim shutdow-all.sh

redis01/redis-cli -p 7001 shutdown

redis01/redis-cli -p 7002 shutdown

redis01/redis-cli -p 7003 shutdown

redis01/redis-cli -p 7004 shutdown

redis01/redis-cli -p 7005 shutdown

redis01/redis-cli -p 7006 shutdown

[root@localhost redis-cluster]# chmod u+x shutdow-all.sh

 

[root@localhost redis-cluster]# ./redis-trib.rb create --replicas 1 192.168.25.153:7001 192.168.25.153:7002 192.168.25.153:7003 192.168.25.153:7004 192.168.25.153:7005  192.168.25.153:7006

>>> Creating cluster

Connecting to node 192.168.25.153:7001: OK

Connecting to node 192.168.25.153:7002: OK

Connecting to node 192.168.25.153:7003: OK

Connecting to node 192.168.25.153:7004: OK

Connecting to node 192.168.25.153:7005: OK

Connecting to node 192.168.25.153:7006: OK

>>> Performing hash slots allocation on 6 nodes...

Using 3 masters:

192.168.25.153:7001

192.168.25.153:7002

192.168.25.153:7003

Adding replica 192.168.25.153:7004 to 192.168.25.153:7001

Adding replica 192.168.25.153:7005 to 192.168.25.153:7002

Adding replica 192.168.25.153:7006 to 192.168.25.153:7003

M: 2e48ae301e9c32b04a7d4d92e15e98e78de8c1f3 192.168.25.153:7001

   slots:0-5460 (5461 slots) master

M: 8cd93a9a943b4ef851af6a03edd699a6061ace01 192.168.25.153:7002

   slots:5461-10922 (5462 slots) master

M: 2935007902d83f20b1253d7f43dae32aab9744e6 192.168.25.153:7003

   slots:10923-16383 (5461 slots) master

S: 74f9d9706f848471583929fc8bbde3c8e99e211b 192.168.25.153:7004

   replicates 2e48ae301e9c32b04a7d4d92e15e98e78de8c1f3

S: 42cc9e25ebb19dda92591364c1df4b3a518b795b 192.168.25.153:7005

   replicates 8cd93a9a943b4ef851af6a03edd699a6061ace01

S: 8b1b11d509d29659c2831e7a9f6469c060dfcd39 192.168.25.153:7006

   replicates 2935007902d83f20b1253d7f43dae32aab9744e6

Can I set the above configuration? (type \'yes\' to accept): yes

>>> Nodes configuration updated

>>> Assign a different config epoch to each node

>>> Sending CLUSTER MEET messages to join the cluster

Waiting for the cluster to join.....

>>> Performing Cluster Check (using node 192.168.25.153:7001)

M: 2e48ae301e9c32b04a7d4d92e15e98e78de8c1f3 192.168.25.153:7001

   slots:0-5460 (5461 slots) master

M: 8cd93a9a943b4ef851af6a03edd699a6061ace01 192.168.25.153:7002

   slots:5461-10922 (5462 slots) master

M: 2935007902d83f20b1253d7f43dae32aab9744e6 192.168.25.153:7003

   slots:10923-16383 (5461 slots) master

M: 74f9d9706f848471583929fc8bbde3c8e99e211b 192.168.25.153:7004

   slots: (0 slots) master

   replicates 2e48ae301e9c32b04a7d4d92e15e98e78de8c1f3

M: 42cc9e25ebb19dda92591364c1df4b3a518b795b 192.168.25.153:7005

   slots: (0 slots) master

   replicates 8cd93a9a943b4ef851af6a03edd699a6061ace01

M: 8b1b11d509d29659c2831e7a9f6469c060dfcd39 192.168.25.153:7006

   slots: (0 slots) master

   replicates 2935007902d83f20b1253d7f43dae32aab9744e6

[OK] All nodes agree about slots configuration.

>>> Check for open slots...

>>> Check slots coverage...

[OK] All 16384 slots covered.

[root@localhost redis-cluster]#

 

5.3. 集群的使用方法

Redis-cli连接集群。

[root@localhost redis-cluster]# redis01/redis-cli -p 7002 -c

-c:代表连接的是redis集群

 

6.   Jedis

需要把jedis依赖的jar包添加到工程中。Maven工程中需要把jedis的坐标添加到依赖。

 

推荐添加到服务层工程中。

 

6.1. 连接单机版

第一步:创建一个Jedis对象。需要指定服务端的ip及端口。

第二步:使用Jedis对象操作数据库,每个redis命令对应一个方法。

第三步:打印结果。

第四步:关闭Jedis

@Test

     public void testJedis() throws Exception {

         // 第一步:创建一个Jedis对象。需要指定服务端的ip及端口。

         Jedis jedis = new Jedis("192.168.25.153", 6379);

         // 第二步:使用Jedis对象操作数据库,每个redis命令对应一个方法。

         String result = jedis.get("hello");

         // 第三步:打印结果。

          System.out.println(result);

         // 第四步:关闭Jedis

         jedis.close();

     }

 

6.2. 连接单机版使用连接池

第一步:创建一个JedisPool对象。需要指定服务端的ip及端口。

第二步:从JedisPool中获得Jedis对象。

第三步:使用Jedis操作redis服务器。

第四步:操作完毕后关闭jedis对象,连接池回收资源。

第五步:关闭JedisPool对象。

@Test

     public void testJedisPool() throws Exception {

         // 第一步:创建一个JedisPool对象。需要指定服务端的ip及端口。

         JedisPool jedisPool = new JedisPool("192.168.25.153", 6379);

         // 第二步:从JedisPool中获得Jedis对象。

         Jedis jedis = jedisPool.getResource();

         // 第三步:使用Jedis操作redis服务器。

         jedis.set("jedis", "test");

         String result = jedis.get("jedis");

         System.out.println(result);

         // 第四步:操作完毕后关闭jedis对象,连接池回收资源。

         jedis.close();

         // 第五步:关闭JedisPool对象。

         jedisPool.close();

     }

 

6.3. 连接集群版

第一步:使用JedisCluster对象。需要一个Set<HostAndPort>参数。Redis节点的列表。

第二步:直接使用JedisCluster对象操作redis。在系统中单例存在。

第三步:打印结果

第四步:系统关闭前,关闭JedisCluster对象。

 

@Test

     public void testJedisCluster() throws Exception {

         // 第一步:使用JedisCluster对象。需要一个Set<HostAndPort>参数。Redis节点的列表。

         Set<HostAndPort> nodes = new HashSet<>();

         nodes.add(new HostAndPort("192.168.25.153", 7001));

         nodes.add(new HostAndPort("192.168.25.153", 7002));

         nodes.add(new HostAndPort("192.168.25.153", 7003));

         nodes.add(new HostAndPort("192.168.25.153", 7004));

         nodes.add(new HostAndPort("192.168.25.153", 7005));

         nodes.add(new HostAndPort("192.168.25.153", 7006));

         JedisCluster jedisCluster = new JedisCluster(nodes);

         // 第二步:直接使用JedisCluster对象操作redis。在系统中单例存在。

         jedisCluster.set("hello", "100");

         String result = jedisCluster.get("hello");

         // 第三步:打印结果

         System.out.println(result);

         // 第四步:系统关闭前,关闭JedisCluster对象。

         jedisCluster.close();

     }

 

7.   向业务逻辑中添加缓存

7.1. 接口封装

常用的操作redis的方法提取出一个接口,分别对应单机版和集群版创建两个实现类。

 

7.1.1.    接口定义

 1 public interface JedisClient {
 2 
 3  
 4 
 5      String set(String key, String value);
 6 
 7      String get(String key);
 8 
 9      Boolean exists(String key);
10 
11      Long expire(String key, int seconds);
12 
13      Long ttl(String key);
14 
15      Long incr(String key);
16 
17      Long hset(String key, String field, String value);
18 
19      String hget(String key, String field);
20 
21      Long hdel(String key, String... field);
22 
23 }
View Code

 

7.1.2.    单机版实现类 

  1 public class JedisClientPool implements JedisClient {
  2 
  3     
  4 
  5      @Autowired
  6 
  7      private JedisPool jedisPool;
  8 
  9  
 10 
 11      @Override
 12 
 13      public String set(String key, String value) {
 14 
 15          Jedis jedis = jedisPool.getResource();
 16 
 17          String result = jedis.set(key, value);
 18 
 19          jedis.close();
 20 
 21          return result;
 22 
 23      }
 24 
 25  
 26 
 27      @Override
 28 
 29      public String get(String key) {
 30 
 31          Jedis jedis = jedisPool.getResource();
 32 
 33          String result = jedis.get(key);
 34 
 35          jedis.close();
 36 
 37          return result;
 38 
 39      }
 40 
 41  
 42 
 43      @Override
 44 
 45      public Boolean exists(String key) {
 46 
 47          Jedis jedis = jedisPool.getResource();
 48 
 49          Boolean result = jedis.exists(key);
 50 
 51          jedis.close();
 52 
 53          return result;
 54 
 55      }
 56 
 57  
 58 
 59      @Override
 60 
 61      public Long expire(String key, int seconds) {
 62 
 63          Jedis jedis = jedisPool.getResource();
 64 
 65          Long result = jedis.expire(key, seconds);
 66 
 67          jedis.close();
 68 
 69          return result;
 70 
 71      }
 72 
 73  
 74 
 75      @Override
 76 
 77      public Long ttl(String key) {
 78 
 79          Jedis jedis = jedisPool.getResource();
 80 
 81          Long result = jedis.ttl(key);
 82 
 83          jedis.close();
 84 
 85          return result;
 86 
 87      }
 88 
 89  
 90 
 91      @Override
 92 
 93      public Long incr(String key) {
 94 
 95          Jedis jedis = jedisPool.getResource();
 96 
 97          Long result = jedis.incr(key);
 98 
 99          jedis.close();
100 
101          return result;
102 
103      }
104 
105  
106 
107      @Override
108 
109      public Long hset(String key, String field, String value) {
110 
111          Jedis jedis = jedisPool.getResource();
112 
113          Long result = jedis.hset(key, field, value);
114 
115          jedis.close();
116 
117          return result;
118 
119      }
120 
121  
122 
123      @Override
124 
125      public String hget(String key, String field) {
126 
127          Jedis jedis = jedisPool.getResource();
128 
129          String result = jedis.hget(key, field);
130 
131          jedis.close();
132 
133          return result;
134 
135      }
136 
137  
138 
139      @Override
140 
141      public Long hdel(String key, String... field) {
142 
143          Jedis jedis = jedisPool.getResource();
144 
145          Long result = jedis.hdel(key, field);
146 
147          jedis.close();
148 
149          return result;
150 
151      }
152 
153  
154 
155 }
View Code 

配置:applicationContext-redis.xml

 1 <?xml version="1.0" encoding="UTF-8"?>
 2 
 3 <beans xmlns="http://www.springframework.org/schema/beans"
 4 
 5      xmlns:context="http://www.springframework.org/schema/context" xmlns:p="http://www.springframework.org/schema/p"
 6 
 7      xmlns:aop="http://www.springframework.org/schema/aop" xmlns:tx="http://www.springframework.org/schema/tx"
 8 
 9      xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
10 
11      xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans4.2.xsd
12 
13      http://www.springframework.org/schema/context http://www.springframework.org/schema/context/spring-context4.2.xsd
14 
15      http://www.springframework.org/schema/aop http://www.springframework.org/schema/aop/spring-aop4.2.xsd http://www.springframework.org/schema/tx http://www.springframework.org/schema/tx/spring-tx4.2.xsd
16 
17      http://www.springframework.org/schema/util http://www.springframework.org/schema/util/spring-util4.2.xsd">
18 
19  
20 
21      <!-- 配置单机版的连接 -->
22 
23      <bean id="jedisPool" class="redis.clients.jedis.JedisPool">
24 
25          <constructor-arg name="host" value="192.168.25.153"></constructor-arg>
26 
27          <constructor-arg name="port" value="6379"></constructor-arg>
28 
29      </bean>
30 
31      <bean id="jedisClientPool" class="com.taotao.jedis.JedisClientPool"/>
32 
33     
34 
35 </beans>
View Code

 

7.1.3.    集群版实现类 

  1 package com.taotao.jedis;
  2 
  3  
  4 
  5 import org.springframework.beans.factory.annotation.Autowired;
  6 
  7  
  8 
  9 import redis.clients.jedis.JedisCluster;
 10 
 11  
 12 
 13 public class JedisClientCluster implements JedisClient {
 14 
 15     
 16 
 17      @Autowired
 18 
 19      private JedisCluster jedisCluster;
 20 
 21  
 22 
 23      @Override
 24 
 25      public String set(String key, String value) {
 26 
 27          return jedisCluster.set(key, value);
 28 
 29      }
 30 
 31  
 32 
 33      @Override
 34 
 35      public String get(String key) {
 36 
 37          return jedisCluster.get(key);
 38 
 39      }
 40 
 41  
 42 
 43      @Override
 44 
 45      public Boolean exists(String key) {
 46 
 47          return jedisCluster.exists(key);
 48 
 49      }
 50 
 51  
 52 
 53      @Override
 54 
 55      public Long expire(String key, int seconds) {
 56 
 57          return jedisCluster.expire(key, seconds);
 58 
 59      }
 60 
 61  
 62 
 63      @Override
 64 
 65      public Long ttl(String key) {
 66 
 67          return jedisCluster.ttl(key);
 68 
 69      }
 70 
 71  
 72 
 73      @Override
 74 
 75      public Long incr(String key) {
 76 
 77          return jedisCluster.incr(key);
 78 
 79      }
 80 
 81  
 82 
 83      @Override
 84 
 85      public Long hset(String key, String field, String value) {
 86 
 87          return jedisCluster.hset(key, field, value);
 88 
 89      }
 90 
 91  
 92 
 93      @Override
 94 
 95      public String hget(String key, String field) {
 96 
 97          return jedisCluster.hget(key, field);
 98 
 99      }
100 
101  
102 
103      @Override
104 
105      public Long hdel(String key, String... field) {
106 
107          return jedisCluster.hdel(key, field);
108 
109      }
110 
111  
112 
113 }
View Code

 


Spring的配置: