Redis集群的搭建
Posted 木子木泗
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了Redis集群的搭建相关的知识，希望对你有一定的参考价值。
1. 学习计划
1、Redis服务器搭建
2、向业务逻辑中添加缓存。
3、使用redis做缓存
4、缓存同步。
2. 首页大广告的展示流程
首页是系统的门户，也就是系统的入口。所以首页的访问量是这个系统最大的。如果每次展示首页都从数据库中查询首页的内容信息，那么势必会对数据库造成很大的压力，所以需要使用缓存来减轻数据库压力。
实现缓存的工具有很多，现在比较流行的是redis。
3. Redis的安装
3.1. Redis的安装
Redis是c语言开发的。
安装redis需要c语言的编译环境。如果没有gcc需要在线安装。yum install gcc-c++
安装步骤：
第一步：redis的源码包上传到linux系统。
第二步：解压缩redis。
第三步：编译。进入redis源码目录。make
第四步：安装。make install PREFIX=/usr/local/redis
PREFIX参数指定redis的安装目录。一般软件安装到/usr目录下
3.2. 连接redis
3.2.1. redis的启动：
前端启动：在redis的安装目录下直接启动redis-server
[root@localhost bin]# ./redis-server
后台启动：
把/root/redis-3.0.0/redis.conf复制到/usr/local/redis/bin目录下
[root@localhost redis-3.0.0]# cp redis.conf /usr/local/redis/bin/
修改配置文件：
[root@localhost bin]# ./redis-server redis.conf
查看redis进程 ps aux|grep redis：
[root@localhost bin]# ps aux|grep redis
root 5190 0.1 0.3 33936 1712 ? Ssl 18:23 0:00 ./redis-server *:6379
root 5196 0.0 0.1 4356 728 pts/0 S+ 18:24 0:00 grep redis
[root@localhost bin]#
3.2.2. Redis-cli
[root@localhost bin]# ./redis-cli
默认连接localhost运行在6379端口的redis服务。
[root@localhost bin]# ./redis-cli -h 192.168.25.153 -p 6379
-h：连接的服务器的地址
-p：服务的端口号
关闭redis：[root@localhost bin]# ./redis-cli shutdown
3.3. Redis五种数据类型
String：key-value（做缓存）
Redis中所有的数据都是字符串。命令不区分大小写，key是区分大小写的。Redis是单线程的。Redis中不适合保存内容大的数据。
get、set、
incr：加一（生成id）
Decr：减一
Hash：key-fields-values（做缓存）
相当于一个key对应一个map，map中还有key-value
使用hash对key进行归类。
Hset：向hash中添加内容
Hget：从hash中取内容
List：有顺序可重复
192.168.25.153:6379> lpush list1 a b c d
(integer) 4
192.168.25.153:6379> lrange list1 0 -1
1) "d"
2) "c"
3) "b"
4) "a"
192.168.25.153:6379> rpush list1 1 2 3 4
(integer) 8
192.168.25.153:6379> lrange list1 0 -1
1) "d"
2) "c"
3) "b"
4) "a"
5) "1"
6) "2"
7) "3"
8) "4"
192.168.25.153:6379>
192.168.25.153:6379> lpop list1
"d"
192.168.25.153:6379> lrange list1 0 -1
1) "c"
2) "b"
3) "a"
4) "1"
5) "2"
6) "3"
7) "4"
192.168.25.153:6379> rpop list1
"4"
192.168.25.153:6379> lrange list1 0 -1
1) "c"
2) "b"
3) "a"
4) "1"
5) "2"
6) "3"
192.168.25.153:6379>
Set：元素无顺序，不能重复
192.168.25.153:6379> sadd set1 a b c c c d
(integer) 4
192.168.25.153:6379> smembers set1
1) "b"
2) "c"
3) "d"
4) "a"
192.168.25.153:6379> srem set1 a
(integer) 1
192.168.25.153:6379> smembers set1
1) "b"
2) "c"
3) "d"
192.168.25.153:6379>
还有集合运算命令，自学。
SortedSet（zset）：有顺序，不能重复
192.168.25.153:6379> zadd zset1 2 a 5 b 1 c 6 d
(integer) 4
192.168.25.153:6379> zrange zset1 0 -1
1) "c"
2) "a"
3) "b"
4) "d"
192.168.25.153:6379> zrem zset1 a
(integer) 1
192.168.25.153:6379> zrange zset1 0 -1
1) "c"
2) "b"
3) "d"
192.168.25.153:6379> zrevrange zset1 0 -1
1) "d"
2) "b"
3) "c"
192.168.25.153:6379> zrange zset1 0 -1 withscores
1) "c"
2) "1"
3) "b"
4) "5"
5) "d"
6) "6"
192.168.25.153:6379> zrevrange zset1 0 -1 withscores
1) "d"
2) "6"
3) "b"
4) "5"
5) "c"
6) "1"
192.168.25.153:6379>
3.4. Key命令
设置key的过期时间。
Expire key second：设置key的过期时间
Ttl key：查看key的有效期
Persist key：清除key的过期时间。Key持久化。
192.168.25.153:6379> expire Hello 100
(integer) 1
192.168.25.153:6379> ttl Hello
(integer) 77
4. Redis的持久化方案
Redis的所有数据都是保存到内存中的。
Rdb：快照形式，定期把内存中当前时刻的数据保存到磁盘。Redis默认支持的持久化方案。
aof形式：append only file。把所有对redis数据库操作的命令，增删改操作的命令。保存到文件中。数据库恢复时把所有的命令执行一遍即可。
在redis.conf配置文件中配置。
Rdb的配置：
Aof的配置：
两种持久化方案同时开启使用aof文件来恢复数据库。
5. Redis集群的搭建
5.1. redis-cluster架构图
redis-cluster投票:容错
架构细节:
(1)所有的redis节点彼此互联(PING-PONG机制),内部使用二进制协议优化传输速度和带宽.
(2)节点的fail是通过集群中超过半数的节点检测失效时才生效.
(3)客户端与redis节点直连,不需要中间proxy层.客户端不需要连接集群所有节点,连接集群中任何一个可用节点即可
(4)redis-cluster把所有的物理节点映射到[0-16383]slot上,cluster 负责维护node<->slot<->value
Redis 集群中内置了 16384 个哈希槽，当需要在 Redis 集群中放置一个 key-value 时，redis 先对 key 使用 crc16 算法算出一个结果，然后把结果对 16384 求余数，这样每个 key 都会对应一个编号在 0-16383 之间的哈希槽，redis 会根据节点数量大致均等的将哈希槽映射到不同的节点
5.2. Redis集群的搭建
Redis集群中至少应该有三个节点。要保证集群的高可用，需要每个节点有一个备份机。
Redis集群至少需要6台服务器。
搭建伪分布式。可以使用一台虚拟机运行6个redis实例。需要修改redis的端口号7001-7006
5.2.1. 集群搭建环境
1、使用ruby脚本搭建集群。需要ruby的运行环境。
安装ruby
yum install ruby
yum install rubygems
2、安装ruby脚本运行使用的包。
[root@localhost ~]# gem install redis-3.0.0.gem
Successfully installed redis-3.0.0
1 gem installed
Installing ri documentation for redis-3.0.0...
Installing RDoc documentation for redis-3.0.0...
[root@localhost ~]#
[root@localhost ~]# cd redis-3.0.0/src
[root@localhost src]# ll *.rb
-rwxrwxr-x. 1 root root 48141 Apr 1 2015 redis-trib.rb
5.2.2. 搭建步骤
需要6台redis服务器。搭建伪分布式。
需要6个redis实例。
需要运行在不同的端口7001-7006
第一步：创建6个redis实例
每个实例运行在不同的端口。需要修改redis.conf配置文件。配置文件中还需要把cluster-enabled yes前的注释去掉，开启集群模式。
第二步：启动每个redis实例。
在redis-cluster目录下创建启动脚本start-all.sh，检测一下之前修改的redis能否正常启动，为集群的搭建作准备
cd redis01 ./redis-server redis .conf cd.. cd redis02 ./redis-server redis .conf cd.. cd redis03 ./redis-server redis .conf cd.. cd redis04 ./redis-server redis .conf cd.. cd redis05 ./redis-server redis .conf cd.. cd redis06 ./redis-server redis .conf cd..
为创建的脚本添加可执行权限：
chmod u+x start-all.sh
补充：
如果给所有人添加可执行权限：chmod a+x 文件名； 如果给文件所有者添加可执行权限：chmod u+x 文件名； 如果给所在组添加可执行权限：chmod g+x 文件名； 如果给所在组以外的人添加可执行权限：chmod o+x 文件名
查看进程，检测redis是否正常启动
ps aux | gerp redis
第三步：使用ruby脚本搭建集群。
./redis-trib.rb create --replicas n ip:port ...
-n: 从节点个数
|
./redis-trib.rb create --replicas 1 192.168.25.153:7001 192.168.25.153:7002 192.168.25.153:7003 192.168.25.153:7004 192.168.25.153:7005 192.168.25.153:7006 |
注意：搭建集群使用的redis节点必须是干净的节点，不包含任何数据和残留配置信息。
可能会遇到的问题和对应的解决方法：
1)、将需要新增的节点下aof、rdb等本地备份文件删除；
2)、同时将新Node的集群配置文件删除,即：删除你redis.conf里面cluster-config-file所在的文件；
3)、再次添加新节点如果还是报错，则登录新Node,./redis-cli–h x –p对数据库进行清除：
172.168.63.201:7001> flushdb #清空当前数据库
创建关闭集群的脚本：
[root@localhost redis-cluster]# vim shutdow-all.sh
redis01/redis-cli -p 7001 shutdown
redis01/redis-cli -p 7002 shutdown
redis01/redis-cli -p 7003 shutdown
redis01/redis-cli -p 7004 shutdown
redis01/redis-cli -p 7005 shutdown
redis01/redis-cli -p 7006 shutdown
[root@localhost redis-cluster]# chmod u+x shutdow-all.sh
|
[root@localhost redis-cluster]# ./redis-trib.rb create --replicas 1 192.168.25.153:7001 192.168.25.153:7002 192.168.25.153:7003 192.168.25.153:7004 192.168.25.153:7005 192.168.25.153:7006 >>> Creating cluster Connecting to node 192.168.25.153:7001: OK Connecting to node 192.168.25.153:7002: OK Connecting to node 192.168.25.153:7003: OK Connecting to node 192.168.25.153:7004: OK Connecting to node 192.168.25.153:7005: OK Connecting to node 192.168.25.153:7006: OK >>> Performing hash slots allocation on 6 nodes... Using 3 masters: 192.168.25.153:7001 192.168.25.153:7002 192.168.25.153:7003 Adding replica 192.168.25.153:7004 to 192.168.25.153:7001 Adding replica 192.168.25.153:7005 to 192.168.25.153:7002 Adding replica 192.168.25.153:7006 to 192.168.25.153:7003 M: 2e48ae301e9c32b04a7d4d92e15e98e78de8c1f3 192.168.25.153:7001 slots:0-5460 (5461 slots) master M: 8cd93a9a943b4ef851af6a03edd699a6061ace01 192.168.25.153:7002 slots:5461-10922 (5462 slots) master M: 2935007902d83f20b1253d7f43dae32aab9744e6 192.168.25.153:7003 slots:10923-16383 (5461 slots) master S: 74f9d9706f848471583929fc8bbde3c8e99e211b 192.168.25.153:7004 replicates 2e48ae301e9c32b04a7d4d92e15e98e78de8c1f3 S: 42cc9e25ebb19dda92591364c1df4b3a518b795b 192.168.25.153:7005 replicates 8cd93a9a943b4ef851af6a03edd699a6061ace01 S: 8b1b11d509d29659c2831e7a9f6469c060dfcd39 192.168.25.153:7006 replicates 2935007902d83f20b1253d7f43dae32aab9744e6 Can I set the above configuration? (type \'yes\' to accept): yes >>> Nodes configuration updated >>> Assign a different config epoch to each node >>> Sending CLUSTER MEET messages to join the cluster Waiting for the cluster to join..... >>> Performing Cluster Check (using node 192.168.25.153:7001) M: 2e48ae301e9c32b04a7d4d92e15e98e78de8c1f3 192.168.25.153:7001 slots:0-5460 (5461 slots) master M: 8cd93a9a943b4ef851af6a03edd699a6061ace01 192.168.25.153:7002 slots:5461-10922 (5462 slots) master M: 2935007902d83f20b1253d7f43dae32aab9744e6 192.168.25.153:7003 slots:10923-16383 (5461 slots) master M: 74f9d9706f848471583929fc8bbde3c8e99e211b 192.168.25.153:7004 slots: (0 slots) master replicates 2e48ae301e9c32b04a7d4d92e15e98e78de8c1f3 M: 42cc9e25ebb19dda92591364c1df4b3a518b795b 192.168.25.153:7005 slots: (0 slots) master replicates 8cd93a9a943b4ef851af6a03edd699a6061ace01 M: 8b1b11d509d29659c2831e7a9f6469c060dfcd39 192.168.25.153:7006 slots: (0 slots) master replicates 2935007902d83f20b1253d7f43dae32aab9744e6 [OK] All nodes agree about slots configuration. >>> Check for open slots... >>> Check slots coverage... [OK] All 16384 slots covered. [root@localhost redis-cluster]# |
5.3. 集群的使用方法
Redis-cli连接集群。
[root@localhost redis-cluster]# redis01/redis-cli -p 7002 -c
-c：代表连接的是redis集群
6. Jedis
需要把jedis依赖的jar包添加到工程中。Maven工程中需要把jedis的坐标添加到依赖。
推荐添加到服务层工程中。
6.1. 连接单机版
第一步：创建一个Jedis对象。需要指定服务端的ip及端口。
第二步：使用Jedis对象操作数据库，每个redis命令对应一个方法。
第三步：打印结果。
第四步：关闭Jedis
|
@Test public void testJedis() throws Exception { // 第一步：创建一个Jedis对象。需要指定服务端的ip及端口。 Jedis jedis = new Jedis("192.168.25.153", 6379); // 第二步：使用Jedis对象操作数据库，每个redis命令对应一个方法。 String result = jedis.get("hello"); // 第三步：打印结果。 System.out.println(result); // 第四步：关闭Jedis jedis.close(); } |
6.2. 连接单机版使用连接池
第一步：创建一个JedisPool对象。需要指定服务端的ip及端口。
第二步：从JedisPool中获得Jedis对象。
第三步：使用Jedis操作redis服务器。
第四步：操作完毕后关闭jedis对象，连接池回收资源。
第五步：关闭JedisPool对象。
|
@Test public void testJedisPool() throws Exception { // 第一步：创建一个JedisPool对象。需要指定服务端的ip及端口。 JedisPool jedisPool = new JedisPool("192.168.25.153", 6379); // 第二步：从JedisPool中获得Jedis对象。 Jedis jedis = jedisPool.getResource(); // 第三步：使用Jedis操作redis服务器。 jedis.set("jedis", "test"); String result = jedis.get("jedis"); System.out.println(result); // 第四步：操作完毕后关闭jedis对象，连接池回收资源。 jedis.close(); // 第五步：关闭JedisPool对象。 jedisPool.close(); } |
6.3. 连接集群版
第一步：使用JedisCluster对象。需要一个Set<HostAndPort>参数。Redis节点的列表。
第二步：直接使用JedisCluster对象操作redis。在系统中单例存在。
第三步：打印结果
第四步：系统关闭前，关闭JedisCluster对象。
|
@Test public void testJedisCluster() throws Exception { // 第一步：使用JedisCluster对象。需要一个Set<HostAndPort>参数。Redis节点的列表。 Set<HostAndPort> nodes = new HashSet<>(); nodes.add(new HostAndPort("192.168.25.153", 7001)); nodes.add(new HostAndPort("192.168.25.153", 7002)); nodes.add(new HostAndPort("192.168.25.153", 7003)); nodes.add(new HostAndPort("192.168.25.153", 7004)); nodes.add(new HostAndPort("192.168.25.153", 7005)); nodes.add(new HostAndPort("192.168.25.153", 7006)); JedisCluster jedisCluster = new JedisCluster(nodes); // 第二步：直接使用JedisCluster对象操作redis。在系统中单例存在。 jedisCluster.set("hello", "100"); String result = jedisCluster.get("hello"); // 第三步：打印结果 System.out.println(result); // 第四步：系统关闭前，关闭JedisCluster对象。 jedisCluster.close(); } |
7. 向业务逻辑中添加缓存
7.1. 接口封装
常用的操作redis的方法提取出一个接口，分别对应单机版和集群版创建两个实现类。
7.1.1. 接口定义
1 public interface JedisClient { 2 3 4 5 String set(String key, String value); 6 7 String get(String key); 8 9 Boolean exists(String key); 10 11 Long expire(String key, int seconds); 12 13 Long ttl(String key); 14 15 Long incr(String key); 16 17 Long hset(String key, String field, String value); 18 19 String hget(String key, String field); 20 21 Long hdel(String key, String... field); 22 23 }
7.1.2. 单机版实现类
1 public class JedisClientPool implements JedisClient { 2 3 4 5 @Autowired 6 7 private JedisPool jedisPool; 8 9 10 11 @Override 12 13 public String set(String key, String value) { 14 15 Jedis jedis = jedisPool.getResource(); 16 17 String result = jedis.set(key, value); 18 19 jedis.close(); 20 21 return result; 22 23 } 24 25 26 27 @Override 28 29 public String get(String key) { 30 31 Jedis jedis = jedisPool.getResource(); 32 33 String result = jedis.get(key); 34 35 jedis.close(); 36 37 return result; 38 39 } 40 41 42 43 @Override 44 45 public Boolean exists(String key) { 46 47 Jedis jedis = jedisPool.getResource(); 48 49 Boolean result = jedis.exists(key); 50 51 jedis.close(); 52 53 return result; 54 55 } 56 57 58 59 @Override 60 61 public Long expire(String key, int seconds) { 62 63 Jedis jedis = jedisPool.getResource(); 64 65 Long result = jedis.expire(key, seconds); 66 67 jedis.close(); 68 69 return result; 70 71 } 72 73 74 75 @Override 76 77 public Long ttl(String key) { 78 79 Jedis jedis = jedisPool.getResource(); 80 81 Long result = jedis.ttl(key); 82 83 jedis.close(); 84 85 return result; 86 87 } 88 89 90 91 @Override 92 93 public Long incr(String key) { 94 95 Jedis jedis = jedisPool.getResource(); 96 97 Long result = jedis.incr(key); 98 99 jedis.close(); 100 101 return result; 102 103 } 104 105 106 107 @Override 108 109 public Long hset(String key, String field, String value) { 110 111 Jedis jedis = jedisPool.getResource(); 112 113 Long result = jedis.hset(key, field, value); 114 115 jedis.close(); 116 117 return result; 118 119 } 120 121 122 123 @Override 124 125 public String hget(String key, String field) { 126 127 Jedis jedis = jedisPool.getResource(); 128 129 String result = jedis.hget(key, field); 130 131 jedis.close(); 132 133 return result; 134 135 } 136 137 138 139 @Override 140 141 public Long hdel(String key, String... field) { 142 143 Jedis jedis = jedisPool.getResource(); 144 145 Long result = jedis.hdel(key, field); 146 147 jedis.close(); 148 149 return result; 150 151 } 152 153 154 155 }
配置：applicationContext-redis.xml
1 <?xml version="1.0" encoding="UTF-8"?> 2 3 <beans xmlns="http://www.springframework.org/schema/beans" 4 5 xmlns:context="http://www.springframework.org/schema/context" xmlns:p="http://www.springframework.org/schema/p" 6 7 xmlns:aop="http://www.springframework.org/schema/aop" xmlns:tx="http://www.springframework.org/schema/tx" 8 9 xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" 10 11 xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans4.2.xsd 12 13 http://www.springframework.org/schema/context http://www.springframework.org/schema/context/spring-context4.2.xsd 14 15 http://www.springframework.org/schema/aop http://www.springframework.org/schema/aop/spring-aop4.2.xsd http://www.springframework.org/schema/tx http://www.springframework.org/schema/tx/spring-tx4.2.xsd 16 17 http://www.springframework.org/schema/util http://www.springframework.org/schema/util/spring-util4.2.xsd"> 18 19 20 21 <!-- 配置单机版的连接 --> 22 23 <bean id="jedisPool" class="redis.clients.jedis.JedisPool"> 24 25 <constructor-arg name="host" value="192.168.25.153"></constructor-arg> 26 27 <constructor-arg name="port" value="6379"></constructor-arg> 28 29 </bean> 30 31 <bean id="jedisClientPool" class="com.taotao.jedis.JedisClientPool"/> 32 33 34 35 </beans>
7.1.3. 集群版实现类
1 package com.taotao.jedis; 2 3 4 5 import org.springframework.beans.factory.annotation.Autowired; 6 7 8 9 import redis.clients.jedis.JedisCluster; 10 11 12 13 public class JedisClientCluster implements JedisClient { 14 15 16 17 @Autowired 18 19 private JedisCluster jedisCluster; 20 21 22 23 @Override 24 25 public String set(String key, String value) { 26 27 return jedisCluster.set(key, value); 28 29 } 30 31 32 33 @Override 34 35 public String get(String key) { 36 37 return jedisCluster.get(key); 38 39 } 40 41 42 43 @Override 44 45 public Boolean exists(String key) { 46 47 return jedisCluster.exists(key); 48 49 } 50 51 52 53 @Override 54 55 public Long expire(String key, int seconds) { 56 57 return jedisCluster.expire(key, seconds); 58 59 } 60 61 62 63 @Override 64 65 public Long ttl(String key) { 66 67 return jedisCluster.ttl(key); 68 69 } 70 71 72 73 @Override 74 75 public Long incr(String key) { 76 77 return jedisCluster.incr(key); 78 79 } 80 81 82 83 @Override 84 85 public Long hset(String key, String field, String value) { 86 87 return jedisCluster.hset(key, field, value); 88 89 } 90 91 92 93 @Override 94 95 public String hget(String key, String field) { 96 97 return jedisCluster.hget(key, field); 98 99 } 100 101 102 103 @Override 104 105 public Long hdel(String key, String... field) { 106 107 return jedisCluster.hdel(key, field); 108 109 } 110 111 112 113 }
Spring的配置：