Redis-数据类型-应用场景
Posted ML李嘉图
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Redis-数据类型-应用场景相关的知识,希望对你有一定的参考价值。
一些小问题
Redis一共有几种数据类型?(注意是数据类型
不是数据结构)
一共是八种,String、Hash、Set、List、Zset、Hyperloglog、Geo、Streams。
为什么要把数据放在内存中?
内存的速度更快,10W QPS
减少计算的时间,减轻数据库压力
如果是用内存的数据结构作为缓存,为什么不用HashMap或者Memcached?
更丰富的数据类型
支持多种编程语言
功能丰富:持久化机制、内存淘汰策略、事务、发布订阅、pipeline、LUA
支持集群、分布式
Memcached和redis的区别是什么?
Memcached只能存储KV、没有持久化机制、不支持主从复制、是多线程的。
Redis Key的最大长度限制是512M,值的限制不同,有的是用长度限制的,有的是用个数限制的。
关于其他有趣的 Reids 的内容可以移步这儿:https://www.cnblogs.com/zwtblog/tag/Redis/
String
get和set命令就是String的操作命令,Redis的字符串被叫做二进制安全的字符串(Binary-safe strings)。
String可以存储三种类型,INT(整数)、float(单精度浮点数)、string(字符串)
操作命令
# 存值(如果对同一个key set多次会直接覆盖旧值)
set jack 2673
# 取值
get jack
# 查看所有键
keys *
# 获取键总数(生产环境数据量大,慎用)
dbsize
# 查看键是否存在
exists jack
# 删除键
del jack tonny
# 重命名键
rename jack tonny
# 查看类型
type jack
# 获取指定范围的字符
getrange jack 0 1
# 获取值长度
strlen jack
# 字符串追加内容
append jack good
# 设置多个值(批量操作,原子性)
mset jack 2673 tonny 2674
# 获取多个值
mget jack tonny
# 设置值,如果key存在,则不成功
setnx jack shuaige
# 基于此实现分布式锁
set key value [expiration EX seconds|PX milliseconds][NX|XX]
# (整数)值递增(值不存在会得到1)
incr jack
incrby jack 100
# (整数)值递减
decr jack
decrby jack 100
# 浮点数增量
set mf 2.6
incrbyfloat mf 7.3
应用场景
1、缓存
String类型,这是最常用的,可以缓存一些热点数据,比如首页新闻,可以显著提升热点数据的访问速度,同时减轻DB压力。
2、分布式数据共享
String 类型,因为Redis是分布式的独立服务,可以在多个应用之间共享。
例如:分布式Session
<dependency>
<groupId>org.springframework.session</groupId>
<artifactId>spring-session-data-redis</artifactId>
</dependency>
3、分布式锁
详情见博客:https://www.cnblogs.com/zwtblog/p/15185894.html
4、全局ID
INT类型,INCRBY,利用原子性
incrby userid 1000(分表分库的场景,一次性拿一段)
5、计数器
INT类型,INCR方法
例如:文章的阅读量,微博点赞数,允许一定的延迟,先写入Redis再定时同步到数据库
6、限流
INT类型,INCR方法
以访问者的IP和其他信息作为key,访问一次增加一次计数,超过次数则返回false。
Hash
这样也便于集中管理,划分的粒度不同,可以按照实际场景,key 的过期时间,灵活度考虑选取哪一种存储方式。
Hash用来存储多个无序的键值对,最大存储数量2^32-1(40亿左右)。
优点:
- 把所有相关的值聚集到一个Key中,节省内存空间
- 只使用一个Key,减少Key冲突
- 当需要批量获取值的时候,只需要使用一个命令,减少内存/IO/CPU的消耗
缺点:
- Field不能单独设置过期时间
- 需要考虑数据量分布的问题(field非常多的时候,无法分布到多个节点)
操作命令
# 设置、批量设置值
hset h1 f 6
hset h1 e 5
hmset h1 a 1 b 2 c 3 d 4
# 取值
hget h1 a
# 批量取值
hmget h1 a b c d
# 获取所有field
hkeys h1
# 获取所有field的值
hvals h1
# 返回哈希表中,所有的字段和值
hgetall h1
# 删除field
hdel h1 a
# 获取哈希表中字段的数量
hlen h1
应用场景
String可以做的事情,Hash都可以做。
再补充一个场景,购物车
List
存储有序的字符串(从左到右),元素可以重复,最大存储数量2^32-1(40亿左右)。
操作命令
# 左推
lpush queue a
lpush queue b c
# 右推
rpush queue d e
# 左边移除并返回列表的第一个元素
lpop queue
# 右边移除并返回列表的第一个元素
rpop queue
# 通过索引获取列表中的元素
lindex queue 0
# 返回列表中指定区间内的元素
lrange queue 0 -1
应用场景
1、列表
例如用户的消息列表、网站的公告列表、活动列表、博客的文章列表、评论列表等,通过 LRANGE 取出一页,按顺序显示。
2、队列/栈
List还可以当做分布式环境的 队列 / 栈 使用。
队列:先进先出,rpush 和 blpop
栈:先进后出,rpush 和 brpop
这里介绍两个阻塞的弹出操作:blpop/brpop,可以设置超时时间(单位:秒)
blpop:blpop key1 timeout,
移出并获取列表的第一个元素,
如果列表没有元素会阻塞列表直到等待超时或发现可弹出元素为止。
brpop:brpop key1 timeout,
移出并获取列表的最后一个元素,
如果列表没有元素会阻塞列表直到等待超时或发现可弹出元素为止。
Set
Set 存储 String 类型的无序集合,最大存储数量 2^32-1(40亿左右)。
操作命令
# 添加一个或多个元素
sadd myset a b c d e f g
# 获取所有元素
smembers myset
# 统计元素个数
scard myset
# 随机获取一个元素
srandmember myset
# 随机弹出一个元素
spop myset
# 移除一个或者多个元素
srem myset d e f
# 查看元素是否存在
sismember myset a
# 获取差集
sdiff set1 set2
# 获取交集
sinter set1 set2
# 获取并集
sunion set1 set2
应用场景
1、抽奖
随机获取元素:spop myset
2、点赞、签到、打卡
我们以微博举例子,假设这条微博的ID是t1001,用户ID是u6001,
用 dianzan:t1001 来维护 t1001 这条微博的所有点赞用户。
点赞了这条微博:sadd dianzan:t1001 u6001
取消点赞:srem dianzan:t1001 u6001
是否点赞:sismember dianzan:t1001 u6001
点赞的所有用户:smembers dianzan:t1001
点赞数:scard dianzan:t1001
比关系型数据库简单了许多。
3、商品标签
用 tags : i8001 来维护商品所有的标签。
sadd tags:i8001 画面清晰细腻
sadd tags:i8001 真彩清晰显示屏
sadd tags:i8001 流畅至极
4、商品筛选
华为P50上线了,支持民族品牌,加到各个标签中去。
sadd brand:huawei p50
sadd os:android p50
sadd screensize:6.0-6.24 p50
买的时候筛选,牌子是华为,操作系统是安卓,屏幕大小在6.0-6.24之间的,取交集:
sinter brand:huawei os:android screensize:6.0-6.24
ZSet
sorted set 存储有序的元素。每个元素都有个 score,按照 score 从小到大排序。
score 相同时,按照 key 的ASCII码排序。
操作命令
# 添加元素
zadd myzset 10 java 20 php 30 ruby 40 cpp 50 python
# 获取全部元素
zrange myset 0 -1 withscores
zrevrange myzset 0 -1 withscores
# 根据分数区间获取元素
zrangebyscore myzset 20 30
# 移除元素(也可以根据score rank删除)
zrem myzset php cpp
# 统计元素个数
zcard myzset
# 分值增加
zincrby myzset 5 python
# 根据分值min和max统计个数
zcount myzset 20 60
# 获取python排名
zrank myzset python
# 获取元素分数
zscore myzset python
应用场景
1、排行榜
今天是2021年5月23号,建一个 key 为 hotSearch:20210523 的 zset。
这条新闻的id是n1234,每点击一下:zincrby hotSearch:20210523 1 n1234
获取热搜排行榜前十条:zrevrange hotSearch:20210523 0 10 withscores
BitMaps
BitMaps是在字符串类型上定义的位操作,一个字节由8个二进制位组成。
操作命令
# 设置字符串key为k1,value为mic
set k1 mic
# 取k1的第七位,结果是0
getbit k1 6
# 取k1的第八位为0,此时的ASCII码是108,对应字母是l
setbit k1 7 0
# 所以取出来值为lic
get k1
# 统计二进制中1的个数,一共是12个
bitcount k1
# 获取第一个1或者0的位置
bitpos k1 1
bitpos k1 1
BITOP AND destkey key [key ...],对一个或多个key求逻辑并,并将结果保存到 destkey。
BITOP OR destkey key [key ...],对一个或多个key求逻辑或,并将结果保存到 destkey。
BITOP XOR destkey key [key ...],对一个或多个key求逻辑异或,并将结果保存到 destkey。
BITOP NOT destkey key,对给定key求逻辑非,并将结果保存到 destkey。
应用场景
1、连续在线用户
setbit firstday 0 1 //设置第一天uid是0的用户登录
setbit firstday 1 0 //设置第一天uid是1的用户未登录
setbit firstday 2 1 //设置第一天uid是2的用户登录
...
setbit secondday 0 0 //设置第二天uid是0的用户未登录
setbit secondday 1 1 //设置第二天uid是1的用户登录
setbit secondday 2 1 //设置第二天uid是2的用户登录
... //以此类推
那么在算连续七天在线用户就是:
BITOP AND 7_both_online_users firstday secondday thirdday fourthday fifthday sixthday seventhday
2、应用访问统计
3、在线用户统计
Hyperloglog
Hyperloglog 提供了一种不太精确的基数统计方法,用来统计一个集合中不重复的元素个数,
在 Redis 中实现的 Hyperloglog,只需要12k内存就能统计2^64个数据。
public static void main(String[] args) {
Jedis jedis = new Jedis("39.103.144.86", 6379);
float size = 100000;
for (int i = 0; i < size; i++) {
jedis.pfadd("hll", "hll-" + i);
}
long total = jedis.pfcount("hll");
System.out.println(String.format("统计个数: %s", total));
System.out.println(String.format("正确率: %s", (total / size)));
System.out.println(String.format("误差率: %s", 1 - (total / size)));
jedis.close();
}
操作命令
PFADD key element [element ...]
添加指定元素到 HyperLogLog 中。
PFCOUNT key [key ...]
返回给定 HyperLogLog 的基数估算值。
PFMERGE destkey sourcekey [sourcekey ...]
将多个 HyperLogLog 合并为一个 HyperLogLog
应用场景
1、统计网站的UV,或者应用的日活、月活,存在一定的误差。
Geo
操作命令
# 存经纬度
geoadd location 121.445 31.213 shanghai
# 取经纬度
geopos location shanghai
应用场景
1、增加地址位置信息、获取地址位置信息
2、计算两个位置的距离
3、获取指定范围内的地理位置集合
public static void main(String[] args) {
Jedis jedis = new Jedis("39.103.144.86", 6379);
Map<String, GeoCoordinate> geoMap = new HashMap<>();
GeoCoordinate coordinate = new GeoCoordinate(121.445, 31.213);
geoMap.put("shanghai", coordinate);
jedis.geoadd("positions", geoMap);
System.out.println(jedis.geopos("positions", "shanghai"));
jedis.close();
}
Streams
Redis Stream 是 Redis 5.0 版本新增加的数据结构。
Redis Stream 主要用于消息队列(MQ,Message Queue),Redis 本身是有一个 Redis 发布订阅 (pub/sub) 来实现消息队列的功能,但它有个缺点就是消息无法持久化,如果出现网络断开、Redis 宕机等,消息就会被丢弃。
简单来说发布订阅 (pub/sub) 可以分发消息,但无法记录历史消息。
而 Redis Stream 提供了消息的持久化和主备复制功能,可以让任何客户端访问任何时刻的数据,并且能记住每一个客户端的访问位置,还能保证消息不丢失。
Redis Stream 的结构如下所示,它有一个消息链表,将所有加入的消息都串起来,每个消息都有一个唯一的 ID 和对应的内容:
每个 Stream 都有唯一的名称,它就是 Redis 的 key,在我们首次使用 xadd 指令追加消息时自动创建。
上图解析:
- Consumer Group :消费组,使用 XGROUP CREATE 命令创建,一个消费组有多个消费者(Consumer)。
- last_delivered_id :游标,每个消费组会有个游标 last_delivered_id,任意一个消费者读取了消息都会使游标 last_delivered_id 往前移动。
- pending_ids :消费者(Consumer)的状态变量,作用是维护消费者的未确认的 id。 pending_ids 记录了当前已经被客户端读取的消息,但是还没有 ack (Acknowledge character:确认字符)。
操作命令
消息队列相关命令:
XADD - 添加消息到末尾
XTRIM - 对流进行修剪,限制长度
XDEL - 删除消息
XLEN - 获取流包含的元素数量,即消息长度
XRANGE - 获取消息列表,会自动过滤已经删除的消息
XREVRANGE - 反向获取消息列表,ID 从大到小
XREAD - 以阻塞或非阻塞方式获取消息列表
消费者组相关命令:
XGROUP CREATE - 创建消费者组
XREADGROUP GROUP - 读取消费者组中的消息
XACK - 将消息标记为"已处理"
XGROUP SETID - 为消费者组设置新的最后递送消息ID
XGROUP DELCONSUMER - 删除消费者
XGROUP DESTROY - 删除消费者组
XPENDING - 显示待处理消息的相关信息
XCLAIM - 转移消息的归属权
XINFO - 查看流和消费者组的相关信息;
XINFO GROUPS - 打印消费者组的信息;
XINFO STREAM - 打印流信息
应用场景
应用场景小结
缓存======提升热点数据的访问速度
共享数据======数据的存储和共享的问题
全局ID======分布式全局ID的生成方案(分库分表)
分布式锁======进程间共享数据的原子操作保证
在线用户统计和计数
队列、栈======跨进程的队列/栈
消息队列======异步解耦的消息机制
服务注册与发现======RPC通信机制的服务协调中心(Dubbo支持Redis)
购物车
新浪用户消息时间线
抽奖逻辑(礼物、转发)
点赞、签到、打卡
商品标签
用户(商品)关注(推荐)模型
电商产品筛选
排行榜
以上是关于Redis-数据类型-应用场景的主要内容,如果未能解决你的问题,请参考以下文章