如何正确访问 redis 中的海量数据?避免事故产生
Posted Java基基
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了如何正确访问 redis 中的海量数据?避免事故产生相关的知识,希望对你有一定的参考价值。
做积极的人,而不是积极废人!
源码精品专栏
来源:toutiao.com/i6697540366528152077
-
前言 -
事故产生 -
分析原因 -
解决方案 -
总结
前言
有时候我们需要知道线上的redis的使用情况,尤其需要知道一些前缀的key值,让我们怎么去查看呢?今天老顾分享一个小知识点
事故产生
因为我们的用户# token缓存是采用了【user_token:userid】格式的key# ,保存用户的token的值。我们运维为了帮助开发小伙伴们查一下线上现在有多少登录用户。
直接用了keys user_token*方式进行查询,事故就此发生了。导致redis不可用,假死。
分析原因
我们线上的登录用户有几百万,数据量比较多;keys算法是遍历算法,复杂度是O(n),也就是数据越多,时间复杂度越高。
数据量达到几百万,# keys这个指令就会导致 Redis 服务卡顿# ,因为# Redis 是单线程程序,顺序执行所有指令,其它指令必须等到当前的 keys 指令执行完了才可以继续。#
解决方案
那我们如何去遍历大数据量呢?这个也是面试经常问的。我们可以采用redis的另一个命令scan。我们看一下scan的特点
“
1、# 复杂度虽然也是 O(n)# ,但是它是通过游标分步进行的,# 不会阻塞线程#
2、提供 count 参数,不是结果数量,是redis单次遍历字典槽位数量(约等于)
3、同 keys 一样,它也提供模式匹配功能;
4、服务器不需要为游标保存状态,游标的唯一状态就是 # scan 返回给客户端的游标整数# ;
5、返回的结果# 可能会有重复,需要客户端去重复# ,这点非常重要;
6、单次返回的结果是空的并不意味着遍历结束,而要看# 返回的游标值是否为零# 。
一、scan命令格式
“SCAN cursor [MATCH pattern] [COUNT count]
二、命令解释:scan 游标 MATCH <返回和给定模式相匹配的元素> count 每次迭代所返回的元素数量
“SCAN命令是# 增量的循环# ,每次调用只会# 返回一小部分的元素# 。所以不会让redis假死 SCAN命令返回的是一个游标,# 从0开始遍历,到0结束遍历#
三、举例
redis > scan 0 match user_token* count 5
1) "6"
2) 1) "user_token:1000"
2) "user_token:1001"
3) "user_token:1010"
4) "user_token:2300"
5) "user_token:1389"
从0开始遍历,返回了游标6,又返回了数据,继续scan遍历,就要从6开始
redis > scan 6 match user_token* count 5
1) "10"
2) 1) "user_token:3100"
2) "user_token:1201"
3) "user_token:1410"
4) "user_token:5300"
5) "user_token:3389"
总结
这个是面试经常会问到的,也是我们小伙伴在工作的过程经常用的,一般小公司,不会有什么问题,但数据量多的时候,你的操作方式不对,你的绩效就会被扣哦,哈哈。谢谢!!!
已在知识星球更新源码解析如下:
最近更新《芋道 SpringBoot 2.X 入门》系列,已经 20 余篇,覆盖了 MyBatis、Redis、MongoDB、ES、分库分表、读写分离、SpringMVC、Webflux、权限、WebSocket、Dubbo、RabbitMQ、RocketMQ、Kafka、性能测试等等内容。
提供近 3W 行代码的 SpringBoot 示例,以及超 4W 行代码的电商微服务项目。
以上是关于如何正确访问 redis 中的海量数据?避免事故产生的主要内容,如果未能解决你的问题,请参考以下文章