Redis 缓存雪崩缓存击穿缓存穿透 解决方案
Posted 你携秋月揽星河丶
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Redis 缓存雪崩缓存击穿缓存穿透 解决方案相关的知识,希望对你有一定的参考价值。
1 缓存雪崩
1.1 发生原因
(1) Redis主机挂了,Redis缓存全部失效。
(2) 当缓存服务器重启或者大量缓存集中在某一个时间段失效,这样在失效的时候,也会给后端系统(比如DB)带来很大压力。
1.2 解决思路
(1) Redis实现高可用。
(2) 缓存数据的过期时间设置随机,防止同一时间大量数据过期现象发生。
(3) 限流&降级。
2 缓存击穿
2.1 发生原因
缓存击穿是指缓存中没有但数据库中有的数据(一般是缓存时间到期),这时由于并发用户特别多,同时读缓存没读到数据,又同时去数据库去取数据,引起数据库压力瞬间增大,造成过大压力。
2.2 解决思路
多个线程同时去查询数据库的这条数据,那么我们可以在第一个查询数据的请求上使用一个 互斥锁来锁住它。其他的线程走到这一步拿不到锁就等着,等第一个线程查询到了数据,然后做缓存。后面的线程进来发现已经有缓存了,就直接走缓存。
@Service
public class StudentService
@Autowired
private RedisTemplate<String, String> redisTemplate;
@Autowired
private StudentMapper studentMapper;
private final Object lock = new Object();
public Student getStudent(Long id)
//读取redis,存在直接返回
String s = redisTemplate.opsForValue().get(String.valueOf(id));
if (StringUtils.isNotBlank(s))
return JSON.parseObject(s, Student.class);
//并行变成串行
synchronized (lock)
//读取redis,存在直接返回
String str = redisTemplate.opsForValue().get(String.valueOf(id));
if (StringUtils.isNotBlank(str))
return JSON.parseObject(str, Student.class);
//从数据库读取存入redis中
Student student = studentMapper.findOne(id);
redisTemplate.opsForValue().set(String.valueOf(id), JSON.toJSONString(student), 7, TimeUnit.DAYS);
return student;
3 缓存穿透
3.1 起因
key对应的数据在数据源并不存在,每次针对此key的请求从缓存获取不到,请求都会到数据源,从而可能压垮数据源。比如用一个不存在的用户id获取用户信息,不论缓存还是数据库都没有,若黑客利用此漏洞进行攻击可能压垮数据库。
3.2 解决思路
布隆过滤器
3.3 布隆过滤器
布隆过滤器(英语:Bloom Filter)是 1970 年由布隆提出的。
它实际上是一个很长的二进制数组+一系列随机hash算法映射函数,主要用于判断一个元素是否在集合中。
通常我们会遇到很多要判断一个元素是否在某个集合中的业务场景,一般想到的是将集合中所有元素保存起来,然后通过比较确定。
链表、树、散列表(又叫哈希表,Hash table)等等数据结构都是这种思路。
但是随着集合中元素的增加,我们需要的存储空间也会呈现线性增长,最终达到瓶颈。同时检索速度也越来越慢,上述三种结构的检索时间复杂度分别为O(n),O(logn),O(1)。这个时候,布隆过滤器(Bloom Filter)就应运而生
3.3.1 添加
当我们向布隆过滤器中添加数据时,为了尽量地址不冲突,会使用多个 hash 函数对 key 进行运算,算得一个下标索引值,然后对位数组长度进行取模运算得到一个位置,每个 hash 函数都会算得一个不同的位置。再把位数组的这几个位置都置为 1 就完成了 add 操作。
3.3.2 查看
向布隆过滤器查询某个key是否存在时,先把这个 key 通过相同的多个 hash 函数进行运算,查看对应的位置是否都为 1,只要有一个位为 0,那么说明布隆过滤器中这个 key 不存在;如果这几个位置全都是 1,那么说明极有可能存在;
3.3.3 优缺点
优点: 高效地插入和查询,占用空间少
缺点: 不能删除元素。因为删掉元素会导致误判率增加,因为hash冲突同一个位置可能存的东西是多个共有的,你删除一个元素的同时可能也把其它的删除了。
存在误判,不同的数据可能出来相同的hash值。
3.4 布隆过滤器的实现
3.4.1 pom
<!--guava Google 开源的 Guava 中自带的布隆过滤器-->
<dependency>
<groupId>com.google.guava</groupId>
<artifactId>guava</artifactId>
<version>23.0</version>
</dependency>
3.4.2 UT
public class GuavaBloomFilterTest
/**
* 布隆过滤器预计插入多少数据 100w
*/
private static final int SIZE = 100 * 10000;
/**
* 误判率
*/
private static final double fpp = 0.01;
@Test
public void mainTest()
//创建布隆过滤器
BloomFilter<Integer> filter = BloomFilter.create(Funnels.integerFunnel(), SIZE, fpp);
//100w 存
for (int i = 1; i <= SIZE; i++)
filter.put(i);
//判断100W的数据是否都在布隆过滤器
List<Integer> list1 = new ArrayList<>(SIZE);
for (int i = 1; i <= SIZE; i++)
if (filter.mightContain(i))
list1.add(i);
System.out.println("存在的数量:" + list1.size());
//取10W个不在布隆过滤器里面的值,判断误判
List<Integer> list2 = new ArrayList<>(SIZE);
for (int i = SIZE + 1; i <= SIZE + 1 + 100000; i++)
if (filter.mightContain(i))
list2.add(i);
System.out.println("误判的数量:" + list2.size());
以上是关于Redis 缓存雪崩缓存击穿缓存穿透 解决方案的主要内容,如果未能解决你的问题,请参考以下文章
Redis缓存穿透,缓存击穿,缓存雪崩解决方案以及封装Redis工具类