Redis 缓存雪崩缓存击穿缓存穿透 解决方案

Posted 你携秋月揽星河丶

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Redis 缓存雪崩缓存击穿缓存穿透 解决方案相关的知识,希望对你有一定的参考价值。

1 缓存雪崩

1.1 发生原因

(1) Redis主机挂了,Redis缓存全部失效。
(2) 当缓存服务器重启或者大量缓存集中在某一个时间段失效,这样在失效的时候,也会给后端系统(比如DB)带来很大压力。

1.2 解决思路

(1) Redis实现高可用。
(2) 缓存数据的过期时间设置随机,防止同一时间大量数据过期现象发生。
(3) 限流&降级。

2 缓存击穿

2.1 发生原因

缓存击穿是指缓存中没有但数据库中有的数据(一般是缓存时间到期),这时由于并发用户特别多,同时读缓存没读到数据,又同时去数据库去取数据,引起数据库压力瞬间增大,造成过大压力。

2.2 解决思路

多个线程同时去查询数据库的这条数据,那么我们可以在第一个查询数据的请求上使用一个 互斥锁来锁住它。其他的线程走到这一步拿不到锁就等着,等第一个线程查询到了数据,然后做缓存。后面的线程进来发现已经有缓存了,就直接走缓存。

@Service
public class StudentService 

    @Autowired
    private RedisTemplate<String, String> redisTemplate;

    @Autowired
    private StudentMapper studentMapper;

    private final Object lock = new Object();

    public Student getStudent(Long id) 

        //读取redis,存在直接返回
        String s = redisTemplate.opsForValue().get(String.valueOf(id));
        if (StringUtils.isNotBlank(s)) 
            return JSON.parseObject(s, Student.class);
        
        //并行变成串行
        synchronized (lock) 
            //读取redis,存在直接返回
            String str = redisTemplate.opsForValue().get(String.valueOf(id));
            if (StringUtils.isNotBlank(str)) 
                return JSON.parseObject(str, Student.class);
            
            //从数据库读取存入redis中
            Student student = studentMapper.findOne(id);
            redisTemplate.opsForValue().set(String.valueOf(id), JSON.toJSONString(student), 7, TimeUnit.DAYS);
            return student;
        

    

3 缓存穿透

3.1 起因

key对应的数据在数据源并不存在,每次针对此key的请求从缓存获取不到,请求都会到数据源,从而可能压垮数据源。比如用一个不存在的用户id获取用户信息,不论缓存还是数据库都没有,若黑客利用此漏洞进行攻击可能压垮数据库。

3.2 解决思路

布隆过滤器

3.3 布隆过滤器

布隆过滤器(英语:Bloom Filter)是 1970 年由布隆提出的。
它实际上是一个很长的二进制数组+一系列随机hash算法映射函数,主要用于判断一个元素是否在集合中。

通常我们会遇到很多要判断一个元素是否在某个集合中的业务场景,一般想到的是将集合中所有元素保存起来,然后通过比较确定。
链表、树、散列表(又叫哈希表,Hash table)等等数据结构都是这种思路。

但是随着集合中元素的增加,我们需要的存储空间也会呈现线性增长,最终达到瓶颈。同时检索速度也越来越慢,上述三种结构的检索时间复杂度分别为O(n),O(logn),O(1)。这个时候,布隆过滤器(Bloom Filter)就应运而生

3.3.1 添加

当我们向布隆过滤器中添加数据时,为了尽量地址不冲突,会使用多个 hash 函数对 key 进行运算,算得一个下标索引值,然后对位数组长度进行取模运算得到一个位置,每个 hash 函数都会算得一个不同的位置。再把位数组的这几个位置都置为 1 就完成了 add 操作。

3.3.2 查看

向布隆过滤器查询某个key是否存在时,先把这个 key 通过相同的多个 hash 函数进行运算,查看对应的位置是否都为 1,只要有一个位为 0,那么说明布隆过滤器中这个 key 不存在;如果这几个位置全都是 1,那么说明极有可能存在;

3.3.3 优缺点

优点: 高效地插入和查询,占用空间少
缺点: 不能删除元素。因为删掉元素会导致误判率增加,因为hash冲突同一个位置可能存的东西是多个共有的,你删除一个元素的同时可能也把其它的删除了。
存在误判,不同的数据可能出来相同的hash值。

3.4 布隆过滤器的实现

3.4.1 pom

 <!--guava Google 开源的 Guava 中自带的布隆过滤器-->
        <dependency>
            <groupId>com.google.guava</groupId>
            <artifactId>guava</artifactId>
            <version>23.0</version>
        </dependency>

3.4.2 UT

 public class GuavaBloomFilterTest 


    /**
     *  布隆过滤器预计插入多少数据 100w
     */
    private static final int SIZE = 100 * 10000;

    /**
     * 误判率
     */
    private static final double fpp = 0.01;


    @Test
    public void mainTest() 
        //创建布隆过滤器
        BloomFilter<Integer> filter = BloomFilter.create(Funnels.integerFunnel(), SIZE, fpp);
        //100w 存
        for (int i = 1; i <= SIZE; i++) 
            filter.put(i);
        

        //判断100W的数据是否都在布隆过滤器
        List<Integer> list1 = new ArrayList<>(SIZE);
        for (int i = 1; i <= SIZE; i++) 
            if (filter.mightContain(i)) 
                list1.add(i);
            
        
        System.out.println("存在的数量:" + list1.size());
        //取10W个不在布隆过滤器里面的值,判断误判
        List<Integer> list2 = new ArrayList<>(SIZE);
        for (int i = SIZE + 1; i <= SIZE + 1 + 100000; i++) 
            if (filter.mightContain(i)) 
                list2.add(i);
            
        
        System.out.println("误判的数量:" + list2.size());
    





以上是关于Redis 缓存雪崩缓存击穿缓存穿透 解决方案的主要内容,如果未能解决你的问题,请参考以下文章

缓存击穿、穿透、雪崩及Redis分布式锁

Redis缓存雪崩缓存穿透缓存击穿

Redis 缓存雪崩缓存击穿缓存穿透原因,解决方案?

Redis缓存穿透,缓存击穿,缓存雪崩解决方案以及封装Redis工具类

Redis缓存穿透,缓存击穿,缓存雪崩解决方案以及封装Redis工具类

Redis缓存穿透,缓存击穿,缓存雪崩解决方案以及封装Redis工具类