面试官：你是如何使用JDK来实现自己的缓存（支持高并发）？

Posted 2022-03-21

需求分析

项目中经常会遇到这种场景：一份数据需要在多处共享，有些数据还有时效性，过期自动失效。比如手机验证码，发送之后需要缓存起来，然后处于安全性考虑，一般还要设置有效期，到期自动失效。我们怎么实现这样的功能呢？

解决方案

使用现有的缓存技术框架，比如redis,ehcache。优点：成熟，稳定，功能强大；缺点，项目需要引入对应的框架，不够轻量。

如果不考虑分布式，只是在单线程或者多线程间作数据缓存，其实完全可以自己手写一个缓存工具。下面就来简单实现一个这样的工具。

先上代码：

import java.util.HashMap;
import java.util.Map;
import java.util.concurrent.*;

/**
 * @Author: lixk
 * @Date: 2018/5/9 15:03
 * @Description: 简单的内存缓存工具类
 */
public class Cache 
    //键值对集合
    private final static Map<String, Entity> map = new HashMap<>();
    //定时器线程池，用于清除过期缓存
    private final static ScheduledExecutorService executor = Executors.newSingleThreadScheduledExecutor();

    /**
     * 添加缓存
     *
     * @param key  键
     * @param data 值
     */
    public synchronized static void put(String key, Object data) 
        Cache.put(key, data, 0);
    

    /**
     * 添加缓存
     *
     * @param key    键
     * @param data   值
     * @param expire 过期时间，单位：毫秒， 0表示无限长
     */
    public synchronized static void put(String key, Object data, long expire) 
        //清除原键值对
        Cache.remove(key);
        //设置过期时间
        if (expire > 0) 
            Future future = executor.schedule(new Runnable() 
                @Override
                public void run() 
                    //过期后清除该键值对
                    synchronized (Cache.class) 
                        map.remove(key);
                    
                
            , expire, TimeUnit.MILLISECONDS);
            map.put(key, new Entity(data, future));
         else 
            //不设置过期时间
            map.put(key, new Entity(data, null));
        
    

    /**
     * 读取缓存
     *
     * @param key 键
     * @return
     */
    public synchronized static Object get(String key) 
        Entity entity = map.get(key);
        return entity == null ? null : entity.getValue();
    

    /**
     * 读取缓存
     *
     * @param key 键
     *            * @param clazz 值类型
     * @return
     */
    public synchronized static <T> T get(String key, Class<T> clazz) 
        return clazz.cast(Cache.get(key));
    

    /**
     * 清除缓存
     *
     * @param key
     * @return
     */
    public synchronized static Object remove(String key) 
        //清除原缓存数据
        Entity entity = map.remove(key);
        if (entity == null) return null;
        //清除原键值对定时器
        Future future = entity.getFuture();
        if (future != null) future.cancel(true);
        return entity.getValue();
    

    /**
     * 查询当前缓存的键值对数量
     *
     * @return
     */
    public synchronized static int size() 
        return map.size();
    

    /**
     * 缓存实体类
     */
    private static class Entity 
        //键值对的value
        private Object value;
        //定时器Future 
        private Future future;

        public Entity(Object value, Future future) 
            this.value = value;
            this.future = future;
        

        /**
         * 获取值
         *
         * @return
         */
        public Object getValue() 
            return value;
        

        /**
         * 获取Future对象
         *
         * @return
         */
        public Future getFuture() 
            return future;
        
    

本工具类主要采用 HashMap+定时器线程池 实现，map 用于存储键值对数据，map的value是 Cache 的内部类对象 Entity，Entity 包含 value 和该键值对的生命周期定时器 Future。Cache 类对外只提供了 put(key, value), put(key, value, expire), get(key), get(key, class), remove(key), size()几个同步方法。

当添加键值对数据的时候，首先会调用remove()方法，清除掉原来相同 key 的数据，并取消对应的定时清除任务，然后添加新数据到 map 中，并且，如果设置了有效时间，则添加对应的定时清除任务到定时器线程池。

测试

import java.util.concurrent.ExecutionException;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
import java.util.concurrent.Future;

/**
 * @Author: lixk
 * @Date: 2018/5/9 16:40
 * @Description: 缓存工具类测试
 */
public class CacheTest 

    /**
     * 测试
     *
     * @param args
     */
    public static void main(String[] args) throws InterruptedException, ExecutionException 
        String key = "id";
        //不设置过期时间
        System.out.println("***********不设置过期时间**********");
        Cache.put(key, 123);
        System.out.println("key:" + key + ", value:" + Cache.get(key));
        System.out.println("key:" + key + ", value:" + Cache.remove(key));
        System.out.println("key:" + key + ", value:" + Cache.get(key));

        //设置过期时间
        System.out.println("\n***********设置过期时间**********");
        Cache.put(key, "123456", 1000);
        System.out.println("key:" + key + ", value:" + Cache.get(key));
        Thread.sleep(2000);
        System.out.println("key:" + key + ", value:" + Cache.get(key));

        /******************并发性能测试************/
        System.out.println("\n***********并发性能测试************");
        //创建有10个线程的线程池，将1000000次操作分10次添加到线程池
        ExecutorService executorService = Executors.newFixedThreadPool(10);
        Future[] futures = new Future[10];
        /********添加********/
        
            long start = System.currentTimeMillis();
            for (int j = 0; j < 10; j++) 
                futures[j] = executorService.submit(() -> 
                    for (int i = 0; i < 100000; i++) 
                        Cache.put(Thread.currentThread().getId() + key + i, i, 300000);
                    
                );
            
            //等待全部线程执行完成，打印执行时间
            for (Future future : futures) 
                future.get();
            
            System.out.printf("添加耗时：%dms\n", System.currentTimeMillis() - start);
        

        /********查询********/
        
            long start = System.currentTimeMillis();
            for (int j = 0; j < 10; j++) 
                futures[j] = executorService.submit(() -> 
                    for (int i = 0; i < 100000; i++) 
                        Cache.get(Thread.currentThread().getId() + key + i);
                    
                );
            
            //等待全部线程执行完成，打印执行时间
            for (Future future : futures) 
                future.get();
            
            System.out.printf("查询耗时：%dms\n", System.currentTimeMillis() - start);
        

        System.out.println("当前缓存容量：" + Cache.size());
    

测试结果：

***********不设置过期时间**********
key:id, value:123
key:id, value:123
key:id, value:null

***********设置过期时间**********
key:id, value:123456
key:id, value:null

***********并发性能测试************
添加耗时：2313ms
查询耗时：335ms
当前缓存容量：1000000

测试程序使用有10个线程的线程池来模拟并发，总共执行一百万次添加和查询操作，时间大约都在两秒多，`表现还不错，每秒40万读写并发应该还是可以满足大多数高并发场景的^_^

写在最后

• 第一：看完点赞，感谢您的认可；
• ...
• 第二：随手转发，分享知识，让更多人学习到；
• ...
• 第三：记得点关注，每天更新的！！！
• ...