一个User表的增删改查，我写了近200行代码

Posted 2022-03-08 默辨

Redis多级缓存架构的升级之路

• • 一、基础版（包含基础操作）
  • 二、升级版1.1（处理缓存数据一致性问题）
  • 三、升级版1.2（处理缓存数据一致性问题）
  • 四、优化版（优化多级缓存架构）

---

一、基础版（包含基础操作）

这是我们工作中最常见的书写方式

• RedisUtil：封装的Redis相关API的操作
• RedisKeyPreConst：Redis缓存中涉及的key前缀
• UserMapper：操作数据库

代码实现细节如下：

public class UserServiceImpl implements UserService 

	
	@Autowired
	UserMapper userMapper;

	@Override
	public User insetUser(User user) 
		User insertRet = userMapper.insetUser(user);
		RedisUtil.add(RedisKeyPreConst.USER_CACHE + user.getUserId(), JSON.toJSONString(user));
		return insertRet;
	

	@Override
	public Integer deleteUser(Integer userId) 
		Integer num = userMapper.deleteUser(userId);
		RedisUtil.delete(RedisKeyPreConst.USER_CACHE + userId);
		return num;
	

	@Override
	public User updateUser(User user) 
		User updateRet = userMapper.updateUser(user);
		RedisUtil.update(RedisKeyPreConst.USER_CACHE + user.getUserId(), JSON.toJSONString(user));
		return updateRet;
	

	@Override
	public User findUser(Integer userId) 
		User user = null;

		// 1、redis缓存中查询
		String userCacheKey = RedisKeyPreConst.USER_CACHE + userId;
		String jsonUser = RedisUtil.get(userCacheKey);
		if (!StringUtils.isEmpty(jsonUser)) 
			user = JSON.parseObject(jsonUser, User.class);
			return user;
		
		
		// 2、数据库中查询
		user = userMapper.findUser(userId);
		if (user != null) 
			RedisUtil.add(userCacheKey, JSON.toJSONString(user));
		
		return user;
	

---

二、升级版1.1（处理缓存数据一致性问题）

基础版本是一种常见的处理方式，但却会有如下的问题：

1. 缓存中的数据太多：由于请求的数据都会加载到缓存中，会导致缓存中的数据过多，可以给数据设置相应的过期时间
2. 请求的key刚好过期（缓存击穿）：设置缓存时在基础的失效时间基础上，再延长一个随机失效的时间
3. 大量请求一个不存在的key（缓存穿透）：查询不存在需要缓存空对象，用来避免缓存击穿
4. 大量请求多个不存在的key，即生成的空对象过多：给空对象也设置相应的过期时间，并且每访问一次空对象，就延长空对象的失效时间
5. 分布式场景下缓存的数据一致性问题：可以使用一把分布式锁，并且结合类似DCL的模式，加锁后再增加一次缓存查
6. 由于双写不一致改动的代码比较多，为了降低理解成本，所以在1.2中展示。

补充知识点（重要）：

• 缓存击穿（失效）：redis数据集中失效，请求直接穿过缓存到达数据库。设置不同失效时间。
• 缓存穿透：查询一个根本不存在的数据，就会出现不仅在redis缓存中没有找到，在数据库中也没有找到。缓存空对象，布隆过滤器。
• 缓存雪崩：缓存击穿会引发后续的一系列对整个系统造成的影响。限流，数据预热。

代码实现细节如下：

public class UserServiceImpl2 implements UserService 

	@Autowired
	private Redisson redisson;

	private String nullUser = JSON.toJSONString(new User());

	private static final String HOT_USER_LOCK = "HOT_USER_LOCK_PRE";
	@Autowired
	UserMapper userMapper;

	@Override
	public User insetUser(User user) 
		User insertRet = userMapper.insetUser(user);
		RedisUtil.add(RedisKeyPreConst.USER_CACHE + user.getUserId(), JSON.toJSONString(user));
		return insertRet;
	

	@Override
	public Integer deleteUser(Integer userId) 
		Integer num = userMapper.deleteUser(userId);
		RedisUtil.delete(RedisKeyPreConst.USER_CACHE + userId);
		return num;
	

	@Override
	public User updateUser(User user) 
		User updateRet = userMapper.updateUser(user);
		RedisUtil.update(RedisKeyPreConst.USER_CACHE + user.getUserId(), JSON.toJSONString(user));
		return updateRet;
	

	@Override
	public User findUser(Integer userId) 
		User user = null;
		String userCacheKey = RedisKeyPreConst.USER_CACHE + userId;

		// 解决问题五：第一次redis缓存中查询
		user = getUserAndSetExpire(userCacheKey);
		if (user != null) 
			return user;
		

		// 解决问题五：添加分布式锁，解决热点数据并发数据安全问题
		RLock lock = redisson.getLock(HOT_USER_LOCK + userId);
		lock.lock();
		try 
			// 解决问题五：第二次redis缓存中查询
			user = getUserAndSetExpire(userCacheKey);
			if (user != null) 
				return user;
			

			// 数据库中查询数据
			user = userMapper.findUser(userId);
			if (user != null) 
				RedisUtil.add(userCacheKey, JSON.toJSONString(user));
			 else 
				// 解决问题三：缓存一个空对象 给空对象设置过期时间，避免空间浪费
				RedisUtil.add(userCacheKey, nullUser, getExpireTime(60), TimeUnit.SECONDS);
			
		 catch (Exception e) 
			throw new RuntimeException(e);
		 finally 
			lock.unlock();
		
		return user;
	

	private int getExpireTime(int time) 
		// 解决问题二：在基础过期时间上增加一个随机数，用来防止数据集中过期，出现缓存击穿。
		return time + new Random().nextInt(30);
	

	// redis缓存中查询数据
	private User getUserAndSetExpire(String userCacheKey) 
		User user = null;

		String jsonUser = RedisUtil.get(userCacheKey);
		if (!StringUtils.isEmpty(jsonUser)) 
			if (nullUser.equals(jsonUser)) 
				// 解决问题四：如果是缓存过的空对象，则延长空对象的过期时间
				RedisUtil.expire(userCacheKey, getExpireTime(60), TimeUnit.SECONDS);
				return new User();
			
			user = JSON.parseObject(jsonUser, User.class);
			// 解决问题一：每访问一次数据，就重新设置过期时间。不活跃的数据就会失效
			RedisUtil.expire(userCacheKey, getExpireTime(60 * 60 * 24), TimeUnit.SECONDS);
		
		return user;
	

---

三、升级版1.2（处理缓存数据一致性问题）

具体什么是双写不一致这里就不再赘述。不了解的小伙伴可以参考我之前的博客：Redis核心知识点总结（一万五千字，请耐心读完）

6. 双写不一致：在已有的DCL结构的基础上，在第二次缓存查和数据库查之间再增加一个分布式锁

代码实现细节如下：

public class UserServiceImpl3 implements UserService 

	@Autowired
	private Redisson redisson;

	private String nullUser = JSON.toJSONString(new User());

	private static final String HOT_USER_LOCK = "HOT_USER_LOCK_PRE";
	private static final String UPDATE_USER_LOCK = "UPDATE_USER_LOCK";
	@Autowired
	UserMapper userMapper;

	@Override
	public User insetUser(User user) 
		User insertRet = new User();

		// 解决问题六：在新增数据的时候也添加锁，用来解决双写不一致问题
		RLock updateLock = redisson.getLock(UPDATE_USER_LOCK + user.getUserId());
		updateLock.lock();
		try 
			insertRet = userMapper.insetUser(user);
			RedisUtil.add(RedisKeyPreConst.USER_CACHE + user.getUserId(), JSON.toJSONString(user));
		 catch (Exception e) 
			throw new RuntimeException(e);
		 finally 
			updateLock.unlock();
		
		return insertRet;
	

	@Override
	public Integer deleteUser(Integer userId) 
		Integer num;
		// 解决问题六：在删除数据的时候也添加锁，用来解决双写不一致问题
		RLock updateLock = redisson.getLock(UPDATE_USER_LOCK + userId);
		updateLock.lock();
		try 
			num = userMapper.deleteUser(userId);
		 catch (Exception e) 
			throw new RuntimeException(e);
		 finally 
			updateLock.unlock();
		
		return num;
	

	@Override
	public User updateUser(User user) 
		// 解决问题六：在修改数据的时候也添加锁，用来解决双写不一致问题
		User updateRet = new User();
		RLock updateLock = redisson.getLock(UPDATE_USER_LOCK + user.getUserId());
		updateLock.lock();
		try 
			updateRet = userMapper.updateUser(user);
			RedisUtil.update(RedisKeyPreConst.USER_CACHE + user.getUserId(), JSON.toJSONString(user));

		 catch (Exception e) 
			throw new RuntimeException(e);
		 finally 
			updateLock.unlock();
		

		return updateRet;
	

	@Override
	public User findUser(Integer userId) 
		User user = null;
		String userCacheKey = RedisKeyPreConst.USER_CACHE + userId;

		// 解决问题五：第一次redis缓存中查询
		user = getUserAndSetExpire(userCacheKey);
		if (user != null) 
			return user;
		

		// 解决问题五：添加分布式锁，解决热点数据并发数据安全问题
		RLock lock = redisson.getLock(HOT_USER_LOCK + userId);
		lock.lock();
		try 
			// 解决问题五：第二次redis缓存中查询
			user = getUserAndSetExpire(userCacheKey);
			if (user != null) 
				return user;
			


			// 解决问题六：添加第二把分布式锁，用来处理双写不一致问题
			RLock updateLock = redisson.getLock(UPDATE_USER_LOCK + userId);
			updateLock.lock();
			try 
				//  数据库中查询数据
				user = userMapper.findUser(userId);
				if (user != null) 
					RedisUtil.add(userCacheKey, JSON.toJSONString(user));
				 else 
					// 解决问题三：缓存一个空对象 给空对象设置过期时间，避免空间浪费
					RedisUtil.add(userCacheKey, nullUser, getExpireTime(60), TimeUnit.SECONDS);
				
			 catch (Exception e) 
				throw new RuntimeException(e);
			 finally 
				updateLock.unlock();
			
		 catch (Exception e) 
			throw new RuntimeException(e);
		 finally 
			lock.unlock();
		
		return user;
	

	private int getExpireTime(int time) 
		// 解决问题二：在基础过期时间上增加一个随机数，用来防止数据集中过期，出现缓存击穿。
		return time + new Random().nextInt(30);
	

	// redis缓存中查询数据
	private User getUserAndSetExpire(String userCacheKey) 
		User user = null;

		// 1、redis缓存中查询
		String jsonUser = RedisUtil.get(userCacheKey);
		if (!StringUtils.isEmpty(jsonUser)) 
			if (nullUser.equals(jsonUser)) 
				// 解决问题四：如果是缓存过的空对象，则延长空对象的过期时间，
				RedisUtil.expire(userCacheKey, getExpireTime(60), TimeUnit.SECONDS);
				return new User();
			
			user = JSON.parseObject(jsonUser, User.class);
			// 解决问题一：每访问一次数据，就重新设置过期时间。不活跃的数据就会失效
			RedisUtil.expire(userCacheKey, getExpireTime(60 * 60 * 24), TimeUnit.SECONDS);
		
		return user;
	

---

四、优化版（优化多级缓存架构）

上面的代码基本已经可以解决很多缓存数据一致性问题了，但如果你有更高的并发量（redis都扛不住的并发），或者更快的响应速度，可以提供下面的优化方案，仅供参考：

1. 细化锁的粒度引入RReadWriteLock：这样读读的场景就可以提高并发量
2. 预估业务执行时间，将串行转并发：在DCL缓存架构的基础上，我们的本意是在加锁的时候阻塞线程，让线程串行执行到第二个缓存。如果我们将加锁逻辑修改为tryLock，就可以达到线程并行的效果。此操作需要预估业务代码的执行时间，个人认为比较鸡肋，但是也不失为一种优化的办法
3. redis也扛不住的并发：方法一，使用一些限流中间件，如sential、hystrix等；方法二，使用JVM级别的内存map存放高热点数据。毕竟map是基于JVM级别的，在分布式场景下是会存在数据的一致性问题，且不利于扩展和数据过期处理，解决思路：
   • 可以引入EhCache、Guava等中间件，用来对过期的key进行回收处理
   • 使用zookeeper或者mq，添加对应的事件，每当redis中数据发生变化的时候，就同步给所有程序的（分布式场景下，每台服务器的JVM内存中）内存map
   • 借助第三方热点实时计算系统，当数据访问热度达到一定的频率，就触发对应的事件，同步给所有程序的内存map

代码实现细节如下：

public class UserServiceImpl4 implements UserService 
	
	@Autowired
	private Redisson redisson;

	private String nullUser = JSON.toJSONString(new User());

	private static final String HOT_USER_LOCK = "HOT_USER_LOCK_PRE";
	private static final String UPDATE_USER_LOCK = "UPDATE_USER_LOCK";

	// 优化方案三：使用JVM自带的内存Map处理更大的并发请求
	private static Map<String, User> userMap = new HashMap<>();
	@Autowired
	UserMapper userMapper;

	@Override
	public User insetUser(User user) 
		User insertRet = new User();

		// 优化方案二：使用读写锁替代粒度更大的锁
		RReadWriteLock readWriteLock = redisson.getReadWriteLock(UPDATE_USER_LOCK + user.getUserId());
		RLock insertWriteLock = readWriteLock.readLock();
		insertWriteLock.lock();
		try 
			insertRet = userMapper.insetUser(user);
			RedisUtil.add(RedisKeyPreConst.USER_CACHE + user.getUserId(), JSON.toJSONString(user));
			// 优化方案三：使用JVM自带的内存Map处理更大的并发请求
			userMap.put(RedisKeyPreConst.USER_CACHE + user.getUserId(), user);
		 catch (Exception e) 
			throw new RuntimeException(e);
		 finally 
			insertWriteLock.unlock();
		
		return insertRet;
	

	@Override
	public Integer deleteUser(Integer userId) 
		Integer num;
		// 优化方案二：使用读写锁替代粒度更大的锁
		RReadWriteLock readWriteLock = redisson.getReadWriteLock(UPDATE_USER_LOCK + userId);
		RLock deleteWriteLock = readWriteLock.readLock();
		deleteWriteLock.lock();
		try 
			num = userMapper.deleteUser(userId);
			RedisUtil.delete(RedisKeyPreConst.USER_CACHE + userId);
			// 优化方案三：使用JVM自带的内存Map处理更大的并发请求
			userMap.remove(RedisKeyPreConst.USER_CACHE + userId);

		 catch (Exception e) 
			throw new RuntimeException(e);
		 finally 
			deleteWriteLock.unlock();
		
		return num;
	

	@Override
	public User updateUser(User user) 
		// 优化方案二：使用读写锁替代粒度更大的锁
		User updateRet = new User();

		RReadWriteLock readWriteLock = redisson.getReadWriteLock(UPDATE_USER_LOCK + user.getUserId());
		RLock updateWriteLock = readWriteLock.readLock();
		updateWriteLock.lock();
		try 
			updateRet = userMapper.updateUser(user);
			RedisUtil.update(RedisKeyPreConst.USER_CACHE + user.getUserId(), JSON.toJSONString(user));
			// 优化方案三：使用JVM自带的内存Map处
以上是关于一个User表的增删改查，我写了近200行代码的主要内容，如果未能解决你的问题，请参考以下文章
 
 c#中怎么实现表的增删改查？
 简单的增删改查操作命令
 MySQL表的增删改查（进阶）
 实现有序表的增删改查
 使用MVC三层架构实现对数据库表的增删改查操作（全部代码）
 双向链表的增删改查C++完整实现