无锁缓存方案

Posted 2022-12-02 抓手

缓存通常使用key-value的map数据结构来实现，并发读写缓存时可能会出现数据不一致问题，此时就需要引入读写锁。

当吞吐量很高时（每秒20w写，1k读），锁会成为潜在瓶颈，导致Map访问效率极低。这时可以将map水平拆分（类似于数据库里的分库，把一个库锁变成多个库锁，来提高并发，降低锁冲突）key%n → 多个 map。极致做法是 map → array，一条数据一把锁，但这样内存装不下。

无锁缓存方案

如果缓存不加锁，读写吞吐量可以达到极限，但是多线程对缓存中同一块定长数据进行写操作时，有可能出现不一致的脏数据。这个方案为了提高性能，牺牲了一致性。

可以通过对value加签名sign，保证数据的完整性，在读操作时还需要验签来确定缓存是否有效，如果验签不通过则认定缓存失效，返回null，另外如果缓存失效可以从数据库中读取数据。