腾讯一面：基于Redis分布式BitMap的应用

Posted 2023-05-08

参考技术A 在实际开发中常常遇到如下需求：判断当前元素是否存在于已知的集合中，将已知集合中的元素维护一个HashSet，使用时只需耗时O(1)的时间复杂度便可判断出结果，Java内部或者Redis均提供相应的数据结构。使用此种方式除了占用内存空间外，几乎没有其它缺点。

当数据量达到亿级别时，内存空间的占用显著表现出来，BitMap便是解决此类问题的一种途径。

Redis BitMap能够存储的数据范围为[0,2^32-1]，超过Integer.MAX_VALUE上界值。

为了简化讨论，假设讨论的集合元素的范围为[0,Integer.MAX_VALUE]，可以是其中的任何一个数。

使用HashSet数据结构占用内存空间仅与集合中的元素数量（N）相关。当集合中元素数量为N时，所需的内存空间大概为N*4/1024/1024MB，1亿条数据约占内存空间381MB。

基于Redis的BitMap所占用的空间大小不与集合中元素数量相关，与集合中元素的最大值直接相关，因此BitMap所占用的内存空间范围为[N / 8 / 1024 / 1024,Integer.MAX_VALUE / 8 / 1024 / 1024]。

这里给出了一组测试参考数据

当集合中数据增长到10亿条时，使用BItMap最大占用内存约为255MB，而使用HashSet增长到3.8GB。

使用Redis命令行可直接操作BitMap，将offset位置的值标注为1，则表示当前数据存在。默认情况下未标注的位置值为0。

这里提供一个SpringBoot生态的RedisUtils工具类，内部封装操作Redis BitMap的工具方法。

上述工具类的依赖如下，如果找不到Jar包，请直接使用Maven原始仓库源，阿里云尚未同步完成。

BitMap的存储与取值时间复杂度为O(1)，根据数值可直接映射下标。

BitMap占用内存空间复杂度为O(n)，与集合中元素的最大值正相关，不是集合中元素的数量。

缓存穿透是指当前请求的数据在缓存中不存在，需要访问数据库获取数据（数据库中也不存在请求的数据）。缓存穿透给数据库带来了压力，恶意缓存穿透甚至能造成数据库宕机。

使用BitMap动态维护一个集合，当访问数据库前，先查询数据的主键是否存在集合中，以此作为是否访问数据库的依据。

BitMap新增数据或者移除数据属于轻量级操作，检查操作的准确度依赖于动态集合维护的闭环的完整性。比如向数据库增加数据时需要向BitMap中添加数据，从数据库中删除数据需要从BitMap中移除数据。如果要求严格的检查可靠性，则可以单独维护一个分布式定时任务，定期更新BitMap数据。

布隆过滤器与BitMap有相似的应用场景，但也有一定的区别。给定一个数，BitMap能准确知道是否存在于已知集合中；布隆过滤器能准确判断是否不在集合中，却不能肯定存在于集合中。

BitMap增加或者移除数据时间复杂度为O(1)，方便快捷。布隆过滤器新建容易，剔除数据操作比较繁琐。

在一些需要精确判断的场景，优先选择BitMap，比如判断手机号是否已经注册。

Redis BitMap不是一种新的数据结构，是利用字符串类型做的一层封装，看起来像一种新型数据结构。BitMap不像一种技术，更像是算法，在时间复杂度和空间复杂度之间寻找平衡点。

BitMap其它应用场景比如签到打卡，统计在线人数等等。

端点科技一面面经

面经

写面经，攒人品

1. 自我介绍
2. 项目介绍
3. 项目中使用到的技术（亮点）

4. 分布式锁

   1. redis实现与zk实现的区别
   2. redis单机挂的情况
   3. 多应用服务器抢占redis锁，造成redis服务器CPU飙红
5. Rocketmq
6. 索引

7. B+树

   1. 结构
   2. 如何优化查询
   3. 原理等
8. CountDownLatch原理

9. 线程池

   1. 线程池的参数
10. 非阻塞IO与阻塞IO