高并发内存池整体架构

Posted 2022-12-04 楠c

目录

• 提要
• 分析
• • 线程缓存
  • 中心缓存
  • 页缓存

提要

在之前分析的定长内存池和哈希映射的自由链表内存池

为什么没解决呢？对于2和3

分析

线程缓存

线程缓存，每个线程独有，当小于MAX_BYTES我们定义为64k，线程从这里申请内存，不需要加锁因为每个线程独享一个cache，这也是这个并发线程池高效的地方。

中心缓存

中心缓存所有线程共享一个，线程缓存按需从中心缓存获取自己的对象。中心缓存周期性回收自己在线程缓存中的独享，避免一个线程占用太多对象，其他线程吃紧。达到内存分配在多个线程更加均衡的按需调度。所以中心缓存是需要竞争的即需要加锁。不过由于我们对线程缓存的“慢启动”策略，之后几乎不会经常在中心缓存交互。

页缓存

页缓存是中心缓存的上级，存储的内存以页为单位。当中心缓存没有对象时，从页缓存分配一个大块内存Span，分配给中心缓存，并交给中心缓存切成对应的小块内存。页缓存会回收中心缓存满足条件的Span，并且合并相邻的页，组成更大的页，可以缓解内存碎片问题。

一个16k的Span