高并发内存池整体架构

Posted 楠c

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了高并发内存池整体架构相关的知识,希望对你有一定的参考价值。

提要

在之前分析的定长内存池和哈希映射的自由链表内存池
在这里插入图片描述
为什么没解决呢?对于2和3
在这里插入图片描述

分析

在这里插入图片描述

线程缓存

线程缓存,每个线程独有,当小于MAX_BYTES我们定义为64k,线程从这里申请内存,不需要加锁因为每个线程独享一个cache,这也是这个并发线程池高效的地方。
在这里插入图片描述

中心缓存

中心缓存所有线程共享一个,线程缓存按需从中心缓存获取自己的对象。中心缓存周期性回收自己在线程缓存中的独享,避免一个线程占用太多对象,其他线程吃紧。达到内存分配在多个线程更加均衡的按需调度。所以中心缓存是需要竞争的即需要加锁。不过由于我们对线程缓存的“慢启动”策略,之后几乎不会经常在中心缓存交互。
在这里插入图片描述

页缓存

页缓存是中心缓存的上级,存储的内存以页为单位。当中心缓存没有对象时,从页缓存分配一个大块内存Span,分配给中心缓存,并交给中心缓存切成对应的小块内存。页缓存会回收中心缓存满足条件的Span,并且合并相邻的页,组成更大的页,可以缓解内存碎片问题。

一个16k的Span
在这里插入图片描述

以上是关于高并发内存池整体架构的主要内容,如果未能解决你的问题,请参考以下文章

实战项目高并发内存池

项目设计高并发内存池

高并发内存池

高并发内存池

高并发内存池

设计高并发内存池申请流程