深入理解:Redis哈希结构内存模型剖析

Posted gp666

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了深入理解:Redis哈希结构内存模型剖析相关的知识,希望对你有一定的参考价值。

技术分享图片

 

本文主要阐述 Redis中使用 最为频繁的数据类型:哈希(或称散列),在Redis内部是怎么存的。

本文内容脑图如下:

技术分享图片

 


哈希类型内部编码详情

对于 Redis的常用 5 种数据类型(String、Hash、List、Set、sorted set),每种数据类型都提供了 最少两种 内部的编码格式,而且每个数据类型内部编码方式的选择 对用户是完全透明的,Redis会根据数据量自适应地选择较优化的内部编码格式。

如果想查看某个键的内部编码格式,可以使用 OBJECT ENCODING keyname 指令来进行,比如:

127.0.0.1:6379> 
127.0.0.1:6379> set foo bar
OK
127.0.0.1:6379> 
127.0.0.1:6379> object encoding foo // 查看某个Redis键值的编码
"embstr"
127.0.0.1:6379> 
127.0.0.1:6379> 

对于使用最为频繁的 Hash类型,其内部编码方式可能有两种:

  • OBJ_ENCODING_ZIPLIST(压缩列表)
  • OBJ_ENCODING_HT(哈希表)

Redis 会根据数据量的情况来自适应地选择这两种编码方式中 较优 的一种,而这一切对用户完全透明。

在 数据条目较少,数据值较小 的时候 Redis会采用 压缩列表(OBJ_ENCODING_ZIPLIST)编码方式进行存储。这里成员"较少",成员值"较小"的标准可以通过如下配置项进行配置:

hash-max-ziplist-entries 512
hash-max-ziplist-value 64

Redis 默认给出了默认值,当然用户可根据实际情况自行配置。

当 Hash类型键的字段个数 < hash-max-ziplist-entries 并且 每个字段名和字段值的长度 < hash-max-ziplist-value 时,Redis 会使用 OBJ_ENCODING_ZIPLIST来存储该键,反之则会转换为 OBJ_ENCODING_HT的编码方式。

口说无凭,我们不妨先来做个实验感受一下吧:

技术分享图片

 

很明显该实验验证了当 字段值长度大于64时,编码格式会由 ZIPLIST方式切换为 Hashtable方式。

源码之前,了无秘密,我们再来看一下Redis关于这部分切换的源码实现,那就理解得更加清楚了:

技术分享图片

 

技术分享图片

 

下面详解 OBJ_ENCODING_ZIPLIST 和 OBJ_ENCODING_HT 这两种编码格式的内部存储模型,知道了其各自特点和优缺点,自然也就明白了Redis内部使用它们的意图。


OBJ_ENCODING_ZIPLIST 编码

Ziplist 压缩列表是一种紧凑编码格式,总体思想是时间换空间,即以部分读写性能为代价,来换取极高的内存空间利用率,因此只会用于 字段个数少,且字段值也较小 的场景。

压缩列表内存利用率极高的原因与其连续内存的特性是分不开的,其典型的内存结构可以用下图形象地展示出来:

技术分享图片

 

所以如果用 Ziplist来存储 Redis的散列类型的话,元素的排列方式就变成了如下图所示的形象示意图:即key和value都是逻辑连续内存:

技术分享图片

 


OBJ_ENCODING_HT 编码

OBJ_ENCODING_HT 这种编码方式内部才是真正的哈希表结构,或称为字典结构,其可以实现O(1)复杂度的读写操作,因此效率很高。

在 Redis内部,从 OBJ_ENCODING_HT类型到底层真正的散列表数据结构是一层层嵌套下去的,关系如下:

技术分享图片

 

这一关系我们可以从 Redis哈希表定义部分的源码来看出:

技术分享图片

 

下面来详解一下各个部分:

  • 关于哈希节点(dictEntry)
技术分享图片

 

  • 关于哈希表(dictht)和字典(dict)
技术分享图片

 

  • 关于dictType
技术分享图片

 

  • Redis如何计算Hash值

Redis计算Hash的源代码如下:

技术分享图片

 

这是一个 C语言宏定义,其实幕后真正承担 Hash值计算的是上面介绍的 dictType结构体中的函数指针 hashFunction。

而该 hashFunction函数指针在初始化时会对应被赋值为一个个真实的计算 Hash值的实际函数,就像下面这样:

技术分享图片

 

  • Redis如何计算存取索引Index值

Index值的计算依赖于上面计算得出的 Hash值,代码如下:

技术分享图片

 

到此,还有一个一直非常值得关注的细节:即字典 dict里总是保存有两个 Hash表结构 ht[2],以及与其高度相关的 rehash操作,这在下一篇文章里详解。

原文链接:https://my.oschina.net/hansonwang99/blog/1934354

由于能力有限,若有错误或者不当之处,还请大家批评指正,一起学习交流!

顺便在此给大家推荐一个Java架构方面的交流学习群:698581634,里面会分享一些资深架构师录制的视频资料:有SpringMyBatisNetty源码分析,高并发、高性能、分布式、微服务架构的原理,JVM性能优化这些成为架构师必备的知识体系,主要针对Java开发人员提升自己,突破瓶颈,相信你来学习,会有提升和收获。

以上是关于深入理解:Redis哈希结构内存模型剖析的主要内容,如果未能解决你的问题,请参考以下文章

深入剖析Redis系列 - Redis数据结构与全局命令概述

深入学习Redis:Redis内存模型

深入学习Redis:Redis内存模型

深入学习RedisRedis内存模型

深入了解一下Redis的内存模型!

深入学习Redis:Redis内存模型