操作系统 之 哈希表 Linux 内核 应用浅析
Posted wzjhoutai
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了操作系统 之 哈希表 Linux 内核 应用浅析相关的知识,希望对你有一定的参考价值。
1.基本概念
散列表(Hash table。也叫哈希表)。是依据关键码值(Key value)而直接进行訪问的数据结构。
也就是说,它通过把关键码值映射到表中一个位置来訪问记录。以加快查找的速度。
这个映射函数叫做散列函数。存放记录的数组叫做散列表。
2. 经常使用的构造散列函数的方法散列函数能使对一个数据序列的訪问过程更加迅速有效。通过散列函数。数据元素将被更快地定位。散列表的经常使用构造方法有:
(1)直接定址法
(2)数字分析法
(3)平方取中法
(4)折叠法
(5)随机数法
(6)除留余数法
3、处理冲突的方法
散列表函数设计好的情况下,能够降低冲突,可是无法全然避免冲突。常见有冲突处理方法有:
(1)开放定址法
(2)再散列法
(3)链地址法(拉链法)
(4)建立一个公共溢出区
4. 散列表查找性能分析
散列表的查找过程基本上和造表过程同样。
一些关键码可通过散列函数转换的地址直接找到,还有一些关键码在散列函数得到的地址上产生了冲突,须要按处理冲突的方法进行查找。
在介绍的三种处理冲突的方法中,产生冲突后的查找仍然是给定值与关键码进行比較的过程。所以,对散列表查找效率的量度。依旧用平均查找长度来衡量。
查找过程中,关键码的比較次数。取决于产生冲突的多少,产生的冲突少,查找效率就高。产生的冲突多,查找效率就低。因此,影响产生冲突多少的因素,也就是影响查找效率的因素。
影响产生冲突多少有下面三个因素:
1. 散列函数是否均匀;
2. 处理冲突的方法。
3. 散列表的装填因子。
散列表的装填因子定义为:α= 填入表中的元素个数 / 散列表的长度。
α是散列表装满程度的标志因子。因为表长是定值。α与“填入表中的元素个数”成正比,所以,α越大。填入表中的元素较多,产生冲突的可能性就越大。α越小,填入表中的元素较少,产生冲突的可能性就越小。实际上,散列表的平均查找长度是装填因子α的函数,仅仅是不同处理冲突的方法有不同的函数。
一.Linux内核哈希表数据结构
hash最重要的是选择适当的hash函数,从而平均的分配keyword在桶中的位置,从而优化查找 插入和删除所用的时间。然而不论什么hash函数都会出现冲突问题。
内核採用的解决哈希冲突的方法是:拉链法拉链法解决冲突的做法是:将全部keyword为同义词的结点链接在同一个链表中。若选定的散列表长度为m,则可将散列表定义为一个由m个头指针(struct hlist_head name)组成的指针数组T[0..m-1]。凡是散列地址为i的结点。均插入到以T[i]为头指针的链表中。T中各分量的初值均应为空指针。在拉链法中,装填因子α(装填的元素个数/数组长度)能够大于 1。但一般均取α≤1。当然。用拉链法解决hash冲突也是有缺点的,指针须要额外的空间。
1. 其代码位于include/linux/list.h中,3.0内核中将其数据结构定义放在了include/linux/types.h中
哈希表的数据结构定义:
如图:
struct hlist_head{
struct hlist_node *first;
}
struct hlist_node {
struct hlist_node *next,**pprev;
}
2>hlist_node结构体有两个域。next和pprev。
(1)next指向下个hlist_node结点,倘若改结点是链表的最后一个节点。next则指向NULL
(2)pprev是一个二级指针。它指向前一个节点的next指针。
还有list是双向循环链表,而hlist不是双向循环链表。由于hlist头结点中没有prev变量。为什么要这样设计呢?
散列表的目的是为了方便高速的查找,所以散列表一般是一个比較大的数组,否则“冲突”的概率会非常大,这样就失去了散列表的意义。怎样来做到既能维护一张大表,又能不占用过多的内存呢?
此时仅仅能对于哈希表的每一个entry(表头结点)它的结构体中仅仅能存放一个指针。这样做的话能够节省一半的指针空间。尤其是在hash bucket非常大的情况下。(假设有两个指针域将占用8个字节空间)
因为hlist不是一个完整的循环链表,在list中,表头和结点是同一个数据结构。直接用prev是ok的。在hlist中。表头中没有prev,仅仅有一个first。
1>为了能统一地改动表头的first指针,即表头的first指针必须改动指向新插入的结点。hlist就设计了pprev。
list结点的pprev不再是指向前一个结点的指针,而是指向前一个节点(可能是表头)中的next(对于表头则是first)指针,从而在表头插入的操作中能够通过一致的node->pprev訪问和改动前结点的next(或first)指针。
2>还攻克了数据结构不一致,hlist_node巧妙的将pprev指向上一个节点的next指针的地址,因为hlist_head和hlist_node指向的下一个节点的指针类型同样。就攻克了通用性。
1.对哈希表头结点进行初始化
实际上,struct hlist_head仅仅定义了链表结点,并没有专门定义链表头,能够使用例如以下三个宏
#define HLIST_HEAD_INIT { .first = NULL}
#define HLIST_HEAD(name) struct hlist_head name = {.first = NULL}
#define INIT_HLIST_HEAD(ptr) ((ptr->first)=NULL))
1>name 为结构体 struct hlist_head{}的一个结构体变量。
2>HLIST_HEAD_INIT 宏仅仅进行初始化
Eg: struct hlist_head my_hlist = HLIST_HEAD_INIT
调用HLIST_HEAD_INIT对my_hlist哈希表头结点仅仅进行初始化,将表头结点的fist指向空。
3>HLIST_HEAD(name)函数宏既进行声明而且进行初始化。
Eg: HLIST_HEAD(my_hlist);
调用HLIST_HEAD函数宏对my_hlist哈希表头结点进行声明并进行初始化。将表头结点的fist指向空。
4>HLIST_HEAD宏在编译时静态初始化,还能够使用INIT_HLIST_HEAD在执行时进行初始化
Eg:
INIT_HLIST_HEAD(&my_hlist);
调用INIT_HLIST_HEAD俩将my_hlist进行初始化,将其first域指向空就可以。
2.对哈希表结点进行初始化
1>Linux 对哈希表结点初始化提供了一个接口:
static iniline void INIT_HLIST_NODE(struct hlist_node *h)
(1) h:为哈希表结点
2>实现:
static inline void INIT_HLIST_NODE(struct hlist_node *h)
{
h->next = NULL;
h->pprev = NULL;
}
改内嵌函数实现了对struct hlist_node 结点进行初始化操作,将其next域和pprev都指向空。实现其初始化操作。
1.推断哈希链表是否为空
1>function:函数推断哈希链表是否为空,假设为空则返回1.否则返回0
2>函数接口:
static inline int hlist_empty(const struct hlist_head *h)
h:指向哈希链表的头结点。
3>函数实现:
static inline int hlist_empty(const struct hlist_head *h)
{
return !h->first;
}
通过推断头结点中的first域来推断其是否为空。
假设first为空则表示该哈希链表为空。
2.推断节点是否在hash表中
1>function:推断结点是否已经存在hash表中。
2>函数接口:
static inline int hlist_unhashed(const struct hlist_node *h)
h:指向哈希链表的结点
3>函数实现:
static inline int hlist_unhashed(const struct hlist_node *h)
{
return !h->pprev
}
通过推断该结点的pprev是否为空来推断该结点是否在哈希链表中。 h->pprev等价于h节点的前一个节点的next域。假设前一个节点的next域为空。说明 改节点不在哈希链表中。
3.哈希链表的删除操作
1>function:将一个结点从哈希链表中删除。
2>函数接口:
static inline void hlist_del(struct hlist_node *n)
n: 指向hlist的链表结点
static inline void hlist_del_init(struct hlist_node *n)
n: 指向hlist的链表结点
3>函数实现
static inline void __hlist_del(struct hlist_node *n)
{
struct hlist_node *next = n->next;
struct hlist_node **pprev = n->pprev;
*pprev = next;
if (next)
next->pprev = pprev;
}
Step1:首先获取n的下一个结点next
Step2: n->pprev指向n的前一个结点的next指针的地址,这样*pprev就代表n前一个节点的下一个结点的地址(眼下指向n本身)
Step3:*pprev=next,即将n的前一个节点和n的下一个结点关联起来。
Step4:假设n是链表的最后一个结点。那么n->next即为空,则无需不论什么操作;否则,next->pprev=pprev,将n的下一个结点的pprev指向n的pprev(既改动后结点的pprev数值)
此时,我们能够如果 在hlist_node 中採用单级指针,那么该怎样进行操作呢?
此时在进行Step3操作时,就须要推断结点是否为头结点。
能够用n->prev是否为NULLL来区分头结点和普通结点。
struct my_hlist_node *next = n->next ;
struct my_hlist_node *prev = n->prev ;
if(n->prev)
n->prev->next = next ;
else
n->prev = NULL ;
if(next)
next->prev = prev ;
那为什么不进行以上的操作?
(1)代码不够简洁。使用hlist_node结点的话。头结点和普通结点是一致的;
static inline void hlist_del(struct hlist_node *n)
{
__hlist_del(n);
n->next = LIST_POISON1;
n->pprev = LIST_POISON2;
}
Step1:调用__hlist_del(n),删除哈希链表结点n(即改动n的前一个结点和后一个结点的之间的关系)
Step2和Step3:将n结点的next和pprev域分别指向LIST_POISON1和LIST_POISON2。
这样设置是为了保证不在链表中的结点项不能被訪问。
static inline void hlist_del_init(struct hlist_node *n)
{
if (!hlist_unhashed(n)) {
__hlist_del(n);
INIT_HLIST_NODE(n);
}
}
Step1:先推断该结点是否在哈希链表中,假设不在则不进行删除。
假设是则进行第二步
Step2:调用__hlist_del删除结点n
Step3:调用INIT_HLIST_NODE,将结点n进行初始化。
说明:
hlist_del和hlist_del_init都是调用__hlist_dle来删除结点n。
唯一不同的是对结点n的处理,前者是将n设置为不可用。后者是将其设置为一个空的结点。
4.加入哈希结点
1>function:将一个结点加入到哈希链表中。hlist_add_head:将结点n插在头结点h之后。
hlist_add_before:将结点n插在next结点的前面(next在哈希链表中)
hlist_add_after:将结点next插在n之后(n在哈希链表中)
3.0内核新加入了hlist_add_fake函数。
2>Linux 内核提供了三个接口:
static inline void hlist_add_head(struct hlist_node *n, struct hlist_head *h)
struct hlist_node *n: n为将要插入的哈希结点
struct hlist head *h: h为哈希链表的头结点。
static inline void hlist_add_before(struct hlist node *n,struct hlist_node *next)
struct hlist node *n: n为将要插入的哈希结点.
struct hlist node *next :next为原哈希链表中的哈希结点。
static inline void hlist_add_after(struct hlist node *n,struct hlist_node *next)
struct hlist node *n: n与原哈希链表中的哈希结点
struct hlist node *next: next为将要插入的哈希结点
注:在3.0内核中新加入了hlist_add_fake
static inline void hlist_add_fake(struct hlist_node *n)
struct hlist_node *n :n链表哈希结点
3>函数实现:
static inline void hlist_add_head(struct hlist_node *n,struct hlist_head *h)
{
struct hlist_node *first = h->first;
n->next = first;
if (first)
first->pprev = &n->next;
h->first = n;
n->pprev = &h->first;
}
Step1: first = h->first。
获得当前链表的首个结点.
Step2: 将first赋值给n结点的next域。让n的next与first关联起来。
Step3: 假设first不为空,则将first的pprev指向n的next域。此时完毕了first结点的关联。
假设fist为空。则不进行操作。
Step4: h->first = n; 将头结点的fist域指向n,使n成为链表的首结点。
Step5: n->pprev = &h->first; 将n结点的pprev指向链表的fist域,此时完毕了对n结点的关联。
/*next must be !=NULL*/
static inline void hlist_add_before(struct hlist_node *n, struct hlist_node *next){
n->pprev = next->pprev;
n->next = next;
next->pprev = &n->next;
*(n->pprev) =n ;
}
Step1: n->pprev = next->prev;将next的pprev赋值给n->pprev。使n的pprev 指向next的前一个结点的next。
Step2: n->next = next;将n结点的next指向next,完毕对n结点的关联。
Step3: next->pprev = &n->next;此时改动next结点的pprev。使其指向n的next的地址。此时完毕next结点的关联。
Step4: *(n->pprev) =n;此时*(n->pprev)即n结点前面的next,使其指向n。完毕对n结点的关联。
注:
(1)next不能为空(next即哈希链表中原有的结点)
(2)n为新插入的结点。
static inline void hlist_add_after(struct hlist_node *n, struct hlist_node *next )
{
next->next = n->next;
n->next = next;
next->pprev = &n->next;
if (next->next)
next->next->pprev = &next->next;
}
n为原哈希链表中的结点, next新插入的结点。
将结点next插入到n之后(next是新插入的节点)
Step1: next->next = n->next; 将next->next指向结点n的下一个结点。
Step2: n->next = next; 改动n结点的next。使n指向next。
Step3: next->pprev = &n->next; 将next的pprev指向n的next
Step4: 推断next后的结点是否为空假设。为空则不进行操作,否则将next后结点的pprev指向自己的next 处。
static inline void hlist_add_fake(struct hlist_node *n)
{
n->pprev =&n->next;
}
对这个函数的含义不太明确,望高人指点。
1.哈希链表的移动
1>function:将以个哈希聊表的头结点用new结点取代。将曾经的头结点删除。
2>接口:
static inline void hlist_move_list(struct hlist_head *old, struct hlist_head *new)
struct hlist_head *old:原先哈希链表的头结点
struct hlist_head *new:新替换的哈希链表的头结点
3>实现:
static inline void hlist_move_list(struct hlist_head *old, struct hlist_head *new)
{
new->first = old->first;
if (new->first)
new->fist->pprev = &new->first;
old->first = NULL;
}
Step1: 将new结点的first指向old的第一个结点
Step2: 推断链表头结点后是否有哈希结点。
假设为空,则不操作。否则,将表头后的第一个结点的pprev指向新表头结点的first.
Step3:将原先哈希链表头结点的first指向空。
为了方便核心应用遍历链表,linux链表将遍历操作抽象成几个宏。在分析遍历宏之前,先分析下怎样从链表中訪问到我们所须要的数据项
1.hlist_entry(ptr,type,member)
1>function:通过成员指针获得整个结构体的指针
Linux链表中仅保存了数据项结构中hlist_head成员变量的地址,能够通过hlist_entry宏通过hlist_head成员訪问到作为它的全部者的结点数据
2>接口:
hlist_entry(ptr,type,member)
ptr:ptr是指向该数据结构中hlist_head成员的指针,即存储该数据结构中链表的地址值。
type:是该数据结构的类型。
member:改数据项类型定义中hlist_head成员的变量名。
3>hlist_entry宏的实现
#define hlist_entry(ptr, type, member)
container_of(ptr, type, member)
hlist_entry宏调用了container_of宏,关于container_of宏的使用方法见:
2.遍历操作
1>function:实际上就是一个for循环。从头到尾进行遍历。
因为hlist不是循环链表,因此,循环终止条件是pos不为空。
使用hlist_for_each进行遍历时不能删除pos(必须保证pos->next有效),否则会造成SIGSEGV错误。
而使用hlist_for_each_safe则能够在遍历时进行删除操作。
2>接口:
Linux内核为哈希链表遍历提供了两个接口:
hlist_for_each(pos,head)
pos: pos是一个辅助指针(即链表类型struct hlist_node),用于链表遍历
head:链表的头指针(即结构体中成员struct hlist_head).
hlist_for_each_safe(pos,n,head)
pos: pos是一个辅助指针(即链表类型struct hlist_node),用于链表遍历
n :n是一个暂时哈希结点指针(struct hlist_node),用于暂时存储pos的下一个链表结点。
head:链表的头指针(即结构体中成员struct hlist_head).
3>函数实现:
(1)#define hlist_for_each(pos, head)
for(pos = (head)->first; pos ; pos = pos->next)
pos是辅助指针,pos是从第一个哈希结点開始的,并没有訪问哈希头结点。直到pos为空时结束循环。
(2)#define hlist_for_each_safe(pos,n,head)
for(pos = (head)->first,pos &&({n=pos->next;1;}) ; pos=n)
hlist_for_each是通过移动pos指针来达到遍历的目的。但假设遍历的操作中包括删除pos指针所指向的节点,pos指针的移动就会被中断,由于hlist_del(pos)将把pos的next、prev置成LIST_POSITION2和LIST_POSITION1的特殊值。当然,调用者全然可以自己缓存next指针使遍历操作可以连贯起来。但为了编程的一致性,Linxu内核哈希链表要求调用者另外提供一个与pos同类型的指针n。在for循环中暂存pos下一个节点的地址,避免因pos节点被释放而造成的断链。
此循环推断条件为pos && ({n = pos->next;1;});
这条语句先推断pos是否为空,假设为空则不继续进行推断。
假设pos为真则进行推断({n=pos->next;1;})—》该条语句为复合语句表达式,其数值为最后一条语句,即该条语句永远为真。而且将post下一条结点的数值赋值给n。即该循环推断条件仅仅推断pos是否为真,假设为真,则继续朝下进行推断。
({n-pos->next;1;})此为GCC 特有的C扩展。假设你不懂的话,能够參考GCC扩展
Linux提供了从三种方式进行遍历,一种是从哈希链表第一个哈希结点開始遍历;另外一种是从哈希链表中的pos结点的下一个结点開始遍历。第三种是从哈希链表中的当前结点開始进行遍历。
1.从哈希链表第一个哈希结点開始进行遍历
1>function: 从哈希链表的第一个哈希结点開始进行遍历。hlist_for_each_entry在进行遍历时不能删除pos(必须保证pos->next有效),否则会造成SIGSEGV错误。
而使用hlist_for_each_entry_safe则能够在遍历时进行删除操作。
2>Linux提供了两个接口来实现从哈希表第一个结点開始进行遍历
hlist_for_each_entry(tpos, pos, head, member)
tpos: 用于遍历的指针,仅仅是它的数据类型是结构体类型而不是strut hlist_head 类型
pos: 用于遍历的指针,仅仅是它的数据类型是strut hlist_head 类型
head:哈希表的头结点
member: 该数据项类型定义中hlist_head成员的变量名
hlist_for_each_entry_safe(tpos, pos, n, head, member)
tpos: 用于遍历的指针,仅仅是它的数据类型是结构体类型而不是strut hlist_head 类型
pos: 用于遍历的指针,仅仅是它的数据类型是strut hlist_head 类型
n: 暂时指针用于占时存储pos的下一个指针,它的数据类型也是struct hlist_list类型
head: 哈希表的头结点
member: 该数据项类型定义中hlist_head成员的变量名
3>实现
#define hlist_for_each_entry(tpos,pos,head,member)
for (pos = (head)->first;
pos &&
({tpos = hlist_entry(pos, typeof(*tpos),member);1;});
pos = pos->next)
#define hlist_for_each_entry_safe(tpos, pos, n, head, member)
for (pos = (head)->first;
pos && ({ n = pos->next;1;}) &&
({tpos = hlist_entry(pos, typeof(*tpos),member);1;});
pos = n)
2. 从哈希链表中的pos结点的下一个结点開始遍历
1>function:从pos结点的下一个结点进行遍历。
2>函数接口:
hlist_for_each_entry_continue(tpos ,pos, member)
tpos: 用于遍历的指针,仅仅是它的数据类型是结构体类型而不是strut hlist_head 类型
pos: 用于遍历的指针,仅仅是它的数据类型是strut hlist_head 类型
member: 该数据项类型定义中hlist_head成员的变量名
3>函数实现:
#define hlist_for_each_entry_continue(tpos, pos, member)
for (pos = (pos)->next;
pos &&
({tpos = hlist_entry(pos,typeof(*tpos),member);1;});
pos = pos->next)
3.从哈希链表中的pos结点的当前结点開始遍历
1>function:从当前某个结点開始进行遍历。hlist_for_entry_continue是从某个结点之后開始进行遍历。
2>函数接口:
hlist_for_each_entry_from(tpos, pos, member)
tpos: 用于遍历的指针,仅仅是它的数据类型是结构体类型而不是strut hlist_head 类型
pos: 用于遍历的指针,仅仅是它的数据类型是strut hlist_head 类型
member: 该数据项类型定义中hlist_head成员的变量名
3>实现
#define hlist_for_each_entry_from(tpos, pos, member)
for (; pos &&
({tpos = hlist_entry(pos,typeof(*tpos),member);1;});
pos = pos->next)
以上是关于操作系统 之 哈希表 Linux 内核 应用浅析的主要内容,如果未能解决你的问题,请参考以下文章
Linux内核中namespace之PID namespace
#私藏项目实操分享#Netty技术专题「原理分析系列」Netty强大特性之ByteBuf零拷贝技术原理分析