哈希及unordered系列实现
Posted WoLannnnn
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了哈希及unordered系列实现相关的知识,希望对你有一定的参考价值。
unordered_map/unordered_set底层结构
unordered系列的关联式容器之所以效率比较高,是因为其底层使用了哈希结构
哈希概念
顺序结构以及平衡树中,元素关键码与其存储位置之间没有对应的关系,因此在查找一个元素时,必须要经过关键码的多次比较。顺序查找时间复杂度为O(N),平衡树中为树的高度,即O( log2N),搜索的效率取决于搜索过程中元素的比较次数。
理想的搜索方法:可以不经过任何比较,一次直接从表中得到要搜索的元素。 如果构造一种存储结构,通过某种函数(hashFunc)使元素的存储位置与它的关键码之间能够建立一一映射的关系,那么在查找时通过该函数可以很快找到该元素。
当向该结构中:
- 插入元素
根据待插入元素的关键码,以此函数计算出该元素的存储位置并按此位置进行存放 - 搜索元素
对元素的关键码进行同样的计算,把求得的函数值当做元素的存储位置,在结构中按此位置取元素比较,若关键码相等,则搜索成功
该方式即为哈希(散列)方法,哈希方法中使用的转换函数称为哈希(散列)函数,构造出来的结构称为哈希表(Hash Table)(或者称散列表)
例如:数据集合1,7,6,4,5,9;
哈希函数设置为:hash(key) = key % capacity; capacity为存储元素底层空间总的大小。
用该方法进行搜索不必进行多次关键码的比较,因此搜索的速度比较快
问题:按照上述哈希方式,向集合中插入元素44,会出现什么问题?
是不是就出现了不同的值会存储的同一个位置的情况?这就是哈希冲突
哈希冲突
对于两个数据元素的关键字 和 (i != j),有 ki != kj ,但有:Hash(ki ) == Hash(kj ),即:不同关键字通过相同哈希哈数计算出相同的哈希地址,该种现象称为哈希冲突或哈希碰撞。
把具有不同关键码而具有相同哈希地址的数据元素称为“同义词”。
发生哈希冲突该如何处理呢?
哈希函数
引起哈希冲突的一个原因可能是:哈希函数设计不够合理。 哈希函数设计原则:
- 哈希函数的定义域必须包括需要存储的全部关键码,而如果散列表允许有m个地址时,其值域必须在0
到m-1之间 - 哈希函数计算出来的地址能均匀分布在整个空间中
- 哈希函数应该比较简单
常见哈希函数
-
直接定址法–(常用)
取关键字的某个线性函数为散列地址:Hash(Key)= A*Key + B 优点:简单、均匀 缺点:需要事先知道关键字的分布情况 使用场景:适合查找比较小且连续的情况 面试题:字符串中第一个只出现一次
字符,以字母的ASCII码值作为关键字,通过ASCII码来索引字母,类似计数排序的思想 -
除留余数法–(常用)
设散列表中允许的地址数为m,取一个不大于m,但最接近或者等于m的质数p作为除数,按照哈希函数:Hash(key) = key% p(p<=m),将关键码转换成哈希地址 -
平方取中法–(了解)
假设关键字为1234,对它平方就是1522756,抽取中间的3位227作为哈希地址; 再比如关键字为4321,对它平方就是18671041,抽取中间的3位671(或710)作为哈希地址 平方取中法比较适合:不知道关键字的分布,而位数又不是很大的情况 -
折叠法–(了解)
折叠法是将关键字从左到右分割成位数相等的几部分(最后一部分位数可以短些),然后将这几部分叠加求和,并按散列表表长,取后几位作为散列地址。
折叠法适合事先不需要知道关键字的分布,适合关键字位数比较多的情况 -
随机数法–(了解)
选择一个随机函数,取关键字的随机函数值为它的哈希地址,即H(key) = random(key),其中random为随机数函数。
通常应用于关键字长度不等时采用此法 -
数学分析法–(了解)
设有n个d位数,每一位可能有r种不同的符号,这r种不同的符号在各位上出现的频率不一定相同,可能在某些位上分布比较均匀,每种符号出现的机会均等,在某些位上分布不均匀只有某几种符号经常出现。可根据散列表的大小,选择其中各种符号分布均匀的若干位作为散列地址。例如:
假设要存储某家公司员工登记表,如果用手机号作为关键字,那么极有可能前7位都是 相同的,那么我们可以选择后面的四位作为散列地址,如果这样的抽取工作还容易出现 冲突,还可以对抽取出来的数字进行反转(如1234改成4321)、右环位移(如1234改成4123)、左环移位、前两数与后两数叠加(如1234改成12+34=46)等方法
数字分析法通常适合处理关键字位数比较大的情况,如果事先知道关键字的分布且关键字的若干位分布较均匀的情况
注意:哈希函数设计的越精妙,产生哈希冲突的可能性就越低,但是无法避免哈希冲突
哈希冲突解决
解决哈希冲突两种常见的方法是:闭散列和开散列
闭散列
闭散列:也叫开放定址法,当发生哈希冲突时,如果哈希表未被装满,说明在哈希表中必然还有空位置,那么可以把key存放到冲突位置中的“下一个” 空位置中去。那如何寻找下一个空位置呢?
线性探测
比如之前例子中的场景,现在需要插入元素44,先通过哈希函数计算哈希地址,hashAddr为4,因此44理论
上应该插在该位置,但是该位置已经放了值为4的元素,即发生哈希冲突。
线性探测:从发生冲突的位置开始,依次向后探测,直到寻找到下一个空位置为止。
插入
- 通过哈希函数获取待插入元素在哈希表中的位置
- 如果该位置中没有元素则直接插入新元素,如果该位置中有元素发生哈希冲突,使用线性探
测找到下一个空位置,插入新元素
删除
采用闭散列处理哈希冲突时,不能随便物理删除哈希表中已有的元素,若直接删除元素会影响其他元素的搜索。比如删除元素4,如果直接删除掉,44查找起来可能会受影响。因此线性探测采用标记的伪删除法来删除一个元素
// 哈希表每个空间给个标记 // EMPTY此位置空, EXIST此位置已经有元素, DELETE元素已经删除 enum State EMPTY, EXIST, DELETE, ;
思考:哈希表什么情况下进行扩容?如何扩容
线性探测的实现:insert的插入影响:满了可能死循环,引入负载因子
负载因子 = 表中数据 / 表的大小——衡量哈希表满的程度
表越接近满,插入数据越容易冲突,冲突越多,效率越低
哈希表并不是满了才增容,开放定址法中,一般负载因子到了0.7左右就开始增容
负载因子越小,冲突概率越低,整体效率越高,但是同时浪费的空间也较大
所以负载因子一般取一个折中值
// 注意:假如实现的哈希表中元素唯一,即key相同的元素不再进行插入
> // 为了实现简单,此哈希表中我们将比较直接与元素绑定在一起
> enum State
> EMPTY,
> EXIST,
> DELETE,
> ;
>
> template<class K>
> struct SetKeyOfValue
> const K& operator()(const std::pair<K, K>& k)
>
> return k.first;
>
> ;
>
> template<class K, class V>
> struct HashData
> State _state;
> std::pair<K, V> _data;
>
> HashData()
> :_state(EMPTY)
>
> ;
>
>
>
> //用除留余数法实现哈希表
> template<class K, class V, class KOfV>
> class HashTable
>
> private:
> std::vector< HashData<K, V> > _table;
> size_t _size;
>
> public:
> HashTable()
> :_table(std::vector<HashData<K, V>>())
> ,_size(0)
>
>
> ~HashTable()
>
> ;
>
>
> bool insert(const std::pair<K, V>& data)
>
> KOfV kofv;
>
> //负载因子 = 表中数据 / 表的大小——衡量哈希表满的程度
> //表越接近满,插入数据越容易冲突,冲突越多,效率越低
> //哈希表并不是满了才增容,开放定址法中,一般负载因子到了0.7左右就开始增容
> //负载因子越小,冲突概率越低,整体效率越高,但是同时浪费的空间也较大
> //所以负载因子一般取一个折中值
> //当负载因子大于等于0.7时哈希表开始增容
> //因为_size 和 size()都是整型,除出来的数据不会为小数,所以用_size*10后再除以size(),判断是否大于等于7
>
> //_table的size一开始是0,要进行判断,否则下面的判断会出现除数是0的情况
> if (_table.size() == 0)
>
> _table.resize(10);
>
>
> if (_size * 10 / _table.size() >= 7)
>
> //1.开辟2两倍的新表(不一定是2两倍)
> //2.将旧表数据拷贝至新表
> //3.释放旧表空间
> int newcapacity = 2 * _table.size();
> std::vector<HashData<K, V>> newtable;
> newtable.resize(newcapacity);
> for (int i = 0; i < _table.size(); ++i)//也可以复用insert将数据插入新表
>
> if (_table[i]._state == EXIST)
>
> size_t index = kofv(_table[i]._data);
> newtable[index % newcapacity] = _table[i];
>
>
>
> _table.swap(newtable);//将旧表与新表的数据进行交换,_size不需要交换,有效个数没变
>
>
>
> int pos = kofv(data) % _table.size();
>
> while (_table[pos]._state == EXIST)
>
> if (data == _table[pos]._data)//如果当前元素已经存在
>
> return false;
>
>
> ++pos;
>
> if (pos == _table.size())//到开头位置再继续找
>
> pos = 0;
>
>
>
> _table[pos]._data = data;
> _table[pos]._state = EXIST;
> ++_size;
>
> return true;
>
>
> HashData<K, V>* find(const K& key)const
>
> int pos = key % _table.size();
> KOfV koft;
>
> while (_table[pos]._state != EMPTY)
>
> if (koft(_table[pos]._data == key))
>
> if (_table[pos]._state == EXIST)
>
> return &_table[pos];
>
> else if (_table[pos]._state == DELETE)//此时该元素已经删除了,说明哈希表中已经不存在该元素了
>
> return nullptr;
>
>
>
> ++pos;
>
> if (pos == _table.size())//如果到了哈希表的末尾,则再从头开始遍历
>
> pos = 0;
>
>
>
> //到了这里说明没找到
> return nullptr;
>
>
> bool erase(const K& key)
>
> HashData<K, V>* pos = find(key);
> if (pos != nullptr)//表中有该元素,就删除
>
> pos->_state = DELETE;
> --_size;
> return true;
>
> else
>
> return false;
>
>
>
> ;
线性探测优点:实现非常简单,
线性探测缺点:一旦发生哈希冲突,所有的冲突连在一起,容易产生数据“堆积”,即:不同关键码占据了可利用的空位置,使得寻找某关键码的位置需要许多次比较,导致搜索效率降低。如何缓解呢?
二次探测
线性探测的缺陷是产生冲突的数据堆积在一块,这与其找下一个空位置有关系,因为找空位置的方式就
是挨着往后逐个去找,因此二次探测为了避免该问题,找下一个空位置的方法为: = ( + )% m,
或者: = ( - )% m。其中:i = 1,2,3…, H0是通过散列函数Hash(x)对元素的关键码 key 进行
计算得到的位置,m是表的大小。 对于之前的例子中如果要插入44,产生冲突,使用解决后的情况为:
二次探测解决了冲突数据堆积在一起的情况,当发生冲突时,它寻找其他位置的方法为:key % size() + i^2,i = 1,2,3…;不是像线性探测一样逐个向后查找空位置。
研究表明:当表的长度为质数且表装载因子a不超过0.5时,新的表项一定能够插入,而且任何一个位置都不会被探查两次。因此只要表中有一半的空位置,就不会存在表满的问题。在搜索时可以不考虑表装满的情况,但在插入时必须确保表的装载因子a不超过0.5,如果超出必须考虑增容
因此:闭散列最大的缺陷就是空间利用率比较低,这也是哈希的缺陷
开散列
开散列概念
开散列法又叫链地址法(开链法/拉链法),首先对关键码集合用散列函数计算散列地址,具有相同地址的关键码归于同一子集合,每一个子集合称为一个桶,各个桶中的元素通过一个单链表链接起来,各链表的头结点存储在哈希表中。
从上图可以看出,开散列中每个桶中放的都是发生哈希冲突的元素
开散列实现
template<class K, class V> //改成链表形式 struct HashData std::pair<K, V> _data; HashData<K, V>* _next; HashData(const std::pair<K, V> data) :_data(data) ,_next(nullptr) ; // 本文所实现的哈希桶中key是唯一的 //用除留余数法实现哈希表 template<class K, class V, class KOfV> class HashTable friend struct _IHASH_ITERATOR; typedef HashData<K, V>* pnode; typedef _HASH_ITERATOR<K, V, KOfV> iterator; private: std::vector<pnode> _table; size_t _size;//记录有效数据个数 public: HashTable() :_table(std::vector<pnode>()) , _size(0) ~HashTable() clear(); //不存在重复元素 bool insert(const std::pair<K, V>& data) KOfV kofv; //_table的size一开始是0 if (_table.size() == 0) _table.resize(10); //如果冲突数据都挂接到同一条链表上,效率还是有问题,于是开散列也需要负载因子 //开散列的负载因子为1 if (_size / _table.size() == 1) //与闭散列步骤相同 //1.先创建2倍的新表 //2.将旧表数据映射到新表 //3.释放旧表 int newcapacity = 2 * _table.size(); std::vector<pnode> newtable; newtable.resize(newcapacity); for (int i = 0; i < _table.size(); ++i) pnode curr = _table[i]; while (curr) //获取key在新表中对应的下标 int index = kofv(curr->_data) % newcapacity; pnode next = curr->_next;//保存curr的下一个节点 curr->_next = newtable[index]; newtable[index] = curr;//头插入新表对应的链表 curr = next; //原表的所有位置需要置空,否则释放时会将原表中的链表也释放掉 _table[i] = nullptr; //_size不用交换,因为有效数据个数并没有变 _table.swap(newtable); //先在表中查找data是否已经存在 int pos = kofv(data) % _table.size(); pnode curr = _table[pos]; while (curr) if (kofv(curr->_data) == kofv(data)) return false; curr = curr->_next; //如果不存在,则头插入对应位置的链表中——头插方便一些 pnode newnode = new HashData<K, V>(data); curr = _table[pos]; newnode->_next = curr;//连接新旧节点 _table[pos] = newnode;//头插新节点 ++_size; return true; pnode find(const K& key)const assert(!empty()); int pos = key % _table.size(); KOfV koft; pnode curr = _table[pos]; while (curr) //找到了 if (kofv(curr->_data) == key) return curr; else//没找到继续向下找,直到找到空说明没有该元素 curr = curr->_next; //到了这里说明没找到 return nullptr; bool erase(const K& key) assert(!empty()); KOfV kofv; int index = key % _table.size(); //找到删除节点还需要知道其上一个节点是谁,需要将删除节点的前后节点连接起来 pnode parent = nullptr; pnode curr = _table[index]; while (curr) //找到了 if (kofv(curr->_data) == key) //判断要删除的节点是不是头节点 //如果是,则将头节点的下一个节点作为头节点 //如果不是,将删除节点的前后连接起来 if (parent == nullptr) _table[index] = curr->_next; delete curr; else parent->_next = curr->_next; delete curr; //更改_size并返回true --_size; return true; //继续向下查找 else parent = curr; curr = curr->_next; //走到这里说明key在表中不存在 return false; size_t size()const return _size; bool empty()const return _size == 0; void clear() for (int i = 0; i < _size; ++i) pnode curr = _table[i]; while (curr) pnode next = curr->_next; delete curr; curr = next; _table[i] = nullptr; _size = 0; ;
开散列增容
桶的个数是一定的,随着元素的不断插入,每个桶中元素的个数不断增多,极端情况下,可能会导致一个桶中链表节点非常多,会影响的哈希表的性能,因此在一定条件下需要对哈希表进行增容,那该条件怎么确认呢?开散列最好的情况是:每个哈希桶中刚好挂一个节点,再继续插入元素时,每一次都会发生哈希冲突,因此,在元素个数刚好等于桶的个数时,可以给哈希表增容
Java中的HashMap当桶长度超过8时就改成挂红黑树//开散列的负载因子为1 if (_size / _table.size() == 1) //与闭散列步骤相同 //1.先创建2倍的新表 //2.将旧表数据映射到新表 //3.释放旧表 int newcapacity = 2 哈希及unordered系列实现