jdk1.8 HashMap底层数据结构:深入解析为什么jdk1.8 HashMap的容量一定要是2的n次幂

Posted laipimei

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了jdk1.8 HashMap底层数据结构:深入解析为什么jdk1.8 HashMap的容量一定要是2的n次幂相关的知识,希望对你有一定的参考价值。

前言

  1.本文根据jdk1.8源码来分析HashMap的容量取值问题;

  2.本文有做 jdk1.8 HashMap.resize()扩容方法的源码解析:见下文“一、3.扩容:同样需要保证扩容后的容量是2的n次幂”;

  3.目录:

    一、jdk1.8中,对“HashMap的容量一定是2的n次幂”做了严格控制

      1.默认初始容量

      2.使用HashMap的有参构造函数来自定义容量的大小(保证容量是2的n次幂)

      3.扩容:同样需要保证扩容后的容量是2的n次幂( jdk1.8 HashMap.resize()扩容方法的源码解析)

    二、为什么HashMap的容量一定要是2的n次幂?或者说,保证“HashMap的容量一定是2的n次幂”有什么好处?

      1.关系到元素在桶中的位置计算问题

       2.关系到扩容后元素在newCap中的放置问题

        2.1 源码解析

        2.2 深入分析(含图解)

 

一、jdk1.8中,对“HashMap的容量一定要是2的n次幂”做了严格控制

  1.默认初始容量:

    /**
     * The default initial capacity - MUST be a power of two.(默认初始容量——必须是2的n次幂。)
     */
    static final int DEFAULT_INITIAL_CAPACITY = 1 << 4; // aka 16(16 = 2^4)

  2.使用HashMap的有参构造函数来自定义容量的大小(保证容量是2的n次幂):

  HashMap总共有4个构造函数,其中有2个构造函数可以自定义容量的大小:

  ①HashMap(int initialCapacity):底层调用的是②HashMap(int initialCapacity, float loadFactor)构造函数

    public HashMap(int initialCapacity) 
        this(initialCapacity, DEFAULT_LOAD_FACTOR);
    

  ②HashMap(int initialCapacity, float loadFactor)

public HashMap(int initialCapacity, float loadFactor) 
        if (initialCapacity < 0)
            throw new IllegalArgumentException("Illegal initial capacity: " +  initialCapacity);
        if (initialCapacity > MAXIMUM_CAPACITY)
            initialCapacity = MAXIMUM_CAPACITY;
        if (loadFactor <= 0 || Float.isNaN(loadFactor))
            throw new IllegalArgumentException("Illegal load factor: " +  loadFactor);
        this.loadFactor = loadFactor;
        this.threshold = tableSizeFor(initialCapacity);//tableSizeFor(initialCapacity)方法是重点!!! 

  这里有个问题:使用①或②构造函数来自定义容量时,怎么能够保证传入的容量一定是2的n次幂呢?

  答案就在标记出来的tableSizeFor(initialCapacity)方法中:

    /**
     * Returns a power of two size for the given target capacity.
     */
    static final int tableSizeFor(int cap) 
        int n = cap - 1;
        n |= n >>> 1;
        n |= n >>> 2;
        n |= n >>> 4;
        n |= n >>> 8;
        n |= n >>> 16;
        return (n < 0) ? 1 : (n >= MAXIMUM_CAPACITY) ? MAXIMUM_CAPACITY : n + 1;
    

  上面这段代码的作用:

    假如你传的cap是5,那么最终的初始容量为8;假如你传的cap是24,那么最终的初始容量为32。

    这是因为5并非是2的n次幂,而大于等于5且距离5最近的2的n次幂是8(8 = 2^3);同样的,24也并非2的n次幂,大于等于24且距离24最近的2的n次幂是32(32 = 2^5)。

    假如你传的cap是64,那么最终的初始容量就是64,因为64是2^6,它就是等于cap的最小2的n次幂。

    总结起来就一句话:通过位移运算,找到大于或等于 cap 的 最小2的n次幂

   jdk1.7的初始容量处理机制和上面jdk1.8具有相同的作用,但1.7的代码好懂很多:

public HashMap(int initialCapacity, float loadFactor)   
   ……
    int capacity = 1;  
    while (capacity < initialCapacity)   
        capacity <<= 1; 
    
    ……

  3.扩容:同样需要保证扩容后的容量是2的n次幂( jdk1.8 HashMap.resize()扩容方法的源码解析)

  resize()扩容方法主要做了三件事(这里这里重点讲前两件事,第三件事在下文的“三、2.”中讲):

    ①计算新容量(新桶) newCap 和新阈值 newThr;

    ②根据计算出的 newCap 创建新的桶数组table,并对table做初始化;

    ③将键值对节点重新放到新的桶数组里;

 1     final Node<K,V>[] resize()  //扩容
 2     
 3 //---------------- -------------------------- 1.计算新容量(新桶) newCap 和新阈值 newThr。 ---------------------------------
 4  
 5         Node<K,V>[] oldTab = table;
 6         int oldCap = (oldTab == null) ? 0 : oldTab.length;//看容量是否已初始化
 7         int oldThr = threshold;//下次扩容要达到的阈值。threshold(阈值) = capacity * loadFactor。
 8         int newCap, newThr = 0;
 9         if (oldCap > 0) //容量已初始化过了:检查容量和阈值是否达到上限《==========
10             if (oldCap >= MAXIMUM_CAPACITY) //oldCap >= 2^30,已达到扩容上限,停止扩容
11                 threshold = Integer.MAX_VALUE;
12                 return oldTab;
13             
         // newCap < 2^30 && oldCap > 16,还能再扩容:2倍扩容
14 else if ((newCap = oldCap << 1) < MAXIMUM_CAPACITY && oldCap >= DEFAULT_INITIAL_CAPACITY) 15 newThr = oldThr << 1; // 扩容:阈值*2。(注意:阈值是有可能越界的) 16 17 //容量未初始化 && 阈值 > 0。 18 //【啥时会满足层判断:使用HashMap(int initialCapacity, float loadFactor)或 HashMap(int initialCapacity)构造函数实例化HashMap时,threshold才会有值。】 19 else if (oldThr > 0) 20 newCap = oldThr;//初始容量设为阈值 21 else //容量未初始化 && 阈值 <= 0 : 22 //【啥时会满足这层判断:①使用无参构造函数实例化HashMap时;②在“if (oldCap > 0)”判断层newThr溢出了。】 23 newCap = DEFAULT_INITIAL_CAPACITY; 24 newThr = (int)(DEFAULT_LOAD_FACTOR * DEFAULT_INITIAL_CAPACITY); 25 26 if (newThr == 0) //什么情况下才会进入这个判断框:前面执行了else if (oldThr > 0),并没有为newThr赋值,就会进入这个判断框。 27 float ft = (float)newCap * loadFactor; 28 newThr = (newCap < MAXIMUM_CAPACITY && ft < (float)MAXIMUM_CAPACITY ? (int)ft : Integer.MAX_VALUE); 29 30 threshold = newThr; 31 32 //------------------------------------------------------2.扩容:------------------------------------------------------------------ 33 34 @SuppressWarnings("rawtypes","unchecked") 35 Node<K,V>[] newTab = (Node<K,V>[])new Node[newCap];//扩容 36 table = newTab; 37 38 //--------------------------------------------- 3.将键值对节点重新放到新的桶数组里。------------------------------------------------ 39 40 ……//此处源码见下文“二、2.” 41 42 return newTab; 43

  通过resize()扩容方法的源码可以知道:每次扩容,都是将容量扩大一倍,所以新容量依旧是2的n次幂。如oldCap是16的话,那么newCap则为32。

  通过上面三点可以确定,不论是默认初始容量,还是自定义容量大小,又或者是扩容后的容量,都必须保证一定是2的n次幂。

 

二、为什么HashMap的容量一定要是2的n次幂?或者说,保证“HashMap的容量一定是2的n次幂”有什么好处?

  原因有两个:

  1.关系到元素在桶中的位置计算问题:

  简单来讲,一个元素放到哪个桶中,是通过 “hash % capacity” 取模运算得到的余数来确定的(注:“元素的key的哈希值”在本文统一简称为“hash”)。

  hashMap用另一种方式来替代取模运算——位运算:(capacity - 1) & hash。这种运算方式为什么可以得到跟取模一样的结果呢? 答案是capacity是2的N次幂。(计算机做位运算的效率远高于做取模运算的效率,测试见:https://www.cnblogs.com/laipimei/p/11316812.html

  证明取模和位运算结果的一致性:

  技术图片

  2.关系到扩容后元素在newCap中的放置问题:

  扩容后,如何实现将oldCap中的元素重新放到newCap中?

  我们不难想到的实现方式是:遍历所有Node,然后重新put到新的table中, 中间会涉及计算新桶位置、处理hash碰撞等处理。这里有个不容忽视的问题——哈希碰撞。在元素put进桶中时,就已经处理过了哈希碰撞问题:哈希值一样但通过equals()比较确定内容不同的元素,会在同一个桶中形成链表,链表长度 >=8 时将链表转为红黑树;扩容时,需要重新处理这些元素的哈希碰撞问题,如果数据量一大.......要完……

  jdk1.8用了优雅又高效的方式来处理扩容后元素的放置问题,下面我们一起来看看jdk1.8到底是怎么做的。

  2.1 先看jdk1.8源码实现:

 1 final Node<K,V>[] resize()  //扩容方法
 2     
 3 //---------------- -------------------------- 1.计算新容量(新桶) newCap 和新阈值 newThr: -------------------------------------------
 4  
 5         …… //此处源码见前文“一、3.”
 6         
 7 //---------------------------------------------------------2.扩容:------------------------------------------------------------------
 8         
 9         …… //此处源码见前文“一、3.”
10         
11 //--------------------------------------------- 3.将键值对节点重新放到新的桶数组里:------------------------------------------------
12         
13         if (oldTab != null) //容量已经初始化过了:
14             for (int j = 0; j < oldCap; ++j) //一个桶一个桶去遍历,j 用于记录oldCap中当前桶的位置
15                 Node<K,V> e;
16                 if ((e = oldTab[j]) != null) //当前桶上有节点,就赋值给e节点
17                     oldTab[j] = null;//把该节点置为null(现在这个桶上什么都没有了)
18                     if (e.next == null)//e节点后没有节点了:在新容器上重新计算e节点的放置位置《===== ①桶上只有一个节点
19                         newTab[e.hash & (newCap - 1)] = e;
20                     else if (e instanceof TreeNode)//e节点后面是红黑树:先将红黑树拆成2个子链表,再将子链表的头节点放到新容器中《===== ②桶上是红黑树
21                         ((TreeNode<K,V>)e).split(this, newTab, j, oldCap);
22                     else  // preserve order
23                         Node<K,V> loHead = null, loTail = null;
24                         Node<K,V> hiHead = null, hiTail = null;
25                         Node<K,V> next;
26                         do   //遍历链表,并将链表节点按原顺序进行分组《===== ③桶上是链表
27                             next = e.next;
28                             if ((e.hash & oldCap) == 0) //“定位值等于0”的为一组:
29                                 if (loTail == null)
30                                     loHead = e;
31                                 else
32                                     loTail.next = e;
33                                 loTail = e;
34                             
35                             else //“定位值不等于0”的为一组:
36                                 if (hiTail == null)
37                                     hiHead = e;
38                                 else
39                                     hiTail.next = e;
40                                 hiTail = e;
41                             
42                          while ((e = next) != null);

                //将分好的子链表放到newCap中:
43 if (loTail != null) 44 loTail.next = null; 45 newTab[j] = loHead;//原链表在oldCap的什么位置,“定位值等于0”的子链表的头节点就放到newCap的什么位置 46 47 if (hiTail != null) 48 hiTail.next = null; 49 newTab[j + oldCap] = hiHead; //“定位值不等于0”的子节点的头节点在newCap的位置 = 原链表在oldCap中的位置 + oldCap 50 51 52 53 54 55 return newTab; 56

  2.2 深入分析(含图解)

  ① 如果桶上只有一个节点(后面即没链表也没树):元素直接做 “hash & (newCap - 1)” 运算,根据结果将元素节点放到newCap的相应位置;

  ②如果桶上是链表:

  将链表上的所有节点做 “hash & oldCap” 运算(注意,这里oldCap没有-1),会得到一个定位值(“定位值”这个名字是我自己取的,为了更好理解该值的意义)。定位值要么是“0”,要么是“小于capacity的正整数”!这是个规律,之所以能得此规律和capacity取值一定是2的n次幂有直接关系,如果容量不是2的n次幂,那么定位值就不再要么是“0”,要么是“小于capacity的正整数”,它还有可能是其他的数;

  根据定位值的不同,会将链表一分为二得到两个子链表,这两个子链表根据各自的定位值直接放到newCap中:

    子链表的定位值 == 0: 则链表在oldCap中是什么位置,就将子链表的头节点直接放到newCap的什么位置;

    子链表的定位值 == 小于capacity的正整数:则将子链表的头节点放到newCap的“oldCap + 定位值”的位置;

  这么做的好处:链表在被拆分成两个子链表前就已经处理过了元素的哈希碰撞问题,子链表不用重新处理哈希碰撞问题,可以直接将头节点直接放到newCap的合适的位置上,完成 “扩容后将元素放到newCap”这一工作。正因为如此,大大提高了jdk1.8的HashMap的扩容效率。

  下面将通过画图的形式,进一步理解HashMap到底是怎么将元素放到newCap中的。

  前面我们说了jdk1.8的HashMap元素放到哪个桶中哪个位置,是通过计算 “(capacity - 1) & hash” 得到的余数来确定的。现在有四个元素,哈希值分别为35、27、19、43,当“容量 = 8”时,计算所得余数都等于3,所以这4个元素会被放到 table[3] 的位置,如下图所示:

   技术图片

  进行一次扩容后,现在容量 = 16,再次计算“(capacity - 1) & hash”后,这四个元素在newCap中的位置会有所变化:要么在原位置,要么在“oldCap + 原位置”;也就是说这四个元素被分成了两组。如下图所示:

   技术图片

  下面我们不用 “(capacity - 1) & hash” 的方式来放置元素,而是根据jdk1.8中HashMap.resize()扩容方法来放置元素:先通过 “hash & oldCap” 得到定位值,再根据定位值同样能将链表一分为二见证奇迹的时候到了

    “定位值 = 0”的为一组,这组元素就是前面将容量从8扩到16后,通过“(newCap - 1) & hash” 计算确定 “放回原位置” 的那些元素;

    “定位值 != 0”的为一组,这组元素就是扩容后,确定 “oldCap + 原位置”的那些元素。 如下图所示:

   技术图片

  再将这两组元素节点分别连接成子链表:loHead是 “定位值 == 0” 的子链表的头节点;hiHead是 “定位值 != 0” 的子链表的头节点。如下图所示:

   技术图片

  最后,将子链表的头节点loHead放到newCap中,位置和在oldCap中的原位置一致;将另一个子链表的头节点hiHead放到newCap的“oldCap + 原位置”上。到这里HashMap就完成了扩容后将元素重新放到newCap中的工作了。如下图所示:

   技术图片

  到这里其实我们已经把 “容量一定是2的n次幂是 提高扩容后将元素重新放到newCap中的效率 的前提”解释完了,现在还有一个小小的问题——通过定位值将链表一分为二,会分得均匀吗?如果分得很不均匀会怎么样?

  众所周知,要想HashMap的查询速度快,那就得尽量做到让元素均匀地散落到每个桶里。将链表平均分成两个子链表,就意味着让元素更均匀地放到桶中了,增加了元素散列性,从而提高了元素的查找效率。那jdk1.8又是如何将链表分得更平均的呢?这关系到两点:①元素的哈希值更随机、散列;②通过“hash & oldCap”中的oldCap再次增加元素放置位置的随机性。第①点和哈希算法的实现直接相关,这里不细说;第②点的意思如下:

  以 “capacity = 8” 为例,下面这些都是当 “容量 = 8” 时放在table[3]位置上的元素的hash值。扩容时做“hash & oldCap” 运算,通过下图我们可以发现,oldCap所在的位上(即倒数第4位),元素的hash值在这个位是0还是1具有随机性。

  技术图片

  也就是说,jdk1.8在元素通过哈希算法使hash值已经具有随机性的前提下,再做了一个增加元素放置位置随机性的运算。

  ③如果桶上是红黑树:

  将红黑树重新放到newCap中的逻辑和将链表重新放到newCap的的逻辑差不多。不同之处在于,重新放后,会将红黑树拆分成两条由 TreeNode 组成的子链表:

    此时,如果子链表长度 <= UNTREEIFY_THRESHOLD(即 <= 6 ),则将由 TreeNode组成的子链表 转换成 由Node组成的普通子链表,然后再根据定位值将子链表的头节点放到newCap中;

    否则,根据条件重新将“由 TreeNode 组成的子链表”重新树化,然后再根据定位值将树的头节点放到newCap中。

  本文不对“HashMap扩容时红黑树在newCap中的重新放置”做详细解释,后面我会再写一篇有关《红黑树转回链表的具体时机》的博文,在这篇博文中会做详细的源码解析。

一言蔽之:jdk1.8 HashMap的容量一定要是2的n次幂,是为了提高“计算元素放哪个桶”的效率,也是为了提高扩容效率(避免了扩容后再重复处理哈希碰撞问题)。

  

  【第一次写这么多字的博文,如有笔误之处,还望在评论中帮忙指出,谢谢~】   

 

以上是关于jdk1.8 HashMap底层数据结构:深入解析为什么jdk1.8 HashMap的容量一定要是2的n次幂的主要内容,如果未能解决你的问题,请参考以下文章

底层原理之旅—HashMap深入浅出的源码分析(JDK1.8版本)

HashMap源码深度解析(深入至红黑树实现)以及与JDK7的区别四万字

jdk1.8源码解析:HashMap底层数据结构之链表转红黑树的具体时机

深入LinkedHashMap源码解析(JDK1.8)

深入解析HashiMap那些不为人知的事儿

深入理解HashMap