Java并发容器--ConcurrentHashMap
Posted 在周末
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了Java并发容器--ConcurrentHashMap相关的知识，希望对你有一定的参考价值。
引子
1、不安全：大家都知道HashMap不是线程安全的，在多线程环境下，对HashMap进行put操作会导致死循环。是因为多线程会导致Entry链表形成环形数据结构，这样Entry的next节点将永远不为空，就会产生死循环获取Entry。具体内容见HashMap随笔。
2、不高效：Collections.synchronizedMap(hashMap)和HashTable的线程安全原理都是对方法进行同步，所有操作竞争同一把锁，性能比较低。
如何构造一个线程安全且高效的HashMap？ConcurrentHashMap登场。
锁分段技术
ConcurrentHashMap将数据分为很多段（Segment），Segment继承了ReentrantLock，每个段都是一把锁。每个Segment都包含一个HashEntry数组，HashEntry数组存放键值对数据。当一个线程要访问Entry数组时，需要获取所在Segment锁，保证在同一个Segment的操作是线程安全的，但其他Segment的数据的访问不受影响，可以实现并发的访问不同的Segment。同一个段中才存在竞争关系，不同的段之间没有竞争关系。
ConcurrentHashMap源码分析
源码分析基于jdk1.7，不同版本实现有所不同。
类图
初始化
segmentShift和segmentMask的作用是定位Segment索引。以默认值为例，concurrencyLevel为16，需要移位4次（sshift为4），segmentShift就等于28，segmentMask等于15。
concurrencyLevel是指并发级别，即Segment数组的大小。concurrencyLevel值得设定应该根据并发线程数决定。如果并发级别设置的太小，同一个Segment的元素数量过多，会引起锁竞争的加重；如果太大，原本属于同一个Segment的元素会被分配到不同的Segment，会引起Cpu缓存命中率下降，进而导致程序性能下降。
1 //initialCapacity:初始容量，默认16。 2 //loadFactor:负载因子，默认0.75。当元素个数大于loadFactor*最大容量时需要扩容（rehash） 3 //concurrencyLevel:并发级别，默认16。确定Segment的个数，Segment的个数为大于等于concurrencyLevel的第一个2^n。 4 public ConcurrentHashMap(int initialCapacity, 5 float loadFactor, int concurrencyLevel) { 6 //判断参数是否合法 7 if (!(loadFactor > 0) || initialCapacity < 0 || concurrencyLevel <= 0) 8 throw new IllegalArgumentException(); 9 //Segment最大个数MAX_SEGMENTS = 1 << 16,即65536; 10 if (concurrencyLevel > MAX_SEGMENTS) 11 concurrencyLevel = MAX_SEGMENTS; 12 13 // Find power-of-two sizes best matching arguments 14 int sshift = 0; 15 int ssize = 1; 16 //使用循环找到大于等于concurrencyLevel的第一个2^n。ssize就表示Segment的个数。 17 while (ssize < concurrencyLevel) { 18 ++sshift; //记录移位的次数， 19 ssize <<= 1;//左移1位 20 } 21 this.segmentShift = 32 - sshift; //用于定位hash运算的位数，之所以用32是因为ConcurrentHashMap里的hash()方法输出的最大数是32位的 22 this.segmentMask = ssize - 1; //hash运算的掩码，ssize为2^n，所以segmentMask每一位都为1。目的是之后可以通过key的hash值与这个值做&运算确定Segment的索引。 23 //最大容量MAXIMUM_CAPACITY = 1 << 30; 24 if (initialCapacity > MAXIMUM_CAPACITY) 25 initialCapacity = MAXIMUM_CAPACITY; 26 //计算每个Segment所需的大小，向上取整 27 int c = initialCapacity / ssize; 28 if (c * ssize < initialCapacity) 29 ++c; 30 int cap = MIN_SEGMENT_TABLE_CAPACITY;//每个Segment最小容量MIN_SEGMENT_TABLE_CAPACITY = 2; 31 //cap表示每个Segment的容量，也是大于等于c的2^n。 32 while (cap < c) 33 cap <<= 1; 34 //创建一个Segment实例，作为Segment数组ss的第一个元素 35 // create segments and segments[0] 36 Segment<K,V> s0 = 37 new Segment<K,V>(loadFactor, (int)(cap * loadFactor), 38 (HashEntry<K,V>[])new HashEntry[cap]); 39 Segment<K,V>[] ss = (Segment<K,V>[])new Segment[ssize]; 40 UNSAFE.putOrderedObject(ss, SBASE, s0); // ordered write of segments[0] 41 this.segments = ss; 42 }
插入元素（put）
可以分为三步：
1、定位Segment：通过Hash值与segmentShift、segmentMask的计算定位到对应的Segment；
2、锁获取：获取对应Segment的锁，如果获取锁失败，需要自旋重新获取锁；如果自旋超过最大重试次数，则阻塞。
3、插入元素：如果key已经存在，直接更新；如果key不存在，先判断是否需要扩容，若需要则执行rehash()后插入原因，否则直接存入元素。
为了高效，ConcurrentHashMap不会对整个容器进行扩容，而只对某个segment进行扩容。
Segment的扩容判断比HashMap更恰当，因为HashMap是在插入元素后判断元素是否已经到达容量的，如果到达了就进行扩容，但是很有可能扩容之后没有新元素插入，这时HashMap就进行了一次无效的扩容。
与HashMap不同ConcurrentHashMap并不允许key或者value为null。
1 /**ConcurrentHashMap中方法**/ 2 public V put(K key, V value) { 3 Segment<K,V> s; 4 if (value == null) 5 throw new NullPointerException(); 6 int hash = hash(key); //计算hash值，hash值是一个32位的整数 7 //计算Segment索引 8 //在默认情况下，concurrencyLevel为16，segmentShift为28，segmentMask为15。 9 //先右移28位，hash值变为0000 0000 0000 0000 0000 0000 0000 xxxx， 10 //与segmentMask做&运算，就是取最后四位的值。这个值就是Segment的索引 11 int j = (hash >>> segmentShift) & segmentMask; 12 //通过UNSAFE的方式获取索引j对应的Segment对象。 13 if ((s = (Segment<K,V>)UNSAFE.getObject // nonvolatile; recheck 14 (segments, (j << SSHIFT) + SBASE)) == null) // in ensureSegment 15 //Segment采用延迟初始化机制，如果sement为null，则调用ensureSegment创建Segment 16 s = ensureSegment(j); 17 //向Segment中put元素 18 return s.put(key, hash, value, false); 19 } 20 21 /**ConcurrentHashMap$Segment中方法**/ 22 //向Segment中put元素 23 final V put(K key, int hash, V value, boolean onlyIfAbsent) { 24 //获取锁。如果获取锁成功，插入元素，和普通的hashMap差不多。 25 //如果获取锁失败，执行scanAndLockForPut进行重试。重试设计见scanAndLockForPut方法源码。 26 HashEntry<K,V> node = tryLock() ? null : 27 scanAndLockForPut(key, hash, value); 28 V oldValue; 29 try { 30 HashEntry<K,V>[] tab = table; 31 int index = (tab.length - 1) & hash;//计算HashEntry数组索引 32 HashEntry<K,V> first = entryAt(tab, index); 33 for (HashEntry<K,V> e = first;;) { 34 if (e != null) { //该索引处已经有元素 35 K k; 36 37 //如果key相同，替换value。 38 if ((k = e.key) == key || 39 (e.hash == hash && key.equals(k))) { 40 oldValue = e.value; 41 //onlyIfAbsent=true参数表示如果key存在，则不更新value值，只有在key不存在的情况下，才更新。 42 //在putIfAbsent方法中onlyIfAbsent=true 43 //在put方法中onlyIfAbsent=false 44 if (!onlyIfAbsent) {Scans 45 e.value = value; 46 ++modCount;//修改次数 47 } 48 break; 49 } 50 e = e.next;//继续找下一个元素 51 } 52 else { 53 if (node != null) 54 node.setNext(first); 55 else 56 node = new HashEntry<K,V>(hash, key, value, first); 57 int c = count + 1; //count为ConcurrentHashMap$Segment中的域 58 if (c > threshold && tab.length < MAXIMUM_CAPACITY) 59 //如果元素数量超过阈值且表长度小于MAXIMUM_CAPACITY，扩容 60 rehash(node); 61 else 62 setEntryAt(tab, index, node);//将node节点更新到table中 63 ++modCount; 64 count = c; 65 oldValue = null; 66 break; 67 } 68 } 69 } finally { 70 unlock(); 71 } 72 return oldValue; 73 } 74 75 /**ConcurrentHashMap$Segment中方法**/ 76 //自旋获取锁 77 private HashEntry<K,V> scanAndLockForPut(K key, int hash, V value) { 78 //entryForHash根据hash值找到当前segment中对应的HashEntry数组索引。 79 HashEntry<K,V> first = entryForHash(this, hash); 80 HashEntry<K,V> e = first; 81 HashEntry<K,V> node = null; 82 int retries = -1; // negative while locating node 83 //自旋获取锁。若获取到锁，则跳出循环；否则一直循环直到获取到锁或retries大于MAX_SCAN_RETRIES。 84 while (!tryLock()) { 85 HashEntry<K,V> f; // to recheck first below 86 //当retries = -1时（即第一次循环或更新操作导致的first节点发生变化），会遍历该Segment的HashEntry数组中hash对应的链表，如果key对应的HashEntry不存在，则创建该节点。 87 //此处遍历链表的原因：希望遍历的链表被CPU cache所缓存，为后续实际put过程中的链表遍历操作提升性能。怎么理解呢？放在put时再去遍历不行吗？因为此时当前线程没有获取到Segment锁，所以不能进行put操作，但可以为put操作做一些准备工作（有可能加载到缓存），使put的操作更快，从而减少锁竞争。这种思想在remove()方法中也有体现。 88 if (retries < 0) { 89 if (e == null) { 90 //如果key不存在创建node，然后进入下一个循环 91 if (node == null) // speculatively create node 92 node = new HashEntry<K,V>(hash, key, value, null); 93 retries = 0; 94 } 95 else if (key.equals(e.key)) 96 //如果key存在直接进入下一个循环 97 retries = 0; 98 else 99 e = e.next; //链表的下一个节点 100 } 101 else if (++retries > MAX_SCAN_RETRIES) { 102 //每次循环，retries加1，判断是否大于最大重试次数MAX_SCAN_RETRIES. 103 //static final int MAX_SCAN_RETRIES = Runtime.getRuntime().availableProcessors() > 1 ? 64 : 1; 104 //为了防止自旋锁大量消耗CPU的缺点。如果超过MAX_SCAN_RETRIES，使用lock方法获取锁。如果获取不到锁则当前线程阻塞并跳出循环。 105 //ReentrantLock的lock()和tryLock()方法的区别。 106 lock(); 107 break; 108 } 109 else if ((retries & 1) == 0 && 110 (f = entryForHash(this, hash)) != first) { 111 //每隔一次循环，检查所在数组索引的链表头结点有没有变化（其他线程有更新Map的操作，如put，rehash或者remove操作）。 112 //如果改变，retries更新为-1，重新遍历 113 e = first = f; // re-traverse if entry changed 114 retries = -1; 115 } 116 } 117 return node; 118 } 119 120 /**ConcurrentHashMap$Segment中方法**/ 121 //rehash 122 private void rehash(HashEntry<K,V> node) { 123 HashEntry<K,V>[] oldTable = table; 124 int oldCapacity = oldTable.length; 125 int newCapacity = oldCapacity << 1; //新容量为旧容量的2倍 126 threshold = (int)(newCapacity * loadFactor); //新阈值 127 HashEntry<K,V>[] newTable = 128 (HashEntry<K,V>[]) new HashEntry[newCapacity]; //新表 129 int sizeMask = newCapacity - 1; //新掩码 130 //对旧表做遍历 131 for (int i = 0; i < oldCapacity ; i++) { 132 HashEntry<K,V> e = oldTable[i]; 133 if (e != null) { 134 HashEntry<K,V> next = e.next; 135 int idx = e.hash & sizeMask; 136 if (next == null) // Single node on list 链表中只存在一个节点 137 newTable[idx] = e; 138 else { // Reuse consecutive sequence at same slot 139 //链表中存在多个节点. 140 /* 141 相对于HashMap的resize，ConcurrentHashMap的rehash原理类似，但是Doug Lea为rehash做了一定的优化，避免让所有的节点都进行复制操作：由于扩容是基于2的幂指来操作，假设扩容前某HashEntry对应到Segment中数组的index为i，数组的容量为capacity，那么扩容后该HashEntry对应到新数组中的index只可能为i或者i+capacity，因此大多数HashEntry节点在扩容前后index可以保持不变。基于此，rehash方法中会定位第一个后续所有节点在扩容后index都保持不变的节点，然后将这个节点之前的所有节点重排即可 142 */ 143 HashEntry<K,V> lastRun = e; 144 int lastIdx = idx; 145 //找到第一个在扩容后index都保持不变的节点lastRun 146 for (HashEntry<K,V> last = next; 147 last != null; 148 last = last.next) { 149 int k = last.hash & sizeMask; 150 if (k != lastIdx) { 151 lastIdx = k; 152 lastRun = last; 153 } 154 } 155 newTable[lastIdx] = lastRun; 156 // Clone remaining nodes 157 //将这个节点之前的所有节点重排 158 for (HashEntry<K,V> p = e; p != lastRun; p = p.next) { 159 V v = p.value; 160 int h = p.hash; 161 int k = h & sizeMask; 162 HashEntry<K,V> n = newTable[k]; 163 newTable[k] = new HashEntry<K,V>(h, p.key, v, n); 164 } 165 } 166 } 167 } 168 int nodeIndex = node.hash & sizeMask; // add the new node 169 node.setNext(newTable[nodeIndex]); 170 newTable[nodeIndex] = node; 171 table = newTable; 172 }
Segment延迟初始化机制
Segment采用延迟初始化机制，如果sement为null，则调用ensureSegment确保创建Segment。
ensureSegment方法可能被多个线程调用，ensureSegment()是怎么保证线程安全的呢？
通过源代码可看出ensureSegment方法并未使用锁来控制竞争，而是使用了Unsafe对象的getObjectVolatile()提供的原子读语义结合CAS来确保Segment创建的原子性。
ensureSegment()源代码：
1 @SuppressWarnings("unchecked") 2 private Segment<K,V> ensureSegment(int k) { 3 final Segment<K,V>[] ss = this.segments; 4 long u = (k << SSHIFT) + SBASE; // raw offset 5 Segment<K,V> seg; 6 if ((seg = (Segment<K,V>)UNSAFE.getObjectVolatile(ss, u)) == null) { 7 //使用第一个segment作为模板来创建segment，第一个segment在Map初始化时已经被创建 8 Segment<K,V> proto = ss[0]; // use segment 0 as prototype 9 int cap = proto.table.length; 10 float lf = proto.loadFactor; 11 int threshold = (int)(cap * lf); 12 HashEntry<K,V>[] tab = (HashEntry<K,V>[])new HashEntry[cap]; 13 if ((seg = (Segment<K,V>)UNSAFE.getObjectVolatile(ss, u)) 14 == null) { // recheck 15 Segment<K,V> s = new Segment<K,V>(lf, threshold, tab); //根据第一个segment的参数创建新的Segment 16 //自旋CAS。如果seg!=null,说明该segment已经被其他线程创建，则方法结束；如果seg==null，说明该segment还没有被创建，则当前线程采用CAS更新Segment数组，如果CAS成功，则结束，否则说明其他线程对Segment数组有过更新，继续下一个循环指定该segment创建成功。 17 while ((seg = (Segment<K,V>)UNSAFE.getObjectVolatile(ss, u)) 18 == null) { 19 if (UNSAFE.compareAndSwapObject(ss, u, null, seg = s)) 20 break; 21 } 22 } 23 } 24 return seg; 25 }
scanAndLockForPut方法
自旋获取锁中，当第一次循环或更新操作导致的first节点发生变化时，会遍历该Segment的HashEntry数组中hash对应的链表，如果key对应的HashEntry不存在，则创建该节点。
此处遍历链表的原因：希望遍历的链表被CPU cache所缓存，为后续实际put过程中的链表遍历操作提升性能。怎么理解呢？put还是要再去遍历一次（即使链表在缓存中）？因为此时当前线程没有获取到Segment锁，所以不能进行put操作，但可以为put操作做一些准备工作（有可能加载到缓存，在缓存中执行遍历更快），使put的操作更快，从而减少锁竞争。这种思想在remove()方法中也有体现。
获取元素（get）
get操作不需要加锁，当拿到的值为空时才会加锁重读。读操作不用加锁的原因是它的get方法里将要使用的共享变量都定义成volatile类型，如volatile V value。定义成volatile的变量，能够在线程之间保持可见性，能够被多线程同时读，并且保证不会读到过期的值，但是只能被单线程写（有一种情况可以被多线程写，就是写入的值不依赖于原值）。get方法使用UNSAFE提供的原子读语义来获的Segmnet和对应的链表。
containsKey方法和get相似，都不用加锁。
1 public V get(Object key) { 2 Segment<K,V> s; // manually integrate access methods to reduce overhead 3 HashEntry<K,V>[] tab; 4 int h = hash(key); 5 long u = (((h >>> segmentShift) & segmentMask) << SSHIFT) + SBASE; 6 //通过Hash值找到相应的Segment 7 if ((s = (Segment<K,V>)UNSAFE.getObjectVolatile(segments, u)) != null && 8 (tab = s.table) != null) { 9 //找到HashEntry链表的索引，遍历链表找到对应的key 10 for (HashEntry<K,V> e = (HashEntry<K,V>) UNSAFE.getObjectVolatile 11 (tab, ((long)(((tab.length - 1) & h)) << TSHIFT) + TBASE); 12 e != null; e = e.next) { 13 K k; 14 if ((k = e.key) == key || (e.hash == h && key.equals(k))) 15 return e.value; 16 } 17 } 18 return null; 19 }
统计大小（size）
统计Map的大小需要统计所有Segment的大小然后求和。
问题：累加的过程中Segment的大小可能会发生变化，导致统计的结果不准确。
解决方案：1）简单的方法就是对所有的Segment加锁，但方法低效。
2）考虑到累加的过程中Segment的大小变化的可能性很小，作者给出了更高效的方案，首先尝试几次在不对Segment加锁的情况下统计各个Segment的大小，如果累加期间Map的大小发生了变化，再使用加锁的方式统计各个Segment的大小。判断Map的大小是否发生了变化，需要通过Segment的modCount变量实现。modCount表示对Segment的修改次数。相同的思想也用在了containsValue操作。
注意事项：使用加锁方式进行统计大小时，对每一个Segment加锁，需要强制创建所有的Segment，这么做的目的是防止其他线程创建Segment并进行更新操作。所以应尽量避免在多线程环境下使用size和containsValue方法。
1 public int size() { 2 // Try a few times to get accurate count. On failure due to 3 // continuous async changes in table, resort to locking. 4 final Segment<K,V>[] segments = this.segments; 5 int size; 6 boolean overflow; // true if size overflows 32 bits 7 long sum; // sum of modCounts 8 long last = 0L; // previous sum 9 int retries = -1; // first iteration isn\'t retry 10 try { 11 for (;;) { 12 //static final int RETRIES_BEFORE_LOCK = 2; 13 //判断是否到达无锁统计map大小的最大次数，若达到最大次数需要锁所有Segment 14 if (retries++ == RETRIES_BEFORE_LOCK) { 15 //对每一个Segment加锁，此时需要强制创建所有的Segment，这么做的目的是防止其他线程创建Segment并进行更新操作。 16 //所以应避免在多线程环境下使用size和containsValue方法。 17 for (以上是关于Java并发容器--ConcurrentHashMap的主要内容，如果未能解决你的问题，请参考以下文章