目录
HashMap
数据结构
重要成员变量
Jdk7-扩容死锁分析
单线程扩容
多线程扩容
Jdk8-扩容
ConcurrentHashMap
数据结构
并发安全控制
源码原理分析
重要成员变量
协助扩容helpTransfer
扩容transfer
总结
CopyOnWrite机制
源码原理
数组+链表+(红黑树jdk>=8)
死锁问题核心在于下面代码,多线程扩容导致形成的链表环!
void transfer(Entry[] newTable, boolean rehash) {int newCapacity = newTable.length;for (Entry e : table) {while(null != e) {Entry next = e.next;//第一行if (rehash) {e.hash = null == e.key ? 0 : hash(e.key);}int i = indexFor(e.hash, newCapacity);//第二行e.next = newTable[i];//第三行newTable[i] = e;//第四行e = next;//第五行}}
}
去掉了一些冗余的代码, 层次结构更加清晰了。
上面源代码的过程就是把原来的数据,有个已经形成链表了,把原来的数据放到新的数组里面,用的头插法进行插入
假设:hash算法就是简单的key与length(数组长度)求余。hash表长度为2,如果不扩容, 那么元素key为3,5,7按照计算(key%table.length)的话都应该碰撞到table[1]上。
扩容:hash表长度会扩容为4重新hash,key=3 会落到table[3]上(3%4=3), 当前e.next为key(7), 继续while循环重新hash,key=7 会落到table[3]上(7%4=3), 产生碰撞, 这里采用的是头插入法,所以key=7的Entry会排在key=3前面(这里可以具体看while语句中代码)当前e.next为key(5), 继续while循环重新hash,key=5 会落到table[1]上(5%4=3), 当前e.next为null, 跳出while循环,resize结束。
如下图所示
下面就是多线程同时put的情况了, 然后同时进入transfer方法中:假设这里有两个线程同时执行了put()操作,并进入了transfer()环节
while(null != e) {Entry next = e.next;//第一行,线程1执行到此被调度挂起int i = indexFor(e.hash, newCapacity);//第二行e.next = newTable[i];//第三行newTable[i] = e;//第四行e = next;//第五行
}
那么此时状态为:
从上面的图我们可以看到,因为线程1的 e 指向了 key(3),而 next 指向了 key(7),在线程2 rehash 后,就指向了线程2 rehash 后的链表。
然后线程1被唤醒了:
然后该执行 key(3)的 next 节点 key(7)了:
此时状态为:
然后又该执行 key(7)的 next 节点 key(3)了:
这时候的状态如图所示:
很明显,环形链表出现了。
Java8 HashMap扩容跳过了Jdk7扩容的坑,对源码进行了优化,采用高低位拆分转移方式,避免了链表环的产生。
扩容前:
扩容后:
由于Jdk8引入了新的数据结构,所以put方法过程也有了一定改进,其过程如下图所示。
ConcurrentHashMap的数据结构与HashMap基本类似,区别在于:1、内部在数据写入时加了同步机制(分段锁)保证线程安全,读操作是无锁操作;2、扩容时老数据的转移是并发执行的,这样扩容的效率更高。
Java7 ConcurrentHashMap基于ReentrantLock实现分段锁
Java8中 ConcurrentHashMap基于分段锁+CAS保证线程安全,分段锁基于synchronized关键字实现;
ConcurrentHashMap拥有出色的性能, 在真正掌握内部结构时, 先要掌握比较重要的成员:
ConcurrentHashMap由三部分构成, table+链表+红黑树, 其中table是一个数组, 既然是数组, 必须要在使用时确定数组的大小, 当table存放的元素过多时, 就需要扩容, 以减少碰撞发生次数, 本文就讲解扩容的过程。扩容检查主要发生在插入元素(putVal())的过程:
下面是协助扩容的过程
final Node[] helpTransfer(Node[] tab, Node f) { //table扩容Node[] nextTab; int sc;if (tab != null && (f instanceof ForwardingNode) &&(nextTab = ((ForwardingNode)f).nextTable) != null) {// 根据 length 得到一个标识符号int rs = resizeStamp(tab.length);while (nextTab == nextTable && table == tab &&(sc = sizeCtl) < 0) {//说明还在扩容//判断是否标志发生了变化|| 扩容结束了if ((sc >>> RESIZE_STAMP_SHIFT) != rs || sc == rs + 1 ||//达到最大的帮助线程 || 判断扩容转移下标是否在调整(扩容结束)sc == rs + MAX_RESIZERS || transferIndex <= 0)break;// 将 sizeCtl + 1, (表示增加了一个线程帮助其扩容)if (U.compareAndSwapInt(this, SIZECTL, sc, sc + 1)) {transfer(tab, nextTab);break;}}return nextTab;}return table;
}
主要做了如下事情:
扩容的整体步骤就是新建一个nextTab, size是之前的2倍, 将table上的非空元素迁移到nextTab上面去。
private final void transfer(Node[] tab, Node[] nextTab) {int n = tab.length, stride;if ((stride = (NCPU > 1) ? (n >>> 3) / NCPU : n) < MIN_TRANSFER_STRIDE)// subdivide range,每个线程最少迁移16个槽位,大的话,最多stride = MIN_TRANSFER_STRIDE;// initiating 才开始初始化新的nextTabif (nextTab == null) {try {@SuppressWarnings("unchecked")Node[] nt = (Node[])new Node,?>[n << 1]; //扩容2倍nextTab = nt;} catch (Throwable ex) { // try to cope with OOMEsizeCtl = Integer.MAX_VALUE;return;}nextTable = nextTab;transferIndex = n;//更新的转移下标,}int nextn = nextTab.length;ForwardingNode fwd = new ForwardingNode(nextTab);//是否能够向前推进到下一个周期boolean advance = true;// to ensure sweep before committing nextTab,完成状态,如果是,则结束此方法boolean finishing = false;for (int i = 0, bound = 0;;) {Node f; int fh;while (advance) { //取下一个周期int nextIndex, nextBound;//本线程处理的区间范围为[bound, i),范围还没有处理完成,那么就继续处理if (--i >= bound || finishing)advance = false;//目前处理到了这里(从大到小, 下线),开始找新的一轮的区间else if ((nextIndex = transferIndex) <= 0) {i = -1;advance = false;}//这个条件改变的是transferIndex的值,从16变成了1else if (U.compareAndSwapInt(this, TRANSFERINDEX, nextIndex,//nextBound 是这次迁移任务的边界,注意,是从后往前nextBound = (nextIndex > stride ?nextIndex - stride : 0))) {bound = nextBound; //一块区间最小桶的下标i = nextIndex - 1; //能够处理的最大桶的下标advance = false;}}if (i < 0 || i >= n || i + n >= nextn) { //每个迁移线程都能达到这里int sc;if (finishing) { //迁移完成nextTable = null;//直接把以前的table丢弃了,上面的MOVE等标志全部丢弃,使用新的table = nextTab;sizeCtl = (n << 1) - (n >>> 1); //扩大2n-0.5n = 1.50n, 更新新的容量阈值return;}//表示当前线程迁移完成了if (U.compareAndSwapInt(this, SIZECTL, sc = sizeCtl, sc - 1)) {//注意此时sc的值并不等于sizeCtl,上一步,sizeCtl=sizeCtl-1了。这两个对象还是分割的if ((sc - 2) != resizeStamp(n) << RESIZE_STAMP_SHIFT)return;finishing = advance = true;i = n; // recheck before commit}}//如果对应位置为null, 则将ForwardingNode放在对应的地方else if ((f = tabAt(tab, i)) == null)advance = casTabAt(tab, i, null, fwd);else if ((fh = f.hash) == MOVED) //别的线程已经在处理了,再推进一个下标advance = true; // already processed,推动到下一个周期,仍然会检查i与bound是否结束else { //说明位置上有值了,//需要加锁,防止再向里面放值,在放数据时,也会锁住。比如整个table正在迁移,还没有迁移到这个元素,另外一个线程向这个节点插入数据,此时迁移到这里了,会被阻塞住synchronized (f) {if (tabAt(tab, i) == f) {//判断i下标和f是否相同Node ln, hn; //高位桶, 地位桶if (fh >= 0) {int runBit = fh & n;//n为2^n, 取余后只能是2^nNode lastRun = f;///找到最后一个不和fn相同的节点for (Node p = f.next; p != null; p = p.next) {int b = p.hash & n;//只要找到这,之后的取值都是一样的,下次循环时,就不用再循环后面的if (b != runBit) {runBit = b;lastRun = p;}}if (runBit == 0) {ln = lastRun;hn = null;}else { //比如1,16,32,如果低位%16,那么肯定是0。hn = lastRun;ln = null;}for (Node p = f; p != lastRun; p = p.next) {int ph = p.hash; K pk = p.key; V pv = p.val;if ((ph & n) == 0)//这样就把相同串的给串起来了ln = new Node(ph, pk, pv, ln);else//这样就把相同串的给串起来了,注意这里ln用法,第一个next为null,烦着串起来了。hn = new Node(ph, pk, pv, hn);}setTabAt(nextTab, i, ln); //反着给串起来了setTabAt(nextTab, i + n, hn);setTabAt(tab, i, fwd);advance = true;}else if (f instanceof TreeBin) {// 如果是红黑树TreeBin t = (TreeBin)f;TreeNode lo = null, loTail = null; //也是高低节点TreeNode hi = null, hiTail = null;//也是高低节点int lc = 0, hc = 0;for (Node e = t.first; e != null; e = e.next) { //中序遍历红黑树int h = e.hash;TreeNode p = new TreeNode(h, e.key, e.val, null, null);if ((h & n) == 0) { //0的放低位//注意这里p.prev = loTail,每一个p都是下一个的previf ((p.prev = loTail) == null)lo = p; //把头记住elseloTail.next = p; //上一次的p的next是这次的ploTail = p; //把上次p给记住++lc;}else { //高位if ((p.prev = hiTail) == null)hi = p; //把尾记住elsehiTail.next = p;hiTail = p;++hc;}}ln = (lc <= UNTREEIFY_THRESHOLD) ? untreeify(lo) :// //判断是否需要转化为树(hc != 0) ? new TreeBin(lo) : t; //如果没有高低的话,则部分为两个树hn = (hc <= UNTREEIFY_THRESHOLD) ? untreeify(hi) :(lc != 0) ? new TreeBin(hi) : t;setTabAt(nextTab, i, ln);setTabAt(nextTab, i + n, hn);setTabAt(tab, i, fwd);advance = true;}}}}}
}
其中有两个变量需要了解下:
大致做了如下事情:
迁移前, 对该元素进行加锁。 遍历链表时, 这里使用lastRun变量, 保留的是上次hash的值, 假如整个链表全部节点f.hash&n==0, 那么第二次遍历, 只要找到lastRun的值, 那么认为之后的节点都是相同值, 减少了不必要的f.hash&n取值。遍历完所有的节点后, 此时形成了两条链表, ln存放的是f.hash&n=0的节点, hn存放的是非0的节点, 然后将ln存放在nextTable第i元素的位置, n+i存放在n+i的位置。
蓝色节点代表:f.hash&n==0, 绿色节点代表f.hash&n!=0。 最终蓝色的节点仍在存放在(0, n)范围里, 绿的节点存放在(n, 2n-1)的范围之内。
4.如何确定table所有元素迁移完成:
//表示当前线程迁移完成了
if (U.compareAndSwapInt(this, SIZECTL, sc = sizeCtl, sc - 1)) {//注意此时sc的值并不等于sizeCtl,上一步,sizeCtl=sizeCtl-1了。这两个对象还是分割的if ((sc - 2) != resizeStamp(n) << RESIZE_STAMP_SHIFT)return;finishing = advance = true;i = n; // recheck before commit
}
第一个线程开始迁移时, 设置了sizeCtl= resizeStamp(n) resizeStamp(n)
table扩容过程就是将table元素迁移到新的table上, 在元素迁移时, 可以并发完成, 加快了迁移速度, 同时不至于阻塞线程。所有元素迁移完成后, 旧的table直接丢失, 直接使用新的table。
核心思想:读写分离,空间换时间,避免为保证并发安全导致的激烈的锁竞争。
划关键点:
写时复制
/** 添加元素api*/
public boolean add(E e) {final ReentrantLock lock = this.lock;lock.lock();try {Object[] elements = getArray();int len = elements.length;Object[] newElements = Arrays.copyOf(elements, len + 1); //复制一个array副本newElements[len] = e; //往副本里写入setArray(newElements); //副本替换原本,成为新的原本return true;} finally {lock.unlock();}
}
//读api
public E get(int index) {return get(getArray(), index); //无锁
}
上一篇:传奇开服流程—传奇单机架设教程