糟糕!HttpClient 连接池设置引发的一次雪崩!

Posted Java大后端

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了糟糕!HttpClient 连接池设置引发的一次雪崩!相关的知识,希望对你有一定的参考价值。

作者:zxcodestudy
来源:blog.csdn.net/qq_16681169/article/details/94592472

凤巢团队独立搭建和运维的一个高流量的推广实况系统,是通过HttpClient 调用大搜的实况服务。最近经常出现Address already in use (Bind failed)的问题。

很明显是一个端口绑定冲突的问题,于是大概排查了一下当前系统的网络连接情况和端口使用情况,发现是有大量time_wait的连接一直占用着端口没释放,导致端口被占满(最高的时候6w+个),因此HttpClient建立连接的时候会出现申请端口冲突的情况。
具体情况如下:
于是为了解决time_wait的问题,网上搜索了些许资料加上自己的思考,于是认为可以通过连接池来保存tcp连接,减少HttpClient在并发情况下随机打开的端口数量,复用原来有效的连接。但是新的问题也由连接池的设置引入了。


问题过程
在估算连接池最大连接数的时候,参考了业务高峰期时的请求量为1分钟1.2w pv,接口平响为1.3s(复杂的广告推广效果模拟系统,在这种场景平响高是业务所需的原因),因此qps为12000*1.360=260
然后通过观察了业务日志,每次连接建立耗时1.1s左右, 再留70%+的上浮空间(怕连接数设置小出系统故障),最大连接数估计为260*1.1*1.7约等于500
为了减少对之前业务代码最小的改动,保证优化的快速上线验证,仍然使用的是HttpClient3.1 的MultiThreadedHttpConnectionManager,设置核心代码如下:
  
    
    
  
public void init() {  
        connectionManager = new MultiThreadedHttpConnectionManager();  
        HttpConnectionManagerParams managerParams = new HttpConnectionManagerParams();  
        managerParams.setMaxTotalConnections(500); // 最大连接数  
        connectionManager.setParams(managerParams);  
        client = new HttpClient(connectionManager);  
    }  
然后在线下手写了多线程的测试用例,测试了下并发度确实能比没用线程池的时候更高,然后先在我们的南京机房小流量上线验证效果,效果也符合预期之后,就开始整个北京机房的转全。结果转全之后就出现了意料之外的系统异常。。。


案情回顾
在当天晚上流量转全之后,一起情况符合预期,但是到了第二天早上就看到用户群和相关的运维群里有一些人在反馈实况页面打不开了。
这个时候我在路上,让值班人帮忙先看了下大概的情况,定位到了耗时最高的部分正是通过连接池调用后端服务的部分,于是可以把这个突发问题的排查思路大致定在围绕线程池的故障来考虑了。
于是等我到了公司,首先观察了一下应用整体的情况:
  1. 监控平台的业务流量表现正常,但是部分机器的网卡流量略有突增
  2. 接口的平响出现了明显的上升
  3. 业务日志无明显的异常,不是底层服务超时的原因,因此平响的原因肯定不是业务本身
  4. 发现30个机器实例竟然有9个出现了挂死的现象,其中6个北京实例,3个南京实例

深入排查
由于发现了有近 1/3的实例进程崩溃,而业务流量没变,由于RPC服务对provider的流量进行负载均衡,所以引发单台机器的流量升高,这样会导致后面的存活实例更容易出现崩溃问题,于是高优看了进程挂死的原因。
由于很可能是修改了HttpClient连接方式为连接池引发的问题,最容易引起变化的肯定是线程和CPU状态,于是立即排查了线程数和CPU的状态是否正常。
CPU状态
如图可见Java进程占用cpu非常高,是平时的近10倍。
糟糕!HttpClient 连接池设置引发的一次雪崩!
线程数监控状态
糟糕!HttpClient 连接池设置引发的一次雪崩!
糟糕!HttpClient 连接池设置引发的一次雪崩!
图中可以看到多个机器大概在10点初时,出现了线程数大量飙升,甚至超出了虚拟化平台对容器的2000线程数限制(平台为了避免机器上的部分容器线程数过高,导致机器整体夯死而设置的熔断保护),因此实例是被虚拟化平台kill了。之前为什么之前在南京机房小流量上线的时候没出现线程数超限的问题,应该和南京机房流量较少,只有北京机房流量的1/3有关。
接下来就是分析线程数为啥会快速积累直至超限了。这个时候我就在考虑是否是连接池设置的最大连接数有问题,限制了系统连接线程的并发度。为了更好的排查问题,我回滚了线上一部分的实例,于是观察了下线上实例的 tcp连接情况和回滚之后的连接情况。
回滚之前tcp连接情况
糟糕!HttpClient 连接池设置引发的一次雪崩!
回滚之后tcp连接情况
糟糕!HttpClient 连接池设置引发的一次雪崩!
发现连接线程的并发度果然小很多了,这个时候要再确认一下是否是连接池设置导致的原因,于是将没回滚的机器进行jstack了,对Java进程中分配的子线程进行了分析,总于可以确认问题。
jstack状态
糟糕!HttpClient 连接池设置引发的一次雪崩!
从jstack的日志中可以很容易分析出来,有大量的线程在等待获取连接池里的连接而进行排队,因此导致了线程堆积,因此平响上升。由于线程堆积越多,系统资源占用越厉害,接口平响也会因此升高,更加剧了线程的堆积,因此很容易出现恶性循环而导致线程数超限。
那么为什么会出现并发度设置过小呢?之前已经留了70%的上浮空间来估算并发度,这里面必定有蹊跷!
于是我对源码进行了解读分析,发现了端倪:
糟糕!HttpClient 连接池设置引发的一次雪崩!
如MultiThreadedHttpConnectionManager源码可见,连接池在分配连接时调用的doGetConnection方法时,对能否获得连接,不仅会对我设置的参数maxTotalConnections进行是否超限校验,还会对maxHostConnections进行是否超限的校验。
于是我立刻网上搜索了下maxHostConnections的含义:每个host路由的默认最大连接,需要通过setDefaultMaxConnectionsPerHost来设置,否则默认值是2。
所以并不是我对业务的最大连接数计算失误,而是因为不知道要设置DefaultMaxConnectionsPerHost而导致每个请求的Host并发连接数只有2,限制了线程获取连接的并发度(所以难怪刚才观察tcp并发度的时候发现只有2个连接建立

以上是关于糟糕!HttpClient 连接池设置引发的一次雪崩!的主要内容,如果未能解决你的问题,请参考以下文章

HttpClient 设置不当引发的一次雪崩

HttpClient 设置不当引发的一次雪崩

内部分享:一次HttpClient连接池引发的雪崩案例复盘....

记一次 HttpClient 连接池参数引发的雪崩问题的定位分析解决过程!

HttpClient连接池耗尽引发雪崩问题

HttpClient 设置不当引发的一次雪崩!