Java线程池容量设置

Posted dqVoice

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Java线程池容量设置相关的知识,希望对你有一定的参考价值。


创建线程池的方式

Java中可以通过Executors和ThreadPoolExecutor的方式创建线程池,通过Executors可以快速创建四种常见的线程池,但这种方式在实际使用中并不推荐,因为这种方式创建出来的线程池可控性较差,更推荐的方式是使用ThreadPoolExecutor提供的方法。参考阿里巴巴Java开发规范:

【强制】线程池不允许使用Executors去创建,而是通过ThreadPoolExecutor的方式,这样的处理方式让写的同学更明确线程池的运行规则,规避资源耗尽的风险。 说明:Executors返回的线程池对象弊端如下: 1)FixedThreadPool和SingleThreadPool:允许的请求队列长度为Integer.MAXVALUE,可能会堆积大量的请求,从而导致OOM。 2)CacheThreadPool和ScheduledThreadPool:允许创建线程数量为Integer.MAXVALUE,可能会创建大量线程,从而导致OOM。

参数的工作原理

使用ThreadPoolExecutor创建线程池需要自己给出关键的参数: + corePoolSize: + maximumPoolSize + keepAliveTime + unit + workQueue + threadFactory + handler

这几大参数的工作原理如下: 

具体讲解可以参考清英在infoQ发布的文章:http://www.infoq.com/cn/articles/java-threadPool

线程池容量设置

线程池的corePoolSize设置是整个线程池中最关键的参数,设置太小会导致线程池的吞吐量不足,因为新提交的任务需要排队或者被handler处理掉(取决于拒绝策略);设置太大可能会耗尽计算机的CPU和内存资源。

CPU bound

在CS中,CPU密集型任务的执行时间主要取决于CPU的时间。CPU密集型任务的线程数通常设置为CPU核心数+1 ,《Java Concurrency in Practice》(由Doug. Lea等人撰写)给出了如下的解释:

Even computeͲintensive threads occasionally take a page fault or pause for some other reason, so an "extra" runnable thread prevents CPU cycles from going unused when this happens.

即比CPU核心数多出来的一个线程是为了防止线程偶发的page fault或者由于其他原因导致的任务暂停,此时CPU就会处于空闲状态,而在这种情况下多出来的一个线程就可以充分利用CPU的这个空闲时间。

IO bound

IO密集型任务是指任务的执行时间主要取决于IO的时间。在笔者实习期间遇到的业务场景中大部分属于IO bound。而对于IO bound,书中则给出了如下的计算公式:

最佳线程数 = CPU数量 * CPU利用率 *(线程等待时间/线程CPU时间 + 1)

实际最优参数

在实际操作中,由于公式中线程等待时间和线程CPU时间不好估算,以及系统中存在其他的阻塞情况,这样计算出来的最佳线程数往往不是生产环境下的最佳线程数。为了提高精确度,笔者利用有赞内部的压测系统对代码进行压测,通过多次调整计算出来的最佳线程数和观察压测结果(系统负载、接口RT、TPS等指标)来判断线程数是否符合期望。 在压测的过程中发现,当线程数量设置的更合理时TPS更高且接口的RT较低;而线程池设置过大导致TPS下降和RT上涨。由于RT和TPS不太方便直接给出,这里仅展示系统负载这一指标的压测结果。 当线程池设置过大时: 当线程池设置较为合理时:

参考资料: 1. http://www.infoq.com/cn/articles/java-threadPool 2. https://en.wikipedia.org/wiki/I/O_bound 3. https://en.wikipedia.org/wiki/CPU-bound 4. 《Java Concurrency in Practice》


以上是关于Java线程池容量设置的主要内容,如果未能解决你的问题,请参考以下文章

Java——线程池

Java线程池详解

Java线程池详解

Java 线程池详解

newCacheThreadPool()newFixedThreadPool()newScheduledThreadPool()newSingleThreadExecutor()自定义线程池(代码片段

Java线程池详解