与多个线程池相比，单个线程池的设计是不是更好

Posted 2023-02-24

【中文标题】与多个线程池相比，单个线程池的设计是不是更好

【英文标题】：Is having a single threadpool better design than multiple threadpools与多个线程池相比，单个线程池的设计是否更好

【发布时间】：2014-12-02 07:37:40

【问题描述】：

在 Java 中拥有多个线程池的优点和缺点是什么？我已经看到有多个线程池用于不同“类型”任务的代码，我不确定它是更好的设计还是只是开发人员懒惰。一个例子是将ScheduledThreadPoolExecutor 用于定期执行或超时的任务，而将另一个 ThreadPoolExecutor 用于其他所有任务。

【参考方案1】：

拥有单独的专用线程池的目的是为了让一个活动不会因为其他活动占用所有线程而缺乏线程。如果某个服务有自己的线程池，那么它可以确保有一定数量的线程可供使用，并且它对其他服务的需求不那么敏感。

操作系统线程是一种有限的资源。如果您的应用程序将线程用于不同目的，其中一些可能会变得很忙并让很多线程为它们工作，或者某些服务可能存在错误，在某些情况下线程没有返回到池中。如果这可能发生在一个线程上，那么相同的情况可能适用于所有线程，并且可以通过这种方式耗尽整个线程池。 （Release It! 一书中早期有一个例子，描述了数据库被切换的情况，糟糕的 JDBC 代码导致了这样的泄漏。）

使用多个专用线程池，如果服务需要太多线程，则它必须等待线程可用，将背压引入系统，使其逐渐降级，并且由于其他部分有自己的线程池，所以它们有有机会赶上他们的部分。所以这个想法是系统应该随着负载的变化而具有更稳定的特性。在您描述为计划任务设置单独的线程池的情况下，确保无论系统的其余部分有多忙，这些任务都能运行。

多个线程池需要调整以确保每个池有足够的线程而不是太多。使用单个线程池可能会减少空闲线程的数量，并可能更好地利用更多线程，但您无法预测某些重要任务会获得及时完成所需的线程。

【讨论】：

所以如果我有 4 核处理器，让我们假设 12 个大小为 4 的固定大小的线程池，其中一半处理 CPU 密集型任务，java 将如何管理这些线程池？当使用多个线程池时，JVM 是否有任何内置功能来防止饥饿，或者我们是否已经实现了自己的功能？？

@DeepSidhu1313：jvm 没有做任何事情来防止饥饿。

【参考方案2】：

拥有单个线程池不是一个好的设计，因为在 1 个线程池的情况下，如果应用程序的一部分变慢，线程将集中在那里。如果没有实现适当的超时，线程将停留并消耗资源。很多这样的线程和连接可能会导致我们的系统中断，因为没有线程可供新请求使用。

另一方面，拥有多个线程池可确保问题得到控制，并且不会成为系统范围的故障。我们可以有不同的线程池来接受连接、运行批处理作业、与远程 api 的数据库通信。它确实在一定程度上降低了效率，但使我们的系统健壮且容错。

【讨论】：

我认为说它不是一个好的设计过于假设性了。如果您的应用程序基本上只做一件事，这是一个很棒的设计。但是，即使使用异构工作负载，随着您添加更多池，它也变得更难理解和内省地限制您的资源消耗。因此，您可能只会在物理层上挨饿。对不应互相饿死的工作负载类别使用单独的线程池。但如果是这种情况，您可能应该拆分整个服务，并确保它们不会在应用层下饿死。