CPU密集与IO密集型

Posted 2021-05-29 kldx5092

 

 1. CPU 密集型（I/O bound）

 

CPU密集型也叫计算密集型，指的是系统的硬盘、内存性能相对CPU要好很多，此时，系统运作大部分的状况是CPU Loading 100%，CPU要读/写I/O(硬盘/内存)，I/O在很短的时间就可以完成，而CPU还有许多运算要处理，CPU Loading很高。

CPU密集的意思是该任务需要大量的运算，而没有阻塞，CPU一直全速运行。CPU密集任务只有在真正的多核CPU上才可能得到加速（通过多线程），而在单核CPU上，无论你开几个模拟的多线程该任务都不可能得到加速，因为CPU总的运算能力就那些。

CPU 使用率较高（例如:计算一些复杂的运算，逻辑处理等情况）非常多的情况下，线程数一般只需要设置为CPU核心数的线程个数就可以了。 这一类型多出现在开发中的一些业务复杂计算和逻辑处理过程中。

2. I/O 密集型（I/O bound）

IO密集型指的是系统的CPU性能相对硬盘、内存要好很多，此时，系统运作，大部分的状况是CPU在等I/O (硬盘/内存) 的读/写操作，此时CPU Loading并不高。I/O bound的程序一般在达到性能极限时，CPU占用率仍然较低。这可能是因为任务本身需要大量I/O操作，而pipeline做得不是很好，没有充分利用处理器能力。

CPU 使用率较低，程序中会存在大量的 I/O 操作占用时间，导致线程空余时间很多，所以通常就需要开CPU核心数两倍的线程。当线程进行 I/O 操作 CPU 空闲时，启用其他线程继续使用 CPU，以提高 CPU 的使用率。例如：数据库交互，文件上传下载，网络传输等。

线程等待时间所占比例越高，需要越多线程，启用其他线程继续使用CPU，以此提高CPU的利用率；线程 CPU 时间所占比例越高，需要越少的线程，这一类型在开发中主要出现在一些计算业务频繁的逻辑中。

方法一：
由于IO密集型任务线程并不是一直在执行任务，则应配置尽可能多的线程，如CPU核数*2

方法二：
IO密集型，即该任务需要大量的IO，即大量的阻塞。在单线程上运IO密集型的任务会导致浪费大量的CPU运算能力浪费在等待。所以在IO密集型任务中使用多线程可以大大的加速程序运行，即使在单核CPU上，这种加速主要就是利用了被浪费掉的阻塞时间。
IO密集型时，大部分线程都阻塞，故需要多配置线程数：
参考公式：CPU核数 /（1 - 阻系数）
比如8核CPU：8/(1 - 0．9)=80个线程数
阻塞系数在0.8~0.9之间

3. 混合型

即TaskQueue中既有计算型的Task也有IO型的Task，

3.1 计算公式一

所以为了正确设置线程池的大小，我们应该计算出 我们的计算型任务（用 C表示）占总任务的比例（总任务个数=计算型任务个数+阻塞型任务个数（用W表示））
假设当前 CPU 的核数 为 N = 4。
rate = C/(C+W)

这样 CORE_SIZE = N/rate。

如 当前有8个计算型任务，2个阻塞型任务，比例就是 0.8，也就是4/5，计算可得 CORE_SIZE = 5 时，能最大程度的利用 CPU。
如 当前有8个计算型任务，8个全是计算型任务，比例就是 1，也就是5/5，计算可得 CORE_SIZE = 4 时，能最大程度的利用 CPU。

3.2 计算公式二（抄自 Java 并发编程实战）

 

4. 总结：

1.一个计算为主的程序（CPU密集型程序），多线程跑的时候，可以充分利用起所有的 CPU 核心数，比如说 8 个核心的CPU ,开8 个线程的时候，可以同时跑 8 个线程的运算任务，此时是最大效率。但是如果线程远远超出 CPU 核心数量，反而会使得任务效率下降，因为频繁的切换线程也是要消耗时间的。因此对于 CPU 密集型的任务来说，线程数等于 CPU 数是最好的了。

2.如果是一个磁盘或网络为主的程序（IO密集型程序），一个线程处在 IO 等待的时候，另一个线程还可以在 CPU 里面跑，有时候 CPU 闲着没事干，所有的线程都在等着 IO，这时候他们就是同时的了，而单线程的话此时还是在一个一个等待的。我们都知道 IO 的速度比起 CPU 来是很慢的。此时线程数等于CPU核心数的两倍是最佳的。

5. 核心线程数计算公式

IO密集型：核心线程数 = CPU核数 / （1-阻塞系数） 
IO密集型：核心线程数 = CPU核数 * 2

CPU密集型：核心线程数 = CPU核数 + 1

混合型：核心线程数 = CPU核数/CPU密集型占比系数。

6. 核心线程数 = CPU核数 + 1，为什么要加1？

当线程池的大小为1 时，能实现 CPU 的最优利用率。即使当计算密集型的线程 偶尔由于页缺失故障或者其他原因暂停时，这个“额外” 的线程也能确保CPU 的时装周期不会被浪费。