CPU密集与IO密集型

Posted kldx5092

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了CPU密集与IO密集型相关的知识,希望对你有一定的参考价值。

 

 1. CPU 密集型(I/O bound)

 

CPU密集型也叫计算密集型,指的是系统的硬盘、内存性能相对CPU要好很多,此时,系统运作大部分的状况是CPU Loading 100%,CPU要读/写I/O(硬盘/内存),I/O在很短的时间就可以完成,而CPU还有许多运算要处理,CPU Loading很高。

CPU密集的意思是该任务需要大量的运算,而没有阻塞,CPU一直全速运行。CPU密集任务只有在真正的多核CPU上才可能得到加速(通过多线程),而在单核CPU上,无论你开几个模拟的多线程该任务都不可能得到加速,因为CPU总的运算能力就那些。

CPU 使用率较高(例如:计算一些复杂的运算,逻辑处理等情况)非常多的情况下,线程数一般只需要设置为CPU核心数的线程个数就可以了。 这一类型多出现在开发中的一些业务复杂计算和逻辑处理过程中。

2. I/O 密集型(I/O bound)

IO密集型指的是系统的CPU性能相对硬盘、内存要好很多,此时,系统运作,大部分的状况是CPU在等I/O (硬盘/内存) 的读/写操作,此时CPU Loading并不高。I/O bound的程序一般在达到性能极限时,CPU占用率仍然较低。这可能是因为任务本身需要大量I/O操作,而pipeline做得不是很好,没有充分利用处理器能力。

CPU 使用率较低,程序中会存在大量的 I/O 操作占用时间,导致线程空余时间很多,所以通常就需要开CPU核心数两倍的线程。当线程进行 I/O 操作 CPU 空闲时,启用其他线程继续使用 CPU,以提高 CPU 的使用率。例如:数据库交互,文件上传下载,网络传输等。

线程等待时间所占比例越高,需要越多线程,启用其他线程继续使用CPU,以此提高CPU的利用率;线程 CPU 时间所占比例越高,需要越少的线程,这一类型在开发中主要出现在一些计算业务频繁的逻辑中。

方法一:
由于IO密集型任务线程并不是一直在执行任务,则应配置尽可能多的线程,如CPU核数*2

方法二:
IO密集型,即该任务需要大量的IO,即大量的阻塞。在单线程上运IO密集型的任务会导致浪费大量的CPU运算能力浪费在等待。所以在IO密集型任务中使用多线程可以大大的加速程序运行,即使在单核CPU上,这种加速主要就是利用了被浪费掉的阻塞时间。
IO密集型时,大部分线程都阻塞,故需要多配置线程数:
参考公式:CPU核数 /(1 - 阻系数)
比如8核CPU:8/(1 - 0.9)=80个线程数
阻塞系数在0.8~0.9之间

3. 混合型

即TaskQueue中既有计算型的Task也有IO型的Task,

3.1 计算公式一

所以为了正确设置线程池的大小,我们应该计算出 我们的计算型任务(用 C表示)占总任务的比例(总任务个数=计算型任务个数+阻塞型任务个数(用W表示))
假设当前 CPU 的核数 为 N = 4。
rate = C/(C+W)

这样 CORE_SIZE = N/rate。

如 当前有8个计算型任务,2个阻塞型任务,比例就是 0.8,也就是4/5,计算可得 CORE_SIZE = 5 时,能最大程度的利用 CPU。
如 当前有8个计算型任务,8个全是计算型任务,比例就是 1,也就是5/5,计算可得 CORE_SIZE = 4 时,能最大程度的利用 CPU。

3.2 计算公式二(抄自 Java 并发编程实战)

 

4. 总结:

1.一个计算为主的程序(CPU密集型程序),多线程跑的时候,可以充分利用起所有的 CPU 核心数,比如说 8 个核心的CPU ,开8 个线程的时候,可以同时跑 8 个线程的运算任务,此时是最大效率。但是如果线程远远超出 CPU 核心数量,反而会使得任务效率下降,因为频繁的切换线程也是要消耗时间的。因此对于 CPU 密集型的任务来说,线程数等于 CPU 数是最好的了。

2.如果是一个磁盘或网络为主的程序(IO密集型程序),一个线程处在 IO 等待的时候,另一个线程还可以在 CPU 里面跑,有时候 CPU 闲着没事干,所有的线程都在等着 IO,这时候他们就是同时的了,而单线程的话此时还是在一个一个等待的。我们都知道 IO 的速度比起 CPU 来是很慢的。此时线程数等于CPU核心数的两倍是最佳的。

5. 核心线程数计算公式

IO密集型:核心线程数 = CPU核数 / (1-阻塞系数) 
IO密集型:核心线程数 = CPU核数 2

CPU密集型:核心线程数 = CPU核数 1

混合型:核心线程数 = CPU核数/CPU密集型占比系数。

6. 核心线程数 = CPU核数 1,为什么要加1?

当线程池的大小为1 时,能实现 CPU 的最优利用率。即使当计算密集型的线程 偶尔由于页缺失故障或者其他原因暂停时,这个“额外” 的线程也能确保CPU 的时装周期不会被浪费。

以上是关于CPU密集与IO密集型的主要内容,如果未能解决你的问题,请参考以下文章

CPU密集型IO密集型

CPU密集型和IO密集型

CPU密集型和IO密集型

CPU密集型和IO密集型

CPU密集型和IO密集型

你知道服务器CPU密集型和IO密集型吗?(论点:概念区别场景辨别)