CV第八课 GPU/CPU

Posted cheviszhang

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了CV第八课 GPU/CPU相关的知识,希望对你有一定的参考价值。

GPU vs CPU

 

技术图片

 

GPU:

    核心数:    GPU比CPU有更多的核,但是单个核运行很慢,它们之前其实是相互合作而不是单独运行,所以不能直接以cores to cores这样直接比较。

    运行速率:优点是,因为有更多的核,所以在做并行任务,且本质相近的事务时,GPU的处理能力很棒

        例如: 神经网络里的矩阵乘法 可以高并行计算,所以GPU计算效率快; CPU就只能做串行计算; 

        the inner product of some part of the weight matrix and some part of the imput

    内存:        CPU自己的内存比较小,一般是运用计算机的RAM 8G 16G; 但是GPU有着自己的内存,比如Titan XP 有12G 本地内存。

 

Cuda:

    cuda语言能充分发挥GPU的效率,但是很难写,所以有一些库可以帮助我们,如cuBLAS,cuFFT,cuDNN

    技术图片

 

 

 

 

CPU,GPU,GPU+cuDNN 5.1 跑模型的速率的对比

 

     技术图片技术图片技术图片

 

 

 

GPU存储模型,硬盘存数据的问题:

  1.模型及其weight matrix 存储在GPU的内存中(12GB),但是dataset 在hard-drive ssd ; 而GPU中的forward,backward速率是非常快的,而CPU中的读取数据的速率可能会比较慢。

  2.解决方法: dataset小,先把数据读进RAM; 或者用SSD而不是HHD ; 用多线程CPU读取数据

 

以上是关于CV第八课 GPU/CPU的主要内容,如果未能解决你的问题,请参考以下文章

第八课 网络通信

7.8-UC-第八课:网络通信

LINUX第八课

接口测试学习-python第八课(数据驱动测试)

mysql第八课

第八课: 如何计算逻辑回归的偏导数