学方法：神经网络模型的部署平台

Posted 2021-05-16 深度学习优化

简单介绍一下，神经网络模型的7个部署平台，当然还有更多的其他平台

CPU

CPU（Central Processing Unit），又称中央处理器，是计算机系统的运算和控制核心，是信息处理、程序运行的最终执行单元

以CNN为例，CNN计算由大量的乘加计算组成，CPU架构进行累加计算效率是非常低的

GPU

GPU（Graphics Processing Unit），也称图像处理器，是做图像和图形相关运算工作的微处理器

与CPU相比，做神经网络的累加计算时，效率会高很多，但是GPU兼顾图像处理的任务，不可能针对神经网络计算进行特殊优化

DSP

DSP（Digital Signal Process），数字信号处理，是一种特别适合于进行数字信号处理运算的微处理器，其主要应用是实时快速的实现各种数字信号处理算法

VPU

VPU（Video Processing Unit），视频处理单元，是一种全新的视频处理平台核心引擎

由ATI提出，ATI（Array Technology Industry）是世界著名的显示芯片生产商，和NVIDIA齐名，2006年被美国AMD公司收购

GPU与VPU实际均为显示处理核心，本质上无明显区别，不过GPU偏于处理图像，而VPU专注于处理动态图像，被收购之后也采用GPU名字

TPU

TPU（Tensor Processing Unit），张量处理单元，是一款为机器学习定制的芯片，由谷歌开发，名字灵感来源于谷歌TensorFlow开源深度学习框架。

KPU

KPU（Neural Network Processor），是通用的神经网络处理器，它可以在低功耗的情况下实现卷积神经网络计算，时时获取被检测目标的大小、坐标和种类，对人脸或者物体进行检测和分类

NPU

NPU（Neural Network Processing units），神经网络处理器，专门为物联网人工智能而设计，用于加速神经网络的运算，解决传统芯片在神经网络运算时效率低下的问题。

NPU专门针对神经网络计算进行特殊优化设计，因此，在处理神经网络计算方面，性能会比CPU，GPU高很多。

---

分享一句很喜欢的话

给人正能量，让人心花怒放