神经网络AI加速器技术

Posted 2020-12-10 wujianming-110117

神经网络AI加速器技术

能够直接加速卷积神经网络，还能够直接运行常见的网络框架，如TensorFlow、Caffe、PyTorch，DarkNet等，支持用户定制化的网络和计算类型。

功能特点：

● 数据类型

○ 16位浮点

○ 8位定点

○ 8位/4位整数

● 网络压缩

○ 稀疏矩阵

○ 剪枝

○ 权值共享

● 张量计算

○ Point wise

○ Depth wise

○ 4 dimensions

● 网络层

○ Conv

○ Full connection

○ Pooling

○ Activation

深度学习框架加速

● 快速部署用户应用到WNN平台，加速过程与GPU相似，对用户基本透明
● 支持动态网络 

深度学习网络加速

● 脱离深度学习框架，程序效率（速度和内存占用）更高
● 支持静态网络推理的优化（压缩、剪枝等）