第55篇剪枝算法：通过网络瘦身学习高效卷积网络

Posted 2022-12-28 AI浩

文章目录

• 摘要
• 1. 简介
• 2. 相关工作
• 3.网络瘦身
• 4.实验
• • 4.1. 数据集
  • 4.2. 网络模型
  • 4.3.训练、修剪和微调
  • 4.4. 结果
  • 4.5. 多通道方案的结果
• 5. 分析
• 6. 结论

摘要

原文链接：https://arxiv.org/abs/1708.06519

深度卷积神经网络(CNNs)在现实世界中的应用很大程度上受到其高计算成本的阻碍。在本文中，我们提出了一种新的cnn学习方案，以同时减小模型的尺寸;2)减少运行时内存占用;3)在不影响精度的前提下，降低计算操作的数量。这是通过在网络中以一种简单但有效的方式强制通道级稀疏性来实现的。与许多现有的方法不同，所提出的方法直接适用于现代CNN体系结构，为训练过程引入了最小的开销，并且对生成的模型不需要特殊的软件/硬件加速器。我们称这种方法为网络瘦身，它以宽而大的网络作