第57篇RepGhost:一个通过重新参数化实现硬件高效的Ghost模块

Posted 2022-12-28 AI浩

文章目录

• 摘要
• 1、简介
• 2、 相关工作
• • 2.1. 轻量 CNNs
  • 2.2.重参数结构
• 3.方法
• • 3.1. 通过重新参数化的特性重用
  • 3.2. RepGhost模块
  • 3.3. 构建我们的瓶颈和架构
• 4. 实验
• • 4.1. ImageNet分类
  • 4.2. 物体检测与实例分割
  • 4.3. 消融实验
• 5. 结论

摘要

特征重用一直是轻量级卷积神经网络设计的关键技术。目前的方法通常使用连接运算符，通过重用来自其他层的特征映射来廉价地保持大的通道数量(从而获得大的网络容量)。尽管级联是无参数和flops的，但它在硬件设备上的计算成本是不可忽略的。针对这一问题，本文提出了一种利用结构再参数化技术实现特征重用的新视角。提出了一种新的硬件高效的RepGhost模块，通过重新参数化来实现隐式特征重用，而不是使用连接运算符。在RepGhost模块的基础上，开发