最大池层与具有跨度性能的卷积

Posted

技术标签:

【中文标题】最大池层与具有跨度性能的卷积【英文标题】:Max pool layer vs Convolution with stride performance 【发布时间】:2017-11-23 18:49:57 【问题描述】:

在大多数架构中,conv 层之后是池化层(max / avg 等)。由于这些池化层只是选择前一层的输出(即 conv),我们是否可以只使用步长为 2 的卷积并期望在减少处理需求的情况下获得相似的精度结果?

【问题讨论】:

是的,我已经尝试过 vgg19 网络,它可以工作 【参考方案1】:

是的,可以做到。它在论文'Striving for simplicity: The all convolutional net'https://arxiv.org/pdf/1412.6806.pdf 中有解释。引用论文:

'我们发现 max-pooling 可以简单地替换为卷积 在几个图像上增加步幅而不损失精度的层 识别基准”

【讨论】:

感谢您的回复。那么,为什么行业一直在使用最大池? 谷歌最近发表的论文“MobileNets: Efficient Convolutional networks”没有在 CNN 层中使用池化(它在 FC 之前的末尾有一个)。与加速相比,增益可能可以忽略不计。

以上是关于最大池层与具有跨度性能的卷积的主要内容,如果未能解决你的问题,请参考以下文章

由浅入深:CNN中卷积层与转置卷积层的关系

学习笔记TF013:卷积跨度边界填充卷积核

神经网络卷积层与池化层

卷积层与批归一化层的参数量计算公式

卷积层与批归一化层的参数量计算公式

卷积网络与全连接网络的区别