图像分类移动端网络中最常用的几种卷积操作

Posted 2021-05-17 行路南

随着AlexNet 在2012年ImageNet 竞赛中赢得冠军之后，卷积神经网络在计算机视觉领域已开始变得无处不在。一个大的研究趋势是研究更深、更复杂的网络，从而实现更高的准确率。但这些提升准确率的改进并不一定会使网络在大小和速度上更加高效。

然而在许多现实世界的应用中，比如智能手机、机器人、无人机、自动驾驶、增强现实等，图像识别任务需要在计算资源受限的平台上高效的执行。

为此，出现了很多研究针对移动端与嵌入式设备上应用的小型高效的网络，比如MobileNetV1、MobileNetV2、ShuffleNetV1、ShuffleNetV2等。

为了后续更加深入的理解这些高效而准确的网络，本文先做一个铺垫，介绍这些网络中最常使用的卷积操作。当我们将这些不同类型的卷积操作以及它们之间的关系、它们的计算量的对比了解清楚，我们在读这些论文时才更容易真正明白为什么这些网络是小型且高效的。

我们从卷积的一般到特例，下文分别逐一介绍

• 普通的convolution
• group convolution
• depthwise convolution
• pointwise convolution
• pointwise group convolution

1. 普通convolution

假设输入的特征图大小为$D_F\ast D_F\ast M$，其中$D_F$表示输入特征图的空间宽度和高度，$M$表示输入特征图的通道数（深度）;

假设卷积核大小为$D_K\ast D_K\ast M\ast N$，其中$D_K$表示卷积核的空间宽度和高度，$M$表示输入特征图的通道数，N表示卷积核的个数; 且卷积核的步距stride=1，采用same padding的填充方式。

那么得到的输出特征图大小为为$D_F\ast D_F\ast N$。整个过程如下图所示。

根据以上的卷积过程，我们知道普通的convolution操作有两个特点：

• 每一个卷积核的通道数量，与输入特征图的通道数一致；
• 输出特征图的通道数量，与卷积核的个数一致。

我们计算得到一个普通的convolution的计算量是$D_K\ast D_K\ast M\ast N\ast D_F\ast D_F$。其中$D_K * D_K * M $ 是计算得到输出特征图中的一个点的计算量，且输出特征图中一共有$N\ast D_F\ast D_F$个点。

2. group convolution

假设输入的特征图大小为$D_F\ast D_F\ast M$，其中$D_F$表示输入特征图的空间宽度和高度，$M$表示输入特征图的通道数（深度）;

假设我们要分的组$group=g$， 且我们仍然使输出特征图的通道数为$N$。

那么我们就对输入特征图的通道分为$g$组。对于每一组来说，

• 输入的特征图大小为$D_F\ast D_F\ast (M/g)$
• 卷积核大小为$D_k\ast D_k\ast (M/g)\ast (N/g)$

我们计算一下group convolution 的计算量。

首先我们先计算一个组的计算量，然后将得到的计算量乘以$g$即得到总共的计算量。

那么一个组的计算量为$D_K\ast D_K\ast (M/g)\ast (N/g)\ast D_F\ast D_F$；

那么group convolution的计算量为$D_K\ast D_K\ast (M/g)\ast (N/g)\ast D_F\ast D_F\ast g=\frac{D_K\ast D_K\ast M\ast N\ast D_F\ast D_F}{g}$

可见，group convolution 的计算量是普通的convolution的$\frac{1}{g}$倍。

3. depthwise convolution

在上一节中，我们已经知道：

当我们对输入特征图的通道分为$g$组，对于每一组来说，

• 输入的特征图大小为$D_F\ast D_F\ast (M/g)$
• 卷积核大小为$D_k\ast D_k\ast (M/g)\ast (N/g)$

当分组个数$g=M$，且 $M=N$时，对于每一组来说，

• 输入的特征图大小为$D_F\ast D_F\ast 1$
• 卷积核大小为$D_k\ast D_k\ast 1\ast 1$

也即是说，一共有N=M个卷积核，每个卷积核只有一个通道，且与输入特征图的一个通道相对应。如下图所示。

以上是关于图像分类移动端网络中最常用的几种卷积操作的主要内容，如果未能解决你的问题，请参考以下文章

图像分类移动端网络中最常用的几种卷积操作

图像分类ShuffleNet: 一个极端高效的移动端卷积神经网络

图像分类ShuffleNet: 一个极端高效的移动端卷积神经网络

图像分类ShuffleNet: 一个极端高效的移动端卷积神经网络

图像分类ShuffleNet: 一个极端高效的移动端卷积神经网络

第05课：CNN 在机器视觉中的应用——图像分类