目标检测yolov5改进系列：主干网络中添加SE注意力机制网络

Posted 2023-03-31 机器不学习我学习

写在前面：
首先感谢兄弟们的关注和订阅，让我有创作的动力，在创作过程我会尽最大能力，保证作品的质量，如果有问题，可以私信我，让我们携手共进，共创辉煌。

1. SEnet介绍

CNN网络中，图像或者说特征图Feature Map的特征主要分为空间特征（Spatial）和通道（Channel）特征。对于空间特征来说，在CNN网络正向传播的过程中，通过卷积运算从输入特征一步步的卷积操作得到新的特征图Feature Map的本质上来说，卷积操作是局部特征，那么随着网络正向传播的深入，到深层网络的特征图的感受野会远大于浅层网络特征图的感受野，说明深层网络有着更多的空间维度信息。对于通道特征来说，是通过卷积操作后得到的空间特征，并在通道维度上进行融合而得到。

SEnet就是对通道维度的注意力机制，上面介绍了通道特征是对空间特征Featue Map的融合。其实同一个通道维度的不同的Feature Map是用着不同的重要程度的，也就是说对于同一个Feature Map里面的信息权重的分配是不同的。SETNET就是针对通道维度上的特征进行信息权重分配，重要的信息获取更多的权重，轻量的信息获取较少的权重分配，这样就可以学习到通道特征的重要程度，下面是SENET论文Squeeze-and-Excitation（SE）模块的设计图：

理论来源：
https://arxiv.org/abs/1709.01507

YOLOv5/v7/v8改进最新主干系列BiFormer：顶会CVPR2023即插即用，小目标检测涨点必备，首发原创改进，基于动态查询感知的稀疏注意力机制构建高效金字塔网络架构，打造高精度检测器