17.5.11 自己领悟

Posted 2020-09-17 double-vane

1.为什么局部连接？

局部感受野，局部连接可以学到边缘、端点等特征，然后经过CNN的逐层局部连接又可以讲这些组合得到主键抽象的高层特征

2.为什么权值共享？

为了学到图像的不同位置的相同类型的特征，比如学到斜线？直线？等，有效减少参数数目，比起全连接的网络模型也更加泛化？

2a，权值共享体现在哪里？

每个filter 要 全部走完整幅图像

2b，比方说有m层的输出为96个特征图，则需要96个filter，然而每个filter并不是单纯的为一张二维卷积滤波图，而是卷积核：即输入有几个通道，则这个卷积核就需要几张二维卷积滤波图，且这几张卷积滤波图的每张和每张的参数是不一样的

2c，但是好像是一个filter就有一个bias

3.为什么池化操作？

池化可以得到抗局部平移、旋转、不同分辨率的更为鲁棒的局部特征。池化后的图像变小，是否可以理解为也减少了存储量？可实现关于特征的局部增强

4.多个filter的好处？

增加了更高级别图像局部结构描述的多样性

 5，一个epoch？

人们说的一个epoch是指所有训练样本过一遍，我纠结的是，包不包括有标签用来对模型进行测试的测试集，答案是不包括，这个训练集是指用来学习进行的forward与backward的数据样本。

6，Inception模块是怎么以稀疏连接替代稠密结构，在不增加模型自由参数规模前提下，网络深度得到有效提高，从而更为有效实现样本特征提取？