卷积神经网络

Posted 2021-01-22 lee-yl

卷积层：

 神经网络通过参数共享、稀疏连接减少参数。

一、过滤器：卷积【参数共享加稀疏连接，故参数较少，而全连接参数较大】

卷积：过滤器、边缘检测器：常用奇数维

举例说明：

左边矩阵中间有一个垂直线，10和0之间。

通过卷积过滤器，也可叫垂直检测器，得到右边矩阵，右边矩阵30可看做检测出来的边缘。

 

可以观察到明亮边缘变化：正数与负数

水平检测器：

 卷积神经网络：

 

参数共享和稀疏连接

绿色0和红色30，仅仅与左边矩阵绿色和红色矩阵相关，对其他值没有影响，这个是稀疏连接。

二、Padding：边缘补0

valid填充：表示不填充

same填充：表示输出大小和输入大小是一样的。

比如：6 * 6的图像大小，经过 3 * 3的过滤器，采用valid填充【即不填充】，得到 4 * 4的图像。

采用same填充，得到的还是 6 * 6 的图像。

三、stride：卷积步长

 

 四、立体卷积神经网络

多一个通道，三个通道加和得到输出结果，

输入：6 * 6 * 3【三通道】

过滤器：3 * 3 * 3【三通道，必须和输入的3相等】

输出：4 * 4 * 1

多个过滤器，比如：垂直、水平、45度等等。拼接起来即可。

 

 然后将输出 4 * 4 * 2展开成一个向量，进行logic、softmax等激活函数得到结果Y。

 

池化层：最大、平均

最大的比平均的用的多。

池化层没有参数可学习，一般设置padding = 0

其对每个深度都进行计算。

 

 

 卷积层、池化层、全连接层的例子

总结：