[人工智能-深度学习-27]:卷积神经网络CNN - 核心概念(卷积滑动填充参数共享通道)

Posted 文火冰糖的硅基工坊

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了[人工智能-深度学习-27]:卷积神经网络CNN - 核心概念(卷积滑动填充参数共享通道)相关的知识,希望对你有一定的参考价值。

作者主页(文火冰糖的硅基工坊):文火冰糖(王文兵)的博客_文火冰糖的硅基工坊_CSDN博客

本文网址:https://blog.csdn.net/HiWangWenBing/article/details/120806277


目录

第1章 卷积中的“积”的定义

1.1 卷积中的“积”是内积

第2章 卷积中的“卷”的定义

2.1 在滑动中“卷”积

2.2 滑动的步长

第3章 边缘填充

3.1 Pading的基本思想来源

3.2 填充后的效果

3.3 边缘填充对输出的影响

第4章 单个卷积核的输出

4.1 单通的输出(X,Y)

4.2 多输入通道的合并

第5章 多个卷积核的输出:多通道输出

5.1  通道的拓展

5.2 每个输出通道来自一个卷积核

5.3 特征图:通道的本质是某一角度的特征

第6章 卷积的参数计算

6.1 特征图尺寸的计算公式

6.2 卷积核参数共享

第7章 卷积对图形变换

第8章 池化层

第9章 全连接的dropout


第1章 卷积中的“积”的定义

1.1 卷积中的“积”是内积

第2章 卷积中的“卷”的定义

2.1 在滑动中“卷”积

2.2 滑动的步长

 

 

 stride:反映的每次移动的像素点的个数。

 

备注:

步长与输入数据的尺寸,直接决定了卷积核输出的尺寸。

但在实际定义卷积神经网络时,通常预先定义的是卷积层的输出尺寸,因此,步长并不是程序员预先设定的超参数,而是自动计算。

步长是根据卷积层的程序员指定的输入尺寸、输出尺寸、卷积核的大小来进行推导出来的。

第3章 边缘填充

3.1 Pading的基本思想来源

除了输出的边缘被裁剪,同时输入数据的边缘数据点,被使用的机会也比中心点使用的机会少。

为了克服上述确定,需要在边缘外围进行填充,确保输入数据的所有点都是机会均等的,公平的。

 

3.2 填充后的效果

3.3 边缘填充对输出的影响

(1)边缘填充影响卷积输出的大小

(2)由于填充的是0,因此不影响边缘处的卷积的输出值。

第4章 单个卷积核的输出

4.1 单通的输出(X,Y)

(1)单个卷积核的每一次卷积的输出是一个点

(2)单个卷积核的所有卷积的输出是一个二维的输出(三个通道的合成),而不是一个点。

(3)多个卷积核的所有卷积的输出组成一个三维的输出,第三个维度的长度反映卷积核的个数

4.2 多输入通道的合并

多通道输入数据:通道的来源

RGB三个通道的合并,才阐述了整个图片的综合特征,因此,卷积的“积”会会三个通道的”积”进行累加合并。

 

 

 

第1层是第一个卷积核的输出。

第2层是第二个卷积核的输出。

第5章 多个卷积核的输出:多通道输出

5.1  通道的拓展

在输入图片时,通道是指:R,G,B三个颜色通道

在卷积层内部,通道是指:隶属于每个独立的神经元,通道数就是神经元的个数。

5.2 每个输出通道来自一个卷积核

 每个卷积核的输出图形,都被原始图形小,分别是原始图形中某一个种特征,是原始图形的部分信息,而不是全部像素信息。

5.3 特征图:通道的本质是某一角度的特征

第6章 卷积的参数计算

6.1 特征图尺寸的计算公式

6.2 卷积核参数共享

(1)参数共享的好处

参数共享能够很好的降低全连接网络的过拟合

参数共享也可以极大的降低参数的个数

(2)全连接网络中批量样本计算时的参数共享

(3)卷积核的参数共享

第7章 卷积对图形变换

 

第8章 池化层

备注:池化不进行矩阵运算,而只是选择部分数据输出。

 

 每个区域选择最大值:选择特征最大的值,是特征最明显的特征。

第9章 全连接的dropout


作者主页(文火冰糖的硅基工坊):文火冰糖(王文兵)的博客_文火冰糖的硅基工坊_CSDN博客

本文网址:https://blog.csdn.net/HiWangWenBing/article/details/120806277

以上是关于[人工智能-深度学习-27]:卷积神经网络CNN - 核心概念(卷积滑动填充参数共享通道)的主要内容,如果未能解决你的问题,请参考以下文章

[人工智能-深度学习-24]:卷积神经网络CNN - CS231n解读 - 卷积神经网络基本层级

[人工智能-深度学习-37]:卷积神经网络CNN - 重构神经网络的疑惑与思考?

[人工智能-深度学习-26]:卷积神经网络CNN - 为啥要卷积神经网络以及卷积神经网络的应用

[人工智能-深度学习-28]:卷积神经网络CNN - 网络架构与描述方法

[人工智能-深度学习-32]:卷积神经网络CNN - 常见分类网络- AlexNet

[人工智能-深度学习-31]:卷积神经网络CNN - 常见卷积神经网络综合比较大全