全连接层 和 卷积层

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了全连接层 和 卷积层相关的知识,希望对你有一定的参考价值。

卷积不过是一个稀疏的全连接;全连接也不过是一个画面那么大的卷积。本质上都可以理解为矩阵乘法(卷积可以参考托普利兹矩阵和块循环矩阵),相比起来卷积这种形式可以很好捕捉图像这种有空间相关性输入的特征。

本身conv和fc两者在设计好conv大小的情况下就是等价的, 没有什么取代不取代的.

基本上可以理解全conv就是拿一个小点的fc不停的在图片不同位置上跑, 当然, 有层数的情况下不严格一样, 但是差不了多少.

fc不愿意用是因为锁死分辨率, 而且容易造成模型参数太多, 性能上受限制. 但是fc可以考虑全图的所有信息, 不过这个也可以通过receptive field达到全图的conv来实现.


所以, 两者可以等价,但是fcn更加灵活




链接:https://www.zhihu.com/question/56824576/answer/151897192

以上是关于全连接层 和 卷积层的主要内容,如果未能解决你的问题,请参考以下文章

卷积层(FCN)替换全连接层(FC)的意义

卷积层(FCN)替换全连接层(FC)的意义

全连接层 和 卷积层

理解神经网络卷积层、全连接层

卷积层池化层和全连接层 区别和作用

卷积层池化层和全连接层 区别和作用