007-卷积神经网络-前向传播-反向传播
Posted mjerry
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了007-卷积神经网络-前向传播-反向传播相关的知识，希望对你有一定的参考价值。
前向传播：
前向传播就是求特征图的过程
通常x和w有四个维度[编号，深度，高度，宽度]
反向传播：
先来复习一下反向传播的知识：
反向传播回来的是梯度，也就是偏导数
反向传播力有一个链式法则：对于反向传播（反着看），本层要往后面一层穿的的偏导=本层自身的偏导×上一层传过来的偏导
红色代表反向传播，绿色代表正向传播
out = wx+b
out对w求倒数：（wx+b）’=x
那么dw = dout·x
那么换到矩阵之后我的反向传播就可以是dout与x的内积
对于卷积层的反向传播：
每一个dout都对应一个filter上图只是对于filter 1所做的反向传播
同理就有filter2的反向传播
对于pooling层的反向传播：
、
以上是关于007-卷积神经网络-前向传播-反向传播的主要内容，如果未能解决你的问题，请参考以下文章