week5——反向传播

Posted 2021-11-05 ^_^|

反向传播公式推导
文章推荐：https://blog.csdn.net/m0_37867091/article/details/104742705

其中，$C_0$代表Cost Function.

反向传播实际就是在做链式求导，随着不断往前求导，会用到已经计算出的导数。例如：在计算$\frac{\partial C}{\partial z^{(l-1)}}$ 会用到$\frac{\partial C}{\partial z^{(l)}}$的值。整个计算过程从后往前，所以叫反向传播。

目前而言，大部分基本能理解。不过关于$\frac{\partial z^{(4)}}{\partial a^{(3)}}={\theta }^{(3)}$这个，可能涉及到矩阵求导部分，关于维度等的问题还是有点迷糊，以后有时间会学习相关知识。