反向传播

Posted chen-rd

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了反向传播相关的知识，希望对你有一定的参考价值。

反向传播

技术分享图片

技术分享图片

max门的梯度

关于某变量的偏导也是分段的，关于它就是 1，不关于它就是 0

乘法相对于梯度转换器

以上是关于反向传播的主要内容，如果未能解决你的问题，请参考以下文章

反向传播梯度求解推导

一文搞懂反向传播算法

读懂反向传播算法（bp算法）

前向传播和反向传播

007-卷积神经网络-前向传播-反向传播

Torch反向传播时出错或者梯度为NaN的问题排查