RNN与BPTT （公式甚多）

Posted yangperasd

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了RNN与BPTT （公式甚多）相关的知识，希望对你有一定的参考价值。

前言：

　　现在深度学习是一个潮流，同时，导师也给自己制定了深度学习的方向。在一次组会中，自己讲解了RNN的基本用法，和RNN数学原理的推导。以下是自己根据当时的PPT总结下来的东西。

以上是关于RNN与BPTT （公式甚多）的主要内容，如果未能解决你的问题，请参考以下文章

深度学习面试题33：RNN的梯度更新(BPTT)

对 RNN 中 BPTT 求导过程的解析尝试

对 RNN 中 BPTT 求导过程的解析尝试

对 RNN 中 BPTT 求导过程的解析尝试

对 RNN 中 BPTT 求导过程的解析尝试

LSTM入门学习——本质上就是比RNN的隐藏层公式稍微复杂了一点点而已