普通RNN,LSTM长短期记忆

Posted ZhangJiQun.

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了普通RNN,LSTM长短期记忆相关的知识,希望对你有一定的参考价值。

普通RNN

先简单介绍一下一般的RNN。

其主要形式如下图所示:

 

什么是LSTM

长短期记忆(Long short-term memory, LSTM)是一种特殊的RNN,主要是为了解决长序列训练过程中的梯度消失和梯度爆炸问题。简单来说,就是相比普通的RNN,LSTM能够在更长的序列中有更好的表现。

人人都能看懂的LSTM - 知乎

以上是关于普通RNN,LSTM长短期记忆的主要内容,如果未能解决你的问题,请参考以下文章

DL-4长短期记忆网络(LSTM)

LSTM长短期记忆网络

LSTM长短期记忆网络

长短期记忆网络 LSTM 深层循环神经网络 Deep RNN 双向循环神经网络 Bidirectional RNN 动手学深度学习v2

长短期记忆网络 LSTM 深层循环神经网络 Deep RNN 双向循环神经网络 Bidirectional RNN 动手学深度学习v2

序列模型---LSTM(长短时记忆)