Tensorflow神经网络之LSTM

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Tensorflow神经网络之LSTM相关的知识,希望对你有一定的参考价值。

参考技术A LSTM 作为门控循环神经网络因此我们从门控单元切入理解。主要包括:

假设隐含状态长度为h,数据Xt是一个样本数为n、特征向量维度为x的批量数据,其计算如下所示(W和b表示权重和偏置):

最后的输出其实只有两个,一个是输出,一个是状态,输出就是Ht,而状态为(Ct,Ht),其他都是中间计算过程。[^2]

tensorflow 提供了LSTM 实现的一个 basic 版本,不包含 LSTM 的一些高级扩展,同时也提供了一个标准接口,其中包含了 LSTM 的扩展。分别为:tf.nn.rnn_cell.BasicLSTMCell(),tf.nn.rnn_cell.LSTMCell(),我们这里实现一个基本版本。[^1]

[1] tensorflow学习笔记(六):LSTM 与 GRU

[2] 学会区分 RNN 的 output 和 state

学习Tensorflow的LSTM的RNN例子

 

学习Tensorflow的LSTM的RNN例子

 

基于TensorFlow一次简单的RNN实现

 

极客学院-递归神经网络

 

如何使用TensorFlow构建、训练和改进循环神经网络

以上是关于Tensorflow神经网络之LSTM的主要内容,如果未能解决你的问题,请参考以下文章

第二十一节,使用TensorFlow实现LSTM和GRU网络

TensorFlow——LSTM长短期记忆神经网络处理Mnist数据集

学习Tensorflow的LSTM的RNN例子

Tensorflow--RNN-LSTM循环神经网络

教程 | 使用MNIST数据集,在TensorFlow上实现基础LSTM网络

TensorFlow:递归神经网络(RNN与LSTM)