Tensorflow神经网络之LSTM
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Tensorflow神经网络之LSTM相关的知识,希望对你有一定的参考价值。
参考技术A LSTM 作为门控循环神经网络因此我们从门控单元切入理解。主要包括:假设隐含状态长度为h,数据Xt是一个样本数为n、特征向量维度为x的批量数据,其计算如下所示(W和b表示权重和偏置):
最后的输出其实只有两个,一个是输出,一个是状态,输出就是Ht,而状态为(Ct,Ht),其他都是中间计算过程。[^2]
tensorflow 提供了LSTM 实现的一个 basic 版本,不包含 LSTM 的一些高级扩展,同时也提供了一个标准接口,其中包含了 LSTM 的扩展。分别为:tf.nn.rnn_cell.BasicLSTMCell(),tf.nn.rnn_cell.LSTMCell(),我们这里实现一个基本版本。[^1]
[1] tensorflow学习笔记(六):LSTM 与 GRU
[2] 学会区分 RNN 的 output 和 state
学习Tensorflow的LSTM的RNN例子
以上是关于Tensorflow神经网络之LSTM的主要内容,如果未能解决你的问题,请参考以下文章
第二十一节,使用TensorFlow实现LSTM和GRU网络
TensorFlow——LSTM长短期记忆神经网络处理Mnist数据集