循环神经网络的输出长度

Posted

技术标签:

【中文标题】循环神经网络的输出长度【英文标题】:Output length of recurrent neural network 【发布时间】:2016-03-06 17:19:08 【问题描述】:

我在 python 中编写了两个用于序列预测的 LSTM RNN 代码。我有一个简单的序列(比如嘈杂的正弦波),我正在训练我的网络以“预测”正弦波的未来值。我的第一个代码只预测单个下一个值(因此只有 1 个输出神经元),而我编写的第二个代码预测 5 个下一个值(即 5 个输出神经元)。为了提前 5 步获得第一个代码的预测,我需要多次调用 predict 函数(利用之前的预测输出)。

这两种情况似乎都运行良好,但我真正想弄清楚的是这两种网络架构中的哪一种最适合这个问题。文献中几乎没有比较这些输出模型的内容。

【问题讨论】:

【参考方案1】:

我认为使用输出作为输入不是解决这个问题的好主意。您的输出总会有一些错误,并且可能会随着每一步而增加(稳态错误)。

【讨论】:

谢谢,这是有道理的,但我想检查一下。

以上是关于循环神经网络的输出长度的主要内容,如果未能解决你的问题,请参考以下文章

实现Bidirectional LSTM Classifier----深度学习RNN

学习笔记TF036:实现Bidirectional LSTM Classifier

循环神经网络(RNN)简介

Tensorflow神经网络之LSTM

双向循环神经网络及TensorFlow实现

RNN和LSTM