在时间序列分类问题中规范化数据 - 递归神经网络

Posted

技术标签:

【中文标题】在时间序列分类问题中规范化数据 - 递归神经网络【英文标题】:Normalizing data in a time series classification problem - Recurrent Neural Networks 【发布时间】:2021-04-05 16:40:20 【问题描述】:

我正在解决一个问题,我需要使用 LSTM 从运动传感器数据中预测几个输出类之一。有两个不同的传感器,每个都有三个通道并具有不同的测量单位。对于每个记录,我使用最小-最大归一化来将幅度传感器水平置于 0 和 1 之间(对于每个传感器单独)。

这样做后,我发现在使用归一化时,我的网络确实会更快地收敛到最终值(在准确度方面),但与在相同网络设置下使用非归一化数据时相比,性能要低得多。

据我了解,归一化具有帮助训练的优势,但如果获得性能优势,是否真的有必要坚持使用性能较低的网络来接收归一化输入。我没有那么有经验,希望其他人对此发表评论。

谢谢!

【问题讨论】:

【参考方案1】:

如果这是主要优先级,我会使用性能更好的网络。标准化的目标通常只是为了让你的损失在训练期间不会爆炸。因此,当值非常大时,它通常会改善结果。但是,有时当值已经很小时,标准化会使情况变得更糟。您的值范围也可能太小。您可能想尝试在 (0, 2) 或更大范围之间进行归一化。但是,如果没有标准化的性能已经令人满意,我不会打扰。

【讨论】:

非常感谢!我会尝试改变范围。如果我能获得接近非标准化数据的性能,我将保留标准化值

以上是关于在时间序列分类问题中规范化数据 - 递归神经网络的主要内容,如果未能解决你的问题,请参考以下文章

递归查询子分类

嵌入递归神经网络

几十万条数据用PHP递归能实现无限级分类吗

tensorflow 学习

您如何规范化数据以输入超出训练数据范围的神经网络?

分类器神经网络的最后一层是不是同时使用 sigmoid 和 softmax?