Tensorflow 默认会标准化输入数据吗？

Posted 2023-03-12

【中文标题】Tensorflow 默认会标准化输入数据吗？

【英文标题】：Does Tensorflow normalize input data by default?

【发布时间】：2016-12-09 11:06:04

【问题描述】：

有谁知道 Tensorflow 是否默认对输入数据进行规范化？

我有灰度图像，其值范围约为 20000-28000。当我对数据进行标准化时，发生了一件非常奇怪的事情。经过几百次迭代训练的网络在做出准确预测方面表现良好，但突然间所有预测都转到了NaN。当然它无法恢复，因为 TF 无法从NaN 优化。

当我没有对数据进行规范化时，训练效果很好并且收敛了。

有什么想法吗？

【问题讨论】：

你能展示你的模型和你标准化的方式吗？

你有没有想过如何为 tensorflow 规范化你的输入数据？

【参考方案1】：

为了回答题主的问题，tensorflow 默认不规范化输入数据。关于 NaN，如果不了解您正在执行的计算的更多细节，那就没什么好说的了。