如何在 TensorFlow 1.4 中使用提前停止来训练深度神经网络？

Posted 2023-02-23

【中文标题】如何在 TensorFlow 1.4 中使用提前停止来训练深度神经网络？

【英文标题】：How to use early stopping for training deep neural network in TensorFlow 1.4?

【发布时间】：2018-05-15 00:00:00

【问题描述】：

从卷积神经网络训练过程的某个时刻开始，成本函数并没有变得更好。我想定义停止训练的条件。我在 TensorFlow 1.1 中找到了一种使用 ValidationMonitor 的解决方案。但是，在 TensorFlow 1.4 中没有办法做到这一点...

我的问题：如何在 TensorFlow 1.4 中使用early stopping，尤其是Experiment 和Estimator？

请查看我的code

【参考方案1】：

由于ValidationMonitor 不适用于分布式训练，我们决定不将其实现为 Hook。我们正在等待它的分布式友好版本。

作为一种解决方法，您可以将ValidationMonitor 包装为一个钩子。以下代码显示了如何做到这一点： validation_hook = tf.contrib.learn.monitors.replace_monitors_with_hooks([validation_monitor], estimator)[0]