keras构建前馈神经网络(feedforward neural network)进行分类模型构建基于早停法(Early stopping)

Posted Data+Science+Insight

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了keras构建前馈神经网络(feedforward neural network)进行分类模型构建基于早停法(Early stopping)相关的知识,希望对你有一定的参考价值。

keras构建前馈神经网络(feedforward neural network)进行分类模型构建基于早停法(Early stopping)

当我们训练深度学习神经网络的时候通常希望能获得最好的泛化性能(generalization performance,即可以很好地拟合数据)。但是所有的标准深度学习神经网络结构如全连接多层感知机都很容易过拟合:当网络在训练集上表现越来越好,错误率越来越低的时候,实际上在某一刻,它在测试集的表现已经开始变差。

 

早停法(Early stopping)的主要步骤如下:

1. 将原始的训练数据集划分成训练集和验证集
2. 只在训练集上进行训练,并每个一个周期计算模型在验证集上的误差,例如,每15次epoch(mini batch训练中的一个周期)
3. 当模型在验证集上的误差比上一次训练结果差的时候停止训练

以上是关于keras构建前馈神经网络(feedforward neural network)进行分类模型构建基于早停法(Early stopping)的主要内容,如果未能解决你的问题,请参考以下文章

keras构建前馈神经网络(feedforward neural network)进行分类模型构建并加入L2正则化

keras构建前馈神经网络(feedforward neural network)进行分类模型构建基于早停法(Early stopping)

神经网络算法推演-------前馈神经网络(feedforward neural network )

第六篇:Feedforward Networks 前向网络

前馈神经网络

Keras构建前馈神经网络并使用callbacks输出acc以及loss曲线(训练接验证集)及效果可视化