过拟合及其解决方式

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了过拟合及其解决方式相关的知识,希望对你有一定的参考价值。

参考技术A

过拟合经常发生:

先看范例:

运行结果:

模型在训练集上的精度是98.5%, 在测试集上的精度是90.0%,显然发生过拟合了。

解决办法:

加入Dropout层 ,模型修改为:

运行结果:

加入权重正则化 ,模型修改为

运行结果:

模型在训练集上的精度是86.3%, 在测试集上的精度是87.4%,显然增加过Dropout+L2后,模型过拟合好了,但又发生了欠拟合
把Epochs增加为:20,其运行结果:

模型在训练集上的精度是88.02%, 在测试集上的精度是88.7%

结论:

以上是关于过拟合及其解决方式的主要内容,如果未能解决你的问题,请参考以下文章

5. 过拟合及其避免

动手学pytorch-过拟合欠拟合

神经网络:欠拟合和过拟合

过拟合怎么办

深度学习基础过拟合及其抑制

机器学习基础:六种方法帮你解决模型过拟合问题