过拟合与欠拟合

Posted 2021-05-24 Data+Science+Insight

过拟合与欠拟合

读书笔记--《百面机器学习》

作者：诸葛越，葫芦娃

 

关键词：

在模型评估与调整的过程中，我们往往会遇到“过拟合”或者“欠拟合”的情况。如何有效地识别”过拟合“和”欠拟合“现象，并有针对性地进行模型调整，是不断改进机器学习模型的关键。特别是在实际项目中，采用多种方法、从多个角度降低”过拟合“和”欠拟合“的风险是算法工程师应当具备的领域知识。

 

在模型评估过程中，过拟合和欠拟合具体是指什么现象？

 

过拟合是指模型对于训练数据拟合呈过当的情况，反映到评估指标上，就是模型在训练集上的表现很好，但在测试集和新数据上的表现较差。欠拟合指的是模型在训练和预测时表现都不好的情况。图2.5形象地描述了过拟合和欠拟合的区别。

 

欠拟合时模型模型没有很好地捕捉到数据的特征，过拟合时模型过于复杂，以至于把部分甚至全部噪声信息也当做特征学习进来，导致模型的泛化能力差，在后期应用中很容易输出错误的预测结果。

能否说出几种降低过拟合和欠拟合风险的方法？

 

降低过拟合风险的方法：

 

第一，从数据入手，获得更多的训练数据。使用