模型评估与模型选择

Posted 0xcafe

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了模型评估与模型选择相关的知识,希望对你有一定的参考价值。

原文链接:https://www.mlpod.com/mlbase/66.html

1. 训练误差与测试误差

当损失函数给定时,基于损失函数的模型训练误差和魔性的测试误差就自然成为学习方法评估的标准。注意,统计学习方法具体采用的损失函数未必是评估时所使用的损失函数

2. 过拟合与模型选择

当假设空间有不同复杂度的模型时,就要面临模型选择问题。我们希望选择一个与假设空间中存在的“真”模型更接近的模型。如果一味追求提高对训练数据的预测能力,复杂度往往会比“真”模型更高,这种现象称为过拟合。下图为模型复杂度与训练误差的关系。

在这里可以更详细关于过拟合的解释:用简单易懂的语言描述「过拟合 overfitting」?

技术分享图片

下面介绍两种常用模型选择方法:正则化和交叉验证

以上是关于模型评估与模型选择的主要内容,如果未能解决你的问题,请参考以下文章

第二章 模型评估与选择

[MachineLearning]模型评估与模型选择

模型评估与模型选择

周志华机器学习--模型评估与选择

周志华 《机器学习初步》模型评估与选择

一起来读西瓜书:第二章 模型评估与选择