过拟合 VS 欠拟合 偏差 VS 方差

Posted nxf-rabbit75

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了过拟合 VS 欠拟合 偏差 VS 方差相关的知识,希望对你有一定的参考价值。

1. 过拟合 欠拟合

过拟合:在训练集(training set)上表现好,但是在测试集上效果差,也就是说在已知的数据集合中非常好,但是在添加一些新的数据进来训练效果就会差很多,造成这样的原因是考虑影响因素太多,超出自变量的维度过于多了;

欠拟合:模型拟合不够,在训练集(training set)上表现效果差,没有充分的利用数据,预测的准确度低;

 

高阶多项式回归的过拟合与欠拟合

技术图片

 

逻辑回归的过拟合与欠拟合

技术图片

 

2. 偏差 方差

偏差:首先error=bias+variance;bias反映的是模型在样本上的输出与真实值之间的误差,即模型本身的精确度;

方差:Variance反映的是模型每一次输出结果与模型输出期望之间的误差,即模型的稳定性;

技术图片

  • 低偏差低方差时,是我们所追求的效果,此时预测值正中靶心(最接近真实值),且比较集中(方差小)。
  • 低偏差高方差时,预测值基本落在真实值周围,但很分散,此时方差较大,说明模型的稳定性不够好。
  • 高偏差低方差时,预测值与真实值有较大距离,但此时值很集中,方差小;模型的稳定性较好,但预测准确率不高,处于"一如既往地预测不准"的状态。
  • 高偏差高方差时,是我们最不想看到的结果,此时模型不仅预测不准确,而且还不稳定,每次预测的值都差别比较大。

 

 

以上是关于过拟合 VS 欠拟合 偏差 VS 方差的主要内容,如果未能解决你的问题,请参考以下文章

欠拟合过拟合偏差方差

误差方差偏差噪声训练误差+验证误差偏差方差窘境错误率和误差过拟合与欠拟合

机器学习中过拟合欠拟合与方差偏差的关系是什么?

偏差与方差,欠拟合与过拟合的关系

评价学习算法:欠拟合和过拟合,方差和偏差,学习曲线,不同神经网络架构优缺点

机器学习过拟合与欠拟合!