机器学习训练模型的一般错误

Posted 学会思考の小R

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了机器学习训练模型的一般错误相关的知识,希望对你有一定的参考价值。

前言

在我们构建完机器学习模型,经常会遇到训练得到模型无法正确预测,这之后我们往往会采取下面的一些方案:

  • 增加训练数据
  • 减少特征的个数
  • 增加更多的特征
  • 增加多项式特征(X1*X2 ...)
  • 增大lambda的值
  • 减小lambda的值

若是不了解模型具体的问题所在,而根据随便拿出一个方案去试错,这往往都是既费力又费心,往往个把月过去了仍然在进行模型的调试。

CV 数据集 [数据集处理]

将一个数据集先按下面进行划分:

  • Training set: 60%
  • Cross validation set: 20%
  • Test set: 20%

计算模型误差 [误差计算]

1.线性回归,直接使用代价函数即可,如下:

for i = 1:m
    %依次递增的数据量进行训练模型
    theta = trainLinearReg(X(1:i,:), y(1:i), lambda);
    %train数据集的测试,使用时去除lambda
    error_train(i) =linearRegCostFunction(X(1:i,:), y(1:i), theta, 0);
    %cv数据集的测试
    error_val(i) = linearRegCostFunction(Xval, yval, theta, 0);
end

2.logistic回归,引出0-1错分率:

过拟合和欠拟合 [误差分析]

欠拟合:高偏差,Jcv近似于Jtrain。
过拟合:高方差,Jcv远大于Jtrain。
这2个问题是机器学习中最经典的错误情况,很多现象也是由它们一手操办的,来看看下面的3种情况:


样本

根据上面误差计算部分得来的Training set和cv set得到相应图片


High bias:Jcv与Jtrain非常接近,加入过多样本,对模型的优化没作用


High variance:Jcv远大于Jtrain,增加样本,可以对模型进行优化


多项式特征

多项式特征的选择的多少往往也会给我们带来很大的麻烦,过多的多项式特征会使模型过拟合,而过少的多项式特征会使模型欠拟合。
那么我们该如何进行多项式的选择,下面便引入解决方案:

  1. 使用training set训练每一个多项式,得出相应的theta值。
  2. 使用cv set获得误差最小的多项式。
  3. 最后使用test set对多项式进行评估。

lambda

正规化的引入,就是为了防止过拟合,而lambda对拟合程度有着很大影响。若是没有lambda则会出现过拟合现象;而若是lambda过大则会出现欠拟合现象。

那怎么选择一个较好的lambda呢?
方法类似于多项式特征的选取,稍有不同的就是自己要定义lambda集合。

测试代码段

for i = 1:length(lambda_vec)
        lambda = lambda_vec(i);
        theta = trainLinearReg(X, y, lambda);
        %评估时切记不可在cv set和test set中加入lambda值
        error_train(i) = linearRegCostFunction(X, y, theta, 0);
        error_val(i) = linearRegCostFunction(Xval, yval, theta, 0);
end

测试结果:

学习曲线

很多情况下因为特征很多,我们往往很难将数据展现出来,而可视化的数据往往给我们的分析带来了很大的帮助;learning curve的绘制无疑是一大助手,learning curve通常是由training set和cv set的误差绘制出来的,中间最重要的就是将training set使用递增的方式进行训练,而cv set则是全部进行使用。如【计算模型误差的代码部分】。

以上是关于机器学习训练模型的一般错误的主要内容,如果未能解决你的问题,请参考以下文章

机器学习总结之第二章模型评估与选择

《python机器学习—预测分析核心算法》:构建预测模型的一般流程

机器学习模型的选择和评估

机器学习基本概念解析,机器学习算法概论,机器学习疑难解答,代码分享

机器学习基本概念解析,机器学习算法概论,机器学习疑难解答,代码分享

机器学习100天:005 数据预处理之划分训练集