机器学习实战精读--------回归

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了机器学习实战精读--------回归相关的知识,希望对你有一定的参考价值。

回归的目的是预测数值型的目标值

神经网络学习机理:分解和整合

回归:求回归系数的过程

最小二乘法:它的主要思想就是选择未知参数,使得理论值与观测值之差的平方和达到最小

欠拟合:模型没有很好地捕捉到数据特征,不能够很好地拟合数据,模型欠拟合将不能取得最好的预测结果。

过拟合:模型把数据学习的太彻底,以至于把噪声数据的特征也学习到了,这样就会导致在后期测试的时候不能够很好地识别数据,即不能正确的分类,模型泛化能力太差

岭回归:岭回归分析是一种用于存在多重共线性(自变量高度相关)数据的技术。在多重共线性情况下,尽管最小二乘法(OLS)对每个变量很公平,但它们的差异很大,使得观测值偏移并远离真实值。岭回归通过给回归估计上增加一个偏差度,来降低标准误差。

本文出自 “付炜超” 博客,谢绝转载!

以上是关于机器学习实战精读--------回归的主要内容,如果未能解决你的问题,请参考以下文章

机器学习实战精读--------K-近邻算法

机器学习实战精读--------决策树

机器学习实战精读--------Apriori算法

机器学习实战精读--------奇异值分解(SVD)

机器学习实战精读--------主成分分析(PCA)

机器学习实战精读--------FP-growth算法