机器学习笔记:岭回归(L2正则化)

Posted UQI-LIUWJ

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了机器学习笔记:岭回归(L2正则化)相关的知识,希望对你有一定的参考价值。

1 岭回归(ridge regression)介绍

        L2正则化的目的就是要让权重衰减到更小的值,在一定程度上减少过拟合的问题。

 

L2正则化可以使参数趋近于0,函数更加平滑 

2 L2正则化的求解过程

 

 半正定矩阵加上对角矩阵λI一定是可逆的,可以解决可能不可逆带来的问题。

3 从贝叶斯的角度看岭回归

机器学习笔记:线性回归_UQI-LIUWJ的博客-CSDN博客中一样,我们仍然认为实际值和估计值之间的差距是高斯噪声,即y和f(w)满足:

另外,我们假设参数ω的分组服从以下先验分布

 

3.1 用最大后验法求解参数ω 

找概率最大的w

 

以上是关于机器学习笔记:岭回归(L2正则化)的主要内容,如果未能解决你的问题,请参考以下文章

机器学习中正则化项L1和L2的直观理解

机器学习算法:线性回归的改进-岭回归-黑马程序员

机器学习40讲 学习笔记13 线性降维

机器学习-正则化+回归与分类辨析

机器学习:模型泛化(L1L2 和弹性网络)

机器学习-正则化(岭回归lasso)和前向逐步回归