机器学习笔记:岭回归(L2正则化)
Posted UQI-LIUWJ
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了机器学习笔记:岭回归(L2正则化)相关的知识,希望对你有一定的参考价值。
1 岭回归(ridge regression)介绍
L2正则化的目的就是要让权重衰减到更小的值,在一定程度上减少过拟合的问题。
L2正则化可以使参数趋近于0,函数更加平滑
2 L2正则化的求解过程
半正定矩阵加上对角矩阵λI一定是可逆的,可以解决可能不可逆带来的问题。
3 从贝叶斯的角度看岭回归
和机器学习笔记:线性回归_UQI-LIUWJ的博客-CSDN博客中一样,我们仍然认为实际值和估计值之间的差距是高斯噪声,即y和f(w)满足:
另外,我们假设参数ω的分组服从以下先验分布
3.1 用最大后验法求解参数ω
找概率最大的w
以上是关于机器学习笔记:岭回归(L2正则化)的主要内容,如果未能解决你的问题,请参考以下文章