机器学习中L1正则化和L2正则化是什么?区别是什么?

Posted Data+Science+Insight

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了机器学习中L1正则化和L2正则化是什么?区别是什么?相关的知识,希望对你有一定的参考价值。

机器学习中L1正则化和L2正则化是什么?区别是什么?

我们所说的正则化,就是在原来的loss function的基础上,加上了一些正则化项或者称为模型复杂度惩罚项。

结构风险最小化: 在经验风险最小化的基础上(也就是训练误差最小化),尽可能采用简单的模型,以此提高泛化预测精度。

L1和L2加入后的函数图像:

L0范数<

以上是关于机器学习中L1正则化和L2正则化是什么?区别是什么?的主要内容,如果未能解决你的问题,请参考以下文章

深度学习L1正则化和L2正则化

L1、L2正则化知识详解

L1,L2正则化本质

机器学习正则化(L1正则化L2正则化)

正则化项L1和L2的直观理解及L1不可导处理

L1正则化和L2正则化(从解空间角度)