拉格朗日乘数法

Posted dicksonjyl

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了拉格朗日乘数法相关的知识,希望对你有一定的参考价值。

拉格朗日乘数法

 

拉格朗日乘数法是一个理论结果,用于求解带有等式约束的函数极值。对于如下问题:

技术分享图片                       

构造拉格朗日乘子函数:

技术分享图片 

在最优点处对x和乘子变量的导数都必须为0:

技术分享图片 

 

解这个方程即可得到最优解。对拉格朗日乘数法更详细的讲解可以阅读任何一本高等数学教材。

 

机器学习中用到拉格朗日乘数法的地方有:

主成分分析

线性判别分析

流形学习中的拉普拉斯特征映射

隐马尔科夫模型

 

以上是关于拉格朗日乘数法的主要内容,如果未能解决你的问题,请参考以下文章

ML(附录4)——拉格朗日乘数法

拉格朗日乘数法

拉格朗日乘数法

[转] 拉格朗日乘数法

拉格朗日乘数法

寻找“最好”——函数和泛函的拉格朗日乘数法