机器学习中的数学以及应用

Posted 谦曰盛

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了机器学习中的数学以及应用相关的知识,希望对你有一定的参考价值。

应用举例:

  主成分分析PCA

  推荐系统

 

 

测度论

 随机变量X的特征函数

 

凸优化问题

  优化问题的目标函数及限制条件均为凸函数。

  局部最优问题等价于全局最优。

  凸优化问题求解工具(cvx等)。

凸集合

集合中两点的连线均在集合内

凸函数(与高数中的凸函数相反)

常见的:

凸组合

凸闭包

  

 

 凸集合保凸运算

  任意多个凸集合的交集仍是凸集合

  凸集合的线性映射仍是凸集合

 

共轭函数 f*

 

 

 

拉格朗日对偶函数

  为什么研究拉格朗日对偶函数?

  对偶函数为原问题提供下界,无论原函数如何,拉格朗日对偶函数总为凹函数

 

几乎所有的凸优化问题都满足强对偶性

slater条件

 

 

 

以上是关于机器学习中的数学以及应用的主要内容,如果未能解决你的问题,请参考以下文章

机器学习中的数学之开宗明义篇

机器学习中的数学之开宗明义篇

机器学习中的线性代数

机器学习中的数学-强大的矩阵奇异值分解(SVD)及其应用

机器学习中的数学-强大的矩阵奇异值分解(SVD)及其应用

机器学习中的数学-强大的矩阵奇异值分解(SVD)及其应用