凸优化

Posted 段子手实习生

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了凸优化相关的知识,希望对你有一定的参考价值。

机器学习中的大多数问题可以归结为最优化问题。把一些典型的问题用最优化的方法建立数学模型,再最优化的方式求解。

 

我们再看看数据挖掘和机器学习中哪些是最优化问题,哪些不是。

 

名称 是否最优化 其他
关联规则 支持度和置信度;
其实就是联合概率p(x,y)和条件概率p(y|x)。
典型的创造概念,但是没有新的东西
决策树 取信息增益大的结点
线性回归 最小化误差平方
最大熵 熵最大
logistic 回归 最大似然
SVM 最小化间隔
HMM 最大似然
贝叶斯 最小化误差
矩阵分解的推荐系统 用户和商品的隐状态向量

以上是关于凸优化的主要内容,如果未能解决你的问题,请参考以下文章

凸优化——凸优化在数学优化中的特殊地位

凸优化(二)凸锥与常见凸集

机器学习+优化问题的种类如何优化凸优化非凸优化对偶问题KKT条件

非凸优化的方法

凸优化从入门到放弃(目录)

凸集,凸函数,凸优化问题。