关于凸优化的一些简单概念

Posted 合唱团abc

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了关于凸优化的一些简单概念相关的知识,希望对你有一定的参考价值。

凸集的定义为:

  

  其几何意义表示为:如果集合C中任意2个元素连线上的点也在集合C中,则C为凸集。其示意图如下所示:

  

  常见的凸集有:

  n维实数空间;一些范数约束形式的集合;仿射子空间;凸集的交集;n维半正定矩阵集;这些都可以通过凸集的定义去证明。

 

凸函数的定义为:

  

  其几何意义表示为函数任意两点连线上的值大于对应自变量处的函数值,示意图如下:

  

  凸函数的一阶充要条件为:

  

  其中要求f一阶可微。

  二阶充要条件为:

  

  其中要求f二阶可微,表示二阶导数需大于0才是凸函数。

   常见的凸函数有:指数函数族;非负对数函数;仿射函数;二次函数;常见的范数函数;凸函数非负加权的和等。这些可以采用上面2个充要条件或者定义去证明。

  凸优化问题(OPT)的定义为:

  

  即要求目标函数是凸函数,变量所属集合是凸集合的优化问题。或者目标函数是凸函数,变量的约束函数是凸函数(不等式约束时),或者是仿射函数(等式约束时)。

  对于凸优化问题来说,局部最优解就是全局最优解

  常见的凸优化问题包括:

  线性规划(LP):该问题是优化下面的式子:

   

  其中那个不常见的奇怪符号表示按元素小于等于,后面出现类似符号可以类似理解。

  二次规划(QP):该问题是优化下面的式子:

   

  二次约束的二次规划(QCQP):该问题是优化下面的式子:

   

  半正定规划(SDP):该问题是优化下面的式子:

  

 

 

 

http://www.cnblogs.com/tornadomeet/p/3300132.html

 

以上是关于关于凸优化的一些简单概念的主要内容,如果未能解决你的问题,请参考以下文章

机器学习凸集凸函数凸优化凸优化问题非凸优化问题概念详解

机器学习凸集凸函数凸优化凸优化问题非凸优化问题概念详解

非凸优化的方法

凸集,凸函数,凸优化问题。

机器学习:支持向量机

凸集与非凸集,凸函数与凹函数,凸优化