漫步凸分析十一——分离定理

Posted 2023-03-02 会敲键盘的猩猩

令$C_1,C_2$是$R^n$中的非空集合，有一个超平面$H$，如果$C_1$含于其中的一个闭半空间而$C_2$含于相对立的闭半空间，那么我们称$H$分离(separate)$C_1,C_2$；如果$C_1,C_2$ 都不含于$H$，那么我们成$H$真(properly)分离$C_1,C_2$；如果存在$\\varepsilon>0$使得$C_1+\\varepsilon B$含于一个开半空间而$C_2+\\varepsilon B$含于相对立的开半空间，其中$B$是单位欧几里得球$\\x||x|\\leq 1\\$，那么我们称$H$强(strongly)分离$C_1,C_2$。(当然，$C_i+\\varepsilon B$是由这样的点$x$组成的，至少有点$y\\in C_i$使得$|x-y|\\leq\\varepsilon$)

有时候也会考虑其他类别的分离，例如严格(strict)分离，此时$C_1,C_2$属于对立的开半空间。然而因为真分离与强分离非常自然地对应于线性代数中的极值，所以目前为止这两种是最有用的。

$\\textbf定理11.1$ 令$C_1,C_2$是$R^n$中的非空集，当且仅当存在向量$b$使得

1. $\\inf\\\\langle x,b\\rangle|x\\in C_1\\\\geq\\sup\\\\langle x,b\\rangle|x\\in C_2\\$
   • $\\sup\\\\langle x,b\\rangle|x\\in C_1\\>\\inf\\\\langle x,b\\rangle|x\\in C_2\\$

   • 那么存在一个超平面，它真分离$C_1,C_2$。
     当且仅当存在一个向量$b$使得
     $\\quad$3. $\\inf\\\\langle x,b\\rangle|x\\in C_1\\>\\sup\\\\langle x,b\\rangle|x\\in C_2\\$

     那么存在一个超平面，它强分离$C_1,C_2$。

     感知机算法

     优化理论01----凸集保持凸性的运算线性锥不等式组分离超平面和支撑超平面超平面和半空间欧几里得球多面体单纯形

     斯坦福凸优化课程Video2.4

     斯坦福凸优化课程Video2.4

     斯坦福凸优化课程Video2.4

     最优化知识笔记整理汇总