约束优化方法

Posted kisetsu

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了约束优化方法相关的知识,希望对你有一定的参考价值。

一般形式的约束优化问题是:

技术分享图片

 

有以下相关概念:

1. 可行域——满足约束条件的x的集合

2.x点的有效约束——在x点等号成立的约束

3.可行方向

技术分享图片

在x*处的可行方向的集合记为FD(x*,X)

4.线性化可行方向

技术分享图片

在x*处的线性化可行方向的集合记为LFD(x*,X)

5.序列可行方向

技术分享图片

在x*处的线序列可行方向的集合记为SFD(x*,X)

 

几个约束规范条件

1.约束规范条件(CQ):LFD(x*,X)=SFD(x*,X)

2.线性函数约束规范条件(LFCQ):所有的约束函数都是线性函数

3.线性无关约束规范条件(LICQ):约束函数的梯度线性无关

 可以证明:线性函数约束规范条件或线性无关约束规范条件成立,则约束规范条件成立

 

约束优化的一阶最优条件称为kkt条件

技术分享图片

kkt条件从上到下依次称为:驻点条件、可行性条件、可行性条件、乘子非负条件、互补松弛条件

相应的,有kkt定理:如果约束规范条件满足,则存在λi*(i=1,2,...,m),使得kkt条件成立

 

与kkt条件有密切联系的一个函数是Lagrange函数:

技术分享图片

关于约束优化问题,还有几个一阶和二阶最有条件:

首先定义LFD的子集F2

 技术分享图片

一阶最优性充分条件:

技术分享图片

二阶最优性必要条件:

技术分享图片

二阶最优性充分条件

技术分享图片

 

以上是关于约束优化方法的主要内容,如果未能解决你的问题,请参考以下文章

无约束优化方法-直接方法(坐标轮换法)

牛顿法求解无约束最优化问题的方法

约束优化方法

优化方法基础系列-优化问题分类

优化理论19----DNRTR无约束优化的对角拟牛顿修正方法

四种最优化方法复盘总结