分裂算法

Posted 2020-11-02 optimization-dkk

从算子的角度来解释一阶算法，令为一个算子，我们求解问题：找到  使得  满足，对应于最优化问题，我们可以令, 这样问题就等价于求解，那么怎么找到这样的呢。 我们寻找一种迭代策略，即找到一种算子F，已知 , 令

                                                                       

这种F满足当 有。于是我们只要寻找满足这种条件的算子即可。接下来介绍几个算法

• Forward Operator

                                                                                 =>>>        

等价于梯度算法（Gradient Method）。

• Backward Operator

                                                                      =>>>         

将算子的逆化简，进一步转化为：

                                                                

移项得到：

                                                                    

等价于临近点方法（Proximal Point Method）。

• Reflection Operator

                                                                         =>>>>>>    

 

• Forward-Backward Splitting Operator