动态规划回溯搜索分治算法分支限界算法

Posted 安理大数学建模

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了动态规划回溯搜索分治算法分支限界算法相关的知识,希望对你有一定的参考价值。

数学建模指南

1.热爱建模

2.好好生活

3.特别的人关注数学建模

4.你好,建模人

This browser does not support music or audio playback. Please play it in WeChat or another browser.

 ——

动态规划、回溯搜索、分治算法、分支限界算法
动态规划、回溯搜索、分治算法、分支限界算法

动态规划、回溯搜索、分治算法、分支限界算法

作为常用的四类算法,他们之间也有着紧密的联系:

分治法和动态规划法:二者都要求原问题具有最优子结构性质,都将原问题分成若干个子问题,然后将子问题的解合并,形成原问题的解。

回溯法和分支限界法:一种在问题的解空间树上搜索问题解的算法。

现在我来给大家仔细介绍它们吧!

动态规划、回溯搜索、分治算法、分支限界算法

01

                    动态规划

动态规划(dynamic programming)是运筹学的一个分支,它把多阶段过程转化为一系列单阶段问题逐个求解是求解决策过程(decision process)最优化的数学方法。

动态规划、回溯搜索、分治算法、分支限界算法

基本思想:动态规划算法通常用于求解具有某种最优性质的问题。与分治法类似,其基本思想也是将待求解问题分解成若干个子问题,先求解子问题,然后从这些子问题的解得到原问题的解,但分冶法得到的子问题过多,而动态规划能保存已解决的子问题的答案,而在需要时再找出已求得的答案,这样就可以避免大量的重复计算,这也是其一大优势。

 基本定理和基本方程

基本定理通常略述为:不论过去的状态和决策如何,对于前面的决策形成的当前的状态而言,余下的各个决策必定构成最优策略。

根据基本定理的推论可以得到动态规划的基本方程:

egin{cases}f_k(x_k)=optleft{varphi(v_k(x_k,u_k),f_{k+1}(x_{k+1})) ight},x_{k+1}=T_k(x_k,u_k),k=1,2,cdots,n \ f_{n+1}(x_{n+1})=delta(x_{n+1})end{cases}(1)

基本方程在动态规划中起着更为本质的作用。

02

回溯算法

动态规划、回溯搜索、分治算法、分支限界算法

概念:回溯算法实际上一个类似枚举的搜索尝试过程,当发现已不满足求解条件时,就“回溯”返回,尝试别的路径。可以理解为:

回溯法是一种选优搜索法,按选优条件向前搜索而满足回溯条件的某个状态的点称为“回溯点”。

它适用于解一些组合数较大的问题,有着可见回溯法有“通用解题方法”的美称。

基本思想

回溯法是一个既带有系统性又带有跳跃性的的搜索算法。它在包含问题的所有解的解空间树中,按照深度优先的策略,从根结点出发搜索解空间树。算法搜索至解空间树的任一结点时,总是先判断该结点是否肯定不包含问题的解。而回溯法在用来求问题的任一解时,只要搜索到问题的一个解就可以结束。

动态规划、回溯搜索、分治算法、分支限界算法

1、针对所给问题,定义问题的解空间,它至少包含问题的一个(最优)解。

2、确定易于搜索的解空间结构,使得能用回溯法方便地搜索整个解空间 。

3、以深度优先的方式搜索解空间,并且在搜索过程中用剪枝函数避免无效搜索。

4、确定了解空间的组织结构后,回溯法就从开始结点(根结点)出发,以深度优先的方式搜索整个解空间。

——回溯算法解决问题的一般步骤


03

                 分支限界法

动态规划、回溯搜索、分治算法、分支限界算法

分枝界限法能够使用在混合整数规划问题上,其为一种系统化的解法,以一般线性规划之单形法解得最佳解后,将非整数值之决策变量分割成为最接近的两个整数,分列条件,加入原问题中,形成两个子问题(或分枝)分别求解,如此便可求得目标函数值的上限(上界)或下限(下界),从其中寻得最佳解。                                                                                     ——概念

动态规划、回溯搜索、分治算法、分支限界算法


有约束条件的最优化问题的所有可行解(数目有限)空间进行搜索该算法在具体执行时,把全部可行的解空间不断分割为越来越小的子集(称为分支),并为每个子集内的解的值计算一个下界或上界(称为定界)。在每次分支后,对凡是界限超出已知可行解值那些子集不再做进一步分支。这样,解的许多子集(即搜索树上的许多结点)就可以不予考虑了,从而缩小了搜索范围。这一过程一直进行到找出可行解为止,该可行解的值不大于任何子集的界限。因此这种算法一般可以求得最优解。



分枝限界法的步骤

一:如果问题的目标为最小化,则设定目前最优解的值Z=∞;

二:根据分枝法则(Branching rule),从尚未被洞悉(Fathomed)节点(局部解)中选择一个节点,并在此节点的下一阶层中分为几个新的节点;

三:计算每一个新分枝出来的节点的下限值(Lower bound,LB);

四:对每一节点进行洞悉条件测试,若节点满足以下任意一个条件,则此节点可洞悉而不再被考虑;

五:判断是否仍有尚未被洞悉的节点,如果有,则进行步骤二,如果已无尚未被洞悉的节点,则演算停止,并得到最优解。

动态规划、回溯搜索、分治算法、分支限界算法

04

                   分治算法

动态规划、回溯搜索、分治算法、分支限界算法

分治算法是将一个规模为N的问题分解为K个规模较小的子问题,这些子问题相互独立且与原问题性质相同。求出子问题的解,就可得到原问题的解。即一种分目标完成程序算法,简单问题可用二分法完成。

动态规划、回溯搜索、分治算法、分支限界算法

 基本思想                                                              


某些问题处理的数据相当多,或求解过程相当复杂,使得直接求解法在时间上相当长,或者根本无法直接求出,我们往往先把它分解成几个子问题,找到求出这几个子问题的解法后,再找到合适的方法,把它们组合成求整个问题的解法。

解题的一般步骤:

(1)分解,将要解决的问题划分成若干规模较小的同类问题;

(2)求解,当子问题划分得足够小时,用较简单的方法解决;

(3)合并,按原问题的要求,将子问题的解逐层合并构成原问题的解。

动态规划、回溯搜索、分治算法、分支限界算法


1

END

1

图文:赵龙

排版:何思洋

审核:胡晚晴

贴士


以上是关于动态规划回溯搜索分治算法分支限界算法的主要内容,如果未能解决你的问题,请参考以下文章

六中常用算法设计:穷举法分治法动态规划贪心法回溯法和分支限界法

学小实,学大事 | 动态规划算法

五大常用算法:分治动态规划贪心回溯和分支界定

五类常见算法小记 (递归与分治,动态规划,贪心,回溯,分支界限法)

五大算法:分治,贪心,动态规划,回溯,分支界定

五大常用算法:分治动态规划贪心回溯和分支界定