常见算法——贪心算法&分治算法
Posted 水之Coding工房
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了常见算法——贪心算法&分治算法相关的知识,希望对你有一定的参考价值。
贪心算法
Greedy Algorithm
贪心算法有很多经典的应用,比如霍夫曼编码、Prim和Kruskal最小生成树算法、还有Dijkstra 单源最短路径算法。那么问题来了,贪心算法到底是什么?我们该如何理解它呢?
关于贪心算法,我们可以看看一个著名的问题——“背包”问题。
假设有一个可以容纳10kg物品的背包,可以装各种物品。我们有以下5样物品(如下表),每样物品的总量和总价值都各不相同。为了让背包中所装物品的总价值最大,我们如何选择在背包中装哪些物品?每样物品又该装多少呢?
第一步,当遇到这类问题的时候,首先要联想到贪心算法:
针对一组数据,我们定义了
限制值
和
期望值
,希望从中选出几个数据,
在满足限制值的情况下,期望值最大。
类比到刚刚的例子,限制值就是重量不能超过10kg,期望值就是物品的总价值。这组数据就是5样物品。我们从中选出一部分,满足重量不超过10kg,并且总价值最大。
第二步,尝试看下这个问题是否可以用贪心算法解决:
每次选择当前情况下,在对限制值同等贡献量的情况下,对期望值贡献最大的数据。类比到刚刚的例子,我们每次都从剩余的物品里面,选择单价最高的,也就是重量相同的情况下,对贡献值(价值)最大的物品。
第三步,举几个例子看下贪心算法产生的结果是否是最优的。
大部分情况下,举几个例子验证一下就可以了。
严格地证明贪心算法的正确性,是非常复杂的,需要涉及比较多的数学推理。
而且,从实践的角度来说,大部分能用贪心算法解决的问题,贪心算法的正确性都是显而易见的,也不需要严格的数学推导证明。
但是实际上泼冷水地说明一句,用贪心算法解决问题的思路,并不总是能给出最优解。
在这个问题上,贪心算法不工作的主要原因是,前面的选择,会影响后面的选择。如果我们第一步从顶点1走到顶点3,那接下来面对的顶点和边,跟第一步从顶点1走到顶点4,是完全不同的。所以,即便我们第一步选择最优的走法(边最短),但有可能因为这一步选择,导致后面每一步的选择都很糟糕,最终也就无缘全局最优解了。
贪心算法实践分析
对于贪心算法的理解,我们再通过一两个具体的栗子来加深记忆。
分糖果
我们有m个糖果和n个孩子。现在要把糖果分给这些孩子吃,但是糖果少,孩子多(m<n),所以糖果只能分配给一部分孩子。
每个糖果的大小不等,这 m 个糖果的大小分别是 s1,s2,s3,……,sm。除此之外,每个孩子对糖果大小的需求也是不一样的,只有糖果的大小大于等于孩子的对糖果大小的需求的时候,孩子才得到满足。假设这n个孩子对糖果大小的需求分别是 g1,g2,g3,……,gn。
那么问题来了,如何分配糖果,能尽可能满足最多数量的孩子?
我们可以把这个问题抽象成,从 n 个孩子中,抽取一部分孩子分配糖果,让满足的孩子的个数(期望值)是最大的。这个问题的限制值就是糖果个数m。
现在来看看如何用贪心算法来解决。对于一个孩子来说,如果小的糖果可以满足,我们就没必要用更大的糖果,这样更大的就可以留给其他对糖果大小需求更大的孩子。另一方面,对糖果大小需求小的孩子更容易被满足,所以,我们可以从需求小的孩子开始分配糖果。因为满足一个需求大的孩子跟满足一个需求小的孩子,对我们期望值的贡献是一样的。
我们每次从剩下的孩子中,找出对糖果大小需求最小的,然后发给他剩下的糖果中能满足他的最小的糖果,这样得到的分配方案,也就是满足的孩子个数最多的方案。
钱找零
假设我们有 1 元、2 元、5 元、10 元、20 元、50 元、100 元这些面额的纸币,它们的张数分别是 c1、c2、c5、c10、c20、c50、c100。我们现在要用这些钱来支付A元,最少要用多少张纸币呢?
在生活中,我们肯定是先用面值最大的来支付,如果不够,就继续用更小一点面值的,以此类推,最后剩下的用 1 元来补齐。在贡献相同期望值(纸币数目)的情况下,我们希望多贡献点金额,这样就可以让纸币数更少,这就是一种贪心算法的解决思路。直觉告诉我们,这种处理方法就是最好的。而如果要在理论上去证明的话,所运用的知识太高深我们就不长篇大论了。
分治算法
Divide and Conquer
分治算法的核心思想其实就是四个字,分而治之,也就是将原问题划分成n个规模较小,并且结构与原问题相似的子问题,递归地解决这些子问题,然后再合并其结果,就得到原问题的解。
分治算法应用举例
分治算法思想的应用是非常广泛的,并不仅限于指导编程和算法设计。它还经常用在大数据处理的场景中。所谓数据结构和算法,大部分都是基于内存存储处理。但是,如果要处理的数据量非常大,没法一次性放到内存中,这个时候,这些数据结构和算法就无法工作了。
比如,给10GB的订单文件按照金额排序这样一个需求,看似是一个简单的排序问题,但是因为数据量大,有10GB,而我们的机器的内存可能只有2、3GB这样子,无法一次性加载到内存,也就无法通过单纯地使用快排、归并等基础算法来解决了。
要解决这种数据量大到内存装不下的问题,我们就可以利用分治的思想。我们可以将海量的数据集合根据某种方法,划分为几个小的数据集合,每个小的数据集合单独加载到内存来解决,然后再将小数据集合合并成大数据集合。实际上,利用这种分治的处理思路,不仅仅能克服内存的限制,还能利用多线程或者多机处理,加快处理的速度。
比如刚刚举的那个例子,给10GB的订单排序,我们就可以先扫描一遍订单,根据订单的金额,将10GB的文件划分为几个金额区间。比如订单金额为1到100元的放到一个小文件,101到200之间的放到另一个文件,以此类推。这样每个小文件都可以单独加载到内存排序,最后将这些有序的小文件合并,就是最终有序的10GB订单数据了。这就是分治思想的一大体现。
■ Over ■
本次贪心算法&分治算法专题
就完整结束啦
我是水水
我们下期再见
下期的主题将是
动态规划
祝学习愉快鸭~
历史
史
文
章
有什么问题的话欢迎在后台输入框中回复哦~
以上是关于常见算法——贪心算法&分治算法的主要内容,如果未能解决你的问题,请参考以下文章