FP增长算法

Posted Guet+第一组

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了FP增长算法相关的知识,希望对你有一定的参考价值。

Apriori原理:如果某个项集是频繁的,那么它的所有子集都是频繁的。

Apriori算法:

 输入支持度阈值t和数据集
 生成含有K个元素的项集的候选集(K初始为1)
 对候选集每个项集,判断是否为数据集中某条记录的子集
       如果是:增加候选集的计数
 保留频繁集(计数>t)
 根据频繁集生成含有K+1个元素的项集候选集
 循环2-5,直至候选集为空

Apriori算法是有缺点的

缺点是:1.需要多长扫描 2.产生大量的候选频繁集 3.时间和空间复杂度高。

FP树增长算法是一种挖掘频繁项集的算法。Apriori算法虽然简单易实现,效果也不错,但是需要频繁地扫描数据集,IO费用很大。FP树增长算法有效地解决了这一问题,其通过两次扫描数据集构建FP树,然后通过FP树挖掘频繁项集。

背景知识

1.什么是项和项集?

比如我们在购物的时候,购物车内的每一件商品成为一项,若干个项的集合成为项集。例如啤酒,尿布成为一个二元项集。

2.什么是支持度?

支持度是在所有的项集中X,Y出现的可能性。

例如:购买商品的数据是(表示4条购物信息):

                                           ①啤酒,尿布,娃哈哈

                                           ②啤酒,方便面

                                           ③尿布,奶粉

                                           ④啤酒,尿布,洗发水

在这组数据中,啤酒,尿布出现的可能性就是这里面数据的概率。啤酒,尿布的支持度是2/4=50%.

尿布,奶粉的支持度是1/4=25%

3.什么是频繁项集?

我们首先设置一个最小阈值A,支持度大于A的项集就是频繁项集,小于A的项集被剔除。

比如 我们设置阈值为30%,在上面的例子中啤酒,尿布就是频繁项集,尿布,奶粉就要被剔除。

问题:如何求出频繁项集?

首先构造FP树 

然后通过FP树可以求出频繁项集

FP算法

其中istance表示购买次数,elements表示每次一次性购买的商品,每个字母表示商品。

步骤一:统计每个元素出现次数,保留频繁元素(假设次数>3),按照元素出 现次数降序排序。

其中h,j,p,w,v,u,n,o,q,p,e,m的次数是小于等于3的.因此把它们去掉,然后把其他的字母按照次数从大到小排列。

 步骤二:构建FP树

通过上面的序列按照每一行进入树根初始化树叶。如果没有相同的字母就重新创建叶子节点,每个叶子节点有字母其次数。

如图所示

 

步骤三:FP树中找到元素的前缀路径(以元素结尾的路径)

 

 为了方便查找,用的链表来加快寻找的前缀路径。

通过上面的操作就得到了如下所示的信息。

 

步骤四:根据前缀路径构造条件FP树

 因此我们可以得到以t为结尾的频繁项集:y,tx,t,z,t....一直到x,y,z,t。

步骤5:递归构造下一层条件FP树,直至条件FP树为空.

总结:

有一个误区:不是在FP树上找频繁项,而是在条件FP树上找频繁项。    
扫描数据,得到所有频繁一项集的计数,然后删除支持度低于阈值的项,将一项频繁集放入项头表,并按照支持度降序排列。
扫描数据,将读到的原始数据剔除非频繁1项集,并按照支持度降序排列。
读入排序后的数据集,插入FP树,插入时按照排序后的顺序,插入FP树中,排序靠前的节点是祖先节点,而靠后的是子孙节点。如果有共用的祖先,则对应的公用祖先节点计数加1。插入后,如果有新节点出现,则项头表对应的节点会通过节点链表链接上新节点。直到所有的数据都插入到FP树后,FP树的建立完成。
从项头表的底部项依次向上找到项头表项对应的条件模式基。从条件模式基递归挖掘得到项头表项项的频繁项集。
如果不限制频繁项集的项数,则返回步骤4所有的频繁项集,否则只返回满足项数要求的频繁项集。

以上是关于FP增长算法的主要内容,如果未能解决你的问题,请参考以下文章

javascript 用于生成FP阵列单行的片段

Spark FPGrowth (Frequent Pattern Mining)

Spark 中的并行 FP 增长

Fp关联规则算法计算置信度及MapReduce实现思路

FP-Growth算法之频繁项集的挖掘(python)

在Python中使用FP-Growth算法确定最频繁的模式