BAYES和朴素BAYES

Posted 比较大的小仙女

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了BAYES和朴素BAYES相关的知识,希望对你有一定的参考价值。

 

 

0 前言

    朴素贝叶斯算法仍然是流行的十大挖掘算法之一,该算法是有监督的学习算法,解决的是分类问题,如客户是否流失、是否值得投资、信用等级评定等多分类问题。该算法的优点在于简单易懂、学习效率高、在某些领域的分类问题中能够与决策树、神经网络相媲美。但由于该算法以自变量之间的独立(条件特征独立)性和连续变量的正态性假设为前提,就会导致算法精度在某种程度上受影响。接下来我们就详细介绍该算法的知识点及实际应用。 本文主要利用贝叶斯对缺失值不敏感这一优点,处理数据。

1 贝叶斯和朴素贝叶斯

  朴素贝叶斯公式:

 

从公式中可知,如果要计算X条件下Y发生的概率,只需要计算出:X的概率(P(X)),即X的先验概率、Y属于某类的概率(P(Y)),Y的先验概率、以及已知Y的某个分类下,事件X的概率(P(X|Y)),是后验概率下面详细解释三种概率值。即:

P(x)指在所有客户集中,某位22岁的本科女性客户,其月收入为7800元,在12次消费中合计支出4000元的概率;

P(Y)指流失与不流失在所有客户集中的比例;

P(X|Y)指在已知流失的情况下,一位22岁的本科女性客户,其月收入为7800元,在12次消费中合计支出4000元的概率。

 

2 原理实现和编程

  R语言中可以使用bnlearn包来对贝叶斯网络进行建模。但要注意的是,bnlearn包不能处理混合数据,所以先将连续数据进行离散化(因子型),再进行建模训练。

(我之前犯过这个错误,就是把混合数据直接建模训练,得出结果为空,还茫然不知所措。。。)

图片来源:https://blog.csdn.net/sinat_26917383/article/details/51569573

此外还有自助法(bootstrap),交叉验证(cross-validation)和随机模拟(stochastic simulation)等功能,附加的绘图功能需要调用 Rgraphviz and lattice 包。

 

3 总结

  

参考文献

 

以上是关于BAYES和朴素BAYES的主要内容,如果未能解决你的问题,请参考以下文章

朴素贝叶斯算法(Naive Bayes)

朴素贝叶斯(naive bayes)

Naive Bayes朴素贝叶斯法

Bayes 朴素贝叶斯实现垃圾邮件分类

朴素贝叶斯算法(Naive Bayes)

朴素贝叶斯(Naive Bayes)模型