机器学习贝叶斯分类

Posted CCH陈常鸿

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了机器学习贝叶斯分类相关的知识,希望对你有一定的参考价值。

先来看一个例子:

假设广东娱乐大学里面男生和女生人数比例是3:1,男生中留长发的比例是10%,女生留长发的比例是80%。现在随机观测到N个留长发的学生的背影,推论这N个学生中女生的比例。

这里假设学校总人数是U人,P(男)表示U人中男生的比例,即75%,P(长发|男)表示在男里面长发的比例,即10%,这就是个条件概率。那么,同样地,P(女)=25%,P(长发|女)=80%

现在要求的是长发中是女的概率,

化简后得:

机器学习(9)贝叶斯分类

贝叶斯基本公式(也称为朴素贝叶斯)就是:

机器学习(9)贝叶斯分类

其中P(A)表示A的先验概率(也称边缘概率),之所以为“先验”,是因为它不考虑到B方面的因素,P(B|A)表示A发生后B再发生的条件概率,所以条件概率也称为后验概率。

再用一个场景更实际的例子:

给定数据如下:

机器学习(9)贝叶斯分类

现在给我们的问题是,如果一对男女朋友,男生想女生求婚,男生的四个特点分别是不帅,性格不好,身高矮,不上进,请你判断一下女生是嫁还是不嫁?这是一个典型的分类问题,转为数学问题就是比较p(嫁|(不帅、性格不好、身高矮、不上进))与p(不嫁|(不帅、性格不好、身高矮、不上进))的概率,谁的概率大,我就能给出嫁或者不嫁的答案!

其中p(不帅、性格不好、身高矮、不上进|嫁) = p(不帅|嫁)*p(性格不好|嫁)*p(身高矮|嫁)*p(不上进|嫁),那么我就要分别统计后面几个概率,也就得到了左边的概率。

得出结果为:

因为朴素贝叶斯假设特征之间是独立的,尽管该假设不是很严谨,但实际应用效果不错。

这里仅仅讲朴素贝叶斯.


以上是关于机器学习贝叶斯分类的主要内容,如果未能解决你的问题,请参考以下文章

机器学习朴素贝叶斯应用实例

机器学习朴素贝叶斯应用实例

机器学习——朴素贝叶斯算法

机器学习:贝叶斯分类器——高斯朴素贝叶斯分类器代码实现

机器学习--贝叶斯分类算法及应用

机器学习——朴素贝叶斯分类器