机器学习贝叶斯分类
Posted CCH陈常鸿
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了机器学习贝叶斯分类相关的知识,希望对你有一定的参考价值。
先来看一个例子:
假设广东娱乐大学里面男生和女生人数比例是3:1,男生中留长发的比例是10%,女生留长发的比例是80%。现在随机观测到N个留长发的学生的背影,推论这N个学生中女生的比例。
这里假设学校总人数是U人,P(男)表示U人中男生的比例,即75%,P(长发|男)表示在男里面长发的比例,即10%,这就是个条件概率。那么,同样地,P(女)=25%,P(长发|女)=80%
现在要求的是长发中是女的概率,
化简后得:
贝叶斯基本公式(也称为朴素贝叶斯)就是:
其中P(A)表示A的先验概率(也称边缘概率),之所以为“先验”,是因为它不考虑到B方面的因素,P(B|A)表示A发生后B再发生的条件概率,所以条件概率也称为后验概率。
再用一个场景更实际的例子:
给定数据如下:
现在给我们的问题是,如果一对男女朋友,男生想女生求婚,男生的四个特点分别是不帅,性格不好,身高矮,不上进,请你判断一下女生是嫁还是不嫁?这是一个典型的分类问题,转为数学问题就是比较p(嫁|(不帅、性格不好、身高矮、不上进))与p(不嫁|(不帅、性格不好、身高矮、不上进))的概率,谁的概率大,我就能给出嫁或者不嫁的答案!
其中p(不帅、性格不好、身高矮、不上进|嫁) = p(不帅|嫁)*p(性格不好|嫁)*p(身高矮|嫁)*p(不上进|嫁),那么我就要分别统计后面几个概率,也就得到了左边的概率。
得出结果为:
因为朴素贝叶斯假设特征之间是独立的,尽管该假设不是很严谨,但实际应用效果不错。
这里仅仅讲朴素贝叶斯.
以上是关于机器学习贝叶斯分类的主要内容,如果未能解决你的问题,请参考以下文章