朴素贝叶斯分类算法：对贝叶斯公式的理解

Posted 2020-09-13 hahaxzy

为了完成自己的毕业论文，不得不接触这个朴素贝叶斯分类算法。。。真是惭愧啊（快毕业了才学这个。。。还初识）

哈哈，不过只要肯学什么时候都不会晚

 

要想完全理解这个算法，必须先去百度一下

原来朴素贝叶斯分类算法是借用到了贝叶斯定理，那什么是贝叶斯定理呢...不多BB，

先看一看什么是条件概率：P(A|B)=P(AB)/P(B)

其中P(A|B)指的是在B已经发生的情况下A发生的概率。而这个概率是由A和B同时发生的概率除以B发生的概率。点解？？？这是我第一次看到这个公式后的反应

当我看完这张图后，就差不多能理解了：A同B的交集就相当于是A和B同时发生的概率，即P(AB)

http://blog.csdn.net/csfreebird/article/details/25009545 看看这个哥们写的吧，我就不复制粘贴了

再来看看贝叶斯公式：P(A│B)=(P(B|A)P(A))/(P(B))

当然这个是可以从条件概率的公式推导而来，只要将原来的条件概率公式P(A|B)=P(AB)/P(B)中的P(AB)替换成P(B|A)P(A)就是我们”可爱“的贝叶斯公式了

咋一看这个公式，貌似没那么容易去理解：B发生情况下A发生的概率等于A发生下B发生的概率乘以A发生概率再除以B发生的概率，什么鬼。。。

当然，我又去百度了

https://www.zhihu.com/question/19725590/answer/32177811#  这个讲的挺好的

我自己对贝叶斯公式的理解：

A事件无条件发生的概率为P(A)，在当B事件发生后，它会改变A事件发生的概率（即P(A)变成了P(A|B)）。

那么为什么B的发生会影响到A事件发生的概率呢？A和B之间有一种怎么样的联系呢？

额...貌似A与B之间的联系其实是因为各自本质上的原因，就好像男人喜欢打球而女人喜欢逛街一样。

但是这个联系是有度量的，是能够用数字表达出来的，这个度量就是B发生后能够影响A发生的一个强度，嗯...再细说就是B发生后对A的发生所产生的影响的大小（影响力）。而这个度量就是P(B|A)（似然比率）

---------------------------------------------------举个栗子（直接复制粘贴...）：----------------------------------------------------------

一机器在良好状态生产合格产品几率是90%，在故障状态生产合格产品几率是30%，机器良好的概率是75%，若一日第一件产品是合格品，那么此日机器良好的概率是多少。

 

这个例子中，P(A)就是机器良好的概率，P(B)就是第一件产品是合格品的概率。

那么上面我所说的B对A发生的影响的一个度量就能够解释成 ’第一件产品为合格品‘ 事件对 ’机器良好‘ 这个事件发生的概率的影响力就等于P(B|A)=90%。单从直观的数字上来看影响还是比较大的。

那么经过B影响后A发生的概率是多少呢：P(A|B)=?

先等等，我们再来看看B的发生概率是多少P(产品合格)=P(机器良好)*P(机器良好时产品合格率)+P(机器故障)*P(机器故障时产品合格率)=0.75*0.9+0.25*0.3=0.75

P(A)原来是等于75%，如果直接套公式的话：经过事件B的影响得到了 ’新的概率‘ P(A|B)=B对A发生的影响力*A无条件概率/B无条件概率=0.9

感觉自己好像摸到点门路了

显然，如果B对A发生的影响力越小的话，那么经过B影响后A发生的概率也会变小。所以这样理解应该是没有问题的

我们继续，继续个毛线...这个思路卡壳了，那我们换一个思路：

如果把贝叶斯公式这样看,经过B影响后的A的概率:P(A|B)=（P(B|A)/P(B)）*P(A)

因为P(B|A)归根结底还是事件B发生的概率，只不过加上了一个条件罢了，

而在某一条件下B的发生概率除以B无条件的发生概率（P(B|A)/P(B)），可以理解为P(B|A)在P(B)中所占的比例。那么这一部分（P(B|A)/P(B)）就可以理解为是对P(A)的一个指导、修正，所以是乘以P(A)

结合例子，B是可以在两种不同的状态下发生的，第一种状态是A（即机器良好），第二种状态是~A（即机器故障），所以我们用P(B|A)/P(B)去指导、修正P(A)从而得到了P(A|B)

如果我们想得到P(~A|B)，就要用P(B|~A)/P(B)去指导、修正P(~A)

如果按照这样的思路，其中P(B|~A)=0.3，P(B)=0.75,P(~A)=0.25，

那么P(~A|B)=P(B|~A)/P(B)*P(~A)=0.3/0.75*0.25=0.1（这个好像直接套用了公式一样....）

嗯...这样理解，对我来说是行的通的。