贝叶斯网络

Posted 2021-01-29 bianjing

知识储备

　　相互熵

　　信息增益（互信息）

　　条件概率：

　　　　　　

　　全概率公式：

　　　　　　

　　贝叶斯公式：

　　　　　　

思考问题：

　　给定一个样本D，计算样本A₁, A₂, ...An发生的概率哪一个可能是会是最正确的呢？又怎样通过贝叶斯来解决这个问题？

　　　　通过贝叶斯公式 选择n个样本中概率最大的那个作为最后的结论。p(D)是常数，假定p(A_i)的发生概率近似相等。则有一下推导公式

　　　　

贝叶斯应用实例：

　　一、

　　  

　　二、假定有两个信封，第一个信封中装有两个黑球两个红球和一美元，第二个信封中装有一个红球两个黑球，现在要求选择到存在一美元的信封的概率。

　　　　给定信息：允许随机的从一个信封中取出一个球查看他的颜色，那么此时是否应该选择该信封。

　　　　分析：c1,c2分别表示两个信封，P(R),P(B)分别表示红球的概率和黑球的概率。

　　　　　　　全概率公式：P(R) = P(R|c1)*P(c1) + P(R|c2)*P(c2)

　　　　　　　P(R|c1) = 2/4、P(R|c2) = 1/3、P(c1) = P(c2) = 1/2