第七章 贝叶斯网络

Posted 2023-04-28

参考技术A 用点表示事件条件概率，用边表示事件依赖关系的有向无环图。
1.典型贝叶斯问题
2.静态结构
在BN中描述概率的方式式每个节点上的条件概率分布。
3.联合/边缘/条件概率换算
4.链式法则与变量消元
变量消元能够显著减少链式法则计算公式的指数级别复杂度。

1.网络参数估计
精确网络参数估计有：最大似然度估计，最大后验估计
2.网络结构
网络结构不确定式，需要从数据中学习网络结构。该问题式NP难问题，解决方法有：
启发式搜索，Chow-Liu Tree算法

1.蒙特卡洛方法
2.马尔可夫链收敛定理
任何非周期马尔可夫链最终收敛于稳定的状态概率分布。
3.MCMC推理框架
4.Gibbs采样
构造一个从快速收敛到平稳状态的马尔可夫链。
5.变分贝叶斯
寻找于目标分布近似的Q分布，加快推理速度。

1.共轭分布
共轭分布简化贝叶斯网络中的概率计算。
2.隐含变量与显式变量
共轭分布常用于为BN中的隐含变量建模。

朴素贝叶斯与贝叶斯网络

1、朴素贝叶斯 朴素贝叶斯是一种基于贝叶斯定理和特征条件独立假设的分类算法。 简单而言，对于给定的训练数据，朴素贝叶斯先基于特征条件独立假设学习输入和输出的联合概率分布，然后基于此分布对于新的实例，利用贝叶斯定理计算出最大的后验概率。朴素贝叶斯不会直接学习输入输出的联合概率分布，而是通过学习类的先验