title: 斯坦福-随机图模型-week1.0
tags: note
notebook: 6- 英文课程-9-Probabilistic Graphical Models 1: Representation
斯坦福-随机图模型-week1.0
什么是随机图模型
PGM,probabilistic Graphical Model 随机图模型
两种用途:
- 讨论随机性的时候进行推理:如临床诊断
- 在处理图片的时候将图片进行超像素化
模型是什么
是我们对世界的认识的一种描述
一种模型可以产生多种算法,模型可以说是一种理解的方式,而算法是一种计算的方式,或者说实现的方式。
模型可以通过抽象方法和学习方法得到。
什么是随机性 uncertainty
- 随机性来源于对世界的不完全认识
- 或者世界中的噪声
- 或者我们的模型的不完整性
随机理论
- 是一种已经建立的完善的描述随机性的一种理论
- 是模型的学习方法的基石
复杂系统
复杂系统中很多因素是不能够被详细描述的,比如在疾病诊断系统中,
我们很难通过直接的因果关系来描述 病情 检查结果 疾病 临床表象等关系
或者在图像领域中,像素点的关系
我们只能使用随机变量的相关性来描述,将事物联系到一起。
图论模型
在图论模型中我们可以比较清晰的描述石屋尖的关系,
特别是使用贝叶斯网络来描述事物间的不确定的关系。
贝叶斯网路
和马尔科夫网络
如图中的贝叶斯模型和
图模型
图模型的优势
图论模型是一个十分直观紧凑的数据结构
并且我们可以在上面进行十分有效的推理
他拥有稀疏的参数,可以从数据中进行学习
拥有很多有趣的应用
比如:
- 医疗诊断
- 图像处理
- 机器学习
数学基础-分布
联合分布
假设我们要描述天分,困难和分数的关系,我们进行如下的定义。
在上图中,分别定义了,天分,题目的难度和成绩
我们描述的学生同时拥有上述三个属性,
然后我们的数据是这样的:
最后一列是概率。
当我们知道一个学生的成绩是g1的时候,我们可以看到在图中:
G一栏不是g1的都可以被划掉了
然后将最后的概率归一化,就可以得到每一行目前的概率了,比如这样:
preliminaries factory 预赛因素
条件概率CPD
factor product 因子乘法
就是根据因子的关系将他们乘在一起
分子合并
就是说如果你有一张高维度的表,现在你想把其中某个维度合并掉,你可以使用分子合并,将相应的概率加在一起。