关于生成式模型与判别式模型

Posted 2022-12-09 量子智能龙哥

判别式模型是

假设Model（实务上是hypothesis）

规定lose function

然后使用algorithm 使得lose function 最小化就会得到Model的参数。

也就是直接从数据集中得到决策边界。

生成式模型是

使用已有的数据集得到特征的分布。一个Label下的分布，比如已知鳕鱼的条件下它的长与宽的分布。（这一步也就有了探究是怎样的特征分布造就了鳕鱼。探究物质生成的原因。）

当新的物体进来之后使用Bayes公式将特征参数带入分布中（已知特征的情况下是XX鱼的概率），得到哪一个Label（鱼）的概率最高就选取哪一个Label作为预测值。

图片源于《马同学图解数学》 

举个栗子

​​​​​​​

 

生成式模型会得到自变量（特征）的分布，这一点更像是让模型学到了事物的本质。比如说学习好的同学在勤劳，方法论，金钱开销的方面服从怎样的分布。真正的理解数据是如何产生的并且可以以此来创造数据出来实现真正意义上的人工智能。

这也就早就了生成式模型的一个应用在小量数据的情况下真真学到了分布会有很友好的预测效果。