极大似然估计

Posted zf-blog

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了极大似然估计相关的知识,希望对你有一定的参考价值。

一、核心思想由部分估计整体

二、具体分析

(1)先举一个最简单的例子,如下:

技术图片

 

 转换成更专业一点的就是:现在有一个样本分布为A,我们从这个样本分布中获得了一部分样本a,极大似然就是要利用这部分a来估计A的分布;

做法就是对A构建模型,模型参数为Q,然后再构建极大似然函数表示在何种模型参数Q下可以最大可能地获得这部分样本a(PS:这里的样本一般指样本数据+类别标签)。

技术图片

然后即有:

技术图片

 

三、应用

(1)判别模型:比如逻辑回归模型

技术图片

 

 (2)生成模型:比如混合高斯模型

技术图片

 

技术图片

 

 (3)无监督学习

技术图片

 

以上是关于极大似然估计的主要内容,如果未能解决你的问题,请参考以下文章

B-概率论-极大似然估计

极大似然估计思想的最简单解释

逻辑回归为啥用最大似然估计求解

极大似然估计

机器学习——极大似然估计

极大似然估计