概率统计笔记:高斯分布の极大似然法,有偏&无偏估计

Posted UQI-LIUWJ

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了概率统计笔记:高斯分布の极大似然法,有偏&无偏估计相关的知识,希望对你有一定的参考价值。

1  高斯分布

 2 参数θ的似然函数

 3 通过极大似然估计法求解

只保留似然函数中和μ有关的部分

对μ求导,取偏导数为0的地方 

于是我们有: 

3.1  是无偏估计

证明无偏估计就是证明E[μ]=μ

  4 通过极大似然估计法求解

只保留似然函数中和σ有关的部分

 对σ求导

4.1 是有偏估计

 

我们算一下Var[]

 所以

 

也就是说 

所以E是有偏估计,无偏估计应该是:

 

 参考资料机器学习-白板推导系列笔记(二)-数学基础_scu-liu的博客-CSDN博客

以上是关于概率统计笔记:高斯分布の极大似然法,有偏&无偏估计的主要内容,如果未能解决你的问题,请参考以下文章

最大似然法解释

逻辑回归为啥用最大似然估计求解

极大似然估计的原理是啥?

记录:EM 算法估计混合高斯模型参数

[白话解析] 深入浅出 极大似然估计 & 极大后验概率估计

EM算法