最大似然估计

Posted 2020-11-30 czl-01

似然：在确定的结果下取推测产生这个结果最可能的环境（参数），似然和概率在数值上是相等的，即P(x|θ) = L(θ|x)。

作用：参数估计，在已知事件的情况下，用来估计满足这些样本分布的参数，估计出可能性最大的那个参数。

 

求解过程：（1）写出似然函数

　　　　　（2）对似然函数进行取对数

　　　　　（3）对参数进行求导

　　　　　（4）解似然方程

假设Data： X-N*P  Χ_i~(iid)N（μ，σ²）  θ = (μ，σ²)

MLE : θ_MLE = argmax log L(θ|x)

设P = 1

由于数据集满足~N(μ，σ²) 所以P(X)可以写成满足一维正态分布的式子，然后对其中的变量进行化简求导得值

可以得出 μ = ΣX_i/N  ——无偏量       σ² =  Σ（X_i  -  μ)²   /N  --有偏估计