EM算法的原理推导及解释

Posted 2022-12-04 Super__Tiger

文章目录

• EM算法的原理推导及解释
• • 前置知识：极大似然估计(Maximum Likelihood）
  • 核心部分：期望最大化算法(Expectation Maximum)
  • • 实例：EM求解“三硬币”模型的完整推导及解释

EM算法的原理推导及解释

本质上，EM算法针对于存在明显可疑的隐藏变量z，该变量影响着直观的样本数据的分布情况（即：方差、均值等），但是我们又无法得知和计算出准确的隐藏变量z。

于是，我们采用迭代的方式，设定已知模型的参数$\theta$初值，然后结合已有的X_n,Y_n样本信息将隐藏变量z的期望以累计的形式进行表示出$\mathbf{Q}\left(\theta |{\theta }_{\mathbf{n}}\right)$，然后进一步对当前的参数$\theta$偏导求解更新新一轮的参数$\theta$，该迭代过程即为EM算法。

前置知识：极大似然估计(Maximum Likelihood）

令D_c表示训练集中第c类样本的组合的集合，假设这些样本是独立的，则参数θ_c对于数据集D_c的最大似然估计：
$$\begin{gathered} \stackrel{\wedge }{{\theta }_{\mathbf{c}}}=\underset{{\theta }_{\mathbf{C}}}{\mathbf{a}\mathbf{r}\mathbf{g}\max \mathbf{L}\mathbf{L}\left({\theta }_{\mathbf{c}}\right)} \\ =\log \mathbf{P}\left({\mathbf{D}}_{\mathbf{c}}|{\theta }_{\mathbf{c}}\right) \\ =\sum _{{\mathbf{x}ϵ\mathbf{D}}_{\mathbf{C}}}\log \mathbf{P}\left(\mathbf{x}|{\theta }_{\mathbf{c}}\right) \end{gathered}$$
极大似然估计是试图在θ_c所有可能的取值中，找到一个使数据出现的“可能性”最大值。极大似然估计一般在机器学习领域中，主要用来估计样本分布的方差和均值、或者其他参数变量。

例如，在连续属性情形下，假设概率密度函数$\mathbf{p}\left(\mathbf{x}|\mathbf{c}\right)\sim \mathbf{N}\left({\mu }_{\mathbf{c}},{\delta }_{\mathbf{c}}^2\right)$，则参数${\mu }_{\mathbf{c}}$和${\delta }_{\mathbf{c}}^2$的极大似然估计为：
$$\begin{gathered} {\stackrel{\wedge }{\mu }}_{\mathbf{c}}=\frac{1}{|{\mathbf{D}}_{\mathbf{c}}|}\sum _{{\mathbf{x}ϵ\mathbf{D}}_{\mathbf{c}}}\mathbf{x} \\ {\stackrel{\wedge }{\delta }}_{\mathbf{c}}^2=\frac{1}{|{\mathbf{D}}_{\mathbf{c}}|}\sum _{{\mathbf{x}ϵ\mathbf{D}}_{\mathbf{c}}}\left(\mathbf{x}-{\stackrel{\wedge }{\mu }}_{\mathbf{c}}\right){\left(\mathbf{x}-{\stackrel{\wedge }{\mu }}_{\mathbf{c}}\right)}^{\mathbf{T}} \end{gathered}$$
上述式子表明，通过局部样本的极大似然估计得到的均值和方差就是全体样本的正态分布情况。

这种参数化的方法虽能使类条件概率估计变得相对简单，但是，在实际情况中，x的分布很难做到相互独立。于是，我们提出了引入隐藏变量z，z的意义在于它暗中指导着D_c中各个类别的样本分布情况，假设已经存在样本x_i，z的作用是告诉我们x_i属于哪一个类别，但是，我们却无法直观地得知z到底是什么。

令X表示已观测变量集，Z表示隐变量集，若预对模型参数θ做极大似然估计，则应最大化对数似然函数：
$$\mathbf{L}\mathbf{L}\left(\mathbf{\Theta }|\mathbf{X},\mathbf{Z}\right)=\ln \mathbf{P}\left(\mathbf{X},\mathbf{Z}|\mathbf{\Theta }\right)$$
由于Z是隐变量，上式无法直接求解。此时我们可以通过对Z计算期望，来最大化已观测数据的对数“边际似然”(marginal likelihood)（这个思想，非常非常重要！）：
$$\mathbf{L}\mathbf{L}\left(\mathbf{\Theta }|\mathbf{X}\right)=\ln \mathbf{P}\left(\mathbf{X}|\mathbf{\Theta }\right)=\ln \sum _{\mathbf{Z}}\mathbf{P}\left(\mathbf{X},\mathbf{Z}|\mathbf{\Theta }\right)$$

核心部分：期望最大化算法(Expectation Maximum)

以初始值${\theta }^0$为起点（就是为需要估计的θ、μ等原始参数设定初始值），可迭代执行以下步骤直至收敛：

• 基于${\theta }^{\mathbf{t}}$推断隐变量Z的期望，记为${\mathbf{Z}}^{\mathbf{t}}$。（E步）
• 基于已观测变量X和${\mathbf{Z}}^{\mathbf{t}}$对参数$\theta$做极大似然估计，记为${\theta }^{\mathbf{t}+1}$。（M步）
• 这就是EM算法的原型。

实例：EM求解“三硬币”模型的完整推导及解释

原问题：

简化版：

由上图的分析可知，我们已有的数据为B/C的投掷结果，但是不知道具体属于B/C，而分类B/C取决于A的结果，A为正面，则该结果是B的投掷结果；A为反面，则结果是C的投掷结果。

所以，本题中的隐变量Z：Z=(z₁ ,…,z_N) 且 z 只有两种可能取值1和0，z_j表示第j次试验，A的投掷结果；此外，实验结果Y：Y=(y₁,…,y_N),y_j代表第j次实验B/C的投掷结果；θ表示参数π，ρ，q。

• 对于第j次试验，这里的z为变量，$\theta$和${\mathbf{y}}_{\mathbf{j}}$看作已知常量：

P ( y i ∣ θ ) = ∑ z P ( y j , z ∣ θ )       = ∑ z P ( z ∣ y j , θ ) P ( y j ∣ z , θ )       = P ( z = 1 ∣ y j , θ ) P ( y j ∣ z = 1 , θ ) + P ( z = 0 ∣ y j , θ ) P ( y j ∣ z = 0 , θ )       = π p + ( 1 − π ) q , i f    y j = 1 π ( 1 − p ) + ( 1 − π ) ( 1 − q ) , i f    y j = 0    = π p y j ( 1 − p ) 1 − y j + ( 1 − π ) q y j ( 1 − q ) 1 − y j    \\mathbfP\\left( \\mathbfy_\\mathbfi|\\mathbf\\theta \\right) =\\sum_\\mathbfz\\mathbfP\\left( \\mathbfy_\\mathbfj,\\mathbfz|\\mathbf\\theta \\right)\\,\\, \\\\ \\,\\, =\\sum_\\mathbfz\\mathbfP\\left( \\mathbfz|\\mathbfy_\\mathbfj,\\mathbf\\theta \\right) \\mathbfP\\left( \\mathbfy_\\mathbfj|\\mathbfz,\\mathbf\\theta \\right) \\,\\, \\\\ \\,\\, =\\mat