HMM经典介绍论文Rabiner 1989翻译——连续观测密度

Posted 2022-12-14 Vic时代

4.1 连续观测密度

目前为止我们的讨论中只考虑了观测是离散值的情况，这种情况下对每个状态可以使用离散概率密度。但是存在一些应用离散值是连续信号（比如向量）。虽然可以通过码本把连续信号量化，但是这种量化可能存在严重的退化。所以希望HMM中可以用连续观测密度。

为了使用连续观测密度，必须对模型概率密度函数(probability density function, pdf)进行约束以使得pdf的参数可以通过一致的方法进行估计。最一般的pdf的表示是如下的有限混合形式：

$$b_i(\\boldsymbol O)= \\sum_m=1^M c_jmf[\\boldsymbol O, \\boldsymbol \\mu_jm, \\boldsymbol U_jm], 1\\leq j \\leq N \\tag49$$

其中$\\boldsymbol O$是被建模的向量，$c_jm$是在状态$j$的第$m$个混合的系数，$f$是log-凹或者椭圆对称密度（比如高斯），$\\boldsymbol \\mu_jm$和$\\boldsymbol U_jm$分别为状态j下第m个混合的均值向量和协方差矩阵。一般$f$为高斯密度。混合增益$c_jm$满足随机约束：

$$\\sum_m=1^M c_jm = 1, \\quad 1\\leq j \\leq N \\tag50a$$

$$c_jm \\geq 0, \\quad 1\\leq j \\leq N, 1\\leq m \\leq M \\tag50b$$

以使得pdf被正确归一化，即

$$\\int_-\\infty^\\infty b_j(\\boldsymbol x)d\\boldsymbol x = 1, \\quad 1 \\leq j \\leq N. \\tag51$$

(49)表示的pdf可以任意近地近似任一有限连续密度函数。所以可以用于解决很多问题。

混合密度系数的估计公式为

$$\\barc_jk = \\frac\\sum_t=1^T \\gamma_t(j, k) \\sum_t=1^T \\sum_k=1^M \\gamma_t(j, k) \\tag52$$

$$\\bar\\boldsymbol \\mu_jk = \\frac\\sum_t=1^T \\gamma_t(j, k) \\cdot \\boldsymbol O_t\\sum_t=1^T \\gamma_t(j, k) \\tag53$$

HMM经典介绍论文Rabiner 1989翻译——连续观测密度

HMM经典介绍论文Rabiner 1989翻译（十七）——多观测序列

HMM经典介绍论文Rabiner 1989翻译（十八）——参数初始化

报童钱包和迪米特法则(设计模式迪米特原则经典论文翻译)

深度学习经典论文翻译合集Deep Learning Papers Translation(CV)

论文翻译2：61蒙哥马利模块化逆算法回顾