隐马尔科夫模型HMM详解

Posted 2021-06-09 栋次大次

目录

• • 隐马尔科夫模型基本概念
  • 隐马尔科夫模型的三个基本问题
  • • 概率计算
    • 预测算法-Viterbi算法

HMM学习算法参考下篇文章
代码地址：6.1公布

隐马尔科夫模型基本概念

先看一个小问题：

问题：假设你是2077年的气候学家，正在进行气候研究，无法获得西安2021年的天气记录。你找到了果冻的日记本，上面列出了果冻这个夏天每天吃的冰淇淋数目。你的目标是：根据观测量（果冻夏天每天吃的冰淇淋数目）估计夏天每天的天气。假设天气只有冷和热两种可能，果冻吃的冰淇淋数目只有1，2，3三种可能。

你的任务是：

• 给定观测序列$O$，如$O=(3,1,3)$，其中每个整数表示果冻当天吃的冰淇淋数目
• 找出隐藏的天气状态序列$Q$，比如$Q=(HOT,COLD,HOT)$

---

隐马尔科夫模型定义：

• 隐马尔科夫模型是关于时间序列的概率模型
• 描述一个隐藏的马尔科夫链随机生成不可观测的状态序列，再由各个状态生成一个观测序列的过程，序列的每个位置又可以看作是一个时刻。

HMM由初始概率分布、状态转移概率分布和观测概率分布决定，当观测为离散值时：

Q = { q 1 q 2 … q N } Q=\\left\\{q_{1} q_{2} \\ldots q_{N}\\right\\} \\quad Q={q1​q2​…qN​} 所有可能的状态的集合 $(N$ 个 $)$
V = { v 1 v 2 … v M } V=\\left\\{v_{1} v_{2} \\ldots v_{M}\\right\\} \\quad V={v1​v2​…vM​} 所有可能的观测的集合 $(M$ 个 $)$
$I=\left(i_1{i}_2\dots i_T\right)$ 长度为$T$的状态序列，每个来自$Q$
$O=\left(o_1{o}_2\dots o_T\right)$ 长度为$T$的观测序列，每个来自 $V$
$A={\left[a_{ij}\right]}_{N\times N}$ 状交转移概率矩阵，其中$a_{ij}=P\left(i_{t+1}=q_j\mid i_t=q_i\right),i=1,2,\dots ,N;j=1,2,\dots ,N$是在时刻 $t$ 处于状态 $q_i$ 的条件下，在时刻 $t+1$ 转移到状态 $q_j$ 的概率
$B=[b_j\left(o_t\right){]}_{N\times M}$ 观测概率矩阵，其中$b_j\left(o_t\right)=P\left(o_t=v_k\mid i_t=q_j\right),k=1,2,,\dots ,M;j=1,2,\dots ,N$，是在时刻t处于状态$q_j$的条件下生成观测$v_k$的概率。
$\pi =\left({\pi }_i\right)$ 初始状态概率向量，其中 ${\pi }_i=P\left(i_1=q_i\right),i=1,2,\dots ,N$, 是时刻 $t=1$ 处于状态$q_i$的概率

HMM $\lambda =(A,B,\pi )$，$A,B,\pi$称为HMM的三要素

HMM的两个基本假设

• 齐次马尔可夫性假设：隐藏的马尔科夫链在时刻t的状态只与t-1的状态有关

  P ( i t ∣ i t − 1 , o t − 1 , . . . , i 1 , o 1 ) = P ( i t ∣ i t − 1 ) , t = 1 , 2 , . . . , T P(i_t|i_{t-1},o_{t-1},...,i_1,o_1) = P(i_t|i_{t-1}), t=1,2,...,T P(it​∣i以上是关于隐马尔科夫模型HMM详解的主要内容，如果未能解决你的问题，请参考以下文章

  隐马尔科夫模型HMM详解——python实现

  隐马尔科夫模型HMM详解——python实现

  隐马尔科夫模型HMM详解——python实现

  隐马尔可夫模型(HMM)详解

  大道至简机器学习算法之隐马尔科夫模型(Hidden Markov Model, HMM)详解---学习问题：Baum-Welch算法推导

  隐马尔科夫模型HMMHMM模型