机器学习笔记（十三）——隐马尔科夫模型

一、隐马尔科夫模型

在马尔科夫模型中，每一个状态代表了一个可以观察的事件，所以，马尔科夫模型有时称为可视马尔科夫模型（visible Markov model，VMM），这在某种程度上限制了模型的适应性。在隐马尔科夫模型（HMM）中，我们不知道模型所经过的状态序列，而只知道状态的概率函数，也就是说观察到的事件是状态的随机函数，此模型是一个双重的随机过程。其中，模型的状态转换过程是隐蔽的，可观察事件的随机过程是隐蔽的状态转换过程的随机函数。

二、隐马尔科夫模型的基本原理

下图是一个隐马尔科夫模型的示意图，用此图来说明HMM的原理。假设一个暗室中有NN个口袋，每个口袋中有MM种不同颜色的球。一个实验员根据某一概率分布随机选取一个初始的口袋，从中根据不同颜色球的概率分布，随机选取出一个球，并向室外的人报告该球的颜色。然后再根据口袋的概率分布选择另一个口袋，根据不同颜色球的概率分布随机选择一个球，重复进行这个过程。对于室外的观察人员来说，他只能观察到不同颜色球的序列，口袋的序列不可观察。在这个过程中，口袋对应HMM中的状态，球的颜色对应HMM中状态的输出，从一个口袋到另一个口袋对应于状态的转换，从口袋中取出球的颜色对应于从一个状态输出的观察符号。

2.1 HMM的组成部分

模型中状态的数目NN（口袋的数目）
从每个状态可能输出的不同符号的数目MM（球的不同颜色的数目）
状态转移概率矩阵A={aij}\boldsymbol{A} = \{a_{ij}\},其中
aij=P(qt=sj|qt−1,si),1≤i,j≤Naij≥0∑j=1Naij=1

a_{ij}=P(q_t=s_j|q_{t-1},s_i), 1 \le i, j \le N \\a_{ij} \ge 0 \\\sum_{j=1}^N a_{ij} = 1
从状态SjS_j观察到符号vkv_k的概率分布B={bj(k)}\boldsymbol{B} = \{b_j(k)\},其中
bj(k)=P(Ot=vk|qt=sj),1≤j≤N,1≤k≤Mbj(k)≥0∑k=1Mbj(k)=1

b_j(k) = P(O_t = v_k|q_t=s_j), 1 \le j \le N, 1\le k \le M\\ b_j(k) \ge 0\\ \sum_{k=1}^M b_j(k) = 1
观察符号的概率又称为发射概率。
初始状态的概率分布π={πi}\boldsymbol{\pi} = \{\pi_i\},其中
πi=P(q1=si),1≤i≤Nπi≥0∑i=1Nπi=1

\pi_i=P(q_1=s_i), 1 \le i \le N \\ \pi_i \ge 0 \\ \sum_{i=1}^N \pi_i= 1

一般地，一个HMM记为一个五元组μ=(S,K,A,B,π) \mu =(S,K,\boldsymbol{A},\boldsymbol{B},\boldsymbol{\pi}),其中，SS为状态集合，KK为输出符号的集合，A\boldsymbol{A}为状态转移矩阵，B\boldsymbol{B}为符号的发射概率，π\boldsymbol{\pi}为初始状态的概率分布。有时也记为μ=(A,B,π) \mu =(\boldsymbol{A},\boldsymbol{B},\boldsymbol{\pi})

2.2 观察序列的生成

当考虑潜在事件随机地生成表面事件时，HMM非常有用。假设给定模型μ=(A,B,π) \mu =(\boldsymbol{A},\boldsymbol{B},\boldsymbol{\pi})，那么观察序列O=O1O2…OTO=O_1O_2\dots O_T可由下面的步骤产生：
1. 根据初始的状态概率分布πi\pi_i选择一个初始的状态q1=siq_1=s_i
2. 设t=1
3. 根据状态sis_i的输出概率分布bi(k)b_i(k)输出O_t=v_k
4. 根据状态转移概率分布aija_{ij}，将当前tt时刻的状态转移到新的状态qt+1=sjq_{t+1}=s_j
5. t=t+1t = t+1, 如果t<Tt,重复执行步骤3,4.否则，算法结束。