机器学习笔记（十五）——HMM序列问题和维特比算法

一、引言

这篇blog主要讲序列问题和其解法——维特比算法。

二、HMM中的第二个基本问题

序列问题：给定一个观察序列O=O1O2…OTO=O_1O_2\dots O_T和模型u=(A,B,π)u=(\boldsymbol{A,B,\pi})，如何快速有效地选择在一定意义下”最优”的状态序列Q=q1q2…qTQ=q_1q_2\dots q_T,使得该状态序列“最好地解释”观察序列？

三、定义最优状态序列

序列问题的答案并不是唯一的，那是因为它取决于对“最优状态序列的理解”。
定义最优状态序列在给定模型uu和观察序列OO的条件下，使得条件概率P(Q|O,u)P(Q|O,u)最大的状态序列：

Q^=argmaxQP(Q|O,u)

\hat{Q}=arg \max_Q P(Q|O,u)

四、维特比算法

维特比算法运用动态规划的搜索算法求解这种最优状态序列。为了实现这种搜索，首先定义一个维特比变量δt(i)\delta_t(i)。
定义维特比变量δt(i)\delta_t(i) 是在时间tt时，HMM沿着某一条路径到达状态sis_i,并输出观察序列O1O2…OtO_1O_2\dots O_t的最大概率：

δt(i)=maxq1,q2,…,qt−1P(q1,q2,…,qt=si,O1O2…Ot|u)

\delta_t(i) = \max_{q_1,q_2, \dots, q_t-1} P(q_1,q_2, \dots, q_t=s_i, O_1O_2\dots O_t|u)
与前向变量类似， δt(i)\delta_t(i)有如下递推关系：

δt+1(i)=maxj[δt(j)aji]bi(Ot+1)

\delta_{t+1}(i) = \max_j[\delta_t(j)a_{ji}]b_i(O_{t+1})
为了记录在时间 tt时，HMM通过哪一条概率最大的路径到达状态sis_i,维特比算法设置了另外一个变量 ψt(i)\psi_t(i),用于路径记忆，让 ψt(i)\psi_t(i)记录该路径上的状态 sis_i的前一个（在时间 t−1t-1）状态。

维特比算法
1. 初始化

δ1(i)=πibi(O1),1≤i≤Nψ1(i)=0

\delta_1(i) = \pi_ib_i(O_1), 1 \le i \le N \\\psi_1(i) = 0
2. 归纳计算

δt(j)=max1≤i≤N[δt−1(i)aij]bj(Ot),2≤t≤T;1≤j≤N记忆回退路径：ψt(j)=argmax1≤i≤N[δt−1(i)aij]bj(Ot),2≤t≤T;1≤i≤N

\delta_{t}(j) = \max_{1 \le i \le N}[\delta_{t-1}(i)a_{ij}]b_j(O_t), 2 \le t \le T; 1 \le j \le N\\ 记忆回退路径：\\ \psi_t(j) =arg \max_{1 \le i \le N}[\delta_{t-1}(i)a_{ij}]b_j(O_t), 2 \le t \le T; 1 \le i \le N\\
3. 终结

QT^=argmax1≤i≤N[δT(i)]P^(QT^)=max1≤i≤N[δT(i)]

\hat{Q_T} = arg \max_{1 \le i \le N}[\delta_{T}(i)]\\ \hat{P}(\hat{Q_T}) = \max_{1 \le i \le N}[\delta_{T}(i)]\\
4. 路径（状态序列）回溯

qt^=ψt+1(q^t+1),t=T−1,T−2,…,1

\hat{q_t} = \psi_{t+1}(\hat{q}_{t+1} ) , t =T-1, T-2, \dots, 1
维特比算法的时间复杂度也是 O(N2T)O(N^2T)。