第10章隐马尔可夫模型

隐马尔可夫模型（Hidden Markov model,HMM）是可用于序列标注问题的统计学模型，描述了由隐马尔可夫链随机生成观察序列的过程，属于生成模型。
隐马尔可夫模型：隐马尔可夫模型是关于时序的概率模型，描述由一个隐藏的马尔可夫链随机生成不可观测的状态随机序列，再由各个状态生成一个观察而产生观察随机序列的过程

10.1基本概念

10.1.1隐马尔可夫模型的定义

隐马尔可夫模型（Hidden Markov Model，HMM）是关于时序的概率模型，描述由一个隐藏的马尔可夫链随机生成不可观测的状态随机序列，再由各个状态生成一个观测而产生观测随机序列的过程。隐藏的马尔可夫链随机生成的状态的序列，称为状态序列；每个状态生成一个观测，而由此产生的观测的随机序列，称为观测序列，序列的每一个位置又可以看作是一个时刻。其形式定义如下：

Q是所有可能的状态的集合，V是所有可能的观测的集合：
Q = q 1 , q 2 , ⋅ ⋅ ⋅ , q N , V = v 1 , v 2 , ⋅ ⋅ ⋅ , v M Q = {q_{1},q_{2},\cdot \cdot \cdot ,q_{N}}, V = {v_{1},v_{2},\cdot \cdot \cdot ,v_{M}} Q=q1,q2,⋅⋅⋅,qN,V=v1,v2,⋅⋅⋅,vM
其中，N是可能的状态数，M是可能的观测数。
I是长度为T的状态序列，O是对应的观测序列：
S = s 1 , s 2 , ⋅ ⋅ ⋅ , s T , O = o 1 , o 2 , ⋅ ⋅ ⋅ , o T S = {s_{1},s_{2},\cdot \cdot \cdot ,s_{T}}, O = {o_{1},o_{2},\cdot \cdot \cdot ,o_{T}} S=s1,s2,⋅⋅⋅,sT,O=o1,o2,⋅⋅⋅,oT
A 是状态转移概率矩阵：
A = [ a 11 a 12 ⋅ ⋅ ⋅ a 1 N a 21 a 22 ⋅ ⋅ ⋅ a 2 N ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ a N 1 a N 2 ⋅ ⋅ ⋅ a N N ] − − − − ( 10.1 补充 ) A = \begin{bmatrix} a_{11} & a_{12} & \cdot \cdot \cdot & a_{1N}\\ a_{21} & a_{22} & \cdot \cdot \cdot & a_{2N}\\ \cdot & \cdot & \cdot \cdot \cdot & \cdot \\ \cdot & \cdot & \cdot \cdot \cdot & \cdot \\ a_{N1} & a_{N2} & \cdot \cdot \cdot & a_{NN}\\ \end{bmatrix}----(10.1补充) A= a11a21⋅⋅aN1a12a22⋅⋅aN2⋅⋅⋅⋅⋅⋅⋅⋅⋅⋅⋅⋅⋅⋅⋅a1Na2N⋅⋅aNN −−−−(10.1补充)
即：
A = [ a i j ] N ∗ N − − − − ( 10.1 ) A = \begin{bmatrix} a_{ij} \end{bmatrix}_{N*N}----(10.1) A=[aij]N∗N−−−−(10.1)
其中， a i j = P ( s t + 1 = q j ∣ s t = q i ) , i = 1 , 2 , ⋅ ⋅ ⋅ , N ; j = 1 , 2 , ⋅ ⋅ ⋅ , N − − − − ( 10.2 ) a_{ij} = P(s_{t+1} = q_{j}|s_{t} = q_{i}),i = 1,2,\cdot \cdot \cdot ,N; j = 1,2,\cdot \cdot \cdot ,N----(10.2) aij=P(st+1=qj∣st=qi),i=1,2,⋅⋅⋅,N;j=1,2,⋅⋅⋅,N−−−−(10.2)，表示在时刻t处于状态 q i q_{i} qi的条件下在时刻t+1转移到状态 q j q_{j} qj的概率。
B 是观测概率矩阵：
B = [ b 11 b 12 ⋅ ⋅ ⋅ b 1 M b 21 b 22 ⋅ ⋅ ⋅ b 2 M ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ ⋅ b N 1 b N 2 ⋅ ⋅ ⋅ b N M ] − − − − ( 10.3 补充 ) B = \begin{bmatrix} b_{11} & b_{12} & \cdot \cdot \cdot & b_{1M}\\ b_{21} & b_{22} & \cdot \cdot \cdot & b_{2M}\\ \cdot & \cdot & \cdot \cdot \cdot & \cdot \\ \cdot & \cdot & \cdot \cdot \cdot & \cdot \\ b_{N1} & b_{N2} & \cdot \cdot \cdot & b_{NM}\\ \end{bmatrix}----(10.3补充) B= b11b21⋅⋅bN1b12b22⋅⋅bN2⋅⋅⋅⋅⋅⋅⋅⋅⋅⋅⋅⋅⋅⋅⋅b1Mb2M⋅⋅bNM −−−−(10.3补充)
即：
B = [ b i j ] N ∗ M − − − − ( 10.3 ) B = \begin{bmatrix} b_{ij} \end{bmatrix}_{N*M}----(10.3) B=[bij]N∗M−−−−(10.3)
其中， b j ( k ) = P ( o t = v k ∣ s t = q j ) , k = 1 , 2 , ⋅ ⋅ ⋅ , M ; j = 1 , 2 , ⋅ ⋅ ⋅ , N − − − − ( 10.4 ) b_{j}(k) = P(o_{t} = v_{k}|s_{t} = q_{j}),k = 1,2,\cdot \cdot \cdot ,M; j = 1,2,\cdot \cdot \cdot ,N----(10.4) bj(k)=P(ot=vk∣st=qj),k=1,2,⋅⋅⋅,M;j=1,2,⋅⋅⋅,N−−−−(10.4)，表示在时刻t处于状态 q j q_{j} qj的条件下生成观测 v k v_{k} vk的概率。
π是初始状态概率向量：
π = π 1 , π 2 , ⋅ ⋅ ⋅ , π N − − − − ( 10.5 补充 ) \pi = {\pi_{1},\pi_{2},\cdot \cdot \cdot ,\pi_{N} }----(10.5补充) π=π1,π2,⋅⋅⋅,πN−−−−(10.5补充)
即：
π = ( π i ) − − − − ( 10.5 ) \pi = (\pi_{i} )----(10.5) π=(πi)−−−−(10.5)
其中， π = P ( s 1 = q i ) , i = 1 , 2 , ⋅ ⋅ ⋅ , N − − − − ( 10.6 ) \pi = P(s_{1} = q_{i} ),i = 1,2, \cdot \cdot \cdot ,N----(10.6) π=P(s1=qi),i=1,2,⋅⋅⋅,N−−−−(10.6)，是时刻t = 1处于状态 q i q_{i} qi的概率。
隐马尔可夫模型由初始状态概率向量π、状态转移概率矩阵A和观测概率矩阵B决定。π和A决定状态序列，B决定观测序列。因此，隐马尔可夫模型λ
可以用三元符号表示，即：
λ = ( A , B , π ) − − − − ( 10.7 ) \lambda = (A,B,\pi)----(10.7) λ=(A,B,π)−−−−(10.7)
A , B , π A,B,\pi A,B,π称为隐马尔可夫模型的三要素。
从定义可知，隐马尔可夫模型作了两个基本假设：
(1)齐次马尔可夫性假设，即假设隐藏的马尔可夫链在任意时刻t的状态只依赖于其前一时刻的状态，与其他时刻的状态及观测无关，也与时刻t无关：
P ( s t ∣ s t − 1 , o t − 1 , ⋅ ⋅ ⋅ , s 1 , o 1 ) = P ( s t ∣ s t − 1 ) , i = 1 , 2 , ⋅ ⋅ ⋅ , T − − − − ( 10.8 ) ; P(s_{t} | s_{t-1},o_{t-1},\cdot \cdot \cdot ,s_{1},o_{1}) = P(s_{t} | s_{t-1}),i = 1,2,\cdot \cdot \cdot ,T----(10.8); P(st∣st−1,ot−1,⋅⋅⋅,s1,o1)=P(st∣st−1),i=1,2,⋅⋅⋅,T−−−−(10.8);
(2)观测独立性假设，即假设任意时刻的观测只依赖于该时刻的马尔可夫链的状态，与其他观测及状态无关：
P ( o t ∣ s T , o T , ⋅ ⋅ ⋅ , s t + 1 , o t + 1 , s t , s t − 1 , o t − 1 , ⋅ ⋅ ⋅ , s 1 , o 1 ) = P ( o t ∣ s t ) , i = 1 , 2 , ⋅ ⋅ ⋅ , T − − − − ( 10.9 ) ; P(o_{t} | s_{T},o_{T},\cdot \cdot \cdot ,s_{t+1},o_{t+1},s_{t},s_{t-1},o_{t-1},\cdot \cdot \cdot ,s_{1},o_{1}) = P(o_{t} | s_{t}),i = 1,2,\cdot \cdot \cdot ,T----(10.9); P(ot∣sT,oT,⋅⋅⋅,st+1,ot+1,st,st−1,ot−1,⋅⋅⋅,s1,o1)=P(ot∣st),i=1,2,⋅⋅⋅,T−−−−(10.9);
看了一大堆的定义没有例子很容易理解不深刻，建议看一下书上的例10.1（盒子和球模型），看完之后就可以很快的理解这些基本概念

10.1.2观测序列的生成过程

根据隐马尔可夫模型定义，可以将一个长度为T的观测序列 O = （ o 1 , o 2 , ⋅ ⋅ ⋅ , o T ） O = （o_{1},o_{2}, \cdot \cdot \cdot , o_{T}） O=（o1,o2,⋅⋅⋅,oT）的生成过程描述如下。
算法10.1（观测序列的生成）
输入：隐马尔可夫模型 λ = ( A , B , π ) \lambda = (A,B,\pi) λ=(A,B,π)，观测序列长度T；
输出：观测序列 O = （ o 1 , o 2 , ⋅ ⋅ ⋅ , o T ） O = （o_{1},o_{2}, \cdot \cdot \cdot , o_{T}） O=（o1,o2,⋅⋅⋅,oT）
（1）按照初始状态分布 π \pi π产生状态 s 1 s_{1} s1 ；
（2）令t = 1;
（3）按照状态 s t s_{t} st的观测概率分布 b s t ( k ) b_{s_{t}}(k) bst(k)生成 o t o_{t} ot;
（4）按照状态 s t s_{t} st的状态转移概率分布{ a s t s t + 1 a_{s_{t}s_{t+1}} astst+1}产生状态 s t + 1 , s t + 1 = 1 , 2 , ⋅ ⋅ ⋅ , N s_{t+1},s_{t+1} = 1,2, \cdot \cdot \cdot,N st+1,st+1=1,2,⋅⋅⋅,N;
（5）令t = t + 1;如果t < T，转步（3）；否则，终止。

10.1.3HMM的3个基本问题

（1）Evaluation：Given λ ，求 P(O|λ)——这里就用到了Forward/Backword
（2）Learining： λ M L E = a r g m a x λ P ( O ∣ λ ) \lambda_{MLE} = argmax_{\lambda}P(O|\lambda) λMLE=argmaxλP(O∣λ)——Baum-Welch（EM）
（3）Decoding： S ^ = a r g m a x S P ( S ∣ O , λ ) \hat{S} = argmax_{S}P(S|O,\lambda) S^=argmaxSP(S∣O,λ)——Viterbi
习惯上（1）又叫做概率计算方法（书中10.2内容），这里主要用到了前向算法和后向算法；（2）又叫做学习算法（书中10.3内容），这里主要是用到了Baum-Welch算法（这个算法其实就是EM算法，后面有时间会更新EM算法的推导）；（3）又叫做预测算法（书中10.4内容）这个书中有近似算法和
Viterbi算法。

参考文献

以下是本次HMM算法系列文章的参考文献：

李航——《统计学习方法》
YouTube——shuhuai008的视频课程HMM
YouTube——徐亦达机器学习HMM、EM
*[https://www.huaxiaozhuan.com/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0/chapters/15_HMM.html]：隐马尔可夫模型
[https://sm1les.com/2019/04/10/hidden-markov-model/]：隐马尔可夫模型（HMM）及其三个基本问题
例子可以看这个[https://www.cnblogs.com/skyme/p/4651331.html]：一文搞懂HMM（隐马尔可夫模型）
[https://www.zhihu.com/question/55974064]：南屏晚钟的解答

感谢以上作者对本文的贡献，如有侵权联系后删除相应内容。

【10.1算法理论部分（1）基本概念和三个基本问题】Hidden Markov Algorithm——李航《统计学习方法》公式推导相关推荐

【10.1算法理论部分（4）预测问题（近似算法和维特比算法）】Hidden Markov Algorithm——李航《统计学习方法》公式推导
10.4预测算法(解决Decoding: S ^ = a r g m a x S P ( S ∣ O , λ ) \hat{S} = argmax_{S}P(S|O,\lambda) S^=argma ...
【10.1算法理论部分（3）学习问题（Baum-Welch算法）】Hidden Markov Algorithm——李航《统计学习方法》公式推导
10.3学习问题(解决Learining: λ M L E = a r g m a x λ P ( O ∣ λ ) \lambda_{MLE} = argmax_{\lambda}P(O|\lambd ...
李航统计学习方法EM算法三枚硬币例子Q函数推导
具体推导如下: 上面推导省略了第i次迭代的i的标记当得到上式以后,可以参考 http://www.cnblogs.com/Determined22/p/5776791.html 来继续一下推导当然 ...
【白话机器学习】算法理论+实战之PCA降维
1. 写在前面如果想从事数据挖掘或者机器学习的工作,掌握常用的机器学习算法是非常有必要的,在这简单的先捋一捋, 常见的机器学习算法: 监督学习算法:逻辑回归,线性回归,决策树,朴素贝叶斯,K近邻,支 ...
【白话机器学习】算法理论+实战之K-Means聚类算法
1. 写在前面如果想从事数据挖掘或者机器学习的工作,掌握常用的机器学习算法是非常有必要的,常见的机器学习算法: 监督学习算法:逻辑回归,线性回归,决策树,朴素贝叶斯,K近邻,支持向量机,集成算法Ad ...
编程面试的10大算法概念汇总
编程面试的10大算法概念汇总嘿,第一次翻译文章,在ProgramCreek看到的,原文章名为Top 10 Algorithms for Coding Interview, 对于我这个明年即将直奔BA ...
java面试算法总结_java编程面试过程中常见的10大算法概念汇总
以下是在编程面试中排名前10的算法相关的概念,我会通过一些简单的例子来阐述这些概念.由于完全掌握这些概念需要更多的努力,因此这份列表只是作为一个介绍.本文将从Java的角度看问题,包含下面的这些概念: ...
【白话机器学习】算法理论+实战之LightGBM算法
1. 写在前面如果想从事数据挖掘或者机器学习的工作,掌握常用的机器学习算法是非常有必要的,在这简单的先捋一捋, 常见的机器学习算法: 监督学习算法:逻辑回归,线性回归,决策树,朴素贝叶斯,K近邻,支 ...
【白话机器学习】算法理论+实战之PageRank算法
1. 写在前面如果想从事数据挖掘或者机器学习的工作,掌握常用的机器学习算法是非常有必要的,常见的机器学习算法: 监督学习算法:逻辑回归,线性回归,决策树,朴素贝叶斯,K近邻,支持向量机,集成算法Ad ...

【10.1算法理论部分（1）基本概念和三个基本问题】Hidden Markov Algorithm——李航《统计学习方法》公式推导

第10章隐马尔可夫模型

10.1基本概念

10.1.1隐马尔可夫模型的定义

10.1.2观测序列的生成过程

10.1.3HMM的3个基本问题

参考文献

【10.1算法理论部分（1）基本概念和三个基本问题】Hidden Markov Algorithm——李航《统计学习方法》公式推导相关推荐

最新文章

热门文章

【10.1算法理论部分（1）基本概念和三个基本问题】Hidden Markov Algorithm——李航《统计学习方法》公式推导

第10章 隐马尔可夫模型

10.1基本概念

10.1.1隐马尔可夫模型的定义

10.1.2观测序列的生成过程

10.1.3HMM的3个基本问题

参考文献

【10.1算法理论部分（1）基本概念和三个基本问题】Hidden Markov Algorithm——李航《统计学习方法》公式推导相关推荐

最新文章

热门文章

第10章隐马尔可夫模型