隐马尔可夫模型（HMM）

1.部分参考内容
2.引言
3.隐马尔可夫模型
- 3.1 马尔可夫过程
- 3.2 隐马尔可夫模型
- 3.3 HMM模型的五元组
4.评估问题
- 4.1 直接方法
- 4.2前向算法
- 4.3后向算法
- 4.4前向后向算法
5.解码问题
6.学习问题

1.部分参考内容

Youtube（无中文字幕）
隐马尔可夫模型(HMM)详解
一次性弄懂马尔可夫模型、隐马尔可夫模型、马尔可夫网络和条件随机场

2.引言

Alice和Bob住的很远，只能通过电话交流。

Bob的心情会随天气的好坏而变化，天气sunny的时候，他就happy，天气rainy的说话，他就grumpy。Bob通过电话告诉Alice他很happy，Alice就可以推测Bob那的天气是sunny，反之，也可以推测出rainy。

那么，如果问题再稍微复杂一点呢。
假如Bob的心情在sunny的时候并不总是happy，也有可能是grumpy，而天气是rainy的时候，Bob的心情也可能是happy。那么即便Alice知道了Bob的心情，她也不能确定Bob所在地的天气到底怎样。

假设Alice已经计算出sunny的时候Bob心情为happy的概率和grumy的概率，还有rainy时候happy和grumpy的概率。那么，Alice虽然不像之前那样可以百分百确定天气，但是还是可以有较大概率推测出天气的。

现在假如Bob连续三天告诉了Alice自己的心情，Alice就可以猜测出这三天的天气，比如下图这样：

如果Bob连续一星期每天向Alice汇报自己的心情，像下面这样：

这样Alice根据上面的概率只能推测出天气可能是：sunny，rainy，sunny，rainy，sunny，rainy。这样的天气似乎很不正常，一天晴一天雨，实际生活中前一天晴，后一天晴的概率应该更大一些。
所以，我们假设已知更多的概率，两个天气之间的相互转化的概率也知道。如下图：

现在，我们就有了一个隐马尔可夫模型，它包含两种观测（Alice可以知道的Bob的心情），两种状态（Bob所在地的天气），以及一些概率。

有了上面的这些概率，当Bob再向Alice说出连续几天的心情后，Alice可以通过一定的公式计算出这几天的天气是怎样的。

其中，Bob通过电话告诉Alice自己一段时间内的心情，即为可见状态连，而Bob所在地的天气就是隐藏状态链。马尔科夫链通常就是指的隐藏状态链。

3.隐马尔可夫模型

之前讲过贝叶斯网络，其实隐马尔可夫也可以视为特殊的贝叶斯网络。

下面两个基本问题各有一道例题，把他们弄明白，有助于更好地理解HMM

3.1 马尔可夫过程

马尔可夫过程（Markov process）是一类随机过程。它的原始模型马尔可夫链，由俄国数学家A.A.马尔可夫于1907年提出。该过程具有如下特性：在已知目前状态（现在）的条件下，它未来的演变（将来）不依赖于它以往的演变 (过去 )。例如森林中动物头数的变化构成——马尔可夫过程。在现实世界中，有很多过程都是马尔可夫过程，如液体中微粒所作的布朗运动、传染病受感染的人数、车站的候车人数等，都可视为马尔可夫过程。

每个状态的转移只依赖于之前的n个状态，这个过程被称为1个n阶的模型，其中n是影响转移状态的数目。最简单的马尔可夫过程就是一阶过程，每一个状态的转移只依赖于其之前的那一个状态，这个也叫作马尔可夫性质。用数学表达式表示就是下面的样子：

假设这个模型的每个状态都只依赖于之前的状态，这个假设被称为马尔科夫假设，这个假设可以大大的简化这个问题。显然，这个假设可能是一个非常糟糕的假设，导致很多重要的信息都丢失了。

P(Xn+1∣X1=x1,X2=x2,...,Xn=xn)=P(Xn+1=x∣Xn=xn))P(X_{n+1} |X_1 =x_1, X_2=x_2,...,X_n=x_n) =P(X_{n+1}=x|X_n=x_n))P(Xn+1∣X1=x1,X2=x2,...,Xn=xn)=P(Xn+1=x∣Xn=xn))

引言中的天气的例子就是一个马尔可夫过程，

也就是说：

如果今天是晴天，明天还是晴天的概率是0.8，明天下雨的概率是0.2
加入今天下雨，明天还下雨的概率是0.6，明天是晴天的概率是0.4

概率转移对应的表如下：

	晴天	雨天
晴天	0.8	0.2
雨天	0.4	0.6

状态转移矩阵就是：
A=(0.80.20.40.6)A=\begin{pmatrix} 0.8 & 0.2 \\ 0.4 & 0.6 \end{pmatrix} A=(0.80.40.20.6)

一阶马尔可夫过程定义了下面三个部分：

状态：晴天和雨天
初始向量：定义系统在时间为0时候的状态的概率
状态转移矩阵：每种天气转换的概率

3.2 隐马尔可夫模型

Alice在不知道Bob心情的情况下，是不可能知道Bob所在地的天气的。但是如果知道了Bob的心情，进行推理之后，是可以推出天气的概率的。

这种方法就是隐马尔可夫模型。

隐马尔可夫模型 (Hidden Markov Model) 是一种统计模型，用来描述一个含有隐含未知参数的马尔可夫过程。它是结构最简单的动态贝叶斯网络，这是一种著名的有向图模型，主要用于时序数据建模，在语音识别、自然语言处理等领域有广泛应用。

具体的推理过程先不说，先说一下隐马尔可夫模型的三个问题：

评估问题：Bob告诉Alice连续几天的心情，Alice推测出现这个心情序列的概率是多少。
解码问题：Bob告诉Alice连续几天的心情，Alice推测这几天Bob所在地的天气。
学习问题：调整模型的参数，使得观测序列在给定模型条件下出现的概率最大。（最难的问题）

三大问题的解法分别是：

前向算法(Forward Algorithm)、后向算法(Backward Algorithm)
维特比算法(Viterbi Algorithm)
鲍姆-韦尔奇算法(Baum-Welch Algorithm) (约等于EM算法)

例子：
小明现在有三天的假期，他为了打发时间，可以在每一天中选择三件事情来做，这三件事情分别是散步、购物、打扫卫生( 对应着可观测序列 )，可是在生活中我们所做的决定一般都受到天气的影响，可能晴天的时候想要去购物或者散步，可能下雨天的时候不想出门，留在家里打扫卫生。而天气(晴天、下雨天)就属于隐藏状态
那么，我们提出三个问题，分别对应马尔可夫的三大问题：

已知整个模型，我观测到连续三天做的事情是：散步，购物，收拾。那么，根据模型，计算产生这些行为的概率是多少。
同样知晓这个模型，同样是这三件事，我想猜，这三天的天气是怎么样的。
最复杂的，我只知道这三天做了这三件事儿，而其他什么信息都没有。我得建立一个模型，晴雨转换概率，第一天天气情况的概率分布，根据天气情况选择做某事的概率分布。

现在大家应该明白隐马尔可夫模型大概是什么和要解决什么问题了。

3.3 HMM模型的五元组

一个隐马尔可夫模型有五个部分组成：

要素N：状态集合S={S₁，S₂，…，S_N}，模型中状态的个数。（Bob所在地天气的种类）
要素M：表示每个状态可以观察到的不同符号数。（一周天气下Bob的心情种类），一般用V={V₁，V₂，…，V_M}表示。
状态转移矩阵A={a_ij}：其中a_ij=P[q_t+1=S_j | q_t=S_i]
状态SjS_jSj中可见符号的概率分布B={b_j(k)}：其中b_j(k)=P[在t时刻出现符号V_k|q_t=s_j]
初始状态分布π={π_j}：其中π_j=p[q₀=s_j]，j=1,2,…,N

4.评估问题

定义：已知观测序列O=o1,o2,...,oTO={o_1, o_2,..., o_T }O=o1,o2,...,oT，和模型λ=(π， A， B)，如何计算给定模型的情况下，产生观测序列O的概率。

先看一个定义
路径：隐马尔可夫模型P(O∣λ)P(O|λ)P(O∣λ)中从初始状态到终止状态的一个依次到达的状态序列，成为一个路径。也就是马尔科夫链。

4.1 直接方法

直接方法：列举出长度为T的所有可能的状态序列，考察一个固定状态序列Q=q1,q2,...,qTQ=q_1,q_2,...,q_TQ=q1,q2,...,qT，对于Q，并假设观察序列是统计独立的，则有观察序列的概率为：

状态序列Q出现的概率为：

O与Q的联合概率分布为：
很明显的一个问题是：上式的计算复杂度为2T*N^T。（2T-1次乘法运算，每次N^T个序列）

显然，复杂度太高，需要更好的算法。

4.2前向算法

直接算法在计算过程中，有一些结果是重复计算了的，所以计算起来，复杂度很高，如果把之前计算的保存起来，之后需要用到时直接拿来用，虽然占用了一些内存，但是却可以降低时间复杂度。

用图表示就是：

复杂度为： N²*T

例题：

4.3后向算法

跟前向算法相反，我们知道总的概率肯定是1，那么B_t=1，也就是最后一个时刻的概率合为1，先计算前三天的各种可能的概率，在计算前两天、前一天的数据，跟前向算法相反的计算路径。

4.4前向后向算法

5.解码问题

已知模型λ和观察序列O，如何确定每一个O_t是哪一个状态S_i产生的。
图来自：HMM 解码问题

HMM的解码可以用维特比解码，核心思想是在前向后向算法的基础上保留最优节点，并通过回溯找到最优路径。

例子：(来源于隐马尔科夫模型HMM（四）维特比算法解码隐藏状态序列)
问题为：　
假设我们有3个盒子，每个盒子里都有红色和白色两种球，这三个盒子里球的数量分别是：

按照下面的方法从盒子里抽球，开始的时候，从第一个盒子抽球的概率是0.2，从第二个盒子抽球的概率是0.4，从第三个盒子抽球的概率是0.4。以这个概率抽一次球后，将球放回。然后从当前盒子转移到下一个盒子进行抽球。规则是：如果当前抽球的盒子是第一个盒子，则以0.5的概率仍然留在第一个盒子继续抽球，以0.2的概率去第二个盒子抽球，以0.3的概率去第三个盒子抽球。如果当前抽球的盒子是第二个盒子，则以0.5的概率仍然留在第二个盒子继续抽球，以0.3的概率去第一个盒子抽球，以0.2的概率去第三个盒子抽球。如果当前抽球的盒子是第三个盒子，则以0.5的概率仍然留在第三个盒子继续抽球，以0.2的概率去第一个盒子抽球，以0.3的概率去第二个盒子抽球。

6.学习问题

这个比较复杂，待更。

【机器学习】隐马尔可夫模型（HMM）相关推荐

用机器学习识别不断变化的股市状况—隐马尔可夫模型(HMM)股票指数预测实战
"了解不同的股市状况,改变交易策略,对股市收益有很大的影响. 弄清楚何时开始或何时止损,调整风险和资金管理技巧,都取决于股市的当前状况. ▼ 有些策略在波澜不惊的股市中表现良好,而有些策略可 ...
机器学习知识点(二十五)Java实现隐马尔科夫模型HMM之jahmm库
1.隐马尔可夫模型HMM的应用场景,关乎于序列和状态变化的都可以. 发现java有可库,专为开发HMM,可惜只能在CSDN上有得下载. 2.jahmm是java开发隐马尔科夫模型的一个j ...
机器学习知识点(二十四)隐马尔可夫模型HMM维特比Viterbi算法Java实现
1.隐马尔可夫模型HMM 学习算法,看中文不如看英文,中文喜欢描述的很高深. http://www.comp.leeds.ac.uk/roger/HiddenMarkovModels/ht ...
【机器学习算法】隐马尔可夫模型HMM（一）
目录一.马尔可夫模型 1. 马尔可夫性 2. 马尔可夫链 3. 马尔可夫链案例二.隐马尔可夫模型HMM 1. named entity recognition(命名实体识别)问题概述 2. 什么是 ...
python地图匹配_基于隐马尔科夫模型(HMM)的地图匹配(Map-Matching)算法
1. 摘要本篇博客简单介绍下用隐马尔科夫模型(Hidden Markov Model, HMM)来解决地图匹配(Map-Matching)问题.转载请注明网址. 2. Map-Matching(MM ...
一、隐马尔科夫模型HMM
隐马尔科夫模型HMM(一)HMM模型基础隐马尔科夫模型(Hidden Markov Model,以下简称HMM)是比较经典的机器学习模型了,它在语言识别,自然语言处理,模式识别等领域得到广泛的应用. ...
【语音识别】隐马尔可夫模型HMM
隐马尔可夫模型 (HMM)Hidden Markov Model · 定义隐马尔可夫模型是关于时间序列的概率模型 • 描述由一个隐藏的马尔可夫链随机生成不可观测的状态序列(state sequenc ...
hmm 求隐藏序列_隐马尔可夫模型HMM
以下内容来自刘建平Pinard-博客园的学习笔记,总结如下: 1 隐马尔可夫模型HMM 隐马尔科夫模型(Hidden Markov Model,以下简称HMM)是比较经典的机器学习模型了,它在语言识别 ...
viterbi维特比算法和隐马尔可夫模型(HMM)
阅读目录隐马尔可夫模型(HMM) 回到目录隐马尔可夫模型(HMM) 原文地址:http://www.cnblogs.com/jacklu/p/7753471.html 本文结合了王晓刚老师的ENG ...
隐马尔科夫模型HMM自学（3）
Viterbi Algorithm 本来想明天再把后面的部分写好,可是睡觉今天是节日呢?一时情不自禁就有打开电脑.......... 找到可能性最大的隐含状态序列崔晓源翻译多数情况下,我们都希望 ...

【机器学习】隐马尔可夫模型（HMM）