隐马尔可夫模型HMM（一）

摘自

1.李航的《统计学习方法》

2.https://www.cnblogs.com/pinard/p/6945257.html

了解HMM模型

1.隐马尔可夫模型的定义

隐马尔可夫模型是关于时序的概率模型，该模型是由隐藏的马尔可夫链生成不可观测的状态序列，再由各个状态序列生成一个观测序列的过程。

（1）状态序列，I。隐藏的马尔可夫链随机生成的状态序列。

（2）观测序列，O。由各个状态生成的观测序列。

2.隐马尔可夫模型的三要素

（1）初始状态概率向量，π。

（2）状态转移矩阵，A。

（3）观测概率矩阵，B。

3.隐马尔可夫的三个基本问题

（1）概率计算问题。给定模型λ（A，B，π）和观测序列O=（o1,o2,o3...），计算在模型λ下观测序列O出现的概率P（O|λ）。

（2）学习问题。已知观测序列O=（o1,o2...），估计模型λ（A，B，π）的参数，使得在该模型下观测序列概率P（O|λ）最大。用极大似然估计解决。

（3）预测问题，也称为解码问题。已知模型λ（A，B，π），和观测序列O=（o1,o2,o3...），求给定观测序列，条件概率P(I|O)最大的状态序列I，即给定观测序列，求最有可能的对应的状态序列。

4.Example

假设有4个盒子，每个盒子有红、白两种颜色的球，如表格所示。

盒子	1	2	3	4
红球数	5	3	9	2
白球数	5	1	1	8

首先从4个盒子等概率选取一个盒子，然后从盒子里面选取一个球，记录其颜色，然后放回；最后得到的球的颜色序列就是观测序列。O(o1,o2,...,oi,...on)
然后选取下一个盒子，从里面选取一个球，记录其颜色oi，然后放回；假设从盒子1跳到盒子2，然后一直跳了n次。则盒子序列就为状态序列。I(1,2,3,4,.....4)
重复上一个步骤n次。

初始选取盒子为初始概率分布 π

π=(0.25, 0.25, 0.25, 0.25)^T

假设盒子的跳转规则如下（看不到隐藏的）

盒子1到盒子1，2，3，4的概率分别为（0, 1, 0, 0)

盒子2到盒子1，2，3，4的概率分别为 (0.4, 0, 0.6, 0)

盒子3到盒子1, 2, 3，4的概率分别为 (0, 0.4, 0, 0.6)

盒子4到盒子1，2，3，4的概率分别为 (0, 0, 0.5, 0.5)

则状态转移矩阵为A为

观测概率(在各个盒取各个颜色球的概率)

（1）已经抽了两次球，观测集合V={红，白}，求观测序列　O={红，白，红}的概率，即P（O|λ），则此问题为概率计算问题，这个问题最简单。

（2）学习问题。假设有观测序列或者有观测序列和对应的状态序列，求参数λ，此问题为学习问题，这个问题最复杂。

（3）预测问题。给定模型参数λ（A，B，π）, 观测到取到球的结果为 O = {红，白，红，白}，预测一下最有可能的盒子序列I，即每个球都是从哪个盒子取出来的。

转载于:https://www.cnblogs.com/ylxn/p/10137794.html

隐马尔可夫模型HMM（一）相关推荐

viterbi维特比算法和隐马尔可夫模型(HMM)
阅读目录隐马尔可夫模型(HMM) 回到目录隐马尔可夫模型(HMM) 原文地址:http://www.cnblogs.com/jacklu/p/7753471.html 本文结合了王晓刚老师的ENG ...
机器学习知识点(二十五)Java实现隐马尔科夫模型HMM之jahmm库
1.隐马尔可夫模型HMM的应用场景,关乎于序列和状态变化的都可以. 发现java有可库,专为开发HMM,可惜只能在CSDN上有得下载. 2.jahmm是java开发隐马尔科夫模型的一个j ...
机器学习知识点(二十四)隐马尔可夫模型HMM维特比Viterbi算法Java实现
1.隐马尔可夫模型HMM 学习算法,看中文不如看英文,中文喜欢描述的很高深. http://www.comp.leeds.ac.uk/roger/HiddenMarkovModels/ht ...
隐马尔科夫模型HMM自学（3）
Viterbi Algorithm 本来想明天再把后面的部分写好,可是睡觉今天是节日呢?一时情不自禁就有打开电脑.......... 找到可能性最大的隐含状态序列崔晓源翻译多数情况下,我们都希望 ...
隐马尔科夫模型HMM自学（2）
HMM 定义崔晓源翻译 HMM是一个三元组 (,A,B). the vector of the initial state probabilities; the state transitio ...
隐马尔科夫模型HMM自学（1）
介绍崔晓源翻译我们通常都习惯寻找一个事物在一段时间里的变化规律.在很多领域我们都希望找到这个规律,比如计算机中的指令顺序,句子中的词顺序和语音中的词顺序等等.一个最适用的例子就是天气的预测. 首 ...
【NLP】用于语音识别、分词的隐马尔科夫模型HMM
大家好,今天介绍自然语言处理中经典的隐马尔科夫模型(HMM).HMM早期在语音识别.分词等序列标注问题中有着广泛的应用. 了解HMM的基础原理以及应用,对于了解NLP处理问题的基本思想和技术发展脉络有 ...
用隐马尔可夫模型(HMM)做命名实体识别——NER系列（二）
上一篇文章里<用规则做命名实体识别--NER系列(一)>,介绍了最简单的做命名实体识别的方法–规则.这一篇,我们循序渐进,继续介绍下一个模型--隐马尔可夫模型. 隐马尔可夫模型,看上去,和 ...
隐马尔可夫模型HMM学习备忘
隐马尔可夫模型HMM学习备忘目录隐马尔可夫模型HMM学习备忘 1.马尔可夫模型的理解 2.隐马尔可夫模型 2.1.HHM的组成 2.2.HMM解决的三个基本问题隐马尔可夫模型示意图如图[1]: ...
《两日算法系列》之第四篇：隐马尔可夫模型HMM
目录 1. 定义与假设 2. 相关概念的表示 3. 三个基本问题 3.1. 概率计算问题 3.2. 学习问题 3.3. 预测问题总结 1. 定义与假设李雷雷所在城市的天气有三种情况,分别是:晴天. ...

隐马尔可夫模型HMM（一）

了解HMM模型

隐马尔可夫模型HMM（一）相关推荐

最新文章

热门文章