隐马尔可夫模型（背景介绍）

1.隐马尔科夫模型（HMM）用来描述一个含有隐变量的马尔可夫过程

2.HMM可以看成GMM在时间序列上的推广

3.HMM可以用1-2-3表达：一个模型，两个假设，三个问题

4.HMM模型假设是齐次马尔科夫性和观测独立假设

5.HMM分为Evaluation问题，Learning问题和Decoding问题

隐马尔可夫模型，英文Hidden Markov Model，简称HMM，是用来描述一个含有隐变量的马尔可夫过程.

HMM可以看做高斯混合模型（GMM）在时间上的推广，隐变量假设依然是离散的，每个时序上的观测变量都是隐变量的条件概率分布，其中隐变量又被称为系统状态。用概率图模型表示如下：

注：高斯混合模型（GMM）

HMM可用1-2-3来表达：一个模型，两个假设，三个问题。这一篇先做个总体介绍。

一个模型

隐马尔科夫模型我们用λ=(π,A,B)表示，其中π是初始概率分布，A表示转移矩阵，B表示发射矩阵。

并记系统状态Z（隐变量）集合为Q：

观测变量X集合为V:

那么，转移矩阵A表示为：

发射矩阵B表示为：

关于转移矩阵可参考：MCMC（马尔可夫链）

两个假设

HMM的假设有两个：

齐次马尔科夫假设
观测独立假设

对于第一个假设，就是齐次马尔科夫链，也就是未来状态的条件概率分布仅依赖于现在状态。不过这里多了隐变量，数学表示为：

对于第二个假设，是说t时刻的观测变量只依赖于当前时刻的系统状态，数学表达为：

三个问题

HMM要解决的问题有三个：

Evaluation：P(X|λ)
Learning：λ=argmaxP(X|λ)
Decoding：Z=argmaxP(Z|X,λ)

对于第一个问题，也叫估计问题，就是已知HMM的前提下，变量X的概率分布，通常有前向算法和后向算法；对于第二个问题，就是求解λ的参数，通常用EM算法求解；对于第三个问题,我们能观测到的是变量X，在已知X的前提下，求解使得概率分布最大的隐状态Z，该问题进一步延伸可以得到预测问题与滤波问题。

预测问题是已知当前时刻，预测下一个时刻隐状态的分布：

滤波问题是已知当前时刻观测变量，怎么求解当前时刻最大分布的隐状态：

隐马尔可夫模型（背景介绍）相关推荐

c++求解自行车慢速比赛问题_隐马尔可夫模型（模型推断五大问题）
1.隐马尔科夫模型Learning问题是求解未知参数λ 2.隐马尔科夫模型Inference问题有五个:Decoding.Evaluation.Filtering.Smoothing.Predicti ...
如何用赌场风云解释隐马尔可夫模型（HMM）？
来源:DataCastle数据城堡本文约3300字,建议阅读10分钟. 本文以"赌场风云"为背景,带你直观认识隐马尔可夫模型. 一.背景介绍:赌场风云最近一个赌场的老板发现生意 ...
隐马尔可夫模型（Baum Welch算法与Viterbi算法）
1.Baum Welch算法就是EM算法,用于求解隐马尔可夫模型的Learing问题 2.隐马尔可夫模型的Decoding问题是指给定X与λ,求使得概率最大的隐状态序列 3.Decoding问题采取V ...
viterbi维特比算法和隐马尔可夫模型(HMM)
阅读目录隐马尔可夫模型(HMM) 回到目录隐马尔可夫模型(HMM) 原文地址:http://www.cnblogs.com/jacklu/p/7753471.html 本文结合了王晓刚老师的ENG ...
隐马尔科夫模型HMM（一）HMM模型
2019独角兽企业重金招聘Python工程师标准>>> 隐马尔科夫模型(Hidden Markov Model,以下简称HMM)是比较经典的机器学习模型了,它在语言识别,自然语言处理 ...
一站式解决：隐马尔可夫模型（HMM）全过程推导及实现
作者 | 永远在你身后转载自知乎用户永远在你身后 [导读]隐马尔可夫模型(Hidden Markov Model,HMM)是关于时许的概率模型,是一个生成模型,描述由一个隐藏的马尔科夫链随机生成不可 ...
第五篇：HMM 隐马尔可夫模型
目录概览训练预测(维特比算法) 概览 HMM本身也是用于序列标注,为什么需要HMM? POS 标记,我们按照一句话为一个类别,也就是将该句子中的每个词的对应的类别,连起来作为一个类别,比如NN_ ...
第十九课.隐马尔科夫模型
目录隐马尔科夫模型的结构马尔科夫链与隐马尔科夫模型实例 HMM的要素模型的性质推理问题:HMM的状态解码隐状态解码问题最大路径概率与维特比算法使用维特比算法解码实例演示基于Pyth ...
隐马尔可夫模型（Hidden Markov Model，HMM）是什么？隐马尔可夫模型（Hidden Markov Model，HMM）的三个基本问题又是什么？
隐马尔可夫模型(Hidden Markov Model,HMM)是什么?隐马尔可夫模型(Hidden Markov Model,HMM)的三个基本问题又是什么? 隐马尔可夫模型 (Hidden Mar ...

隐马尔可夫模型（背景介绍）

隐马尔可夫模型（背景介绍）相关推荐

最新文章

热门文章