隐马尔科夫模型及Viterbi算法的应用

作者：jostree 转载请注明出处 http://www.cnblogs.com/jostree/p/4335810.html

一个例子：

韦小宝使用骰子进行游戏，他有两种骰子一种正常的骰子，还有一种不均匀的骰子，来进行出千。

开始游戏时他有2/5的概率出千。

对于正常的骰子A，每个点出现的概率都是1/6.

对于不均匀的骰子B，5，6两种出现的概率为3/10，其余为1/10.

出千的随机规律如下图所示：

我们观测到的投掷结果为：ob={1，3，4，5，5，6，6，3，2，6}

请判断韦小宝什么时候出千了？

我们可以这样建模$x_i$表示第$i$次投掷的骰子的种类，$y_i$表示第$i$次投掷出的点数，$\lambda$表示各个概率参数。

那么第$t$次使用第$i$种骰子投掷的概率$\delta_t(i)$等于

\begin{equation} \delta_t(i)=\max_{x_1,\dots,x_{t-1}}P(x_1,\dots,x_{t-1},x_t=i,y_1,\dots,y_t|\lambda) \end{equation}

其实$\delta_{t+1}(i)$可以由$\delta_t(i)$推倒得出：

\begin{eqnarray} \delta_{t+1}(i) &=& \max_{x_1,\dots,x_{t}}P(x_1,\dots,x_{t},x_{t+1}=i,y_1,\dots,y_{t+1}|\lambda)\\ &=& \max_j \delta_t(j)\alpha_{ji}\beta_i(y_{t+1})\end{eqnarray}

其中$\alpha_{ji}$表示从第$j$个骰子转移到第$i$个骰子的概率。

$\beta_i(y_{t+1})$表示使用第i个骰子投出点$y_{t+1}$的概率。

从而可以使用上述利用动态规划算法进行逐次递推计算。

得到的结果为：

t	$y_t$	$\delta_t(A)$	$\Psi_t(A)$	$\delta_t(B)$	$\Psi_t(B)$
1	1	0.1	A	0.04	A
2	3	0.0133333	A	0.0036	B
3	4	0.00177778	A	0.000324	B
4	5	0.000237037	A	0.000106667	A
5	5	3.16049e-05	A	2.88e-05	B
6	6	4.21399e-06	A	7.776e-06	B
7	6	5.61866e-07	A	2.09952e-06	B
8	3	7.49154e-08	A	1.88957e-07	B
9	2	9.98872e-09	A	1.70061e-08	B
10	6	1.33183e-09	A	4.59165e-09	B

因为最后一步$\delta_t(B)$的值大于$\delta_t(A)$，所以一次使用B骰子的概率最大，从而一直向上回溯，得到的使用骰子的序列为：AAABBBBBBB

代码如下所示：

 1 #include <stdlib.h>
 2 #include <stdio.h>
 3 #include <string.h>
 4 #include <string>
 5 #include <iostream>
 6 using namespace std;
 7 double initP[2] = {0.6, 0.4};//骰子A，B的初始概率
 8 double transferMatrix[2][2] = {{0.8, 0.2}, {0.1, 0.9}};//骰子之间的转移概率
 9 double EmissionP[2][6]={{1/6.0, 1/6.0, 1/6.0, 1/6.0, 1/6.0, 1/6.0},//骰子A的发射概率
10                         {0.1, 0.1, 0.1, 0.1, 0.3, 0.3}};//骰子B的发射概率
11 double dp[10][2];//dp[i][j]第i步时，使用第j个骰子的最大概率
12 double dpS[10][2];//dpS[i][j]第i步时，使用第j个骰子，得到的最大概率时，使用的骰子种类, 0->A, 1->B
13 int ob[10] = {1, 3, 4, 5, 5, 6, 6, 3, 2, 6};//观测点数
14 bool diceArray[10];//预测骰子使用序列
15 void Viterbi()
16 {
17     memset(dp,0,sizeof(dp));
18     memset(dpS,0,sizeof(dpS));
19     memset(diceArray,0,sizeof(diceArray));
20     dp[0][0] = initP[0]* EmissionP[0][ob[0]-1];
21     dp[0][1] = initP[1]* EmissionP[1][ob[0]-1];
22     for( int i = 1 ; i < 10 ; i++ )//投掷次数
23     {
24         for( int j = 0 ; j < 2 ; j++ )//当前状态
25         {
26             for( int k = 0 ; k < 2 ; k++ )//上一个状态
27             {
28                 double tempP = dp[i-1][k] * transferMatrix[k][j] * EmissionP[j][ob[i]-1] ;
29                 if( dp[i][j] < tempP )
30                 {
31                     dp[i][j] = tempP;
32                     dpS[i][j] = k;
33                 }
34             }
35         }
36     }
37     int maxState = 0;
38     if( dpS[9][0] < dpS[9][1] )
39     {
40         maxState = 1;
41     }
42     for( int i = 9 ; i >=0 ; i-- )
43     {
44         diceArray[i] = maxState;
45         maxState = dpS[i][maxState];
46     }
47 }
48 int main(int argc, char *argv[])
49 {
50     Viterbi();
51     cout<<"每步每个状态下的概率和骰子种类:"<<endl;
52     for( int i = 0 ; i < 10 ; i++ )
53     {
54         for( int j = 0 ; j < 2 ; j++ )
55         {
56             cout<<dp[i][j]<<" "<<dpS[i][j]<<"    ";
57         }
58         cout<<endl;
59     }
60     cout<<"预测骰子种类，0->A, 1->B : "<<endl;
61     for( int i = 0 ; i < 10 ; i++ )
62     {
63         cout<<diceArray[i]<<" ";
64     }
65     cout<<endl;
66 }
67 /* result:
68 每步每个状态下的概率和骰子种类:
69 0.1 0    0.04 0
70 0.0133333 0    0.0036 1
71 0.00177778 0    0.000324 1
72 0.000237037 0    0.000106667 0
73 3.16049e-05 0    2.88e-05 1
74 4.21399e-06 0    7.776e-06 1
75 5.61866e-07 0    2.09952e-06 1
76 7.49154e-08 0    1.88957e-07 1
77 9.98872e-09 0    1.70061e-08 1
78 1.33183e-09 0    4.59165e-09 1
79 预测骰子种类，0->A, 1->B :
80 0 0 0 1 1 1 1 1 1 1
81 */

View Code

转载于:https://www.cnblogs.com/jostree/p/4335810.html

隐马尔科夫模型及Viterbi算法的应用相关推荐

隐马尔科夫模型之Baum-Wech算法
隐马尔科夫模型之Baum-Wech算法 https://blog.csdn.net/u014688145/article/details/53046765 Baum-Wech算法之EM算法 https ...
隐马尔科夫模型-前向算法
转载自隐马尔科夫模型-前向算法隐马尔科夫模型-前向算法在该篇文章中讲了隐马尔科夫模型(HMM)一基本模型与三个基本问题隐马尔科夫模型-基本模型与三个基本问题,这篇文章总结一下隐马尔科夫链(H ...
隐马尔科夫模型C#语言算法实现
开发工具: Visual Studio v2010 .NET Framework 4 Client Profile 版本历史: V1.1 2011年06月09日修正UMDHMM在Baum-Welch ...
隐马尔科夫模型c#语言算法实现,HMM学习最佳范例四：隐马尔科夫模型
四.隐马尔科夫模型(Hidden Markov Models) 1.定义(Definition of a hidden Markov model) 一个隐马尔科夫模型是一个三元组(pi, A, B). ...
隐马尔科夫模型(Hidden Markov Models) 系列之三
隐马尔科夫模型(Hidden Markov Models) 系列之三介绍(introduction) 生成模式(Generating Patterns) 隐含模式(Hidden Patterns) ...
隐马尔科夫模型(HMMs)之三：隐马尔科夫模型
隐马尔科夫模型(Hidden Markov Models) 定义隐马尔科夫模型可以用一个三元组(π,A,B)来定义: π 表示初始状态概率的向量 A =(aij)(隐藏状态的)转移矩阵 P(Xit ...
【深度】从朴素贝叶斯到维特比算法：详解隐马尔科夫模型
详解隐马尔科夫模型作者:David S. Batista 选自:机器之心本文首先简要介绍朴素贝叶斯,再将其扩展到隐马尔科夫模型.我们不仅会讨论隐马尔科夫模型的基本原理,同时还从朴素贝叶斯的角度讨论 ...
使用隐马尔科夫模型实现分词
文章目录算法概述算法实现参考结论参考资料参考链接算法概述分词算法常用的方法是基于统计的机器学习算法.可以使用隐马尔科夫模型(HMM) 来实现分词. 隐马尔科夫模型的基本思想是假设一个序 ...
隐马尔科夫模型(前向后向算法、鲍姆-韦尔奇算法、维特比算法)
隐马尔科夫模型(前向后向算法.鲍姆-韦尔奇算法.维特比算法) 概率图模型是一类用图来表达变量相关关系的概率模型.它以图为表示工具,最常见的是用一个结点表示一个或一组随机变量,结点之间的变表是变量间的概 ...

隐马尔科夫模型及Viterbi算法的应用

隐马尔科夫模型及Viterbi算法的应用相关推荐

最新文章

热门文章