NLP 《马尔科夫链》

定义：是一个离散的随机过程，状态的变化都是依赖于状态转移矩阵，用来描述状态空间中经过从一个状态到另一个状态的转换的随机过程，用图的形式表示如下，下图是截图别人的。

马尔科夫链是基于两个假设：
有限视野假设：也就是马尔科夫假设，回想到之前学习的Bi-gram，跟这个含义是一样的，每一时刻的状态只和上一时间的状态有关，与更之前时刻的状态没有直接联系。

时间独立性：在转移矩阵里面，让一个点随机进行漫步，不论到什么时间，状态转移概率都是保持不变的，不随着时间的变化而变化，因此状态矩阵和时间没有关系。

加入上图所示：总共俩状态A和B。
模型表示为：λ = (S，A，π)
S：假设一共有N个状态的集合，而在每个时刻只可能处于一个状态，所有可能的状态集合用S = {S1, S2, S3, ⋯ , SN} 表示。T表示一共有T个时刻，用q1, q2, q3, ⋯ , qT表示在时刻t = 1,2,⋯,T时的状态。

A：表示转移矩阵，Aij 表示P(qt = Sj | qt-1 = Si)表示qt-1时刻的Si到qt时刻的Sj转移概率。

π：在途中没有画出来，表示初始状态start到各个状态S的概率转移向量（从外部初始状态进入这个链内的的过程），也就是q0时刻的start到q1时刻的Si转移概率，用P(q1 = Si | q0 = start)表示。

因此两个假设用式子表示就是：
有限视野：P(qt |q1, q2, q3, ⋯ , qt-1) = P(qt | qt-1)
时间独立性：P(qt = Sj | qt-1= Si) = P(qk = Sj | qk-1= Si)

我们看一下这个状态转移矩阵的特点，假如有一下转移矩阵：

看他的一个有趣的特点：
1：给定一个初始状态π=(0.1, 0.4, 0.5)，计算π* A^N

A = [[0.6, 0.3, 0.1]; [0.2, 0.5, 0.3]; [0.4, 0.2, 0.4]]
pai = [0.1, 0.4, 0.5]
B = pai * eye(3,3)
for x=1:50B = B * A;disp(['itr------', num2str(x)])B
end;

在第九次就开始收敛到[0.41379 0.34483 0.24138]

2：换个值看看。初始状态π=(0.6, 0.1, 0.3)

A = [[0.6, 0.3, 0.1]; [0.2, 0.5, 0.3]; [0.4, 0.2, 0.4]]
pai = [0.6, 0.1, 0.3]
B = pai * eye(3,3)
for x=1:50B = B * A;disp(['itr------', num2str(x)])B
end;

也在第九次就开始收敛到[0.41379 0.34483 0.24138]

3：我们求A的幂次方看看，计算A^N

A = [[0.6, 0.3, 0.1]; [0.2, 0.5, 0.3]; [0.4, 0.2, 0.4]]
B = eye(1,1)
for x=1:50B = B * A;disp(['itr------', num2str(x)])B
end;

差不多也是在第11次矩阵运算的时候，收敛于

因此，马尔可夫链的状态转移矩阵具有收敛到某个值的特点，这让我想起来了pagerank算法，就是根据网页的出度入度，计算网页价值，也是用的这样的计算方式，最后收敛与一个向量，就是网页的排名评分。具体的数学证明过程，以及转移矩阵的收敛条件是什么，我这里就不展开写了，有兴趣可以自行查阅资料哈。

本文学习来自：
http://zhouyichu.com/nlp/Hidden-Markov-Model/
https://blog.csdn.net/bitcarmanlee/article/details/82819860

学习马尔科夫链的目的是因为它是HMM的基础，是绕不开的模型，完全是为了给学习HMM做铺垫的，必须要明白它是什么，以及它的模型的组成。

下一篇文章我们将要学习到HMM，隐式马尔科夫链，是一个比马尔科夫链功能更加强大的模型。

NLP 《马尔科夫链》相关推荐

机器学习笔记之马尔可夫链蒙特卡洛方法(四)吉布斯采样
机器学习笔记之马尔可夫链蒙特卡洛方法--吉布斯采样引言回顾:MH采样算法基于马尔可夫链的采样方式细致平衡原则与接收率 MH采样算法的弊端吉布斯采样方法吉布斯采样的采样过程吉布斯采样的推导 ...
NLP《词汇表示方法（三）word2vec》
Word2Vec是2013年Google发布的工具,也可以说是一个产生词向量的一群模型组合,关于词向量,也就是嵌入词向量的解释之前也解释了,这里不赘述.该工具主要包含两个词向量的生成模型,跳字模型(s ...
深入理解深度学习——Word Embedding（六）：负采样（Negative Sampling）优化
分类目录:<深入理解深度学习>总目录相关文章: · Word Embedding(一):word2vec · Word Embedding(二):连续词袋模型(CBOW, The Con ...
负采样Negative Sampling
1.噪声对比估计(Noise contrastive estimation) 语言模型中,根据上下文c,在整个语料库V中预测某个单词w的概率,一般采用softmax形式,公式为: NCE:将softm ...
自然语言处理中的负采样
目录 word2vec出现的背景跳字模型(skip-gram) 连续词袋模型(CBOW) 小结负采样具体训练过程 word2vec出现的背景我们都知道,自然语言处理需要对文本进行编码,将语言中 ...
NLP《词汇表示方法（四）负采样》
一:负采样在CBOW和Skip-Gram模型中,最后输出的都是词汇的one-hot向量,假如我们的词汇表的数量是10000,嵌入空间的维度是300,再假设此时是以Skip-Gram模型只预测cont ...
花书+吴恩达深度学习（二四）蒙特卡罗方法（重要采样，MCMC）
文章目录 0. 前言 1. 重要采样 2. 马尔可夫链蒙特卡罗 MCMC 3. 不同峰值之间的混合挑战如果这篇文章对你有一点小小的帮助,请给个关注,点个赞喔,我会非常开心的~ 花书+吴恩达深度学习( ...
【NLP】word2vec负采样
一.理解负采样之前,需要先回顾一下word2vec的训练流程: 1.初始化一个embedding权重矩阵W1(N*D)→2.根据输入单词直接挑出W1矩阵中对应的行向量→3.相加并求平均得一个向量(1* ...
[nlp] 负采样 nce_loss
论文:http://demo.clab.cs.cmu.edu/cdyer/nce_notes.pdf 参考:求通俗易懂解释下nce loss? - 知乎参考:(三)通俗易懂理解--Skip-gram ...
NLP-词向量(Word Embedding)-2013：Word2vec模型（CBOW、Skip-Gram）【对NNLM的简化】【层次Softmax、负采样、重采样】【静态表示；无法解决一词多义】
一.文本的表示方法 (Representation) 文本是一种非结构化的数据信息,是不可以直接被计算的.因为文本不能够直接被模型计算,所以需要将其转化为向量. 文本表示的作用就是将这些非结构化的信息 ...

NLP 《马尔科夫链》

NLP 《马尔科夫链》相关推荐

最新文章

热门文章