也谈MCMC方法与Gibbs抽样

个人博客传送门：点击打开链接

MCMC，即传说中的Markov Chain Mento Carlo方法。其主要用于统计推理中进行模拟抽样，尤其在贝叶斯推理中有着非常广泛的应用。如算法模型的后验参数估计问题，很多情况下其后验概率分布没有确定性的解析解，或者解析解计算起来非常复杂，便可以通过MCMC模拟抽样，根据大数定律，参数的期望便可以通过对抽样样本的求均值来评估。

山人第一次见到MCMC兄还是在研究僧阶段，那时候以Latent Direichlet Allocation(LDA)为代表的Blei先生的一系列主题模型算法还很火，甚至你还能看见Andrew Ng的身影。于是导师欣然的把其另一篇层次主题模型的论文，Hierarchical LDA(hLDA)甩给我们，拍着我们的肩膀，语重心长的说，好好干，会很有前景的。于是我的MCMC初体验是这样的： What the hell? 于是直到现在还对MCMC念念不忘。好吧，是耿耿于怀。最近又看见Quora上有人讨论MCMC和Gibbs抽样，再看时，发现虽然有一两年未看，脑部神经元还是不停的工作，现在理解起来竟然清晰许多。 MCMC是Markov Chain和Mento Carlo两个概念的组合，我们不妨分而治之，先看看各自的含义。

I-Markov Chain

即马尔科夫链，这哥么大家肯定不会陌生，还记得Hidden Markov Model么（Baum-Welch算法会推导了么:( )马尔科夫链的一个重要属性就是无记忆性。其表示的随机过程，在一个状态空间里游走且未来的状态只与当前的状态有关，而与之前的状态均无关。这种无记忆性便称之为马尔科夫性。

p(xt+1|xt,xt−1...x1)=p(xt+1|xt)(1)

马尔科夫链是一种随机过程，其定义有主要有两点，即状态空间和转移概率矩阵。如下图所示，一个简单的马尔科夫链随机过程，包含三个状态：

其状态之间的转移概率矩阵如下：
假设在状态 Πi 时，你在Bull Market 状态，且当前概率分布为 [0,1,0] 。在下一个 Πi+1 状态时的概率分布为

Πi+1=Πi.P(2)

则结果为 Πi+1=[.15.8.05] 。如此类推，下一个状态分布则为：

Πi+1=Πi.P2(3)

如此下去，最终发现我们会得到一个稳定的状态，此时

Π=Π.P(4)

即状态分布变得稳定(Stationary)，不会再随着状态转移概率的变化而变化。且我们发现，即使我们的初始状态分布矩阵不是 [0,1,0] 而是另外一个值，如 [0.4,0.3,0.3] 时，最终经过多次转移，也会达到最终的稳定(Stationary)状态，且稳定状态的分布是一致的，即最终的Stationary状态与初始分布矩阵没有关系，只与状态转移矩阵有关。那末是不是所有的状态转移矩阵都能最终达到稳定状态呢？答案自然不是，还是需要马氏链定理的保证，简单说就是
如果一个非周期马氏链具有概率转移矩阵 P ，且它的任何两个状态都是联通的，那么如果

也谈MCMC方法与Gibbs抽样相关推荐

Gibbs抽样方法详解
Gibbs抽样方法的作用: 积分,期望或者联合分布很难计算,通常情况下当前面三个问题是NP问题时才需要Gibbs Sampling. 不然的话,直接计算就可以了嘛,既准确又快速,干嘛还要Gibbs S ...
UC伯克利提出小批量MH测试：令MCMC方法在自编码器中更强劲
转载请注明出处:乐投网 - UC伯克利提出小批量MH测试:令MCMC方法在自编码器中更强劲近日伯克利大学官方博客发文提出小批量 MH(Minibatch Metropolis-Hastings),即 ...
马尔可夫链蒙特卡罗算法（MCMC方法）
MCMC方法是什么具体而言,假设我们要计算积分 μ = ∫ S h ( θ ) π ( θ ∣ x ) d θ \mu=\int_Sh(\theta)\pi(\theta|x)d\theta μ=∫ ...
受限玻尔兹曼机准备知识——MCMC方法和Gibbs采样
先点明几个名词 MCMC方法:马尔可夫链-蒙特卡洛方法 (千万别叫成梅特罗波利斯蒙特卡罗方法了) Metropolis-Hastings采样:梅特罗波利斯-哈斯廷斯采样 Gibbs采样:吉布斯采样 ...
MCMC方法与变分推断
贝叶斯推理(Bayesian inference)是统计学中的一个重要问题,也是许多机器学习方法中经常遇到的问题.例如,用于分类的高斯混合模型或用于主题建模的潜在狄利克雷分配(Latent Diric ...
【ML】单分量Metropolis-Hastings算法与Gibbs抽样
承接<马尔可夫链蒙特卡罗法>,上篇中描述了马尔可夫链蒙特卡罗法的本质 -- 以马尔可夫链为概率模型的蒙特卡罗方法,在马尔可夫链上进行随机游走获得样本,构造时使得马尔可夫链的平稳分布就是我们 ...
马尔科夫链与MCMC方法
马尔科夫链概述基本思想: 过去所有的信息都已经被保存到了现在的状态,基于现在就可以预测未来. Example: 假如每天的天气是一个状态的话,那今天是不是晴天只依赖于昨天的天气,而和前天的天气没有任 ...
一文读懂贝叶斯推理问题：MCMC方法和变分推断
全文共6415字,预计学习时长20分钟或更长图片来源:pexels.com/@lum3n-com-44775 贝叶斯推理(Bayesian inference)是统计学中的一个重要问题,也是许多机器 ...
经验传承：谈色彩设计方法
经验传承:谈色彩设计方法摘要:在色彩设计应用中,我们对颜色不同程度的理解,影响到设计页面的表现,熟练地运用色彩搭配,设计时岂不事半功倍.一张优秀的设计作品,它的色彩搭配必定和谐得体,令人赏心悦 ...

也谈MCMC方法与Gibbs抽样

I-Markov Chain

也谈MCMC方法与Gibbs抽样相关推荐

最新文章

热门文章