gibbs采样算法的理解

马尔科夫过程：

$\pi_{t}(X^{*})=\int \pi_{t-1}(X)k(X^{*}|X)dX$

构造一个马氏链，使得 $\pi (X)$ 为平稳分布时，当t足够大，有：

$\pi_{_{t}}(X)=\pi_{_{t-1}}(X)$

有：

$\pi(X^{*})=\int \pi(X)k(X^{*}|X)dX$

上式表明，从 $\pi(X^{^{*}})$ 中采样一个样本 $x^{^{*}}$ 的概率，等于前一时刻从分布 $\pi (X)$ 中采到样本 $x$ 时,再从分布 $k(X^{*}|X=x)$ 中采一个样本 $x^{^{*}}$ 的概率。

因此，从 $\pi(X^{^{*}})$ 中采样，等价于从 $k(X^{*}|X=x)$ 采样。

问题转为，要选择一个合适的状态转移概率 $k(X^{*}|X)$ 来构造马氏链，使得 $\pi (X)$ 为平稳分布。

在满足以下细致平衡条件，状态转移概率 $k(X^{*}|X)$ 构造的马氏链，可使得 $\pi (X)$ 为平稳分布：

$\pi(X)k(X^{*}|X)=\pi(X^{*})k(X|X^{*})$ （充分不必要条件）

直接构造状态转移概率 $k(X^{*}|X)$ 很困难，定义接受率：

$A(X^{*}|X)=min(1,\frac{\pi(X^{*})Q(X|X^{*}) }{\pi(X)Q(X^{*}|X) })$

其中 $Q(X^{*}|X)$ 可以是任意容易采样的分布。定义状态转移概率

$k(X^{*}|X)=A(X^{*}|X)*Q(X^{*}|X)$ ，

可以证明， $\pi(X)k(X^{*}|X)=\pi(X^{*})k(X|X^{*})$ ，满足细致平稳条件。

已有一个从 $\pi (X)$ 分布的样本，可以从分布 $k(X^{*}|X)$ 采样 $x^{^{*}}$ ，作为 $\pi (X)$ 下一个样本。如何从 $k(X^{*}|X)$ 分布中采样？

直接从 $k(X^{*}|X)$ 采样不容易，可以采用接受拒绝方法采样。从提议分布 $Q(X^{*}|X)$ ，再以 $A(X^{*}|X)$ 为接受率来决定是否接受该样本。

从 $Q(X^{*}|X)$ 中采集样本 $x^{^{*}}$ ，计算样本 $x^{^{*}}$ 在分布 $A(X^{*}|X)$ 下的概率，如果等于1,则保留该样本，否则，利用拒绝接受采样方法来决定是否保留该样本。

gibbs采样

当X为高维的随机变量时，定义

$Q(x_{i}}^{*}|X_{-i})=\pi (x_{i}^{*}|X_{-i})$

则接受率：

$A(x_{i}^{*}|X_{-i})=min(1,\frac{\pi(x_{i}^{*})Q(X_{-i}|x_{i}^{*}) }{\pi(X_{-i})Q(x_{i}^{*}|X_{-i}) })$

$=min(1,\frac{\pi(x_{i}^{*})\pi (X_{-i}|x_{i}^{*}) }{\pi(X_{-i})\pi (x_{i}^{*}|X_{-i}) })$

$=min(1,\frac{\pi (X_{-i},x_{i}^{*}) }{\pi (x_{i}^{*},X_{-i}) }) =1$

所以，gibbs采样是接受率恒等于1的MH采样。

无向图模型未归一化的概率分布：

$\tilde{p}(x)=exp(-E(x))$ ，必须除以配分系数Z，才能获得有效分布

${p}(x)=\frac{exp(-E(x))}{Z}$

其中配分系数是未归一化概率所有状态的积分（或求和）：

$Z = \int \tilde{p}(x)dx$

由于难以通过解析法计算Z,可以用mcmc采样来计算Z的近似解。

gibbs采样算法的理解相关推荐

Gibbs采样算法求解LDA
1. Gibbs采样算法求解LDA的思路首先,回顾LDA的模型图如下: 在Gibbs采样算法求解LDA的方法中,我们的α,η是已知的先验输入,我们的目标是得到各个,对应的整体, 的概率分布,即文档 ...
LDA求解：Gibbs采样算法
本文是LDA主题模型的第二篇,读这一篇之前建议先读文本主题模型之LDA(一) LDA基础,同时由于使用了基于MCMC的Gibbs采样算法,如果你对MCMC和Gibbs采样不熟悉,建议阅读之前写的MCM ...
Gibbs 采样的理解
什么是Gibbs采样 Gibbs采样是MH算法的一种特例(α==1),因此可以保证Gibbs抽取的样本,也构成一个非周期不可约稳定收敛的马氏链:Gibbs采样适用于样本是两维或以上的情况:通过积分去除 ...
mh采样算法推导_深度学习：Gibbs 采样
1. 什么是Gibbs采样 Gibbs采样是MH算法的一种特例(α==1),因此可以保证Gibbs抽取的样本,也构成一个非周期不可约稳定收敛的马氏链:Gibbs采样适用于样本是两维或以上的情况:通过积 ...
简单易学的机器学习算法——Gibbs采样
一.Gibbs采样概述前面介绍的Metropolis-Hastings采样为从指定分布中进行采样提供了一个统一的框架,但是采样的效率依赖于指定的分布的选择,若是选择的不好,会使得接受率比较低,大量的 ...
【LDA学习系列】Gibbs采样python代码
Gibbs采样算法流程:从已知分布采样,前提是预知条件分布代码流程: 代码: # -*- coding: utf-8 -*- ''' Created on 2018年5月15日 @author: u ...
MCMC(三)：Gibbs采样
在<MCMC(二):MCMC采样和M-H采样>中,我们讲到了M-H采样已经可以很好的解决蒙特卡罗方法需要的任意概率分布的样本集的问题. 但是M-H采样有两个缺点:一是需要计算接受率,在高维 ...
MCMC 和 Gibbs采样
0. MCMC 从名字我们可以看出,MCMC由两个MC组成,即蒙特卡罗方法(Monte Carlo Simulation,简称MC)和马尔科夫链(Markov Chain ,也简称MC). Monte ...
机器学习 —— 概率图模型（推理：采样算法）
基于采样的推理算法利用的思想是概率 = 大样本下频率.故在获得图模型以及CPD的基础上,通过设计采样算法模拟事件发生过程,即可获得一系列事件(联合概率质量函数)的频率,从而达到inference的 ...

gibbs采样算法的理解

gibbs采样算法的理解相关推荐

最新文章

热门文章