马尔可夫链蒙特卡罗（Markov Chain Monte Carlo ，MCMC ）方法主要算法有：Metropolis-Hastings （MH）算法、Metropolis采样算法，以及吉布斯采样方法，后两者都可以看作是MH算法的特例。

Metropolis-Hastings （MH）算法

步骤：

Metropolis采样算法

步骤和MH算法一样，只是利用的提议分布是对称的，即：=，所以分子分母中可以约掉。

仿真

目的：用标准正态分布（提议分布）模拟另外一个标准正态分布（目标分布），我们想生成符合这个密度函数的随机采样。（这里再强调一下，我们的提议分布函数为 proposal distribution，是比较好采样的，目标函数 target distribution 是不好采样的，我们通过好采样的函数采样，然后判断采到的样本是否被接受）；

目标分布：μ=0，σ=5的正态分布；

提议分布：μ= 采样点处，σ=2的正态分布。

import numpy as np
import matplotlib.pyplot as plt
from scipy import statsnp.random.seed(42)
x=np.linspace(-20,20,100)
# raw_y=stats.expon(scale=1).pdf(x)
raw_y=stats.norm.pdf(x,0,5)Samp_Num=10000
result=[]
init=1
result.append(init)
# p=lambda r:stats.expon(scale=1).pdf(r)
p=lambda r:stats.norm.pdf(r,0,5)
q=lambda v:stats.norm.rvs(loc = v,scale = 2, size = 1)for i in range(Samp_Num):xstar=q(result[i])alpha=min(1,p(xstar)/p(result[i]))u=np.random.rand(1)if u<alpha:result.append(xstar)else:result.append(result[i])print(i)n, bins, patches = plt.hist(result, 50, density=1, facecolor='blue', alpha=0.5)
plt.plot(x,raw_y)
plt.show()

python实现Metropolis采样算法实例相关推荐

Metropolis 采样算法
前言马尔科夫链概念描述转移概率矩阵平稳分布为何要用马尔科夫链 Metropolis 采样算法简介 Metropolis 采样算法思路 Metropolis 采样算法步骤 Metropolis ...
【机器学习算法-python实现】采样算法的简单实现
1.背景采样算法是机器学习中比较常用,也比较容易实现的(出去分层采样).常用的采样算法有以下几种(来自百度知道): 一.单纯随机抽样(simple random sampling)将调查总体 ...
python鸢尾花案例_BP算法实例—鸢尾花的分类（Python）
首先了解下Iris鸢尾花数据集: Iris数据集(https://en.wikipedia.org/wiki/Iris_flower_data_set)是常用的分类实验数据集,由Fisher,1936 ...
Python用MCMC马尔科夫链蒙特卡洛、拒绝抽样和Metropolis-Hastings采样算法
最近我们被客户要求撰写关于MCMC的研究报告,包括一些图形和统计输出. 我们将研究两种对分布进行抽样的方法:拒绝抽样和使用 Metropolis Hastings 算法的马尔可夫链蒙特卡洛方法 (MC ...
MCMC中的Metropolis–Hastings算法与吉布斯采样
Metropolis–Hastings算法是一种具体的MCMC方法,而吉布斯采样(Gibbs Sampling)是Metropolis–Hastings算法的一种特殊形式.二者在机器学习中具有重要作用 ...
中文分词算法python代码_python实现中文分词FMM算法实例
本文实例讲述了python实现中文分词FMM算法.分享给大家供大家参考.具体分析如下: FMM算法的最简单思想是使用贪心算法向前找n个,如果这n个组成的词在词典中出现,就ok,如果没有出现,那么找n- ...
python分割数字_对python数据切割归并算法的实例讲解
当一个 .txt 文件的数据过于庞大,此时想要对数据进行排序就需要先将数据进行切割,然后通过归并排序,最终实现对整体数据的排序.要实现这个过程我们需要进行以下几步:获取总数据行数:根据行数按照自己的需 ...
python线性回归算法简介_Python实现的简单线性回归算法实例分析
本文实例讲述了Python实现的简单线性回归算法.分享给大家供大家参考,具体如下: 用python实现R的线性模型(lm)中一元线性回归的简单方法,使用R的women示例数据,R的运行结果: > ...
基本采样算法及Python实现
本文代码见于 code 时不时地我们会在机器学习乃至深度神经网络中瞥见采样算法的身影.本文只关键简单的入门级的采样算法及其Python实现. use more samples for the more ...

python实现Metropolis采样算法实例

Metropolis-Hastings （MH）算法

Metropolis采样算法

仿真

目标分布：μ=0，σ=5的正态分布；

提议分布：μ= 采样点处，σ=2的正态分布。

python实现Metropolis采样算法实例相关推荐

最新文章

热门文章