贝叶斯集锦：贝叶斯派和频率派的一个例子

转载自：http://site.douban.com/182577/widget/notes/10567181/note/278503359/

这个例子的主要目的在于探讨贝叶斯派和频率派适用的具体情境。

（1）作为统计学的两大门派。贝叶斯派和频率派理念有别，方法也各异。但是撇开哲学层面的争论，从解决问题的角度来说，对于正确的问题采用正确的方法，才是运用之道。

一个来自初等概率论的例子。

在关于药物D的临床实验中，将背景相似，病情相似的500名患者分为治疗组（针对病情控制饮食，服用药物D）和控制组（相同饮食，服用安慰剂）。设饮食的控制可以使10%的病患恢复正常。而由于某种未知的隐藏因素F（比如基因），会影响药物D正常的发挥作用。设病患的90%为FA，药物D是不起作用的；而10%的病患为FB，其中95%可以通过药物D的治疗恢复正常。

看看这个实验吧。

n<-500
diet<-0.1#通过控制饮食而恢复正常的
effect<-c(0,0.95)
names(effect)<-c('FA','FB')

#对病患总体指派因素F
f.chance<-runif(n)
f<-ifelse(f.chance<0.9,'FA','FB')

#指派控制组和治疗组
group<-runif(n)
group<-ifelse(group<0.5,'control','drug')

#指派治疗结果
diet.chance<-runif(n)
drug.chance<-runif(n)
outcome<-((diet.chance<diet)|(drug.chance<effect[f]*(group=='drug')))

trail<-data.frame(group=group,F=f,treatment=outcome)

#看看模拟的结果：

summary(trail)
group F treatment control:251 FA:455 Mode :logical drug :249 FB: 45 FALSE:430 TRUE :70 NA's :0

就是控制组251人，治疗组249人，因素FA455人，因素FB45人。共治愈70人，其中FA44人，FB26人。

分别看一下控制组和治疗组的情况：

with(trail[group=='control',],table(F,treatment))
with(trail[group=='drug',],table(F,treatment))
结果如下：控制组：
treatment
F FALSE TRUE
FA 208 21
FB 19 3
治疗组：
treatment
F FALSE TRUE
FA 203 23
FB 0 23
#分组的治疗效果

treat.group<-with(trail,table(group,treatment))
treatment group FALSE TRUE control 227 24 drug 203 46

药物组的治愈率为18.47% 控制组的治愈率为9.56% 风险比（risk ratio）为：18.47/9.56=1.93 而比值比（odd ratio）为：（46/203）/(24/227)=2.14

（2）频率派方法检验这个结果是否显著的。对列联表的独立性进行检验，原假设是疗效与病人是否服药独立，控制组和治疗组的治愈比例应该相等。检验方法包括卡方检验或Fisher精确性检验。

chisq.test(treat.group)
结果是显著的 Pearson's Chi-squared test with Yates' continuity correction

data: treat.group X-squared = 7.5224, df = 1, p-value = 0.006094

说明药物D的疗效和单纯的调节饮食有明显的差异。

（3）贝叶斯派的方法

如果医生面对的是一位的病人个体，那么这个病人服用药物D被治愈的概率适于使用贝叶斯观点，而非使用由总体抽样得出的结果（频率派）。

按贝叶斯派的观点，治愈率p是一个随机变量。

贝叶斯法则： Posterior(p | x) = C * Prior(p) * f(x | p)

可以把某病人治愈的概率看作掷（非均匀的）硬币时出现正面的概率，即似然f(x | p)看作二项分布B（n,p），此时P的共轭先验分布为Beta（alpha,beta）分布（即后验分布是Beta(alpha+r,beta+n-r)分布）。

贝叶斯方法中，经常采用分布的均值或者众数作为p的点估计。

现在假设已知控制饮食得到的治愈率为10%，那么我们设置先验概率均值为 0.1（比如取alpha=0.1,beta=0.9）

library(ggplot2)
p<-ggplot(data.frame(x=c(0,1)),aes(x=x))
p+stat_function(fun=dbeta,args=list(0.1,0.9),colour='red')

取这样一个分布的目的是使得p尽量在区间[0,1]上均匀。

下面来计算后验概率。

#利用公式计算Beta分布的均值和众数

betad.mean<-function(alpha,beta)
  {alpha/(alpha+beta)}
betad.mode<-function(alpha,beta)
  {(alpha+1)/(alpha+beta-2)}
#先验分布的情况
alpha<-0.1
beta<-0.9
#分控制组和治疗组分别讨论
false.control<-treat.group[1,1]
true.control<-treat.group[1,2]
false.drug<-treat.group[2,1]
true.drug<-treat.group[2,2]
#对控制组，后验分布的参数
alpha.control<-alpha+true.control
beta.control<-beta+false.control
#对治疗组，后验分布的参数
alpha.drug<-alpha+true.drug
beta.drug<-beta+false.drug
#画出这两个后验分布
p<-ggplot(data.frame(x=c(0,.3)),aes(x=x))
p+stat_function(fun=dbeta,args=list(alpha.drug,beta.drug),colour='red')+
stat_function(fun=dbeta,args=list(alpha.control,beta.control),colour='blue')+
  annotate("text",x=.03,y=20,label="control")+
  annotate("text",x=.23,y=15,label="drug")

#计算控制组的均值和众数（p的后验估计）

betad.mean(alpha.control,beta.control)
# 0.1187755
betad.mode(alpha.control,beta.control)
#0.1238683
#计算治疗组的均值和众数(p的后验估计)

betad.mean(alpha.drug,beta.drug)
# 0.1754864
betad.mode(alpha.drug,beta.drug)
# 0.1807843
这些后验估计值就是在知道样本分布之后，对于先验信息治愈率10%的修正。

贝叶斯集锦：贝叶斯派和频率派的一个例子相关推荐

机器学习基础——先验概率、后验概率和似然估计的讲解；频率派和贝叶斯派之分；以及MLE和MAP方法的解析
1.先验概率假定 B 1 , B 2 , - , B n B_1,B_2,\ldots ,B_n B1,B2,-,Bn是某个过程所有可能的前提条件,也就是 B 1 , B 2 , - , B ...
贝叶斯方法和贝叶斯网络
从贝叶斯方法谈到贝叶斯网络 0 引言看到July的这篇文章,觉得写得很好,所以转载过来,留着慢慢看.原地址:https://blog.csdn.net/v_july_v/article/detail ...
『机器学习白板』频率派vs贝叶斯派
频率派vs贝叶斯派! 文章目录一. 数据描述二. 频率派观点三. 贝叶斯派观点四. 总结五. 参考文章一. 数据描述对概率的诠释有两大学派,一种是频率派另一种是贝叶斯派.后面我们对观测集 ...
贝叶斯概率与频率派概率
频率派概率从自然的角度出发,试图直接为事件本身建模,通俗点就是如果事件A独立试验中频率趋于极限p那么p就是该事件的概率.与概率直接与事件发生的频率相联系,被称为频率派概率. 贝叶斯概率就是想构建一套比 ...
贝叶斯集锦：贝叶斯统计基础
转载自:http://site.douban.com/182577/widget/notes/10567181/note/294041203/ 1.从贝叶斯定理到贝叶斯统计推断 (1)贝叶斯统计简史 ...
贝叶斯集锦：MCMCpack包
转载自:http://site.douban.com/182577/widget/notes/10567181/note/280112466/ ####贝叶斯集锦这个系列目的是想收集一些使用R的贝叶斯 ...
【机器学习】贝叶斯学派与频率学派有何不同？
要说贝叶斯和频率学派,那简直太有意思了.为什么这么说呢?因为两个学派的理解对于我来说真的是一场持久战.我是在学习机器学习的时候接触到的这两个学派,此前并不知道,当时就被深深吸引了,于是找了各种资料学习 ...
再谈贝叶斯学派与频率学派的区别
频率主义(Frequentism)与贝叶斯主义(Bayesianism)的哲学辨异与实践(Python仿真) 从 Beta_Binomial共轭分布开始说起: Beta(p|α,β)+BinomCou ...
机器学习题库整理通俗理解贝叶斯方法和贝叶斯网络
1 贝叶斯方法长久以来,人们对一件事情发生或不发生的概率,只有固定的0和1,即要么发生,要么不发生,从来不会去考虑某件事情发生的概率有多大,不发生的概率又是多大.而且概率虽然未知,但最起码是一个确定的 ...

贝叶斯集锦：贝叶斯派和频率派的一个例子

贝叶斯集锦：贝叶斯派和频率派的一个例子相关推荐

最新文章

热门文章