前言

最近在学用Bootstrap计算置信区间的过程中，涉及到贝叶斯学派和频率学派置信区间的区别，我这里写下我的看法，仅供参考。

贝叶斯学派与频率学派的区别

大家应该对贝叶斯学派与频率学派了解的比较多，网上也有很多资料，所以我就不做过多赘述了，这里我就先说下它们的区别。

它们之间的区别是：贝叶斯学派认为参数真值不是固定的，是一个随机变量，而观察到的数据是固定的，其着眼点是参数空间，重视参数的分布，固定的操作模式是通过参数的先验分布结合样本信息得到参数的后验分布；而频率学派认为参数真值是固定的且未知的常数，观察到的数据是随机的，其着眼点在样本空间，有关的概率计算都是针对样本的分布。

贝叶斯可信区间与频率置信区间的区别

在很多情况下，从贝叶斯或频率的角度计算得到的置信区间在数值上是一样的，但含义却不一样。

以95%95\%95%置信区间为例。我们前面说到贝叶斯学派认为参数真值不是固定的，是一个随机变量，因此对于一个给定的贝叶斯95%95\%95%可信区间，意思是参数真值有95%95\%95%的概率落在我们这个区间内，这也是很直观的理解。比如，我们通过当前样本计算出的95%95\%95%贝叶斯可信区间为[−2.34,4.87][-2.34, 4.87][−2.34,4.87]，那么参数真值有95%95\%95%的概率落在这个区间内。

而频率学派认为参数真值是固定的未知的常数，因此对于一个给定的频率95%95\%95%置信区间，参数真值要么在这个区间内，要么不在，也就是说参数真值在这个区间内的概率要么是111，要么是000。同样，我们假设通过当前样本计算出的95%95\%95%频率置信区间为[−2.34,4.87][-2.34, 4.87][−2.34,4.87]，如果我们从上帝视角知道参数真值是555，那么参数真值落在这个区间内的概率就是000，而我们从上帝视角知道参数真值是000的话，那么参数真值落在这个区间内的概率就是111。

那么频率学派下的95%95\%95%置信区间是什么意思呢？我们前面说到频率学派认为样本数据是随机的，也就是样本数据是可以重复多次获得的。对于每一个样本数据，用我们的构造95%95\%95%置信区间的方法，比如[Xˉ−Zα2∗Se(X),Xˉ+Zα2∗Se(X)][\bar{X}-Z_{\frac{\alpha}{2}}*Se(X), \bar{X}+Z_{\frac{\alpha}{2}}*Se(X)][Xˉ−Z2α∗Se(X),Xˉ+Z2α∗Se(X)]，都能得到一个新的置信区间（可能它们之间的差别很小）。在这些置信区间中，有95%95\%95%的置信区间是包含参数真值的。也就是说，95%95\%95% 是对构造置信区间的方法的描述，不是某个区间本身。举个例子，假设参数真值为5.245.245.24，我们重复取样100100100次，用构造置信区间的方法就能得到100100100个置信区间，在得到这100100100个置信区间之前，我们可以说这100100100个置信区间中，有959595个左右包含参数真值5.245.245.24。

还可以从另一个角度理解频率学派下的95%95\%95%置信区间。假设我们还没有取样，但已经制定好取样后构造95%95\%95%置信区间的方法。我们可以说取样一次以后，获得的那个置信区间（现在还不知道）包含真值的概率是95%95\%95%。然而在取样并得到具体的一个区间之后，在频率学派框架下就无法讨论这个区间包含真值的概率了。即取样前能讨论，取样后却无法讨论。

总结

贝叶斯可信区间与频率置信区间的区别主要是由两个学派对参数真值的看法不同：贝叶斯学派认为参数真值是一个随机变量，频率学派认为参数真值是一个未知的常数。而这也是贝叶斯学派和频率学派最本质上的不同。

参考：如何理解 95% 置信区间？

杂记——贝叶斯可信区间与频率置信区间的区别相关推荐

贝叶斯集锦：贝叶斯派和频率派的一个例子
转载自:http://site.douban.com/182577/widget/notes/10567181/note/278503359/ 这个例子的主要目的在于探讨贝叶斯派和频率派适用的具体情境 ...
贝叶斯概率与频率派概率
频率派概率从自然的角度出发,试图直接为事件本身建模,通俗点就是如果事件A独立试验中频率趋于极限p那么p就是该事件的概率.与概率直接与事件发生的频率相联系,被称为频率派概率. 贝叶斯概率就是想构建一套比 ...
详解贝叶斯学派与频率学派的区别和联系
大家好,我是东哥. 要说贝叶斯和频率学派,那简直太有意思了.为什么这么说呢?因为两个学派的理解对于我来说真的是一场持久战.我是在学习机器学习的时候接触到的这两个学派,此前并不知道,当时就被深深吸引了, ...
再谈贝叶斯学派与频率学派的区别
频率主义(Frequentism)与贝叶斯主义(Bayesianism)的哲学辨异与实践(Python仿真) 从 Beta_Binomial共轭分布开始说起: Beta(p|α,β)+BinomCou ...
机器学习基础——先验概率、后验概率和似然估计的讲解；频率派和贝叶斯派之分；以及MLE和MAP方法的解析
1.先验概率假定 B 1 , B 2 , - , B n B_1,B_2,\ldots ,B_n B1,B2,-,Bn是某个过程所有可能的前提条件,也就是 B 1 , B 2 , - , B ...
手把手 | Python代码和贝叶斯理论告诉你，谁是最好的棒球选手
除了文中所附的代码块,你也可以在文末找到整个程序在Jupyter Notebook上的链接. 在数据科学或统计学领域的众多话题当中,我觉得既有趣但又难理解的一个就是贝叶斯分析.在一个课程中,我有机会学 ...
贝叶斯集锦：贝叶斯统计基础
转载自:http://site.douban.com/182577/widget/notes/10567181/note/294041203/ 1.从贝叶斯定理到贝叶斯统计推断 (1)贝叶斯统计简史 ...
贝叶斯推断概率编程初探
1. 写在之前的话 0x1:贝叶斯推断的思想我们从一个例子开始我们本文的讨论.小明是一个编程老手,但是依然坚信bug仍有可能在代码中存在.于是,在实现了一段特别难的算法之后,他开始决定先来一个简单的 ...
贝叶斯的路——概率论迷思
出自数盟原文地址:http://dataunion.org/11650.html 一个家庭有两个孩子,其中一个是男孩,问另一个也是男孩的概率多少?如对于第一个问题,如果没有"那个家庭&qu ...
独家 | 一文读懂机器学习中的贝叶斯统计学
作者:Matthew Stewart, PhD Researcher 翻译:吴金笛校对:丁楠雅本文约4300字,建议阅读15分钟. 本文主要是向新手介绍贝叶斯方法并将其与频率方法进行比较. 你有没 ...

杂记——贝叶斯可信区间与频率置信区间的区别

前言

贝叶斯学派与频率学派的区别

贝叶斯可信区间与频率置信区间的区别

总结

杂记——贝叶斯可信区间与频率置信区间的区别相关推荐

最新文章

热门文章