概率论与数理统计中的边缘分布

假设有二维随机变量 ( X , Y ) (X,Y) (X,Y)具有分布函数 F ( x , y ) F(x,y) F(x,y)，其中 X , Y X,Y X,Y都是随机变量，也有各自的分布函数，将它们各自的分布函数分别记为 F X ( x ) , F Y ( y ) F_X(x),F_Y(y) FX(x),FY(y)，则 F X ( x ) , F Y ( y ) F_X(x),F_Y(y) FX(x),FY(y)就被称为二维随机变量 ( X , Y ) (X,Y) (X,Y)关于随机变量 X , Y X,Y X,Y的边缘分布的分布函数 F ( x , y ) = P { X ≤ x , Y ≤ y } F(x,y)=P\{X\le x,Y\le y\} F(x,y)=P{X≤x,Y≤y} F X ( x ) = ∫ Y F ( x , y ) d y F_X(x)=\int_YF(x,y)dy FX(x)=∫YF(x,y)dy F Y ( y ) = ∫ X F ( x , y ) d x F_Y(y)=\int_XF(x,y)dx FY(y)=∫XF(x,y)dx

贝叶斯统计中的边缘分布m(x)

在贝叶斯统计中，我们将参数也视为随机变量，因此我们总是通过如下公式来计算样本的边缘分布 m ( x ) = ∫ θ f ( X , θ ) d θ = ∫ θ f ( X ∣ θ ) π ( θ ) d θ m(x)=\int_\theta f(X,\theta)d\theta=\int_\theta f(X|\theta)\pi(\theta)d\theta m(x)=∫θf(X,θ)dθ=∫θf(X∣θ)π(θ)dθ这和概率统计中的边缘分布是吻合的，为了进一步介绍边缘分布的统计学意义，下面将介绍混合分布的概念

混合分布

设随机变量 X X X以 p p p的概率在总体 F 1 F_1 F1中取值，以 1 − p 1-p 1−p的概率在总体 F 2 F_2 F2中取值，若用 F ( x ∣ θ 1 ) F(x|\theta_1) F(x∣θ1)和 F ( x ∣ θ 2 ) F(x|\theta_2) F(x∣θ2)分别表示总体 F 1 F_1 F1和总体 F 2 F_2 F2的分布函数，则 X X X的混合分布函数为 F ( X ) = p ∗ F ( x ∣ θ 1 ) + ( 1 − p ) ∗ F ( x ∣ θ 2 ) F(X)=p*F(x|\theta_1)+(1-p)*F(x|\theta_2) F(X)=p∗F(x∣θ1)+(1−p)∗F(x∣θ2)， X X X的混合概率密度为 f ( X ) = p ∗ f ( x ∣ θ 1 ) + ( 1 − p ) ∗ f ( x ∣ θ 2 ) f(X)=p*f(x|\theta_1)+(1-p)*f(x|\theta_2) f(X)=p∗f(x∣θ1)+(1−p)∗f(x∣θ2)，称 f ( X ) f(X) f(X)为 f ( x ∣ θ 1 ) f(x|\theta_1) f(x∣θ1)和 f ( x ∣ θ 2 ) f(x|\theta_2) f(x∣θ2)的混合分布
p p p和 1 − p 1-p 1−p可以视为随机变量 θ \theta θ的概率分布，由此可见边缘分布 m ( x ) m(x) m(x)是混合分布的推广。
当 θ \theta θ为离散型随机变量时，边缘分布 m ( x ) m(x) m(x)由有限个概率函数混合而成；
当 θ \theta θ为连续型随机变量时，边缘分布 m ( x ) m(x) m(x)由无限个概率函数混合而成。

贝叶斯统计中的边缘分布相关推荐

迁移学习在深度学习中的边缘分布对齐和条件分布对齐
个人理解: 边缘分布对齐:源数据和目标数据输入神经网络,经过卷积池化等操作提取特征后,形成的feature map相似. 条件分布对齐:不光要feature相似,还得是同类别的feature map相 ...
深度学习中的贝叶斯统计简介
贝叶斯用概率反映知识状态的确定性程度.数据集能够被直接观测到,因此不是随机的.另一方面,真实参数θ是未知或不确定的,因此可以表示成随机变量.在观察到数据前,我们将θ的已知知识表示成先验概率分布(pri ...
贝叶斯统计在投资决策中的应用
贝叶斯统计在投资决策中的应用文章目录贝叶斯统计在投资决策中的应用一.Bayesian Approach与样本估计的区别二.贝叶斯方法的三种信息三.贝叶斯公式的密度函数形式四.贝叶斯公式在预 ...
贝叶斯集锦：贝叶斯统计基础
转载自:http://site.douban.com/182577/widget/notes/10567181/note/294041203/ 1.从贝叶斯定理到贝叶斯统计推断 (1)贝叶斯统计简史 ...
贝叶斯 - 《贝叶斯统计》笔记
<贝叶斯统计 - 茆诗松> 茆诗松<贝叶斯统计>目前看过的讲贝叶斯方法最通俗易懂的书了下载了在这里第一章先验分布和后验分布 1.1 三种信息  统计学的两个主要学派:频 ...
python运行mcmc为何老出错_python中mcmc方法的实现
MCMC方法在贝叶斯统计中运用很多,MIT发布的EMCEE是实现的比较好的.介绍页面在下面.源代码中examples里的代码可以帮助理解各种功能,特别是line.py 列出了最小二乘法,最大似然法和M ...
贝叶斯统计：Inverted Beta与Three Parameter Beta分布
贝叶斯统计:Inverted Beta与Three Parameter Beta分布 Beta分布 Inverted Beta与Three Parameter Beta TPB-Normal Mixt ...
马尔可夫“折棍子”过程 Markovian Stick-breaking Process 在直方图平滑中的应用
马尔可夫"折棍子"过程 Markovian Stick-breaking Process 在直方图平滑中的应用用Dirichlet prior做Histogram Smoothi ...
通过贝叶斯非参数模型探索在物流风险评估中的大数据
通过贝叶斯非参数模型探索在物流风险评估中的大数据 Abstract 在货物物流中,一个关键的绩效指标是运输风险,定义为实际到达时间与计划到达时间的偏差.对于客户和货运代理来说,无论是早到还是晚到都是不 ...

贝叶斯统计中的边缘分布

概率论与数理统计中的边缘分布

贝叶斯统计中的边缘分布m(x)

混合分布

贝叶斯统计中的边缘分布相关推荐

最新文章

热门文章