多元正态分布的条件分布与边缘分布

问题概述

问题是这样的，一个nnn元的随机向量
x=[x1x2]x = \left [ \begin{matrix}x_1 \\ x_2\end{matrix} \right ]x=[x1x2] 服从正态分布N(x,μ,Σ)N(x,\mu,\Sigma)N(x,μ,Σ)，其中

μ=[μ1μ2]\mu = \left [ \begin{matrix}\mu_1 \\ \mu_2\end{matrix} \right ]μ=[μ1μ2]

Σ=[Σ11Σ12Σ21Σ22]\Sigma = \left [ \begin{matrix}\Sigma_{11}&\Sigma_{12} \\ \Sigma_{21}&\Sigma_{22}\end{matrix} \right ]Σ=[Σ11Σ21Σ12Σ22]

注意到，x1x_1x1和x2x_2x2的维度分别是ppp和qqq，且p+q=np+q=np+q=n，且有Σ=ΣT\Sigma=\Sigma^TΣ=ΣT和Σ21=Σ21T\Sigma_{21}=\Sigma_{21}^TΣ21=Σ21T。

此时应该有如下两个结论：

结论1：
x1,x2x_1,x_2x1,x2的边缘分布也是正态分布，均值为向量μi\mu_iμi，协方差矩阵为Σii(i=1,2)\Sigma_{ii}(i=1,2)Σii(i=1,2)。

结论2：
给定xjx_jxj时，xix_ixi的条件分布也是正态分布，均值为向量μi∣j=μi+ΣijΣjj−1(xj−μj)\mu_{i|j}=\mu_i + \Sigma_{ij}\Sigma_{jj}^{-1}(x_j-\mu_j)μi∣j=μi+ΣijΣjj−1(xj−μj)，协方差矩阵为Σi∣j=Σjj−ΣijTΣii−1Σij\Sigma_{i|j}=\Sigma_{jj}-\Sigma_{ij}^T\Sigma_{ii}^{-1}\Sigma_{ij}Σi∣j=Σjj−ΣijTΣii−1Σij

课上老师给出了结论2中关于均值和协方差矩阵的简单证明方法，我纠结的点主要在如何去证明条件分布本身是正态分布。在参考链接中得到了答案。

参考链接：
详细证明：http://fourier.eng.hmc.edu/e161/lectures/gaussianprocess/node7.html
A glimpse：http://www.stats.ox.ac.uk/~steffen/teaching/bs2HT9/gauss.pdf
问题解析出处参考：https://stats.stackexchange.com/questions/30588/deriving-the-conditional-distributions-of-a-multivariate-normal-distribution

多元正态分布的条件分布与边缘分布相关推荐

正态分布的条件分布与边缘分布
本文总结多元正态分布的条件分布与边缘分布,证明不难,但都比较繁琐,故不做详细证明,有兴趣可以参考Pattern Recognition and Machine Learningy一书. 1 正态分布的 ...
[公式推导]用最简洁的方法证明多元正态分布的条件分布
在证明高斯-马尔科夫随机过程的性质的过程中,遇到了多元正态分布的条件分布的证明,百度发现条件分布的很多证明方法写的极其麻烦,所以自己写了一个. 实际上多元随机变量的公式证明一般用矩阵的方法处理,这里就 ...
用最简洁的方法证明多元正态分布的条件分布
在证明高斯-马尔科夫随机过程的性质的过程中,遇到了多元正态分布的条件分布的证明,百度发现条件分布的很多证明方法写的极其麻烦,所以自己写了一个. 实际上多元随机变量的公式证明一般用矩阵的方法处理,这里就 ...
多元高斯分布中条件分布与边缘分布的相关公式
在阅读高斯过程(GPs)时,我认为能够证明有关多元高斯分布的一些基本事实将是有用的,这些高斯分布是GP的基础. 即,如何证明多元高斯的条件分布和边际分布也是高斯,并给出其形式. 首先,我们知道,一个均 ...
关于多元正态分布的条件分布的证明
之前在机器学习 cs229学习笔记3 (EM alogrithm,Mixture of Gaussians revisited & Factor analysis )中直接给出了多元正态分布的 ...
多元正态分布的条件分布，回归分析
有兄弟点拨一下吗,怎么求多元正态的条件分布,这个三元及以上的咋搞啊
多元正态分布的条件分布
https://blog.csdn.net/xiaomlu/article/details/83107168
【多元统计分析】02.多元正态分布
文章目录二.多元正态分布 1.多元正态分布的定义 2.多元正态分布分量独立性 3.多元正态分布的条件分布 4.最佳预测回顾总结二.多元正态分布 1.多元正态分布的定义由大数定律,自然界中许多随 ...
透彻理解多元正态分布
文章目录前言多元标准正态分布多元一般正态分布缩放与位移相同尺度缩放与位移不同尺度旋转变换多元正态分布的概率密度函数多元正态分布的性质本篇内容主要是对于基本书籍教材多元正态分布相关章节 ...

多元正态分布的条件分布与边缘分布

问题概述

多元正态分布的条件分布与边缘分布相关推荐

最新文章

热门文章