【概率论与数理统计02】那些年，正态分布、指数分布、伽马分布、卡方分布之间的发生的那些事儿（下）

2024-05-10 13:37:59

前记：书接上回，先来回顾一下四个分布之间的关系图。

图1 四个分布关系简图
3. 简洁的三哥——指数分布

指数分布及特性

形如其名，指数分布的概率密度函数应该是最简单的了，就是单纯的指数函数的形式
f(x)={λe−λx,x>00,x≤0.f(x) = \left\{ \begin{aligned} \lambda e^{-\lambda x},\quad &x>0\\ 0,\qquad&x \le0. \end{aligned} \right. f(x)={λe−λx,0,x>0x≤0.

指数分布只有一个参数 λ\lambdaλ，称为率参数。指数分布的期望和方差分别为 1/λ1/\lambda1/λ 和 1/λ21/\lambda^21/λ2。
图2 指数分布概率密度曲线
指数分布的物理意义是“要等到一个随机事件发生，需要经历多久时间”。举一个例子，例如 X∼Exp(0.25)X \sim \rm{Exp}(0.25)X∼Exp(0.25) 表示在单位时间内（一分钟，一小时或一年），该事件平均发生 0.25 次。那么直到事件发生需要 4 个小时，0.25 的倒数。与指数分布类似，伽马分布的物理意义是“要等到 α\alphaα 个随机事件都发生，需要经历多久时间”。因此 α\alphaα 个指数分布的和就是形状参数为 α\alphaα，尺度参数为 λ\lambdaλ 的伽马分布；反之，若伽马分布中 α=1\alpha=1α=1，说明只有一个指数分布参与求和，因此也就退化为指数分布。

正态分布与指数分布的关系

设随机变量 XXX 和 YYY 相互独立，都服从正态分布 N(0,σ2)N(0,\sigma^2)N(0,σ2)，那么 Z=X2+Y2Z=X^2+Y^2Z=X2+Y2 服从指数分布。证明如下：
由于随机变量 XXX 和 YYY 相互独立，则 (X,Y)(X,Y)(X,Y) 的联合分布密度函数为
f(x,y)=fX(x)fY(y)=12πσe−x22σ2×12πσe−y22σ2=12πσ2e−x2+y22σ2f(x,y) = f_X(x)f_Y(y)=\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{x^2}{2\sigma^2}} \times \frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{y^2}{2\sigma^2}} = \frac{1}{2 \pi \sigma^2}e^{-\frac{x^2+y^2}{2\sigma^2}} f(x,y)=fX(x)fY(y)=2πσ1e−2σ2x2×2πσ1e−2σ2y2=2πσ21e−2σ2x2+y2

随机变量 ZZZ 的分布函数
FZ(z)=P(Z≤z)=P(X2+Y2≤z)=∬x2+y2≤z12πσ2e−x2+y22σ2dxdy=12πσ2∫02πdθ∫0ze−r22σ2rdr=1−e−z2σ2\begin{aligned} F_Z(z) &= P(Z \le z) = P(X^2 + Y^2 \le z) \\ &= \iint\limits_{x^2+y^2 \le z} \frac{1}{2 \pi \sigma^2}e^{-\frac{x^2+y^2}{2\sigma^2}} dxdy \\ & = \frac{1}{2 \pi \sigma^2} \int_0^{2 \pi}d \theta \int_0^{\sqrt{z}}e^{-\frac{r^2}{2\sigma^2}}rdr \\ & =1 - e^{-\frac{z}{2\sigma^2}} \end{aligned} FZ(z)=P(Z≤z)=P(X2+Y2≤z)=x2+y2≤z∬2πσ21e−2σ2x2+y2dxdy=2πσ21∫02πdθ∫0ze−2σ2r2rdr=1−e−2σ2z

故 ZZZ 的概率密度函数为
fZ(z)=FZ′(z)=12σ2e−z2σ2f_Z(z) = F'_Z(z) = \frac{1}{2\sigma^2}e^{-\frac{z}{2\sigma^2}} fZ(z)=FZ′(z)=2σ21e−2σ2z

很明显这是服从率参数为 1/2σ21/2\sigma^21/2σ2 的指数分布。

\newline
\newline

4. 神奇的四哥——卡方分布

卡方分布及特性

自由度为 nnn 的卡方分布的定义是 nnn 个标准正态分布的平方和，记为 χ2(n)\chi^2(n)χ2(n) 同时卡方分布也是伽马分布当 α=n/2\alpha = n/2α=n/2，λ=1/2\lambda = 1/2λ=1/2 时的特殊情况，其概率密度函数为
f(x)=12n/2Γ(n/2)xn/2−1e−x/2f(x) = \frac{1}{2^{n/2}\Gamma(n/2)}x^{n/2-1}e^{-x/2} f(x)=2n/2Γ(n/2)1xn/2−1e−x/2
图3 卡方分布概率密度曲线
期望与方差分别为 nnn 和 2n2n2n，且满足独立可加性。

卡方分布与指数分布的关系

指数分布通过伽马分布构造卡方分布。
设 X1,X2,..,XnX_1,X_2,..,X_nX1,X2,..,Xn 是服从指数分布 Exp(λ)\rm{Exp(\lambda)}Exp(λ) 的独立随机变量，则根据指数分布与伽马分布的关系有，Xi∼Ga(1,λ)X_i \sim \rm{Ga}(1,\lambda)Xi∼Ga(1,λ)。因为伽马分布具有可加性，则
X1+X2+⋯+Xn=∑i=1nXi∼Ga(n,λ)X_1 + X_2 + \dots+ X_n = \sum_{i=1}^nX_i\sim {\rm Ga}(n,\lambda) X1+X2+⋯+Xn=i=1∑nXi∼Ga(n,λ)

由伽马分布的线性性质有
2λ∑i=1nXi∼Ga(n,12)2\lambda\sum_{i=1}^nX_i \sim {\rm Ga}(n,\frac{1}{2}) 2λi=1∑nXi∼Ga(n,21)

因此有 2λ∑i=1nXi∼χ2(2n)2\lambda\sum_{i=1}^nX_i \sim \chi^2(2n)2λ∑i=1nXi∼χ2(2n)，即完成指数分布通过伽马分布构造卡方分布。

\newline
\newline

5. 小结

概率论的世界广阔而神秘，而统计分布只是其冰山一角，本文所记录的更是表面的浮冰，如有错误，恳请各位老师批评指正。愿我们大家共同进步！

【概率论与数理统计02】那些年，正态分布、指数分布、伽马分布、卡方分布之间的发生的那些事儿（下）相关推荐

【概率论与数理统计01】那些年，正态分布、指数分布、伽马分布、卡方分布之间的发生的那些事儿（上）
前记:大多数通信领域的论文都用到了复杂的数学工具,而数学推导中其中很大一部分都涉及到了概率论的知识,痛恨当时自己没有好好学(大哭).所以今天又来开一个新坑,我一遍学一遍填,希望有朝一日能把这个坑筑成一 ...
复高斯变量跟卡方分布、指数分布、伽马分布的关系
卡方分布:若n个相互独立的随机变量ξ₁,ξ₂,...,ξn ,均服从标准正态分布(也称独立同分布于标准正态分布),则这n个服从标准正态分布的随机变量的平方和构成一新的随机变量,其分布规律称为卡方分布( ...
几种概率分布（伯努利分布、二项分布、泊松分布、均匀分布、正态分布、指数分布、伽马分布）
伯努利分布(Bernoulli Distribution) 又名两点分布或者0-1分布,是一个离散型概率分布,为纪念瑞士科学家雅各布·伯努利而命名.若伯努利试验成功,则伯努利随机变量取值为1.若伯努利 ...
伽马分布，指数分布，卡方分布三者关系
1.伽马分布是一个连续概率分布,具有两个参数 α\alphaα 和 λ\lambdaλ,记为 Gamma(α,λ)\text{Gamma}(\alpha,\lambda)Gamma(α,λ).伽马分布 ...
伽马分布，指数分布，泊松分布的关系
1. 从意义上看: 指数分布解决的问题是"要等到一个随机事件发生,需要经历多久时间" 伽玛分布解决的问题是"要等到n个随机事件都发生,需要经历多久时间" 所以, ...
原创 | 一文读懂泊松分布，指数分布和伽马分布
本文约3400字,建议阅读6分钟本文以简单直白的方式让大家能够理解泊松分布,指数分布和伽马分布的实际含义和作用,并且由此推导其概率密度函数. 在开始之前,我们需要预习一下二项分布. 还是丢硬币的例子 ...
指数分布与幂律分布定义及不同（泊松分布、伽马分布）
1.定义 (1)幂律分布(pow law distribution),其概率密度函数形式如下,这种分布的共性是绝大多数事件的规模很小,而只有少数事件的规模相当大. y=cx-r 其中x,y是正的随机变 ...
伽马分布，指数分布，泊松分布的关系 -转自简书
原文链接:https://www.jianshu.com/p/6ee90ba47b4a 伽马分布,指数分布,泊松分布的关系 thinkando 关注 2018.09.25 21:13* 字数 714 ...
概率论和数理统计 - 02 - 随机变量及其分布
1 随机变量及其分布就是把一个N很大的二项分布做了一个近似. 正态分布不要计算,只需要查表就可以了.

最新文章

热门文章