各种各样的分布函数-Γ分布

前言

因为自己作死，还没有学习概率论就报了二学位的数理统计，听得我是一脸懵逼，为了督促自己好好学习，决定开一个笔记来监督自己学习。不然估计要挂科了 xD。

Γ \Gamma Γ分布

分布函数形式

f ( x ) = { β α Γ ( α ) x α − 1 e − β x , x > 0 0 , x ≤ 0 f(x)=\left\{ \begin{aligned} &\frac{\beta^\alpha}{\Gamma(\alpha)}x^{\alpha-1}e^{-\beta x},x>0\\ &0,x\leq 0 \end{aligned} \right. f(x)=⎩⎪⎨⎪⎧Γ(α)βαxα−1e−βx,x>00,x≤0

如果总体 X X X的分布函数长成这个样子称 X X X服从参数为 α , β \alpha,\beta α,β的 Γ \Gamma Γ分布,记做 X X X~ Γ ( α , β ) \Gamma(\alpha,\beta) Γ(α,β)

其中 Γ ( α ) = ∫ 0 + ∞ t α − 1 e − t d t \Gamma(\alpha)=\int_0^{+\infty} t^{\alpha-1}e^{-t}dt Γ(α)=∫0+∞tα−1e−tdt。

β α Γ ( α ) \frac{\beta^\alpha}{\Gamma(\alpha)} Γ(α)βα可以看作函数的系数项,其中 α \alpha α称之为形状参数, β \beta β称之为尺度参数

虽然现在还不知道为啥有这个函数，总而言之先记住。

Γ ( α ) \Gamma(\alpha) Γ(α)函数性质

这些性质用于之后的推导

(1) Γ ( 1 ) = 1 , Γ ( 1 2 ) = π \Gamma(1) = 1,\Gamma(\frac 12)=\sqrt\pi Γ(1)=1,Γ(21)=π 第一个很简单，直接积就行, 第二个和积 e − t 2 e^{-t^2} e−t2差不多

(2) Γ ( α + 1 ) = α Γ ( α ) , α > 0 \Gamma(\alpha +1)=\alpha\Gamma(\alpha),\alpha>0 Γ(α+1)=αΓ(α),α>0 直接把 α \alpha α提出来就行

(3) Γ ( n + 1 ) = n ! \Gamma(n+1)=n! Γ(n+1)=n!,n是自然数由第二条+第一条推出

(4) α = 1 \alpha=1 α=1, Γ \Gamma Γ分布为服从参数 β \beta β的指数分布, α = n / 2 , β = 1 / 2 \alpha=n/2,\beta = 1/2 α=n/2,β=1/2,为 χ 2 ( n ) \chi^2(n) χ2(n)分布(这是啥分布)

分布函数性质

(1) 设 X X X~ ( α , β ) (\alpha,\beta) (α,β),则 E ( X ) = α / β , D ( X ) = α / β 2 E(X)=\alpha/\beta,D(X)=\alpha/\beta^2 E(X)=α/β,D(X)=α/β2

证明:

E ( X ) = ∫ 0 + ∞ x f ( x ) d x = ∫ 0 + ∞ β α Γ ( α ) x α + 1 − 1 e − β x d x = β α Γ ( α ) ∫ 0 + ∞ x α + 1 − 1 e − β x d x E(X)=\int_0^{+\infty}xf(x)dx=\int_0^{+\infty}\frac{\beta^\alpha}{\Gamma(\alpha)}x^{\alpha+1-1}e^{-\beta x}dx=\frac{\beta^\alpha}{\Gamma(\alpha)}\int_0^{+\infty}x^{\alpha+1-1}e^{-\beta x}dx E(X)=∫0+∞xf(x)dx=∫0+∞Γ(α)βαxα+1−1e−βxdx=Γ(α)βα∫0+∞xα+1−1e−βxdx

然后我们要把后面这一项凑成 ∫ 0 + ∞ t α − 1 e − t d t \int_0^{+\infty} t^{\alpha-1}e^{-t}dt ∫0+∞tα−1e−tdt这个形式，来相消。

做变换 β x = y ⇔ x = y / β \beta x=y\Leftrightarrow x=y/\beta βx=y⇔x=y/β

E ( X ) = β α Γ ( α ) ∫ 0 + ∞ ( y / β ) α + 1 − 1 e − y d ( y / β ) = 1 β Γ ( α ) ∫ 0 + ∞ y α + 1 − 1 e − y d y = Γ ( α + 1 ) β Γ ( α ) = α β E(X)=\frac{\beta^\alpha}{\Gamma(\alpha)}\int_0^{+\infty}(y/\beta)^{\alpha+1-1}e^{-y}d(y/\beta)=\frac{1}{\beta\Gamma(\alpha)}\int_0^{+\infty}y^{\alpha+1-1}e^{-y}dy=\frac{\Gamma(\alpha+1)}{\beta\Gamma(\alpha)}=\frac{\alpha}{\beta} E(X)=Γ(α)βα∫0+∞(y/β)α+1−1e−yd(y/β)=βΓ(α)1∫0+∞yα+1−1e−ydy=βΓ(α)Γ(α+1)=βα

D ( X ) = E ( X 2 ) − E 2 ( X ) D(X)=E(X^2)-E^2(X) D(X)=E(X2)−E2(X),所以我们只需要求 E ( X 2 ) E(X^2) E(X2)即可,和上面的变形类似，套公式

E ( X 2 ) = ∫ 0 + ∞ x 2 f ( x ) d x = ∫ 0 + ∞ β α Γ ( α ) x α + 2 − 1 e − β x d x = β α Γ ( α ) ∫ 0 + ∞ x α + 2 − 1 e − β x d x E(X^2)=\int_0^{+\infty}x^2f(x)dx=\int_0^{+\infty}\frac{\beta^\alpha}{\Gamma(\alpha)}x^{\alpha+2-1}e^{-\beta x}dx=\frac{\beta^\alpha}{\Gamma(\alpha)}\int_0^{+\infty}x^{\alpha+2-1}e^{-\beta x}dx E(X2)=∫0+∞x2f(x)dx=∫0+∞Γ(α)βαxα+2−1e−βxdx=Γ(α)βα∫0+∞xα+2−1e−βxdx

然后用同样的变换,凑出一个 Γ ( α + 2 ) \Gamma(\alpha+2) Γ(α+2),可以得出 E ( X 2 ) = α ( α + 1 ) / β 2 E(X^2)=\alpha(\alpha+1)/\beta^2 E(X2)=α(α+1)/β2

所以 D ( X ) = α ( α + 1 ) / β 2 − α 2 / β 2 = α / β 2 D(X) = \alpha(\alpha+1)/\beta^2-\alpha^2/\beta^2=\alpha/\beta^2 D(X)=α(α+1)/β2−α2/β2=α/β2

(2) 设$X_1,X_2,…,X_n,X_i $ ~ Γ ( α i , β ) \Gamma(\alpha_i,\beta) Γ(αi,β),则 X 1 + X 2 + . . . + X n X_1+X_2+...+X_n X1+X2+...+Xn~ Γ ( α 1 + α 2 + . . . + α n , β ) \Gamma(\alpha_1+\alpha_2+...+\alpha_n,\beta) Γ(α1+α2+...+αn,β)

证明:

显然要用数学归纳法来证明,所以我们只需要证明 Z = X 1 + X 2 Z=X_1+X_2 Z=X1+X2时候成立即可

用到一个东西,独立随机变量的密度卷积函数(什么鬼东西)

函数形式 f X + Y ( Z ) = ∫ − ∞ + ∞ f X ( x ) f Y ( z − y ) d x f_{X+Y}(Z)= \int_{-\infty}^{+\infty} f_X(x)f_Y(z-y)dx fX+Y(Z)=∫−∞+∞fX(x)fY(z−y)dx

还是离散形式还是好理解一点

P ( Z = r ) = P ( X + Y = r ) = P ( X = i , Y = r − i ) = P ( X = i ) P ( Y = r − i ) P(Z=r)=P(X+Y=r)=P(X=i,Y=r-i)=P(X=i)P(Y=r-i) P(Z=r)=P(X+Y=r)=P(X=i,Y=r−i)=P(X=i)P(Y=r−i)

所以公式证明如下

f ( Z ) = ∫ − ∞ + ∞ β α 1 Γ ( α 1 ) x α 1 − 1 e − β x ∗ β α 2 Γ ( α 2 ) ( z − x ) α 2 − 1 e − β ( z − x ) d x = β α 1 + α 2 Γ ( α 1 ) Γ ( α 2 ) ∫ − ∞ + ∞ x α 1 − 1 e − β x ( z − x ) α 2 − 1 e − β ( z − x ) d x = β α 1 + α 2 e − β z Γ ( α 1 ) Γ ( α 2 ) ∫ 0 z x α 1 − 1 ( z − x ) α 2 − 1 d x \begin{aligned} f(Z)&= \int_{-\infty}^{+\infty}\frac{\beta^{\alpha_1}}{\Gamma(\alpha_1)}x^{\alpha_1-1}e^{-\beta x}*\frac{\beta^{\alpha_2}}{\Gamma(\alpha_2)}(z-x)^{\alpha_2-1}e^{-\beta (z-x)}dx\\ & =\frac{\beta^{\alpha_1+\alpha_2}}{\Gamma(\alpha_1)\Gamma(\alpha_2)}\int_{-\infty}^{+\infty}x^{\alpha_1-1}e^{-\beta x}(z-x)^{\alpha_2-1}e^{-\beta (z-x)}dx\\ &=\frac{\beta^{\alpha_1+\alpha_2}e^{-\beta z}}{\Gamma(\alpha_1)\Gamma(\alpha_2)}\int_{0}^{z}x^{\alpha_1-1}(z-x)^{\alpha_2-1}dx \end{aligned} f(Z)=∫−∞+∞Γ(α1)βα1xα1−1e−βx∗Γ(α2)βα2(z−x)α2−1e−β(z−x)dx=Γ(α1)Γ(α2)βα1+α2∫−∞+∞xα1−1e−βx(z−x)α2−1e−β(z−x)dx=Γ(α1)Γ(α2)βα1+α2e−βz∫0zxα1−1(z−x)α2−1dx

然后做变换 x = z u ⇔ u = x z x=zu\Leftrightarrow u=\frac xz x=zu⇔u=zx,带入有

f ( Z ) = β α 1 + α 2 e − β z Γ ( α 1 ) Γ ( α 2 ) ∫ 0 z ( z u ) α 1 − 1 ( z − z u ) α 2 − 1 d x = β α 1 + α 2 e − β z Γ ( α 1 ) Γ ( α 2 ) ∫ 0 1 z α 1 − 1 u α 1 − 1 z α 2 − 1 ( 1 − u ) α 2 − 1 d z u = β α 1 + α 2 e − β z z α 1 − 1 + α 2 − 1 + 1 Γ ( α 1 ) Γ ( α 2 ) ∫ 0 1 u α 1 − 1 ( 1 − u ) α 2 − 1 d u \begin{aligned} f(Z)&=\frac{\beta^{\alpha_1+\alpha_2}e^{-\beta z}}{\Gamma(\alpha_1)\Gamma(\alpha_2)}\int_{0}^{z}(zu)^{\alpha_1-1}(z-zu)^{\alpha_2-1}dx\\ &=\frac{\beta^{\alpha_1+\alpha_2}e^{-\beta z}}{\Gamma(\alpha_1)\Gamma(\alpha_2)}\int_{0}^{1}z^{\alpha_1-1}u^{\alpha_1-1}z^{\alpha_2-1}(1-u)^{\alpha_2-1}dzu\\ &=\frac{\beta^{\alpha_1+\alpha_2}e^{-\beta z}z^{\alpha_1-1+\alpha_2-1+1}}{\Gamma(\alpha_1)\Gamma(\alpha_2)}\int_{0}^{1}u^{\alpha_1-1}(1-u)^{\alpha_2-1}du \end{aligned} f(Z)=Γ(α1)Γ(α2)βα1+α2e−βz∫0z(zu)α1−1(z−zu)α2−1dx=Γ(α1)Γ(α2)βα1+α2e−βz∫01zα1−1uα1−1zα2−1(1−u)α2−1dzu=Γ(α1)Γ(α2)βα1+α2e−βzzα1−1+α2−1+1∫01uα1−1(1−u)α2−1du

然后我们称 B ( α , β ) = ∫ 0 1 t α − 1 ( 1 − t ) β − 1 d t 为 β 函数 B(\alpha,\beta)=\int_0^1 t^{\alpha-1}(1-t)^{\beta-1}dt为\beta 函数 B(α,β)=∫01tα−1(1−t)β−1dt为β函数(哪来这么多函数)

然后我们的 β 函数 \beta函数 β函数有一个性质(哪来这么多性质), β ( α 1 , α 2 ) = Γ ( α 1 ) Γ ( α 2 ) Γ ( α 1 + α 2 ) \beta(\alpha_1,\alpha_2)=\frac{\Gamma(\alpha_1)\Gamma(\alpha_2)}{\Gamma(\alpha_1+\alpha_2)} β(α1,α2)=Γ(α1+α2)Γ(α1)Γ(α2)

然后带进去消除一下

f ( Z ) = β α 1 + α 2 e − β z z α 1 − 1 + α 2 − 1 + 1 Γ ( α 1 + α 2 ) = β α 1 + α 2 Γ ( α 1 + α 2 ) z α 1 + α 2 − 1 e − β z \begin{aligned} f(Z)&=\frac{\beta^{\alpha_1+\alpha_2}e^{-\beta z}z^{\alpha_1-1+\alpha_2-1+1}}{\Gamma(\alpha_1+\alpha_2)}\\ &=\frac{\beta^{\alpha_1+\alpha_2}}{\Gamma(\alpha_1+\alpha_2)}z^{\alpha_1+\alpha_2-1}e^{-\beta z} \end{aligned} f(Z)=Γ(α1+α2)βα1+α2e−βzzα1−1+α2−1+1=Γ(α1+α2)βα1+α2zα1+α2−1e−βz

然后终于证明完了(latex代码都要敲晕了)