随机变量的变换

一元随机变量的变换

假设XXX为分布函数为FXF_XFX的一元随机变量，X∈DXX \in \mathbb{D}_XX∈DX，随机变量Y=g(X)Y=g(X)Y=g(X)，ggg为有界连续函数，则
FY(y)=P(Y≤y)=P(g(X)≤y)=P(X∈g−1(Y≤y))F_Y(y) = P(Y \le y) = P(g(X) \le y) = P(X \in g^{-1}(Y \le y)) FY(y)=P(Y≤y)=P(g(X)≤y)=P(X∈g−1(Y≤y))
当ggg不是单调函数时需要按这个一般性的方法计算。假设ggg为单调递增的函数，定义h=g−1h=g^{-1}h=g−1，
FY(y)=P(X≤h(y))=FX(h(y))fY(y)=fX(h(y))h′(y)F_Y(y) = P(X \le h(y)) = F_X(h(y)) \\ f_Y(y) = f_X(h(y))h^{'}(y) FY(y)=P(X≤h(y))=FX(h(y))fY(y)=fX(h(y))h′(y)
假设ggg为单调递减的函数，则
FY(y)=P(X>h(y))=1−FX(h(y))fY(y)=−fX(h(y))h′(y)F_Y(y) = P(X > h(y)) = 1- F_X(h(y)) \\ f_Y(y) = -f_X(h(y))h^{'}(y) FY(y)=P(X>h(y))=1−FX(h(y))fY(y)=−fX(h(y))h′(y)
综合这两个结果，当ggg单调时
fY(y)=fX(h(y))∣h′(y)∣f_Y(y) = f_X(h(y))|h^{'}(y)| fY(y)=fX(h(y))∣h′(y)∣

多元随机变量的变换

假设XXX为分布函数为FXF_XFX的多元随机变量，X∈DXX \in \mathbb{D}_XX∈DX，随机变量Y=g(X)Y=g(X)Y=g(X)，Y∈DYY \in \mathbb{D}_YY∈DY，ggg为有界连续函数，且Jacobi行列式Jg≠0Jg \ne 0Jg=0，定义h=g−1h=g^{-1}h=g−1，根据FXF_XFX的归一化条件
∫DXfX(x)dx=1\int_{\mathbb{D}_X} f_X(x) dx = 1 ∫DXfX(x)dx=1
根据积分换元公式，等式左边等于
∫DYfX(h(y))∣dxdy∣dy=∫DYfX(h(y))∣Jh(y)∣dy=1=∫DYfY(y)dy\int_{\mathbb{D}_Y} f_X(h(y)) |\frac{dx}{dy}|dy = \int_{\mathbb{D}_Y} f_X(h(y)) |Jh(y)|dy =1= \int_{\mathbb{D}_Y} f_Y(y) dy ∫DYfX(h(y))∣dydx∣dy=∫DYfX(h(y))∣Jh(y)∣dy=1=∫DYfY(y)dy
因此
fY(y)=fX(h(y))∣Jh(y)∣f_Y(y) = f_X(h(y)) |Jh(y)| fY(y)=fX(h(y))∣Jh(y)∣

均匀分布与Pareto分布

离散的均匀分布

古典概型中，基本事件数量有限，且发生的可能性是均等的。这个假设可以用离散的均匀分布来描述。假设样本空间为Ω={w1,w2,...,wN}\Omega=\{w_1,w_2,...,w_N\}Ω={w1,w2,...,wN}，随机变量X:wj→jX:w_j \to jX:wj→j的取值为j∈{1,2,...,N}j \in \{1,2,...,N\}j∈{1,2,...,N}，则X的分布列（mass function）为
fX(j)=P(X=j)=1Nf_X(j)=P(X=j)=\frac{1}{N} fX(j)=P(X=j)=N1
X的概率生成函数（Probability Generating Function，PGF）为
ρX(z)=E(zX)=∑j=1NzjfX(j)=1N∑j=1Nzj=z−zN(1−z)N=1N∑i=kN−1zi\rho_X(z) = E(z^X)=\sum_{j=1}^{N} z^j f_X(j) = \frac{1}{N}\sum_{j=1}^{N} z^j =\frac{z-z^N}{(1-z)N} = \frac{1}{N} \sum_{i=k}^{N-1} z^i ρX(z)=E(zX)=j=1∑NzjfX(j)=N1j=1∑Nzj=(1−z)Nz−zN=N1i=k∑N−1zi
X的均值和方差为
EX=1N∑j=1Nj=N+12VarX=1N∑j=1Nj2−(N+12)2=(N−1)(N+1)12EX = \frac{1}{N}\sum_{j=1}^{N} j = \frac{N+1}{2} \\ VarX=\frac{1}{N}\sum_{j=1}^{N} j^2-(\frac{N+1}{2})^2 = \frac{(N-1)(N+1)}{12} EX=N1j=1∑Nj=2N+1VarX=N1j=1∑Nj2−(2N+1)2=12(N−1)(N+1)
根据PGF的性质
E(X)k=1N∑j=1N(j)k=ρX(k)(1)E(X)_k = \frac{1}{N}\sum_{j=1}^{N} (j)_k = \rho_X^{(k)}(1) E(X)k=N1j=1∑N(j)k=ρX(k)(1)
其中记号(j)k(j)_k(j)k代表排列数AjkA_j^kAjk。对数列ana_nan引入（向前）差分运算
Δ+an=an+1−an\Delta_{+} a_n = a_{n+1} - a_n Δ+an=an+1−an
则（向前）差分的前N项和为
∑n=1NΔ+an=∑n=1N(an+1−an)=aN+1−a1\sum_{n=1}^{N} \Delta_{+} a_n = \sum_{n=1}^{N} (a_{n+1} - a_n) = a_{N+1} - a_1 n=1∑NΔ+an=n=1∑N(an+1−an)=aN+1−a1
考虑记号(i)k(i)_k(i)k关于iii的（向前）差分
Δ+(i)k=(i+1)k−(i)k=(i+1)(i)(k−1)−(i)(k−1)(i−k+1)=k(i)k−1\Delta_{+} (i)_k = (i+1)_k - (i)_k = (i+1)(i)_{(k-1)} - (i)_{(k-1)} (i-k+1) = k(i)_{k-1} Δ+(i)k=(i+1)k−(i)k=(i+1)(i)(k−1)−(i)(k−1)(i−k+1)=k(i)k−1
现在对(j)k(j)_k(j)k的前N项和进一步化简
∑j=1N(j)k=k!+∑j=k+1N1k+1Δ+(j)(k+1)=k!+(N+1)k+1−(k+1)!k+1=(N+1)k+1k+1\sum_{j=1}^{N} (j)_k = k!+\sum_{j=k+1}^{N} \frac{1}{k+1} \Delta_{+} (j)_{(k+1)} = k! + \frac{(N+1)_{k+1} - (k+1)!}{k+1} = \frac{(N+1)_{k+1}}{k+1} j=1∑N(j)k=k!+j=k+1∑Nk+11Δ+(j)(k+1)=k!+k+1(N+1)k+1−(k+1)!=k+1(N+1)k+1
所以
E(X)k=ρX(k)(1)=(N+1)k+1N(k+1)E(X)_k = \rho_X^{(k)}(1) = \frac{(N+1)_{k+1}}{N(k+1)} E(X)k=ρX(k)(1)=N(k+1)(N+1)k+1

连续的均匀分布

连续的均匀分布脱胎于几何概型的基本假设。假设样本空间Ω⊂Rn\Omega \subset R^nΩ⊂Rn, ∣Ω∣|\Omega|∣Ω∣是Ω\OmegaΩ的Lebesgue测度，则∀x∈Ω\forall x \in \Omega∀x∈Ω，点xxx被取到的概率相同，从而密度（density）函数为
fX(x)=I(x∈Ω)∣Ω∣f_X(x) = \frac{I(x \in \Omega)}{|\Omega|} fX(x)=∣Ω∣I(x∈Ω)
假设Ω⊂R\Omega \subset RΩ⊂R，则Ω\OmegaΩ可以由一列几乎不相交的闭区间表示
Ω=⋃j=1J[aj,bj]∣Ω∣=∑j=1J(bj−aj)\Omega = \bigcup_{j=1}^{J} [a_j,b_j] \\ |\Omega| = \sum_{j=1}^{J} (b_j-a_j) Ω=j=1⋃J[aj,bj]∣Ω∣=j=1∑J(bj−aj)
假设Ω⊂R2\Omega \subset R^2Ω⊂R2，则Ω\OmegaΩ可以由一列几乎不相交的闭矩形表示
Ω=⋃j=1JRj∣Ω∣=∑j=1J∣Rj∣\Omega = \bigcup_{j=1}^{J} R_j \\ |\Omega| = \sum_{j=1}^{J} |R_j| Ω=j=1⋃JRj∣Ω∣=j=1∑J∣Rj∣
例如，一元连续均匀分布U[a,b]U[a,b]U[a,b]的密度为
fX(x)=1b−a,x∈[a,b]f_X(x) = \frac{1}{b-a},x \in [a,b] fX(x)=b−a1,x∈[a,b]
矩生成函数（Moment Generating Function，MGF）为
MX(t)=E(etX)=∫abetxb−adx=(eb−ea)et(b−a)tM_X(t) = E(e^{tX}) = \int_{a}^{b} \frac{e^{tx}}{b-a} dx = \frac{(e^{b}-e^{a})e^t}{(b-a)t} \\ MX(t)=E(etX)=∫abb−aetxdx=(b−a)t(eb−ea)et

Zeta分布

假设X为离散均匀分布，Y=g(X)=XsY=g(X)=X^sY=g(X)=Xs，则
fY(y)∝y−sf_Y(y) \propto y^{-s} fY(y)∝y−s
不妨假设fY(y)=Cy−sf_Y(y)=Cy^{-s}fY(y)=Cy−s，
∑y=1∞Cy−s=C∑y=1∞y−s=Cζ(s)=1C=1ζ(s)\sum_{y=1}^{\infty} Cy^{-s}= C \sum_{y=1}^{\infty} y^{-s} = C \zeta(s)=1 \\ C = \frac{1}{\zeta(s)} y=1∑∞Cy−s=Cy=1∑∞y−s=Cζ(s)=1C=ζ(s)1
其中ζ(s)\zeta(s)ζ(s)为Riemann-zeta函数。称随机变量Y服从zeta分布，
fY(y)=y−sζ(s)f_Y(y) = \frac{y^{-s}}{\zeta(s)} fY(y)=ζ(s)y−s

Pareto分布

假设X∼U[0,1]X \sim U[0,1]X∼U[0,1]，Y=g(X)=XpY=g(X)=X^pY=g(X)=Xp，则
fY(y)=fX(g−1(y))∣h′(y)∣=fX(y−p)py−(p+1)=py−(p+1)f_Y(y) = f_X(g^{-1}(y))|h^{'}(y)|=f_X(y^{-p}) py^{-(p+1)} = py^{-(p+1)} fY(y)=fX(g−1(y))∣h′(y)∣=fX(y−p)py−(p+1)=py−(p+1)
称随机变量Y服从Pareto分布。

UA MATH564 概率论II 连续型随机变量1相关推荐

UA MATH564 概率论V 中心极限定理
UA MATH564 概率论V 中心极限定理随机变量序列的极限收敛模式之间的关系大数法则中心极限定理 Classical Central Limit Theorem Sugden法则 Delt ...
UA MATH564 概率论多元随机变量的变换理论与应用2
UA MATH564 概率论多元随机变量的变换几个例题例5 X1,X2,X3∼iidEXP(λ)X_1,X_2,X_3 \sim_{iid} EXP(\lambda)X1,X2,X3∼ii ...
[概统]本科二年级概率论与数理统计第四讲连续型随机变量
[概统]本科二年级概率论与数理统计第四讲连续型随机变量连续型随机变量的基本概念均匀分布指数分布正态分布推导正态分布的密度(de Moivre-Laplace定理) 标准正态分布一般的 ...
UA MATH564 概率论多元随机变量的变换理论与应用1
UA MATH564 概率论多元随机变量的变换理论与应用1 定义法 Jacobi行列式法假设X1,⋯,XnX_1,\cdots,X_nX1,⋯,Xn是nnn个一元随机变量,存在一个C1(Rn ...
《概率论与数理统计》-第二章随机变量及其分布-第二节连续型随机变量及其分布-笔记
目录第二节连续型随机变量及其分布密度函数定义性质常用离散型随机变量的分布第二节连续型随机变量及其分布密度函数定义设F(x)F(x)F(x)是随机变量XXX的分布函数,若对任意的实 ...
分类型变量预测连续型变量_概率论与数理统计之离散型和连续型随机变量知识点...
本文主要回顾复习了有关一维离散型.连续型随机变量及分布,以及相关性质.这一部分主要以选择题和填空题的形式出现在考研数学的试卷中,希望考研的考生多注意这一部分知识的复习,结合历年考研数学真题,争取早日掌 ...
概率论(二)随机变量及其概率分布——离散和连续型随机变量及其分布函数
本节知识点 1.随机变量及其分布函数的定义 2.离散型随机变量定义:随机变量可能取得的值是有限个或者可列无限个概率分布列分布函数常见的离散性随机变量:0-1分布.二项分布和泊松分布 3.连续型 ...
概率论与数理统计学习笔记——第十九讲——二元连续型随机变量，联合概率密度函数
1. 联合概率密度函数 2. 概率密度的性质 3. 二元连续型随机变量概率分布函数求解示例
概率论与数理统计-连续型随机变量基础知识（一）
今天要了解的基础知识是连续型随机变量的概念,常见的连续型随机变量分布. 连续型随机变量的定义是若一个随机变量的分布函数可写成,则该随机变量可称为连续型随机变量,其中为该连续型随机变量的密度函 ...

UA MATH564 概率论II 连续型随机变量1