两个独立的标准正态变量

假设XXX，YYY是两个独立的标准正态变量，则
f(x,y)∝exp⁡(−x2+y22)f(x,y) \propto \exp\left( -\frac{x^2 + y^2}{2} \right)f(x,y)∝exp(−2x2+y2)

Rayleigh分布

做极坐标变换x=rcos⁡(θ),y=rsin⁡(θ),r∈[0,+∞),θ∈[0,2π)x = r\cos(\theta),y = r\sin(\theta),r \in [0,+\infty),\theta \in [0,2\pi)x=rcos(θ),y=rsin(θ),r∈[0,+∞),θ∈[0,2π)，这个变换的Jacobi行列式为rrr，根据多元随机变量变换的规则，
fR,Θ(r,θ)∝re−r22f_{R,\Theta}(r,\theta) \propto re^{-\frac{r^2}{2}}fR,Θ(r,θ)∝re−2r2

这个是标准Rayleigh分布的密度核，说明RRR服从标准Rayleigh分布，因为这个密度核与θ\thetaθ无关，说明Θ\ThetaΘ服从均匀分布。计算
∫02πdθ∫0∞re−r22dr=2π\int_0^{2\pi}d\theta \int_0^{\infty} re^{-\frac{r^2}{2}}dr = 2\pi∫02πdθ∫0∞re−2r2dr=2π

所以
fR,Θ(r,θ)=r2πe−r22,r∈[0,+∞),θ∈[0,2π)f_{R,\Theta}(r,\theta) = \frac{r}{2\pi}e^{-\frac{r^2}{2}},r \in [0,+\infty),\theta \in [0,2\pi)fR,Θ(r,θ)=2πre−2r2,r∈[0,+∞),θ∈[0,2π)

并且R,ΘR,\ThetaR,Θ互相独立。

Cauchy分布

定义T=tan⁡Θ=X/YT = \tan \Theta = X/YT=tanΘ=X/Y，则
∂Θ∂T=∂arctan⁡T∂T=11+T2\frac{\partial \Theta}{\partial T} = \frac{\partial \arctan T}{\partial T} = \frac{1}{1+T^2}∂T∂Θ=∂T∂arctanT=1+T21

根据随机变量变换的规则（注意Θ∈[0,2π)\Theta \in [0,2\pi)Θ∈[0,2π)但tan⁡\tantan的周期是π\piπ，所以要在变换的基础上再乘2）
fT(t)=1π(1+t2)f_T(t) = \frac{1}{\pi (1+t^2)}fT(t)=π(1+t2)1

这个是标准Cauchy分布。根据R,ΘR,\ThetaR,Θ互相独立可知，X2+Y2\sqrt{X^2+Y^2}X2+Y2与X/YX/YX/Y互相独立。

Box-Muller变换

上面的结论在统计计算中有很广的应用。首先，假设我们要用反函数法生成标准Rayleigh分布的样本，用UUU表示均匀分布的样本，考虑
U=FR(R)=∫0Rre−r22dr=1−e−R22⇒R=−2ln⁡(1−U)U = F_R(R) = \int_0^{R} re^{-\frac{r^2}{2}}dr = 1 - e^{-\frac{R^2}{2}} \Rightarrow R = \sqrt{-2\ln (1-U)}U=FR(R)=∫0Rre−2r2dr=1−e−2R2⇒R=−2ln(1−U)

其中1−U1-U1−U也是[0,1]上的均匀随机变量。假设V,WV,WV,W是两个独立的[0,1]上的均匀随机变量，定义
R=−2ln⁡V,Θ=2πWR = \sqrt{-2\ln V},\Theta = 2\pi WR=−2lnV,Θ=2πW

则R,ΘR,\ThetaR,Θ互相独立，并且RRR服从标准Rayleigh分布，Θ\ThetaΘ服从[0,2π)[0,2\pi)[0,2π)上的均匀分布，再根据极坐标变换
X=Rsin⁡Θ=−2ln⁡Vsin⁡(2πW)Y=Rcos⁡Θ=−2ln⁡Vcos⁡(2πW)X = R\sin \Theta = \sqrt{-2\ln V} \sin (2\pi W) \\ Y = R\cos \Theta = \sqrt{-2\ln V} \cos (2\pi W)X=RsinΘ=−2lnVsin(2πW)Y=RcosΘ=−2lnVcos(2πW)

是两个独立的标准正态变量。这个变换叫Box-Muller变换，可以根据这个变换产生正态样本。

两个相关的标准正态变量

现在要利用两个独立的标准正态变量构造两个相关的标准正态变量，定义
Z1=X1,Z2=ρX1+1−ρ2X2Z_1 = X_1,\ \ Z_2 = \rho X_1 + \sqrt{1-\rho^2}X_2Z1=X1, Z2=ρX1+1−ρ2X2

根据随机变量变换的规则，
fZ1,Z2(z1,z2)=12π1−ρ2exp⁡(−z12+(z2−ρz11−ρ2)22)=12π1−ρ2exp⁡(−z12−2ρz1z2+z222(1−ρ2))f_{Z_1,Z_2}(z_1,z_2) = \frac{1}{2\pi\sqrt{1-\rho^2}} \exp \left( -\frac{z_1^2 + (\frac{z_2-\rho z_1}{\sqrt{1-\rho^2}})^2}{2} \right) \\ = \frac{1}{2\pi\sqrt{1-\rho^2}} \exp \left( -\frac{z_1^2 -2\rho z_1z_2 + z_2^2}{2(1-\rho^2)} \right) fZ1,Z2(z1,z2)=2π1−ρ21exp⎝⎛−2z12+(1−ρ2z2−ρz1)2⎠⎞=2π1−ρ21exp(−2(1−ρ2)z12−2ρz1z2+z22)

边缘密度

fZ1(z1)=∫−∞+∞12π1−ρ2exp⁡(−z12−2ρz1z2+z222(1−ρ2))dz2=∫−∞+∞e−z1222π1−ρ2exp⁡(−(z2−ρz1)22(1−ρ2))dz2=2π(1−ρ2)e−z1222π1−ρ2=12πe−z122f_{Z_1}(z_1) = \int_{-\infty}^{+\infty} \frac{1}{2\pi\sqrt{1-\rho^2}} \exp \left( -\frac{z_1^2 -2\rho z_1z_2 + z_2^2}{2(1-\rho^2)} \right) dz_2 \\ = \int_{-\infty}^{+\infty} \frac{e^{-\frac{z_1^2}{2}}}{2\pi\sqrt{1-\rho^2}}\exp \left( -\frac{(z_2-\rho z_1)^2}{2(1-\rho^2)} \right) dz_2 \\ = \frac{\sqrt{2\pi (1-\rho^2)}e^{-\frac{z_1^2}{2}}}{2\pi\sqrt{1-\rho^2}} = \frac{1}{\sqrt{2\pi}} e^{-\frac{z_1^2}{2}}fZ1(z1)=∫−∞+∞2π1−ρ21exp(−2(1−ρ2)z12−2ρz1z2+z22)dz2=∫−∞+∞2π1−ρ2e−2z12exp(−2(1−ρ2)(z2−ρz1)2)dz2=2π1−ρ22π(1−ρ2)e−2z12=2π1e−2z12

也就是说Z1Z_1Z1和Z2Z_2Z2的边缘密度还是标准正态的。

条件密度

fZ2∣Z1(z2∣z1)=f(z1,z2)f(z1)=12π1−ρ2exp⁡(−z12−2ρz1z2+z222(1−ρ2))12πe−z122=12π(1−ρ2)exp⁡(−(z2−ρz1)22(1−ρ2))f_{Z_2|Z_1}(z_2|z_1) = \frac{f(z_1,z_2)}{f(z_1)} = \frac{\frac{1}{2\pi\sqrt{1-\rho^2}} \exp \left( -\frac{z_1^2 -2\rho z_1z_2 + z_2^2}{2(1-\rho^2)} \right)}{\frac{1}{\sqrt{2\pi}} e^{-\frac{z_1^2}{2}}} \\ = \frac{1}{\sqrt{2\pi(1-\rho^2)}} \exp \left( -\frac{(z_2-\rho z_1)^2}{2(1-\rho^2)} \right)fZ2∣Z1(z2∣z1)=f(z1)f(z1,z2)=2π1e−2z122π1−ρ21exp(−2(1−ρ2)z12−2ρz1z2+z22)=2π(1−ρ2)1exp(−2(1−ρ2)(z2−ρz1)2)

这说明Z2∣Z1∼N(ρZ1,1−ρ2)Z_2|Z_1 \sim N(\rho Z_1,1-\rho^2)Z2∣Z1∼N(ρZ1,1−ρ2)

UA MATH564 概率论标准二元正态分布的性质相关推荐

UA MATH564 概率论VI 数理统计基础2 多元正态分布
UA MATH564 概率论VI 数理统计基础2 多元正态分布矩母函数概率密度多元正态分布的矩条件分布独立性抽样分布简单地说就是统计量服从的分布,正态分布时最常用的总体分布,因此研究正态总 ...
UA MATH564 概率论VI 数理统计基础3 卡方分布中
UA MATH564 概率论VI 数理统计基础3 卡方分布中卡方分布的基本性质上一讲介绍了卡方分布的定义:假设X1,⋯,XnX_1,\cdots,X_nX1,⋯,Xn互相独立,并且Xi∼N(a ...
UA MATH564 概率论VI 数理统计基础3 卡方分布上
UA MATH564 概率论VI 数理统计基础3 卡方分布上卡方分布卡方分布的分布函数中心化卡方分布一般的卡方分布卡方分布这里给出卡方分布的一般性定义.假设X1,⋯,XnX_1,\cdot ...
UA MATH564 概率论III 期望
UA MATH564 概率论III 期望随机变量的函数的期望特征函数,矩生成函数,累积量生成函数,概率生成函数这一讲讨论一元随机变量. 随机变量的函数的期望对于随机变量XXX,假设ggg是定义 ...
UA MATH564 概率论V 中心极限定理
UA MATH564 概率论V 中心极限定理随机变量序列的极限收敛模式之间的关系大数法则中心极限定理 Classical Central Limit Theorem Sugden法则 Delt ...
UA MATH564 概率论样本均值的偏度与峰度
UA MATH564 概率论样本均值的偏度与峰度偏度峰度假设X1,⋯,XnX_1,\cdots,X_nX1,⋯,Xn是一组简单随机样本,Xˉ\bar{X}Xˉ是样本均值,总体均值为μ\mu ...
UA MATH564 概率论多元随机变量的变换理论与应用1
UA MATH564 概率论多元随机变量的变换理论与应用1 定义法 Jacobi行列式法假设X1,⋯,XnX_1,\cdots,X_nX1,⋯,Xn是nnn个一元随机变量,存在一个C1(Rn ...
UA MATH564 概率论IV 次序统计量
UA MATH564 概率论IV 次序统计量次序统计量的分布例子例1:均匀分布的次序统计量例2:Dirichlet分布次序统计量的分布次序统计量的作用是比较大的,经常可以作为某些分布的充分 ...
UA MATH564 概率论 Dirichlet分布
UA MATH564 概率论 Dirichlet分布在UA MATH564 概率论IV 次序统计量中,我们介绍了均匀分布U(0,1)U(0,1)U(0,1)的多个次序统计量的联合分布就是Dirich ...

UA MATH564 概率论标准二元正态分布的性质

UA MATH564 概率论标准二元正态分布的性质

两个独立的标准正态变量

Rayleigh分布

Cauchy分布

Box-Muller变换

两个相关的标准正态变量

边缘密度

条件密度

UA MATH564 概率论标准二元正态分布的性质相关推荐

最新文章

热门文章

UA MATH564 概率论 标准二元正态分布的性质

UA MATH564 概率论 标准二元正态分布的性质

两个独立的标准正态变量

Rayleigh分布

Cauchy分布

Box-Muller变换

两个相关的标准正态变量

边缘密度

条件密度

UA MATH564 概率论 标准二元正态分布的性质相关推荐

最新文章

热门文章

UA MATH564 概率论标准二元正态分布的性质

UA MATH564 概率论标准二元正态分布的性质

UA MATH564 概率论标准二元正态分布的性质相关推荐