文章目录

  • 任务详解:
  • 1.期望与方差
    • 期望
      • 1、均匀分布:
      • 2、指数分布
      • 3、搞屎分布
      • 1.0-1分布
      • 2.伯努利(二项)分布
      • 3.泊松分布
    • 期望的性质
    • 方差
      • 方差的公式
      • 常见分布的方差
      • 方差的常用性质
  • 2.协方差
    • 相关系数
    • 协方差矩阵
      • n维正态随机变量的概率密度

本课程来自 深度之眼,部分截图来自课程视频。
【第三章 概率论】3.3期望与方差
在线LaTeX公式编辑器

任务详解:

这节课主要介绍了期望与方差,协方差,矩估计等知识点。
掌握目标:
1、掌握期望和方差的意义,以及常用离散或连续分布期望方差的计算
2、掌握期望和方差的性质
3、掌握协方差,相关系数,协方差矩阵

1.期望与方差

期望

连续型(求积分):
E(X)=∫−∞+∞xf(x)dxE(X)=\int_{-\infty}^{+\infty}xf(x)dxE(X)=∫−∞+∞​xf(x)dx
离散型(求和):
E(X)=∑k=1∞xkpkE(X)=\sum_{k=1}^{\infty}x_kp_kE(X)=k=1∑∞​xk​pk​
下面来看几个典型密度函数的期望:

1、均匀分布:

f(x)={1b−a,a<x<b0,其他f(x)=\begin{cases}\cfrac{1}{b-a},a<x<b\\0,\quad 其他\end{cases}f(x)=⎩⎨⎧​b−a1​,a<x<b0,其他​
∫ab1b−axdx=1b−a12x2∣ab=1b−a12(b2−a2)=a+b2\int_a^b\frac{1}{b-a}xdx=\frac{1}{b-a}\frac{1}{2}x^2\bigg |_a^b=\frac{1}{b-a}\frac{1}{2}(b^2-a^2)=\frac{a+b}{2}∫ab​b−a1​xdx=b−a1​21​x2∣∣∣∣​ab​=b−a1​21​(b2−a2)=2a+b​

2、指数分布

f(x)={1θe−x/θ0,其他f(x)=\begin{cases}\cfrac{1}{\theta}e^{-x/\theta}\\0,\quad 其他\end{cases}f(x)=⎩⎨⎧​θ1​e−x/θ0,其他​
∫0+∞1θe−x/θ⋅xdx\int_0^{+\infty}\cfrac{1}{\theta}e^{-x/\theta}\cdot xdx∫0+∞​θ1​e−x/θ⋅xdx
用换元法:
=−∫0+∞xde−x/θ=-\int_0^{+\infty}xde^{-x/\theta}=−∫0+∞​xde−x/θ
用分部积分:
−[e−x/θx∣0+∞−∫0+∞e−x/θdx]-[e^{-x/\theta}x\bigg |_0^{+\infty}-\int_0^{+\infty}e^{-x/\theta}dx]−[e−x/θx∣∣∣∣​0+∞​−∫0+∞​e−x/θdx]
第一项根据洛必达法则等于0,则第二项:
=∫0+∞e−x/θdx=(−θe−x/θ)0+∞=0−(−θe0)=θ=\int_0^{+\infty}e^{-x/\theta}dx=(-\theta e^{-x/\theta})_0^{+\infty}=0-(-\theta e^0)=\theta=∫0+∞​e−x/θdx=(−θe−x/θ)0+∞​=0−(−θe0)=θ

3、搞屎分布

f(x)=12πσe−(x−μ)22σ2,−∞<x<∞f(x)=\cfrac{1}{\sqrt{2\pi}\sigma}e^{-\cfrac{(x-\mu)^2}{2\sigma^2}},-\infty<x<\inftyf(x)=2π​σ1​e−2σ2(x−μ)2​,−∞<x<∞
期望为μ\muμ
下面看几个离散函数的期望:

1.0-1分布

X 0 1
pk 1-p p

根据定义求期望::
E(X)=∑k=1∞xkpk=0(1−p)+1×p=pE(X)=\sum_{k=1}^{\infty}x_kp_k=0(1-p)+1×p=pE(X)=k=1∑∞​xk​pk​=0(1−p)+1×p=p

2.伯努利(二项)分布

P{X=k}=(nk)pkqn−k,k=0,1,2,⋯,nP\{X=k\}=\binom{n}{k}p^kq^{n-k},k=0,1,2,\cdots,nP{X=k}=(kn​)pkqn−k,k=0,1,2,⋯,n
根据定义求期望:
E(X)=∑k=0nxkpk=k(nk)pkqn−kE(X)=\sum_{k=0}^{n}x_kp_k=k\binom{n}{k}p^kq^{n-k}E(X)=k=0∑n​xk​pk​=k(kn​)pkqn−k
---------------------------------------------------------割你没商量1------------------------------------------------------
二项分布的(nk)=n!k!(n−k)!\binom{n}{k}=\cfrac{n!}{k!(n-k)!}(kn​)=k!(n−k)!n!​
k(nk)=kn!k!(n−k)!=n(n−1)!(k−1)!(n−k)!=n(n−1k−1)k\binom{n}{k}=k\frac{n!}{k!(n-k)!}=\frac{n(n-1)!}{(k-1)!(n-k)!}=n\binom{n-1}{k-1}k(kn​)=kk!(n−k)!n!​=(k−1)!(n−k)!n(n−1)!​=n(k−1n−1​)
---------------------------------------------------------割你没商量1------------------------------------------------------
E(X)=∑k=1nn(n−1k−1)ppk−1qn−k=np∑k=1n(n−1k−1)pk−1qn−kE(X)=\sum_{k=1}^{n}n\binom{n-1}{k-1}pp^{k-1}q^{n-k}=np\sum_{k=1}^{n}\binom{n-1}{k-1}p^{k-1}q^{n-k}E(X)=k=1∑n​n(k−1n−1​)ppk−1qn−k=npk=1∑n​(k−1n−1​)pk−1qn−k
令kˉ=k−1\bar{k}=k-1kˉ=k−1,则有:
E(X)=np∑kˉ=0n−1(n−1kˉ)pkˉq(n−1)−kˉE(X)=np\sum_{\bar{k}=0}^{n-1}\binom{n-1}{\bar{k}}p^{\bar{k}}q^{(n-1)-\bar{k}}E(X)=npkˉ=0∑n−1​(kˉn−1​)pkˉq(n−1)−kˉ
用什么符号来表示公式中的变量是无所谓的,把kˉ\bar{k}kˉ换成k
E(X)=np∑k=0n−1(n−1k)pkq(n−1)−kE(X)=np\sum_{k=0}^{n-1}\binom{n-1}{k}p^{k}q^{(n-1)-k}E(X)=npk=0∑n−1​(kn−1​)pkq(n−1)−k
求和部分实际上是(p+q)n−1(p+q)^{n-1}(p+q)n−1的二项式展开,且p+q=1,故:
E(X)=np(p+q)n−1=npE(X)=np(p+q)^{n-1}=npE(X)=np(p+q)n−1=np

3.泊松分布

P{X=k}=λke−λk!,k=0,1,2,⋯,λ>0P\{X=k\}=\frac{\lambda^ke^{-\lambda}}{k!},k=0,1,2,\cdots,\lambda>0P{X=k}=k!λke−λ​,k=0,1,2,⋯,λ>0
根据定义求期望:
E(X)=∑k=0+∞xkpk=∑k=0+∞kλke−λk!E(X)=\sum_{k=0}^{+\infty}x_kp_k=\sum_{k=0}^{+\infty}k\frac{\lambda^ke^{-\lambda}}{k!}E(X)=k=0∑+∞​xk​pk​=k=0∑+∞​kk!λke−λ​
由于k=0这项是0,所以从1开始算:
E(X)=∑k=1+∞λke−λ(k−1)!E(X)=\sum_{k=1}^{+\infty}\frac{\lambda^ke^{-\lambda}}{(k-1)!}E(X)=k=1∑+∞​(k−1)!λke−λ​
令kˉ=k−1\bar{k}=k-1kˉ=k−1,则有:
E(X)=∑kˉ=0+∞λkˉ+1e−λkˉ!=λ∑kˉ=0+∞λkˉe−λkˉ!E(X)=\sum_{\bar{k}=0}^{+\infty}\frac{\lambda^{\bar{k}+1}e^{-\lambda}}{\bar{k}!}=\lambda\sum_{\bar{k}=0}^{+\infty}\frac{\lambda^{\bar{k}}e^{-\lambda}}{\bar{k}!}E(X)=kˉ=0∑+∞​kˉ!λkˉ+1e−λ​=λkˉ=0∑+∞​kˉ!λkˉe−λ​
用什么符号来表示公式中的变量是无所谓的,把kˉ\bar{k}kˉ换成k
E(X)=λ∑k=0+∞λke−λk!E(X)=\lambda\sum_{k=0}^{+\infty}\frac{\lambda^{k}e^{-\lambda}}{k!}E(X)=λk=0∑+∞​k!λke−λ​
求和部分根据上一节的泊松分布可知,是等于1的。
E(X)=λE(X)=\lambdaE(X)=λ

期望的性质

1°设CCC是常数,则有E(C)=CE(C)=CE(C)=C.
2°设XXX是一个随机变量,CCC是常数,则有
E(CX)=CE(X)E(CX)=CE(X)E(CX)=CE(X).
3°设X,YX,YX,Y是两个随机变量,则有
E(X+Y)=E(X)+E(Y)E(X+Y)=E(X)+E(Y)E(X+Y)=E(X)+E(Y).
这一性质可以推广到任意有限个随机变量之和的情况.
4°设X,YX,YX,Y是相互独立的随机变量,则有
E(XY)=E(X)E(Y)E(XY)=E(X)E(Y)E(XY)=E(X)E(Y).
这一性质可以推广到任意有限个相互独立的随机变量之积的情况.

方差

方差的公式

说人话:每一个样本到期望的距离的平方
E{[X−E(X)]2}E\{[X-E(X)]^2\}E{[X−E(X)]2}
来度量随机变量X与其均值E(X)E(X)E(X)的偏离程度.
定义设XXX是一个随机恋量,若E{[X−E(X)]2}E\{[X-E(X)]^2\}E{[X−E(X)]2}在在,则称E{[X−E(X)]2}E\{[X-E(X)]^2\}E{[X−E(X)]2}为XXX的方差,记为D(X)D(X)D(X)或Var(X)Var(X)Var(X),即
D(X)=Var(X)=E{[X−E(X)]2}D(X)=Var(X)=E\{[X-E(X)]^2\}D(X)=Var(X)=E{[X−E(X)]2}
在应用上还引入量sqrtD(X)=sqrt{D(X)=}sqrtD(X)=,记为σ(X)\sigma(X)σ(X),称为标准差均方差
对于离散变量,方差计算公式为:
D(X)=∑k=1∞[xk−E(X)]2pkD(X)=\sum_{k=1}^\infty[x_k-E(X)]^2p_kD(X)=k=1∑∞​[xk​−E(X)]2pk​
如果把∑k=1∞[xk−E(X)]2\sum_{k=1}^\infty[x_k-E(X)]^2∑k=1∞​[xk​−E(X)]2看做一个随机变量,则D(X)D(X)D(X)实际上可以看做是求期望。
对于连续变量,方差计算公式为:
D(X)=∫−∞+∞[xk−E(X)]2f(x)dxD(X)=\int_{-\infty}^{+\infty}[x_k-E(X)]^2f(x)dxD(X)=∫−∞+∞​[xk​−E(X)]2f(x)dx
看方差公式可以知道,欲求方差先求期望,貌似好麻烦,来看看怎么简化:
D(X)=E{[X−E(X)]2}=E{X2−2XE(X)+[E(X)]2}D(X)=E\{[X-E(X)]^2\}=E\{X^2-2XE(X)+[E(X)]^2\}D(X)=E{[X−E(X)]2}=E{X2−2XE(X)+[E(X)]2}
根据期望的性质:
D(X)=E(X2)−2E(XE(X))+E([E(X)]2)D(X)=E(X^2)-2E(XE(X))+E([E(X)]^2)D(X)=E(X2)−2E(XE(X))+E([E(X)]2)
---------------------------------------------------------割你没商量2------------------------------------------------------
2E(XE(X))2E(XE(X))2E(XE(X))中E(X)E(X)E(X)是一个常数,所以根据期望的性质3°可以放到外面:2E(X)E(X)2E(X)E(X)2E(X)E(X)
E([E(X)]2)E([E(X)]^2)E([E(X)]2)中E(X)E(X)E(X)是一个常数,常数的期望就是它自己:[E(X)]2[E(X)]^2[E(X)]2
---------------------------------------------------------割你没商量2------------------------------------------------------
D(X)=E(X2)−2E(X)E(X)+[E(X)]2=E(X2)−2[E(X)]2+[E(X)]2=E(X2)−[E(X)]2\begin{aligned}D(X)=&E(X^2)-2E(X)E(X)+[E(X)]^2\\ =&E(X^2)-2[E(X)]^2+[E(X)]^2\\ =&E(X^2)-[E(X)]^2\end{aligned}D(X)===​E(X2)−2E(X)E(X)+[E(X)]2E(X2)−2[E(X)]2+[E(X)]2E(X2)−[E(X)]2​

常见分布的方差

---------------------------------------------------------割你没商量3------------------------------------------------------
例3泊松分布设随机变量X∼π(λ)X\sim\pi(\lambda)X∼π(λ),求D(X)D(X)D(X).
随机变量X的分布律为
P{X=k}=λke−λk!,k=0,1,2,⋯,λ>0P\{X=k\}=\frac{\lambda^ke^{-\lambda}}{k!},k=0,1,2,\cdots,\lambda>0P{X=k}=k!λke−λ​,k=0,1,2,⋯,λ>0
这个是泊松分布,上面算过,其E(X)=λE(X)=\lambdaE(X)=λ,而
E(X2)=∑k=0∞k2λke−λk!=∑k=1∞kλke−λ(k−1)!=∑k=1∞(k−1+1)λke−λ(k−1)!=∑k=1∞(k−1)λke−λ(k−1)!+∑k=1∞λke−λ(k−1)!\begin{aligned}E(X^2)=&\sum_{k=0}^\infty k^2\frac{\lambda^ke^{-\lambda}}{k!}=\sum_{k=1}^\infty k\frac{\lambda^ke^{-\lambda}}{(k-1)!}\\ =&\sum_{k=1}^\infty (k-1+1)\frac{\lambda^ke^{-\lambda}}{(k-1)!}\\ =&\sum_{k=1}^\infty (k-1)\frac{\lambda^ke^{-\lambda}}{(k-1)!}+\sum_{k=1}^\infty \frac{\lambda^ke^{-\lambda}}{(k-1)!} \end{aligned}E(X2)===​k=0∑∞​k2k!λke−λ​=k=1∑∞​k(k−1)!λke−λ​k=1∑∞​(k−1+1)(k−1)!λke−λ​k=1∑∞​(k−1)(k−1)!λke−λ​+k=1∑∞​(k−1)!λke−λ​​
后面一项把一个λ\lambdaλ提出来,e−λe^{-\lambda}e−λ和k无关,也可以提出来,然后根据泊松分布计算过的,最后等于λ\lambdaλ:
∑k=1∞λke−λ(k−1)!=λe−λ∑k=1∞λk−1(k−1)!=λ\sum_{k=1}^\infty \frac{\lambda^ke^{-\lambda}}{(k-1)!}=\lambda e^{-\lambda}\sum_{k=1}^\infty \frac{\lambda^{k-1}}{(k-1)!}=\lambdak=1∑∞​(k−1)!λke−λ​=λe−λk=1∑∞​(k−1)!λk−1​=λ
前面一项,可以把(k-1)约掉一项,然后变成:
∑k=1∞(k−1)λke−λ(k−1)!=∑k=2∞λke−λ(k−2)!\sum_{k=1}^\infty (k-1)\frac{\lambda^ke^{-\lambda}}{(k-1)!}=\sum_{k=2}^\infty \frac{\lambda^ke^{-\lambda}}{(k-2)!}k=1∑∞​(k−1)(k−1)!λke−λ​=k=2∑∞​(k−2)!λke−λ​
把一个λ2\lambda^2λ2提出来,e−λe^{-\lambda}e−λ和k无关,也可以提出来:
=λ2e−λ∑k=2∞λk−2(k−2)!=\lambda^2e^{-\lambda}\sum_{k=2}^\infty \frac{\lambda^{k-2}}{(k-2)!}=λ2e−λk=2∑∞​(k−2)!λk−2​
令kˉ=k−2\bar{k}=k-2kˉ=k−2:
=λ2e−λ∑kˉ=0∞λkˉkˉ!=λ2e−λeλ=λ2=\lambda^2e^{-\lambda}\sum_{\bar{k}=0}^\infty \frac{\lambda^{\bar{k}}}{\bar{k}!}=\lambda^2e^{-\lambda}e^{\lambda}=\lambda^2=λ2e−λkˉ=0∑∞​kˉ!λkˉ​=λ2e−λeλ=λ2
所以:
E(X2)=λ2+λE(X^2)=\lambda^2+\lambdaE(X2)=λ2+λ
所以,方差:
D(X)=E(X2)−[E(X)]2=λ2+λ−(λ)2=λD(X)=E(X^2)-[E(X)]^2=\lambda^2+\lambda-(\lambda)^2=\lambdaD(X)=E(X2)−[E(X)]2=λ2+λ−(λ)2=λ

例4均匀分布:设随机变量X∼U(a,b)X\sim U(a,b)X∼U(a,b),求D(X)D(X)D(X).
f(x)={1b−a,a<x<b0,其他f(x)=\begin{cases}\cfrac{1}{b-a},a<x<b\\0,\quad 其他\end{cases}f(x)=⎩⎨⎧​b−a1​,a<x<b0,其他​
均匀分布的期望已经算出来过了:
E(X)=a+b2E(X)=\frac{a+b}{2}E(X)=2a+b​
方差:
D(X)=E(X2)−[E(X)]2=∫abx21b−adx−(a+b2)2=(b−a)212D(X)=E(X^2)-[E(X)]^2=\int_a^bx^2\frac{1}{b-a}dx-(\frac{a+b}{2})^2=\frac{(b-a)^2}{12}D(X)=E(X2)−[E(X)]2=∫ab​x2b−a1​dx−(2a+b​)2=12(b−a)2​

指数分布的例子:

搞屎分布的方差是σ2\sigma^2σ2
---------------------------------------------------------割你没商量3------------------------------------------------------

方差的常用性质

1°设CCC是常数,则D(C)=0D(C)=0D(C)=0.
2°设XXX是随机变量,CCC是常数,则有
D(CX)=C2D(X),D(X+C)=D(X)D(CX)=C^2D(X),D(X+C)=D(X)D(CX)=C2D(X),D(X+C)=D(X)
3°设X,YX,YX,Y是两个随机变量,则有
D(X+Y)=D(X)+D(Y)+2E{(X−E(X))(Y−E(Y))}.D(X+Y)=D(X)+D(Y)+2E\{(X-E(X))(Y-E(Y))\}.D(X+Y)=D(X)+D(Y)+2E{(X−E(X))(Y−E(Y))}.
特别,若X,YX,YX,Y相互独立,则有
D(X+Y)=D(X)+D(Y).D(X+Y)=D(X)+D(Y).D(X+Y)=D(X)+D(Y).
这一性质可以推广到任意有限多个相互独立的随机变量之和的情况.
4°D(X)=0D(X)=0D(X)=0的充要条件是XXX以概率1取常数E(X)E(X)E(X),即
P{X=E(X)}=1.P\{X=E(X)\}=1.P{X=E(X)}=1.

2.协方差

如果两个随机变量X和Y是相互独立的,则
E{[X−E(X)][Y−E(Y)]}=0E\{[X-E(X)][Y-E(Y)]\}=0E{[X−E(X)][Y−E(Y)]}=0
---------------------------------------------------------割你没商量4------------------------------------------------------
证明:
E{[X−E(X)][Y−E(Y)]}=E{XY−XE(Y)−YE(X)+E(X)E(Y)}=E(XY)−E(X)E(Y)−E(Y)E(X)+E(X)E(Y)=E(XY)−E(X)E(Y)\begin{aligned}&E\{[X-E(X)][Y-E(Y)]\}\\ =&E\{XY-XE(Y)-YE(X)+E(X)E(Y)\}\\ =&E(XY)-E(X)E(Y)-E(Y)E(X)+E(X)E(Y)\\ =&E(XY)-E(X)E(Y) \end{aligned} ===​E{[X−E(X)][Y−E(Y)]}E{XY−XE(Y)−YE(X)+E(X)E(Y)}E(XY)−E(X)E(Y)−E(Y)E(X)+E(X)E(Y)E(XY)−E(X)E(Y)​
若X和Y是相互独立的,E(XY)=E(X)E(Y)E(XY)=E(X)E(Y)E(XY)=E(X)E(Y),E{[X−E(X)][Y−E(Y)]}=0E\{[X-E(X)][Y-E(Y)]\}=0E{[X−E(X)][Y−E(Y)]}=0得证。
---------------------------------------------------------割你没商量4------------------------------------------------------
当E{[X−E(X)][Y−E(Y)]}≠0E\{[X-E(X)][Y-E(Y)]\}\neq0E{[X−E(X)][Y−E(Y)]}​=0时,X和Y不相互独立,而是存在一定关系。
定义:E{[X−E(X)][Y−E(Y)]}=0E\{[X-E(X)][Y-E(Y)]\}=0E{[X−E(X)][Y−E(Y)]}=0称为随机变量X和Y的协方差,记为:Cov(X,Y)Cov(X,Y)Cov(X,Y),即:
Cov(X,Y)=E{[X−E(X)][Y−E(Y)]}Cov(X,Y)=E\{[X-E(X)][Y-E(Y)]\}Cov(X,Y)=E{[X−E(X)][Y−E(Y)]}
协方差常用公式:
Cov(X,Y)=Cov(Y,X)Cov(X,Y)=Cov(Y,X)Cov(X,Y)=Cov(Y,X)
Cov(X,X)=D(X).Cov(Y,Y)=D(Y)Cov(X,X)=D(X).Cov(Y,Y)=D(Y)Cov(X,X)=D(X).Cov(Y,Y)=D(Y)
Cov(X+Y)=D(X)+D(Y)+2Cov(X,Y)Cov(X+Y)=D(X)+D(Y)+2Cov(X,Y)Cov(X+Y)=D(X)+D(Y)+2Cov(X,Y)
Cov(X,Y)=E(XY)−E(X)E(Y)Cov(X,Y)=E(XY)-E(X)E(Y)Cov(X,Y)=E(XY)−E(X)E(Y)
协方差常见性质:
1°Cov(aX,bY)=abCov(X,Y)Cov(aX,bY)=abCov(X,Y)Cov(aX,bY)=abCov(X,Y),a,b是常数
2°Cov(X1+X2,Y)=Cov(X1,Y)+Cov(X2,Y)Cov(X_1+X_2,Y)=Cov(X_1,Y)+Cov(X_2,Y)Cov(X1​+X2​,Y)=Cov(X1​,Y)+Cov(X2​,Y)

相关系数

ρXY=Cov(X,Y)D(X)D(Y)\rho_{XY}=\frac{Cov(X,Y)}{\sqrt{D(X)}\sqrt{D(Y)}}ρXY​=D(X)​D(Y)​Cov(X,Y)​
称为随机变量X与Y的相关系数。

定理
1°∣ρXY∣≤1|\rho_{XY}|\leq1∣ρXY​∣≤1
2°ρXY\rho_{XY}ρXY​越接近于1,X和Y相关性越强,ρXY=0\rho_{XY}=0ρXY​=0表示X和Y没有相关性,是相互独立的。ρXY=±1\rho_{XY}=\pm 1ρXY​=±1,则X和Y是线性关系:P{Y=a+bX=1}P\{Y=a+bX=1\}P{Y=a+bX=1}。

协方差矩阵

二维随机变量(X1,X2)(X_1,X_2)(X1​,X2​)有四个二阶中心矩(设它们都存在),分别记为
c11=E{[X1−E(X1)]2}c12=E{[X1−E(X1)][X2−E(X2)]}c21=E{[X2−E(X2)][X1−E(X1)]}c22=E{[X2−E(X2)]2}\begin{aligned}c_{11}=&E\{[X_1-E(X_1)]^2\}\\ c_{12}=&E\{[X_1-E(X_1)][X_2-E(X_2)]\}\\ c_{21}=&E\{[X_2-E(X_2)][X_1-E(X_1)]\}\\ c_{22}=&E\{[X_2-E(X_2)]^2\} \end{aligned} c11​=c12​=c21​=c22​=​E{[X1​−E(X1​)]2}E{[X1​−E(X1​)][X2​−E(X2​)]}E{[X2​−E(X2​)][X1​−E(X1​)]}E{[X2​−E(X2​)]2}​
c11,c22c_{11},c_{22}c11​,c22​分别是X1,X2X_1,X_2X1​,X2​的方差,c12=c21c_{12}=c_{21}c12​=c21​是X1,X2X_1,X_2X1​,X2​的协方差
将它们排成矩阵的形式:
[c11c12c21c22]\begin{bmatrix} c_{11} &c_{12} \\ c_{21}& c_{22} \end{bmatrix}[c11​c21​​c12​c22​​]
这个矩阵称为随机变量(X1,X2)(X_1,X_2)(X1​,X2​)的协方差矩阵
设n维随机变量(X1,X2,…,Xn)(X_1,X_2,…,X_n)(X1​,X2​,…,Xn​)的二阶混合中心矩
cij=Cov(Xi,Xj)=E{[Xi−E(Xi)][Xj−E(Xj)]},i,j=1,2,...,nc_{ij}=Cov(X_i,X_j)=E\{[X_i-E(X_i)][X_j-E(X_j)]\},i,j=1,2,...,ncij​=Cov(Xi​,Xj​)=E{[Xi​−E(Xi​)][Xj​−E(Xj​)]},i,j=1,2,...,n
都存在,则称矩阵:
C=[c11c12⋯c1nc21c22⋯c2n⋮⋮⋮cn1cn2⋯cnn]n×nC=\begin{bmatrix} c_{11} & c_{12} & \cdots &c_{1n} \\ c_{21} & c_{22} & \cdots & c_{2n}\\ \vdots & \vdots & &\vdots \\ c_{n1} &c_{n2} & \cdots & c_{nn} \end{bmatrix}_{n×n}C=⎣⎢⎢⎢⎡​c11​c21​⋮cn1​​c12​c22​⋮cn2​​⋯⋯⋯​c1n​c2n​⋮cnn​​⎦⎥⎥⎥⎤​n×n​
为n维随机变量(X1,X2,…,Xn)(X_1,X_2,…,X_n)(X1​,X2​,…,Xn​)的协方差矩阵,由于cij=cji,i≠j,i,j=1,2,...,nc_{ij}=c_{ji},i\neq j,i,j=1,2,...,ncij​=cji​,i​=j,i,j=1,2,...,n,因此矩阵C是一个对称矩阵。

n维正态随机变量的概率密度

引入列矩阵
X=[x1x2⋮xn]X=\begin{bmatrix} x_1 \\ x_2 \\ \vdots \\ x_n\end{bmatrix}X=⎣⎢⎢⎢⎡​x1​x2​⋮xn​​⎦⎥⎥⎥⎤​
μ=[μ1μ2⋮μn]=[E(X1)E(X2)⋮E(Xn)]\mu=\begin{bmatrix} \mu_1 \\ \mu_2 \\ \vdots \\ \mu_n\end{bmatrix}=\begin{bmatrix} E(X_1) \\ E(X_2) \\ \vdots \\ E(X_n) \end{bmatrix}μ=⎣⎢⎢⎢⎡​μ1​μ2​⋮μn​​⎦⎥⎥⎥⎤​=⎣⎢⎢⎢⎡​E(X1​)E(X2​)⋮E(Xn​)​⎦⎥⎥⎥⎤​
n维正态随机变量(X1,X2,…,Xn)(X_1,X_2,…,X_n)(X1​,X2​,…,Xn​)的概率密度定义为:

其中C为(X1,X2,…,Xn)(X_1,X_2,…,X_n)(X1​,X2​,…,Xn​)的协方差矩阵。

概率论:3.3期望与方差相关推荐

  1. 二维随机变量期望公式_概率论笔记-Ch4期望与方差

    本节包括: 期望:定义与性质 方差与协方差:方差.标准差.协方差.相关系数.协方差矩阵.矩的定义与性质 条件期望:条件期望与条件方差 典型随机变量的期望方差 期望 离散 设一离散随机变量 有概率分布 ...

  2. [概统]本科二年级 概率论与数理统计 第七讲 期望、方差与相关性

    [概统]本科二年级 概率论与数理统计 第七讲 期望.方差与相关性 期望及其性质 方差.协方差.相关性系数 两两独立.独立与相关性 虽然之前就分别介绍过离散型随机变量与连续型随机变量的期望与方差,这一讲 ...

  3. 概率论由相关性求数学期望和方差的公式_2020.3.30 | 考研数学—概率论与数理统计:各章节考试重点...

    考研数学有两大重点,基础要打好,练习要多做,错题要巩固.下面来看下有关概率论与数理统计相关复习内容,一起来学习吧! 一.概率与数理统计学科的特点(1)研究对象是随机现象高数是研究确定的现象,而概率研究 ...

  4. 分段函数的期望和方差_概率论中数学期望什么时候不存在?

    很多考生对数学的复习不是有很清晰的认识,其实现在可以真正的开始了第一轮的复习.在第一轮的复习中有以下四大框架可以推荐给广大考生. 1. 注意基本概念.基本方法和基本定理的复习掌握 结合考研辅导书和大纲 ...

  5. 概率论几大分布的期望和方差证明整合

    前言 简介 本文是对概率论中常见分布包括二项分布.0-1分布.泊松分布.均匀分布.正态分布.指数分布的期望和方差的证明整合,附加自己的推导或理解. 导览 二项分布 (Binomial Distribu ...

  6. 概率论 各种分布及其期望、方差、分布函数

    概率论 各种分布及其期望.方差.分布函数 (0-1)分布 二项分布 X~b(n,p) 泊松分布 X~π(λ)π(λ)\pi(\lambda) 均匀分布 X~U(a,b) 指数分布 正态/高斯分布 X~ ...

  7. 概率论基础(7)数学期望、方差、协方差、切比雪夫不等式

    概率论对于学习 NLP 方向的人,重要性不言而喻.于是我打算从概率论基础篇开始复习,也顺便巩固巩固基础. 这是基础篇的第七篇知识点总结 基础:下面前六篇的链接地址: 概率论基础(1)古典和几何概型及事 ...

  8. 概率论-2.3 随机变量的方差与标准差(重点:(X-E(X))^2的期望)

    方差:描绘随机变量X的波动程度(一种特殊的期望) 定义:D(X)=E((X-E(X))^2),记作Var(X) 离散:Sum(((xi-E(X))^2p(xi)) 连续:积分(X-E(X))^2p(x ...

  9. 【概率论与数理统计】猴博士 笔记 p11-14 一维、二维离散型求分布函数和期望、方差

    一维离散型求分布函数 通过一道例题来掌握这种题怎么做: 解: 一些补充: FX(x)表示的是P{X≤x}F_X(x)表示的是P \{X \le x\} FX​(x)表示的是P{X≤x} 如果只有X一个 ...

最新文章

  1. T-SQL IN 谓词
  2. 一起谈.NET技术,.NET并行(多核)编程系列之七 共享数据问题和解决概述
  3. mac找不到mysql数据库_mac下mysql升级后找回丢失数据库
  4. C#中使用二进制和ProtoBuf分别进行序列化、反序列化、压缩、解压缩对比测试汇总
  5. datetime建立索引有用吗_超全的数据库建表、SQL、索引规范
  6. android自定义radiogroup,Android自定义RadioGroup
  7. “看看人家苹果和亚马逊”,嫌薪酬太低,谷歌员工“炮轰”高管
  8. python中可变集合set和不可变集合frozenset的区别
  9. DEL: Restore Boxes after VirtualBox Upgrade
  10. 图像频域增强:高通滤波器
  11. WinForm转WPF
  12. JavaSE基础知识点思维导图
  13. 尚硅谷JavaWeb视频教程,新版升级
  14. 【模拟器】win 10:iTools 模拟器 ( iOS 模拟器) 下载与安装
  15. 图像处理学习--银行卡号码识别(1)
  16. 为何浙江天搜科技这些互联网企业对杭州情有独钟?
  17. 内存的读写速度是硬盘的多少倍
  18. 阿郎恋曲(阿郎的故事)
  19. 在线小游戏编程工具使用教程
  20. 【论文阅读】Scene Text Image Super-Resolution in the Wild

热门文章

  1. C++中cv::Mat矩阵任意取其中一块或一行一列如何操作
  2. 程序员该如何学习技术
  3. eclipse找不到java虚拟机_eclipse无法启动 - 没有找到java虚拟机
  4. 量化软件怎样计算股票概率?
  5. 佟丽娅现身活动火力全开 黑色裹身裙时髦大气,未修图也美的惊艳
  6. Go语言安装和配置SDK
  7. Python学习---根据excel的内容自动批量修改excel名称
  8. 几个反垃圾邮件的词汇(XBL,SBL,PBL,ROKSO)
  9. qq空间小尾巴怎么修改
  10. 使用Hyper-V的安卓模拟器-兆懿