文章目录

第一章随机事件及其概率
- 随机事件
- 频率与概率
- 古典概型与几何概型
- 条件概率与事件的独立性
- 全概率公式与贝叶斯公式
第二章随机变量及其分布
- 随机变量的概念
- 常用分布表(随机变量的离散连续与统计量的分布）
- 分布函数
- 概率密度函数
第三章多维随机变量及其分布
- 二维随机变量及其联合分布
- 边缘分布
- 条件分布
- 随机变量的独立性
- 联系
- 二维随机变量函数的分布
第四章随机变量的数字特征
- 期望的性质
- 方差的性质
- 协方差的性质
- 相关系数的性质
- 柯西—施瓦茨不等式
第五章大数定律与中心极限定理
- 依概率收敛与切比雪夫不等式
- 大数定律
- 中心极限定理
第六章数理统计的基本概念
- 总体与样本
- 统计量
- 数理统计中的常用分布
- 抽样分布定理
第七章参数估计
- 点估计
- 矩估计法
- 极大似然估计法
- 估计量的优良性

第一章随机事件及其概率

随机事件

试验：重复性、随机性、明确性

样本点：试验中的每一个可能的结果

样本空间：样本点组成的集合

基本事件：由一个样本点组成的单点集

复合事件：若干个

完备事件组：任意两个事件独立、所有的事件的和组成一个事件S

德摩根率：并之补等于补之交

频率与概率

频率：成功次数比总次数

概率：在相同的条件下，重复进行n次试验，事件A发生的频率稳定地在某一确定的常数a附近摆动，且一般来说，n越大，摆动的幅度越小。则常数A为事件A发生的概率。
三条公理六条性质
三条公理：非负性（P(A)>=0)；规范性(P(S)=1)；可列可加性
六条性质：P(空集)=0；有限可加性；逆事件概率公式；减法公式及其推导；单调性及其推导；加法公式及次可加性

（事件推概率，概率不可推事件）

古典概型与几何概型

古典概型：
定义：(1)有限样本空间；(2)等可能性

几何概型：
定义：(1)无限可度量；(2)等可能性

条件概率与事件的独立性

条件概率：由先验概率推后验概率
公式：P(A∣B)=P(AB)P(B)P(A|B)=\cfrac{P(AB)}{P(B)}P(A∣B)=P(B)P(AB)

独立性：一个事件的发生并不影响另一个事件发生的概率
公式：P(AB)=P(A)P(B)P(AB)=P(A)P(B)P(AB)=P(A)P(B)
注意：允许P(A)=0或P(B)=0；验证独立性的手段
常用结论：
(1)设P(A)>0，若P(AB)=0，则A、B不独立；
(2)全集、空集与任意事件A独立；
(3)若{A、B}相互独立，则{A逆、B} {A、B逆} {A逆、B逆}相互独立

全概率公式与贝叶斯公式

全概率公式：P(B)=P(A1)P(B∣A1)+P(A2)P(B∣A2)+⋅⋅⋅+P(An)P(B∣An)P(B)=P(A_{1})P(B|A_{1})+P(A_{2})P(B|A_{2})+···+P(A_{n})P(B|A_{n})P(B)=P(A1)P(B∣A1)+P(A2)P(B∣A2)+⋅⋅⋅+P(An)P(B∣An)

贝叶斯公式：P(Ak∣B)=P(Ak)P(B∣Ak)∑i=1∞P(Ai)P(B∣Ai)P(A_{k}|B)=\cfrac{P(A_{k})P(B|A_{k})}{\sum_{i=1}^{\infty}{P(A_{i})P(B|A_{i})}}P(Ak∣B)=∑i=1∞P(Ai)P(B∣Ai)P(Ak)P(B∣Ak)
意义：由后验概率P(Ak∣B)P(A_{k}|B)P(Ak∣B)反推先验概率P(Ak)P(A_{k})P(Ak)

第二章随机变量及其分布

随机变量的概念

随机变量：定义在样本空间上的函数（因变量）

常用分布表(随机变量的离散连续与统计量的分布）

分布类型	记号	分布律	背景	EX	DX	拓展
二项分布	B(n，p)	P(X=k)=Cnkpk(1−p)n−kP(X=k)=C^{k}_{n}p^{k}(1-p)^{n-k}P(X=k)=Cnkpk(1−p)n−k	n次Bernoulli试验中A发生的次数	np	np(1-p)
泊松分布	P(λ)	P(X=k)=λkk!e−λP(X=k)=\frac{λ^{k}}{k!}e^{-λ}P(X=k)=k!λke−λ	(1)二项分布的近似分布； (2)一定时间内占据某空间的粒子数；	λ	λ	泊松定理：lim⁡n→+∞Cnkpk(1−p)n−k=λkk!e−λ\lim_{n\rightarrow+\infty}C^{k}_{n}p^{k}(1-p)^{n-k}=\frac{λ^{k}}{k!}e^{-λ}limn→+∞Cnkpk(1−p)n−k=k!λke−λ
几何分布	无	P(X=k)=(1−p)k−1pP(X=k)=(1-p)^{k-1}pP(X=k)=(1−p)k−1p	Bernoulli试验中A首次出现的试验次数	1p\cfrac{1}{p}p1	1−pp2\cfrac{1-p}{p^2}p21−p	帕斯卡分布：A第r次出现 (P=Ck−1r−1pr(1−p)k−rP=C^{r-1}_{k-1}p^r(1-p)^{k-r}P=Ck−1r−1pr(1−p)k−r)
均匀分布	U[a,b]	f(x)={1b−a,a≤x≤b0,elsef(x)= \begin{cases} \cfrac{1}{b-a} , &a\le x\le b\\[3ex]0, &else\end{cases}f(x)=⎩⎪⎪⎨⎪⎪⎧b−a1,0,a≤x≤belse	几何概型中的随机点	a+b2\cfrac{a+b}{2}2a+b	(a−b)212\cfrac{(a-b)^2}{12}12(a−b)2
指数分布	E(λ\lambdaλ)	f(x)={λe−λx,x>00,x≤0f(x)= \begin{cases} \lambda e^{-\lambda x}, &x>0\\[3ex]0,&x\le0\end{cases}f(x)=⎩⎪⎨⎪⎧λe−λx,0,x>0x≤0	(1)“寿命”、“服务时间”的分布(事件以恒定平均速率且独立发生的过程) (2)几何分布的近似分布(模拟连续) (3)描述泊松过程中事件之间的时间的概率分布	1λ\cfrac{1}{\lambda}λ1	1λ2\cfrac{1}{\lambda^2}λ21	泊松过程：P(X=k,t)=(λt)kk!e−λtP(X=k,t)=\frac{(\lambda t)^k}{k!}e^{-\lambda t}P(X=k,t)=k!(λt)ke−λt 例如：平均每个小时接到2次电话，预期等待每一次电话的时间是半个小时两次事件发生时间间隔>t，即t时间内没有发生，即k=0,P=e−λtk=0,P=e^{-\lambda t}k=0,P=e−λt 伽马分布的特殊情况无记忆性(无后效性)
正态分布	N(μ，σ2\mu，\sigma^2μ，σ2)	f(x)=12πσe−(x−μ)22σ2f(x)=\cfrac{1}{\sqrt{2\pi\sigma}}e^{-\cfrac{(x-\mu)^2}{2\sigma^2}}f(x)=2πσ1e−2σ2(x−μ)2	影响某一指标的随机因素的分布	μ\muμ	σ2\sigma^2σ2	形状：中间高两头低定理：设X服从N(μ,σ2\mu,\sigma^2μ,σ2)，Y=aX+b(a不为0)，则Y服从N(aμ+b,a2σ2a\mu+b,a^2\sigma^2aμ+b,a2σ2)
二维均匀分布	无	f(x,y)={1S(D),(x,y)∈D0,elsef(x,y)=\begin{cases}\cfrac{1}{S(D)},&(x,y)\in D\\[3ex]0,&else\end{cases}f(x,y)=⎩⎪⎪⎨⎪⎪⎧S(D)1,0,(x,y)∈Delse	在有界区域D上服从均匀分布的随机变量(X,Y)落入D的任何子区域的概率与该区域面积成正比，而与其位置和形状无关。
二维正态分布	(X,Y)~N(μ1,μ2,σ12,σ22,ρ\mu_1,\mu_2,\sigma_1^2,\sigma_2^2,\rhoμ1,μ2,σ12,σ22,ρ)	待完善				ρ=0\rho=0ρ=0时，fX(x)fY(y)=f(x,y)f_X(x)f_Y(y)=f(x,y)fX(x)fY(y)=f(x,y)

卡方分布	χ2\chi^2χ2~χ2(n)\chi^2(n)χ2(n)	待完善		n	2n	性质2：χ12,χ22\chi^2_1,\chi^2_2χ12,χ22相互独立且分别服从χ2(n1),χ2(n2)\chi^2(n_1),\chi^2(n_2)χ2(n1),χ2(n2)，则χ12+χ22\chi^2_1+\chi^2_2χ12+χ22服从χ2(n1+n2)\chi^2(n_1+n_2)χ2(n1+n2)卡方分布的可加性
t分布(学生氏分布)	T~t(n)	待完善	设随机变量X服从N(0,1),Y服从χ2(n)\chi^2(n)χ2(n)，且X与Y相互独立，则随机变量XY/n\cfrac{X}{\sqrt{Y/n}}Y/nX服从自由度为n的t分布	0(n>2)	nn−2\cfrac{n}{n-2}n−2n(n>2)	当n→∞n\to\inftyn→∞时，t分布将趋近于标准正态分布(n>30)，n较小时，t分布尾部更“厚”
F分布	F~F(n1,n2n_1,n_2n1,n2)	待完善	设随机变量X、Y分别满足χ2(n1)\chi^2(n_1)χ2(n1),χ2(n2)\chi^2(n_2)χ2(n2)，且X、Y相互独立，则X/n1Y/n2\cfrac{X/n_1}{Y/n_2}Y/n2X/n1服从第一自由度为n1n_1n1，第二自由度为n2n_2n2的F分布	待完善	待完善	性质1：若F~F(n1n_1n1,n2n_2n2)，则1F\cfrac{1}{F}F1满足F(n2,n1n_2,n_1n2,n1) 性质2：若T~t(n)，则T2T^2T2满足F(1,n)

分布函数

定理：

单调性：单调非减函数
有界性：[0,1]
右连续(无法解释)：limx→x0+F(x)=F(x0)lim_{x\to x_0^+}F(x)=F(x_0)limx→x0+F(x)=F(x0)

概率密度函数

定义：P{X≤\le≤x}=F{x}=∫−∞xf(t)dt\int_{-\infty}^{x}f(t)dt∫−∞xf(t)dt
性质：∫−∞+∞f(t)dt=1\int_{-\infty}^{+\infty}f(t)dt=1∫−∞+∞f(t)dt=1

第三章多维随机变量及其分布

二维随机变量及其联合分布

联合分布函数：
F(x,y)=P(X≤x,Y≤y)F(x,y)=P(X\le x,Y\le y) F(x,y)=P(X≤x,Y≤y)
联合概率密度：
F(x,y)=∫−∞x∫−∞yf(μ,ν)dμdνF(x,y)=\int_{-\infty}^{x}\int_{-\infty}^{y}f(\mu,\nu)d\mu d\nu F(x,y)=∫−∞x∫−∞yf(μ,ν)dμdν
性质：

f(x,y)≥0f(x,y)\ge0f(x,y)≥0;
∫−∞+∞∫−∞+∞f(μ,ν)dμdν=1\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}f(\mu,\nu)d\mu d\nu=1∫−∞+∞∫−∞+∞f(μ,ν)dμdν=1

边缘分布

边缘分布函数：
FX(x)=P(X≤x)=P(X≤x,Y≤+∞)=F(x,+∞)F_X(x)=P(X\le x)=P(X\le x,Y\le +\infty)=F(x,+\infty) FX(x)=P(X≤x)=P(X≤x,Y≤+∞)=F(x,+∞)
边缘概率密度函数：
fX(x)=∫−∞+∞f(x,y)dy(x因变量，y积分变量)f_X(x)=\int_{-\infty}^{+\infty}f(x,y)dy (x因变量，y积分变量) fX(x)=∫−∞+∞f(x,y)dy(x因变量，y积分变量)
已知联合密度求边缘密度：

画出联合密度函数非零区域
$f_X(x)=\int_{a}^{b}f(x,y)dy $

条件分布

定义：设(X,Y)是二维离散型随机变量，其联合概率分布为
P(X=xi,Y=yj)=pij,(i,j=1,2,⋅⋅⋅,)P(X=x_i,Y=y_j)=p_{ij},(i,j=1,2,···,) P(X=xi,Y=yj)=pij,(i,j=1,2,⋅⋅⋅,)
对固定的j，若P(Y=yi)>0P(Y=y_i)>0P(Y=yi)>0,则称
P(X=xi∣Y=yi)=P(X=xi,Y=yj)P(Y=yj),(i,j=1,2,⋅⋅⋅)P(X=x_i|Y=y_i)=\cfrac{P(X=x_i,Y=y_j)}{P(Y=y_j)},(i,j=1,2,···) P(X=xi∣Y=yi)=P(Y=yj)P(X=xi,Y=yj),(i,j=1,2,⋅⋅⋅)
为在Y=yjY=y_jY=yj的条件下X的条件分布。

性质：若P(Y=yj)>0P(Y=y_j)>0P(Y=yj)>0，那么，在Y=yjY=y_jY=yj的条件下X的条件分布函数为
P(X≤x∣Y=yj)=P(X=xi,Y≤yj)P(Y=yj)=∑xi≤xpijp⋅jP(X\le x|Y=y_j)=\cfrac{P(X=x_i,Y\le y_j)}{P(Y=y_j)}=\cfrac{\sum_{x_i\le x}p_{ij}}{p_{·j}} P(X≤x∣Y=yj)=P(Y=yj)P(X=xi,Y≤yj)=p⋅j∑xi≤xpij
条件概率密度：对固定的x，fX(x)>0f_X(x)>0fX(x)>0，
fY∣X(y∣x)=f(x,y)fX(x)f_{Y|X}(y|x)=\cfrac{f(x,y)}{f_X(x)} fY∣X(y∣x)=fX(x)f(x,y)
即X=x的条件下Y的条件概率密度

随机变量的独立性

定义：
F(x,y)=FX(x)FY(y)F(x,y)=F_X(x)F_Y(y) F(x,y)=FX(x)FY(y)
即随机变量X,Y是相互独立的。(联合分布函数等于边缘分布函数的乘积)

判定：
P(X=xi,Y=yj)=P(X=xi)P(Y=yj)P(X=x_i,Y=y_j)=P(X=x_i)P(Y=y_j) P(X=xi,Y=yj)=P(X=xi)P(Y=yj)
定理：
f(x,y)=fX(x)fY(y)f(x,y)=f_X(x)f_Y(y) f(x,y)=fX(x)fY(y)
在平面上几乎处处(测度论)成立

矩形区域可分离变量

X、Y独立→∬IR2xyf(x,y)dxdy=∫−∞+∞xf(x)dx∫−∞+∞yf(y)dy\to \iint_{IR^2}xyf(x,y)dxdy=\int_{-\infty}^{+\infty}xf(x)dx\int_{-\infty}^{+\infty}yf(y)dy→∬IR2xyf(x,y)dxdy=∫−∞+∞xf(x)dx∫−∞+∞yf(y)dy

逆命题不成立，独立一定不相关，不相关不一定独立（不相关：E(XY)=EXEYE(XY)=EXEYE(XY)=EXEY）

联系

(1)联合分布→\to→边缘分布→\to→条件分布/判断独立性

计算公式：

FX(x)=limy→+∞F(x,y)F_X(x)=lim_{y\to +\infty}F(x,y)FX(x)=limy→+∞F(x,y)
离散型行求和
fX(x)=∫−∞+∞f(x,y)dyf_X(x)=\int_{-\infty}^{+\infty}f(x,y)dyfX(x)=∫−∞+∞f(x,y)dy

(2)边缘分布+相互独立→\to→联合分布

计算公式：

F(x,y)=FX(x)FY(y)F(x,y)=F_X(x)F_Y(y)F(x,y)=FX(x)FY(y)
pij=P(X=xi)P(Y=yj)p_{ij}=P(X=x_i)P(Y=y_j)pij=P(X=xi)P(Y=yj)
f(x,y)=fX(x)fY(y)f(x,y)=f_X(x)f_Y(y)f(x,y)=fX(x)fY(y)

补充定理：X、Y相互独立，g、h是两个一元连续函数，则g(x)与h(y)也相互独立

二维随机变量函数的分布

二项分布的可加性

泊松分布的可加性

正态分布的可加性

最大值分布

求二维随机变量的联合概率密度

Z=X+Y型：

换元，求f(x,z−x)f(x,z-x)f(x,z−x)
讨论自变量z，积分变量x的范围
fZ(z)=∫−∞+∞f(x,z−x)dxf_Z(z)=\int_{-\infty}^{+\infty}f(x,z-x)dxfZ(z)=∫−∞+∞f(x,z−x)dx （卷积公式）

一般分布函数法：

求分布函数
已知联合密度函数求概率(对联合密度函数进行二重积分)

离散+连续混合型：

全概率公式（完备事件组，离散型可列）
FZ(z)=P(X=x1)P(x1+Y≤z∣X=x1)+P(x2+Y≤z)P(B∣X=x2)+⋅⋅⋅+P(xn+Y≤z)P(B∣X=xn)F_Z(z)=P(X=x_1)P(x_1+Y\le z|X=x_1)+P(x_2+Y\le z)P(B|X=x_2)+···+P(x_n+Y\le z)P(B|X=x_n) FZ(z)=P(X=x1)P(x1+Y≤z∣X=x1)+P(x2+Y≤z)P(B∣X=x2)+⋅⋅⋅+P(xn+Y≤z)P(B∣X=xn)

第四章随机变量的数字特征

期望的性质

E(C)=CE(C)=CE(C)=C
E(kX)=kEXE(kX)=kEXE(kX)=kEX
和的期望=期望的和：E(X+Y)=EX+EYE(X+Y)=EX+EYE(X+Y)=EX+EY
积的期望不一定等于期望的积
条件矩形区域可分离变量（独立）

方差的性质

DX=E(X2)−(EX)2DX=E(X^2)-(EX)^2DX=E(X2)−(EX)2
D(C)=0D(C)=0D(C)=0
D(aX+b)=a2DXD(aX+b)=a^2DXD(aX+b)=a2DX
切比雪夫不等式：
事件{|X-EX|≥ξ\ge \xi≥ξ}称为大偏差，其概率P{|X-EX|≥ξ\ge \xi≥ξ}为大偏差发生概率（上界为DXξ2\cfrac{DX}{\xi ^2}ξ2DX）
两个随机变量和差的方差
D(X−Y)=DX+DY−2E[(X−EX)(Y−EY)]D(X-Y)=DX+DY-2E[(X-EX)(Y-EY)] D(X−Y)=DX+DY−2E[(X−EX)(Y−EY)]
其中Gov(X,Y)=E[(X−EX)(Y−EY)]=EXY−EXEYGov(X,Y)=E[(X-EX)(Y-EY)]=EXY-EXEYGov(X,Y)=E[(X−EX)(Y−EY)]=EXY−EXEY为X、Y的协方差

独立时，协方差为0，则D(X−Y)=DX+DYD(X-Y)=DX+DYD(X−Y)=DX+DY

协方差的性质

Gov(X,Y)>0Gov(X,Y)>0Gov(X,Y)>0，则X、Y成正（线性）相关
Gov(X,Y)=Gov(Y,X)Gov(X,Y)=Gov(Y,X)Gov(X,Y)=Gov(Y,X)
Gov(X,a)=0Gov(X,a)=0Gov(X,a)=0
Gov(aX,bY)=abGov(X,Y)Gov(aX,bY)=abGov(X,Y)Gov(aX,bY)=abGov(X,Y)
对第一个分量的线性性：Gov(a1X1+a2X2,Y)=a1Gov(X1,Y)+a2Gov(X2,Y)Gov(a_1X_1+a_2X_2,Y)=a_1Gov(X_1,Y)+a_2Gov(X_2,Y)Gov(a1X1+a2X2,Y)=a1Gov(X1,Y)+a2Gov(X2,Y)

柯西—施瓦茨不等式

若a1,a2,,,ana_1,a_2,,,a_na1,a2,,,an和b1,b2,,,bnb_1,b_2,,,b_nb1,b2,,,bn是任意实数，则有(∑k−1nakbk)2≤(∑k=1nak2)(∑k=1nbk2)(\sum^n_{k-1}a_kb_k)^2\le(\sum_{k=1}^na^2_k)(\sum_{k=1}^nb^2_k)(∑k−1nakbk)2≤(∑k=1nak2)(∑k=1nbk2)此外，如果有某个ai不等于0a_i不等于0ai不等于0，则上式中的等号当且仅当一个实数X使得对于每一个k=1,2,⋅⋅⋅，nk=1,2,···，nk=1,2,⋅⋅⋅，n都有k=1,2,⋅⋅⋅，nk=1,2,···，nk=1,2,⋅⋅⋅，n都有akX+bk=0a_kX+b_k=0akX+bk=0时成立。

[Gov(X,Y)]2≤σx2σy2[Gov(X,Y)]^2\le\sigma_x^2\sigma_y^2[Gov(X,Y)]2≤σx2σy2

第五章大数定律与中心极限定理

依概率收敛与切比雪夫不等式

依概率收敛
定义：
设X1,X2,⋅⋅⋅Xn,⋅⋅⋅X_1,X_2,···X_n,···X1,X2,⋅⋅⋅Xn,⋅⋅⋅是一个随机变量序列，a是一个常数，若对任意的正数ξ,有
limn→∞(∣Xn−a∣<ξ)=1lim_{n\to\infty}(|X_n-a|<\xi)=1 limn→∞(∣Xn−a∣<ξ)=1
则称当n无限增大时，随机变量序列X1,X2,⋅⋅⋅Xn,⋅⋅⋅X_1,X_2,···X_n,···X1,X2,⋅⋅⋅Xn,⋅⋅⋅依概率收敛于a，并用下面的符号表示：
Xn→a(n→∞)或limn→∞Xn=a(P)X_n\to a(n\to\infty)或lim_{n\to\infty}X_n=a(P) Xn→a(n→∞)或limn→∞Xn=a(P)
同理，研究一个随机变量序列是否收敛到其数学期望：
limn→∞(∣X‾n−EX‾n∣<ξ)=1lim_{n\to\infty}(|\overline{X}_n-E\overline{X}_n|<\xi)=1 limn→∞(∣Xn−EXn∣<ξ)=1
切比雪夫不等式
定理：
设随机变量X具有数学期望EX和方差DX，则对于任意的正数ξ，下列不等式成立
P(∣X−EX∣<ξ)≥1−DXξ2P(|X-EX|<ξ)\ge 1-\cfrac{DX}{ξ^2} P(∣X−EX∣<ξ)≥1−ξ2DX
方差：刻画随机变量取值的分散程度
离差：反映随机变量取值与期望之间的误差
切比雪夫不等式：描述离差与方差之间的关系，随机变量与其数学期望足够接近的概率下限（用于估算随机变量离差大小的概率）

大数定律

切比雪夫大数定律(X可不同分布，独立，方差有上界。条件最弱，应用范围最广)：
解释了平均值的稳定性(平均值稳定在大数附近)

limn→∞P(∣∑i=1nXin−∑i=1nEXin∣<ξ)=1lim_{n\to\infty}P(|\cfrac{\sum_{i=1}^n{X_i}}{n}-\cfrac{\sum_{i=1}^n{EX_i}}{n}|<\xi)=1 limn→∞P(∣n∑i=1nXi−n∑i=1nEXi∣<ξ)=1

辛钦大数定律(在切比基础上，X同分布，但方差不一定存在且一致有界)：
提供了求EX近似值的方法
limn→∞P(∣∑i=1nXin−μ∣<ξ)=1lim_{n\to\infty}P(|\cfrac{\sum_{i=1}^n{X_i}}{n}-\mu|<\xi)=1 limn→∞P(∣n∑i=1nXi−μ∣<ξ)=1
伯努利大数定律(在切比基础上，X服从两点分布)：
弥补了概率的公理化定义(频率具有稳定性)
limn→∞P(∣μn−p∣<ξ)=1lim_{n\to\infty}P(|\cfrac{\mu}{n}-p|<\xi)=1 limn→∞P(∣nμ−p∣<ξ)=1
μ\muμ是n次独立试验中事件A发生的次数。

中心极限定理

林德伯格—列维中心极限定理（独立同分布中心极限定理）：
设随机变量X1,X2,⋅⋅⋅Xn,⋅⋅⋅X_1,X_2,···X_n,···X1,X2,⋅⋅⋅Xn,⋅⋅⋅相互独立且具有相同分布，E(Xi)=μ,D(Xi)=σ2E(X_i)=\mu,D(X_i)=\sigma^2E(Xi)=μ,D(Xi)=σ2，则前n个变量的和Yn=∑i=1nXiY_n=\sum_{i=1}^nX_iYn=∑i=1nXi，对任意实数x，有
limn→∞P(Yn−nμnσ≤x)=∫−∞x12πe−t22dt=Φ(x)lim_{n\to\infty}P(\cfrac{Y_n-n\mu}{\sqrt{n}\sigma}\le x)=\int_{-\infty}^x\cfrac{1}{\sqrt{2\pi}}e^{-\cfrac{t^2}{2}}dt=\Phi(x) limn→∞P(nσYn−nμ≤x)=∫−∞x2π1e−2t2dt=Φ(x)
表明，当n充分大时，随机变量Yn−nμnσ\cfrac{Y_n-n\mu}{\sqrt{n}\sigma}nσYn−nμ近似服从标准正态分布。

棣莫佛—拉普拉斯定理（随机变量序列服从两点分布）
limn→∞P(a<X−npnp(1−p)≤b)=∫ab12πe−t22dt=Φ(b)−Φ(a)lim_{n\to\infty}P(a<\cfrac{X-np}{\sqrt{np(1-p)}}\le b)=\int_a^b\cfrac{1}{\sqrt{2\pi}}e^{-\cfrac{t^2}{2}}dt=\Phi(b)-\Phi(a) limn→∞P(a<np(1−p)X−np≤b)=∫ab2π1e−2t2dt=Φ(b)−Φ(a)
表明，一定条件下，大量随机变量和的分布可以用正态分布近似，因此可以利用正态分布来计算随机变量之和取值的概率。

第六章数理统计的基本概念

总体与样本

总体：研究对象的全体，用XXX表示

样本：在总体中抽样得到的部分个体，用X1,X2,⋅⋅⋅XnX_1,X_2,···X_nX1,X2,⋅⋅⋅Xn表示，与总体分布相同

样本观测值：x1,x2,⋅⋅⋅xnx_1,x_2,···x_nx1,x2,⋅⋅⋅xn

统计量

统计量：不包括任何未知参数的样本函数

常用统计量：

X‾=1n∑i=1nXi\overline{X}=\cfrac{1}{n}\sum_{i=1}^nX_iX=n1∑i=1nXi 为样本均值，用x‾=1n∑i=1nXi\overline{x}=\cfrac{1}{n}\sum_{i=1}^nX_ix=n1∑i=1nXi表示其观测值
S2=1n−1∑i=1n(Xi−X‾)2S^2=\cfrac{1}{n-1}\sum_{i=1}^n(X_i-\overline{X})^2S2=n−11∑i=1n(Xi−X)2 为样本方差，用s2=1n−1∑i=1n(xi−x‾)2s^2=\cfrac{1}{n-1}\sum_{i=1}^n(x_i-\overline{x})^2s2=n−11∑i=1n(xi−x)2表示其观测值
Ak=1n∑i=1nXikA_k=\cfrac{1}{n}\sum_{i=1}^{n}X_i^kAk=n1∑i=1nXik为样本k阶（原点）矩，用ak=1n∑i=1nxika_k=\cfrac{1}{n}\sum_{i=1}^{n}x_i^kak=n1∑i=1nxik表示其观测值
Bk=1n∑i=1n(Xi−X‾)kB_k=\cfrac{1}{n}\sum_{i=1}^{n}(X_i-\overline X)^kBk=n1∑i=1n(Xi−X)k为样本k阶中心矩，用bk=1n∑i=1n(xi−x‾)kb_k=\cfrac{1}{n}\sum_{i=1}^{n}(x_i-\overline x)^kbk=n1∑i=1n(xi−x)k表示其观测值
s=1n−1∑i=1n(xi−x‾)2s=\sqrt{\cfrac{1}{n-1}\sum_{i=1}^n(x_i-\overline{x})^2}s=n−11∑i=1n(xi−x)2为样本标准差
sn2=1n∑i=1n(xi−x‾)2s_n^2=\cfrac{1}{n}\sum_{i=1}^n(x_i-\overline{x})^2sn2=n1∑i=1n(xi−x)2为未经修正的样本方差

数理统计中的常用分布

前面的表里有

抽样分布定理

单正态总体的抽样分布定理：
设总体XXX服从正态分布N(μ,σ2)N(\mu,\sigma^2)N(μ,σ2)，则样本均值X‾=1n∑i=1nXi\overline{X}=\cfrac{1}{n}\sum_{i=1}^nX_iX=n1∑i=1nXi服从N(μ,σ2n)N(\mu,\cfrac{\sigma^2}{n})N(μ,nσ2)。
证明：正态分布在线性变换下具有不变性。

第七章参数估计

点估计

样本的K阶原点矩：Ak=1n∑i=1nXikA_k=\cfrac{1}{n}\sum_{i=1}^{n}X_i^kAk=n1∑i=1nXik

替换原理
概率论中的大数定律：1n∑i=1nXik→μ\cfrac{1}{n}\sum_{i=1}^nX_i^k\to\mun1∑i=1nXik→μ
在数理统计中:X‾→EX\overline{X}\to EXX→EX

即，用一阶样本矩替换一阶总体矩
推广（一阶到多阶）：
用样本均值X‾\overline{X}X估计总体均值EXEXEX
用样本方差Sn2S^2_nSn2估计总体方差DXDXDX
用频率估计概率

矩估计法

计算总体矩(EX、EX2、DXEX、EX^2、DXEX、EX2、DX)，一般是θ\thetaθ(参数)的函数
反解出θ\thetaθ，即将θ\thetaθ表示成总体矩的函数
用样本矩替换总体矩，得到θ\thetaθ的估计量

极大似然估计法

计算样本联合分布律，用L(θ)或lnL(θ)L(\theta)或lnL(\theta)L(θ)或lnL(θ)表示
求L(θ)或lnL(θ)L(\theta)或lnL(\theta)L(θ)或lnL(θ)的最大值点，作为极大似然估计量（一般即唯一驻点，没有驻点根据题目条件求范围）

估计量的优良性

无偏性
数学期望与真值相等，即E(θ^)=θE(\hat\theta)=\thetaE(θ^)=θ
有效性
D(θ^1)<D(θ^2)D(\hat\theta_1)<D(\hat\theta_2)D(θ^1)<D(θ^2)

概率论与数理统计复习相关推荐

概率论与数理统计复习全集（考研/期末复习）
21年夏季期末考试的复习提纲宋浩老师的讲解视频的相关信息整理第一章概率论与数理统计之概率论的基本概念 1.1.1 随机试验与随机事件 1.1.2 样本空间与事件的集合表示 1.1.3 事件间的关 ...
考研学长分享：概率论与数理统计复习技巧
在研究生入学考试数.线代.概率论各学科都有自己的特点,相应的复习战略也不同,现在主要看概率论和数理统计的复习方法. 概率论这门学科在考试研究中我们给学生的目标是不会丢分或丢失很少的分数,但每年的实际情 ...
概率论与数理统计复习一（伽马函数、正态分布、瑞利分布、线性相关、独立）
目录各种分布正态分布引理瑞利分布期望与方差泊松分布期望与方差指数分布期望与方差指数分布的min.max.和 Z=min{X,Y}Z = min\{X,Y\}Z=min{X,Y} Z ...
概率论与数理统计【二】随机事件与概率(2) - 常用求概率公式与例题两道
本节为概率论与数理统计复习笔记的第二节,随机事件与概率(2),主要包括:加法公式.减法公式.条件概率公式.乘法公式.全概率公式.贝叶斯公式以及两道例题. 1.常用的求概率公式 1.加法公式 P(A∪B ...
概率论与数理统计考研复习
概率论与数理统计考研复习 1 随机试验的特点概念 2样本空间.随机事件概念事件关系与事件的运算定律 3 频率与概率频率概率 1 随机试验的特点概念可以在相同的条件下重复地进行: 每次试 ...
概率论和数理统计期末复习(仅供个人复习使用)
概率论和数理统计期末复习(仅供个人复习使用) 写在前面此文章仅仅是为了串联知识点,如需要深刻掌握如何做,还需要深入实战,看课件,才能够真的行!!! 集合运算公式事件的运算及其运算律 *古典概型几 ...
概率论与数理统计考试重点复习路线
概率论与数理统计考试重点复习路线文章目录概率论与数理统计考试重点复习路线前言 MindMap 概率论部分数理统计部分概率论基本概念离散型 0-1 分布分布律数学期望方差二项分布 ...
【概率论与数理统计】【线性代数】计算机保研复习
我他妈写一上午了直接没了,这狗csdn,别在已发布的文章上改,辣鸡玩意儿. 复习概率论与数理统计 1.基础 2.贝叶斯公式 3.大数定律(Law of the large numbers) 4.中心 ...
《概率论与数理统计》第四版浙江大学第1-5章复习
概率论的基本概念统计规律性:在大量重复实验或观察中所呈现出的具有固定规律性随机现象: 自然界有确定性现象和随机现象,随机现象指个别实验中结果呈现不确定性,在大量重复实验中其结果又具有统计规律性, ...

概率论与数理统计复习