UA MATH564 概率论 QE练习 Glivenko–Cantelli定理

Glivenko–Cantelli定理

Part a
Notice P(Xi≤t)=F(t),i=1,⋯,nP(X_i \le t) = F(t),i = 1,\cdots,nP(Xi≤t)=F(t),i=1,⋯,n
E[F^n(t)]=E[1n∑i=1nI(Xi≤t)]=1n∑i=1nE[I(Xi≤t)]=1n∑i=1nP(Xi<t)=F(t)E[\hat{F}_n(t)] = E \left[ \frac{1}{n}\sum_{i=1}^n I(X_i \le t) \right] = \frac{1}{n}\sum_{i=1}^nE \left[ I(X_i \le t) \right] = \frac{1}{n}\sum_{i=1}^nP(X_i<t) = F(t)E[F^n(t)]=E[n1i=1∑nI(Xi≤t)]=n1i=1∑nE[I(Xi≤t)]=n1i=1∑nP(Xi<t)=F(t)

Part b
P(F^n(t)=k/n)=P(1n∑i=1nI(Xi≤t)=q)=P(∑i=1nI(Xi≤t)=k)=Cnk[F(t)]k[1−F(t)]n−k,k=1,⋯,nP(\hat{F}_n(t)=k/n) = P \left( \frac{1}{n}\sum_{i=1}^n I(X_i \le t) = q \right) = P \left( \sum_{i=1}^n I(X_i \le t) = k \right) \\ = C_n^k[F(t)]^{k}[1-F(t)]^{n-k},k=1,\cdots,nP(F^n(t)=k/n)=P(n1i=1∑nI(Xi≤t)=q)=P(i=1∑nI(Xi≤t)=k)=Cnk[F(t)]k[1−F(t)]n−k,k=1,⋯,n

This means nF^n(t)∼Binom(n,F(t))n\hat{F}_n(t) \sim Binom(n,F(t))nF^n(t)∼Binom(n,F(t)).

Part c
Calculate
E[F^n(t)]=1nE[nF^n(t)]=F(t)Var(F^n(t))=1n2Var(nF^n(t))=F(t)[1−F(t)]nE[\hat{F}_n(t)] = \frac{1}{n}E[n\hat{F}_n(t)] = F(t) \\ Var(\hat{F}_n(t)) = \frac{1}{n^2}Var(n\hat{F}_n(t)) = \frac{F(t)[1-F(t)]}{n}E[F^n(t)]=n1E[nF^n(t)]=F(t)Var(F^n(t))=n21Var(nF^n(t))=nF(t)[1−F(t)]

By CLT,
F^n(t)−F(t)F(t)[1−F(t)]n→dN(0,1)⇒n[F^n(t)−F(t)]→dN(0,F(t)[1−F(t)])\frac{\hat{F}_n(t) - F(t)}{\sqrt{\frac{F(t)[1-F(t)]}{n}}} \to_d N(0,1) \Rightarrow \sqrt{n}[\hat{F}_n(t) - F(t)] \to_d N(0,F(t)[1-F(t)])nF(t)[1−F(t)]F^n(t)−F(t)→dN(0,1)⇒n[F^n(t)−F(t)]→dN(0,F(t)[1−F(t)])

Glivenko–Cantelli定理

Glivenko–Cantelli定理说的是当n→∞n \to \inftyn→∞时，F^n\hat F_nF^n收敛到FFF。上面的题目提到了，对于给定的ttt，F^n(t)\hat{F}_n(t)F^n(t)会收敛到F(t)F(t)F(t)，因为
Var(F^n(t))=F(t)[1−F(t)]n→0,asn→∞Var(\hat{F}_n(t)) = \frac{F(t)[1-F(t)]}{n} \to 0,\ as \ n\to \inftyVar(F^n(t))=nF(t)[1−F(t)]→0, as n→∞

因此F^n(t)−F(t)→L20\hat{F}_n(t) - F(t) \to_{L_2} 0F^n(t)−F(t)→L20。一个从分析出发的证明会显得更简单，经验分布的性质说明
∣F^n(xj)−F(xj)∣≤1n,∀j=1,⋯,n−1|\hat{F}_n(x_j) - F(x_j)| \le \frac{1}{n},\forall j = 1,\cdots,n-1∣F^n(xj)−F(xj)∣≤n1,∀j=1,⋯,n−1

下面估计
sup⁡∣F^n(x)−F(x)∣≤max⁡∣F^n(xj)−F(xj)∣+1n\sup|\hat{F}_n(x) - F(x)| \le \max|\hat{F}_n(x_j) - F(x_j)| + \frac{1}{n}sup∣F^n(x)−F(x)∣≤max∣F^n(xj)−F(xj)∣+n1

当n→∞n \to \inftyn→∞时，max⁡∣F^n(xj)−F(xj)∣→0\max|\hat{F}_n(x_j) - F(x_j)| \to 0max∣F^n(xj)−F(xj)∣→0，因此F^n→L∞F\hat F_n \to_{L_{\infty}} FF^n→L∞F。

UA MATH564 概率论 QE练习 Glivenko–Cantelli定理相关推荐

UA MATH564 概率论 QE练习题信封问题
UA MATH564 概率论 QE练习题信封问题 2015年1月的第二题 2015年5月的第一题这一篇介绍QE理论中出现了两个信封问题相关的题目:2015年1月的第二题和2015年5月的第一题.信 ...
UA MATH564 概率论 QE练习题6
UA MATH564 概率论 QE练习题6 第二题第三题这是2016年5月的2-3题. 第二题 Part a Denote O as center of the circle. Randomly ...
UA MATH564 概率论 QE练习题概率极限理论
UA MATH564 概率论 QE练习题概率极限理论 2015/5/3 2016/1/3 这是2015年5月的3题.2016年1月的3题 2015/5/3 这个题干有点意思,有一列随机变量但并不是互 ...
UA MATH564 概率论 QE练习题3
UA MATH564 概率论 QE练习题3 第一题第二题第三题这是2015年1月的1-3题. 第一题 Part a Obvioulsy, EU=EW=0EU = EW = 0EU=EW=0, V ...
UA MATH564 概率论 QE练习题2
UA MATH564 概率论 QE练习题2 第一题第二题第三题这是2014年5月理论的1-3题. 第一题 For X2X_2X2, P(X2=0∣X1=0)=b+1b+r+1P(X2=1∣X1 ...
UA MATH564 概率论 QE练习题1
UA MATH564 概率论 QE练习题1 第一题第二题第三题 2014年1月理论的1-3题. 第一题 Part (a) Marginal density of YYY is fY(y)=∫−∞∞ ...
UA MATH564 概率论公式与定理总结
UA MATH564 概率论公式与定理总结 Part 1 Elementary Probability Tip 1: Probability is a measure satisfying mono ...
UA MATH564 概率论VI 数理统计基础3 卡方分布下 Cochran定理
UA MATH564 概率论VI 数理统计基础3 卡方分布下 Cochran定理多元正态随机变量二次型的分布 Cochran定理这一讲介绍多元正态随机变量的二次型的相关性质以及非常常用的Cochr ...
UA MATH564 概率论VI 数理统计基础3 卡方分布的正态近似
UA MATH564 概率论VI 数理统计基础3 卡方分布的正态近似卡方分布的正态近似 Gamma分布的正态近似基于卡方分布的近似基于指数分布的近似在做UA MATH566 统计理论 QE练习 ...

UA MATH564 概率论 QE练习 Glivenko–Cantelli定理

UA MATH564 概率论 QE练习 Glivenko–Cantelli定理

Glivenko–Cantelli定理

UA MATH564 概率论 QE练习 Glivenko–Cantelli定理相关推荐

最新文章

热门文章