UA MATH563 概率论的数学基础中心极限定理19 概率测度的全变差收敛 Skorohod定理

上一讲我们讨论了概率测度的弱收敛，这一讲我们讨论概率测度的其他收敛模式：

概率测度的弱收敛
假设{μn}\{\mu_n\}{μn}是一列概率测度，称它弱收敛到概率测度μ\muμ，如果μn\mu_nμn导出的累积分布函数弱收敛到μ\muμ导出的累积分布函数，我们记为μn⇒μ\mu_n \Rightarrow \muμn⇒μ

概率测度的Total variation convergence （全变差收敛）
∥μn−μ∥Var=sup⁡A∣μn(A)−μ(A)∣→0\left\| \mu_n-\mu \right\|_{Var} = \sup_{A} |\mu_n(A)-\mu(A)| \to 0∥μn−μ∥Var=Asup∣μn(A)−μ(A)∣→0

例
我们考虑一种看起来与弱收敛等价的定义，∀A∈B(R)\forall A \in \mathcal{B}(\mathbb{R})∀A∈B(R)，μn(A)→μ(A)\mu_n(A) \to \mu(A)μn(A)→μ(A)，然而实际上这个收敛比弱收敛更强，因为弱收敛只考虑B(R)\mathcal{B}(\mathbb{R})B(R)的一类子集：{(−∞,x]:x∈R}\{(-\infty,x]:x \in \mathbb{R}\}{(−∞,x]:x∈R}；另外，全变差收敛也比弱收敛更强。

比如我们考虑{k/n:k=1,2,⋯,n}\{k/n:k=1,2,\cdots,n\}{k/n:k=1,2,⋯,n}上的均匀分布，它的分布为μn\mu_nμn，累积分布函数为
Fn(x)=⌊nx⌋n,0≤x≤1F_n(x) = \frac{\lfloor nx \rfloor }{n}, 0 \le x \le 1Fn(x)=n⌊nx⌋,0≤x≤1

考虑(0,1)(0,1)(0,1)上的均匀分布，它的分布为μ\muμ，累积分布函数为FFF，
F(x)=x,x∈(0,1)F(x) = x,x \in (0,1)F(x)=x,x∈(0,1)

我们的直觉告诉我们，FnF_nFn应该会收敛到FFF，下面我们考虑不同的收敛的定义：

弱收敛：因为在xxx连续时，Fn(x)→F(x)F_n(x) \to F(x)Fn(x)→F(x)，所以Fn⇒xF_n \Rightarrow xFn⇒x；
∀A∈B(R)\forall A \in \mathcal{B}(\mathbb{R})∀A∈B(R)，μn(A)→μ(A)\mu_n(A) \to \mu(A)μn(A)→μ(A)：比如A=QA = \mathbb{Q}A=Q，μn(A)=1\mu_n(A)=1μn(A)=1但是μ(A)=0\mu(A)=0μ(A)=0，因此在这种定义下，FnF_nFn并不会收敛到FFF
全变差收敛：∥μn−μ∥=sup⁡A∣μn(A)−μ(A)∣=1↛0\left\| \mu_n - \mu \right\|=\sup_{A} |\mu_n(A)-\mu(A)|=1 \nrightarrow 0∥μn−μ∥=supA∣μn(A)−μ(A)∣=1↛0，因此在全变差收敛的意义下，FnF_nFn也不会收敛。

Scheffe引理
假设μn\mu_nμn与μ\muμ是实数轴上的分布，对应的密度为fn,ff_n,ffn,f，如果fn→a.e.ff_n \to_{a.e.} ffn→a.e.f，则∥μn−μ∥Var→0\left\| \mu_n-\mu \right\|_{Var} \to 0∥μn−μ∥Var→0

说明
从这个引理可以看出，全变差收敛的一个充分条件是概率密度收敛，而弱收敛只要求分布函数收敛，从这个角度也可以得出全变差收敛强于弱收敛。

证明
∥μn−μ∥Var=sup⁡A∣μn(A)−μ(A)∣=sup⁡A∣∫fn1Adx−∫f1Adx∣=sup⁡A∣∫(fn−f)1Adx∣≤sup⁡A∫∣fn−f∣1Adx≤∫∣fn−f∣dx\left\| \mu_n-\mu \right\|_{Var}=\sup_{A} |\mu_n(A)-\mu(A)| \\=\sup_{A} |\int f_n 1_A dx-\int f1_A dx| \\ = \sup_{A} |\int (f_n-f) 1_A dx| \\ \le \sup_{A} \int |f_n-f|1_A dx \\ \le \int |f_n-f|dx ∥μn−μ∥Var=Asup∣μn(A)−μ(A)∣=Asup∣∫fn1Adx−∫f1Adx∣=Asup∣∫(fn−f)1Adx∣≤Asup∫∣fn−f∣1Adx≤∫∣fn−f∣dx

因为
∫(fn−f)dx=0\int (f_n-f)dx = 0∫(fn−f)dx=0

所以
∫(fn−f)+dx=∫(fn−f)−dx\int (f_n-f)^+dx = \int (f_n-f)^-dx∫(fn−f)+dx=∫(fn−f)−dx

于是
∫∣fn−f∣dx=2∫(fn−f)+dx\int |f_n-f|dx = 2\int (f_n-f)^+dx∫∣fn−f∣dx=2∫(fn−f)+dx

又因为
(fn−f)+≤f+=f∈L1(f_n-f)^+ \le f^+ = f \in L^1(fn−f)+≤f+=f∈L1

根据控制收敛定理以及fn→a.e.ff_n \to_{a.e.} ffn→a.e.f，2∫(fn−f)+dx→02\int (f_n-f)^+dx \to 02∫(fn−f)+dx→0。

事实上，在概率密度存在时，全变差范数可以用概率密度计算：
∥μn−μ∥Var=12∫∣fn−f∣dx\left\| \mu_n-\mu \right\|_{Var} = \frac{1}{2}\int |f_n-f|dx∥μn−μ∥Var=21∫∣fn−f∣dx

Skorohod定理
如果Fn⇒FF_n \Rightarrow FFn⇒F，则存在以FnF_nFn为cdf的YnY_nYn与以FFF为cdf的YYY，使得Yn→a.s.YY_n \to_{a.s.} YYn→a.s.Y。

这里暂不给出Skorohod定理的证明，因为它并不是一个在概率论中无可替代的定理，但如果可以使用这个定理，那么我们就可以以更简单的路径建立概率论的一些结果。下面举两个例子：

例 Skorohod定理推依概率收敛版本的Fatou引理
如果ggg非负，Xn→dXX_n \to_d XXn→dX，则
lim inf⁡E[g(Xn)]≥E[g(X)]\liminf E[g(X_n)] \ge E[g(X)]liminfE[g(Xn)]≥E[g(X)]

根据Skorohod定理，存在Yn=dXn,Y=dXY_n =_d X_n,Y=_d XYn=dXn,Y=dX，并且Yn→a.s.YY_n \to_{a.s.} YYn→a.s.Y。用YnY_nYn代替XnX_nXn：
E[g(Xn)]=E[g(Yn)],E[g(X)]=E[g(Y)]E[g(X_n)] = E[g(Y_n)],E[g(X)]=E[g(Y)]E[g(Xn)]=E[g(Yn)],E[g(X)]=E[g(Y)]

因为Fatou引理对几乎必然收敛成立，于是Skorohod定理说明Fatou引理对弱收敛也成立。

类似的，有界收敛定理也要求几乎必然收敛，因此Skorohod定理也说明有界收敛定理对对弱收敛也成立。

然而需要注意的是，Skorohod定理并不能说明单调收敛定理与控制收敛定理对弱收敛成立，因为Skorohod定理无法保证基于Xn≤Xn+1,a.s.X_n \le X_{n+1},a.s.Xn≤Xn+1,a.s.构造的YnY_nYn与Yn+1Y_{n+1}Yn+1也具有这样的序关系，而控制收敛需要Fatou+单调收敛导出，单调收敛不成立，则我们无法保证控制收敛成立。