UA MATH563 概率论的数学基础中心极限定理7 Kolmogorov extension theorem及其扩展

上一讲为了构造包含无限个独立随机变量的序列，我们使用了Kolmogorov extension theorem：

如果在(Rn,B(Rn))(\mathbb{R}^n,\mathcal{B}(\mathbb{R}^n))(Rn,B(Rn))上有概率测度νn\nu_nνn，且νn\nu_nνn是一致的(consistent)，即νn+1((a1,b1]×⋯×(an,bn]×R)=νn((a1,b1]×⋯×(an,bn])\nu_{n+1}((a_1,b_1] \times \cdots \times (a_n,b_n] \times \mathbb{R})=\nu_n((a_1,b_1] \times \cdots \times (a_n,b_n] )νn+1((a1,b1]×⋯×(an,bn]×R)=νn((a1,b1]×⋯×(an,bn])那么我们可以在可测空间(R∞,B(R∞))(\mathbb{R}^{\infty},\mathcal{B}(\mathbb{R}^{\infty}))(R∞,B(R∞))上构造唯一一个概率测度PPP，它满足P({w:wi∈(ai,bi],1≤i≤n})=νn((a1,b1]×⋯×(an,bn])P(\{w:w_i \in (a_i,b_i],1 \le i \le n\}) = \nu_n((a_1,b_1] \times \cdots \times (a_n,b_n] )P({w:wi∈(ai,bi],1≤i≤n})=νn((a1,b1]×⋯×(an,bn])

这一讲我们介绍Kolmogorov extension theorem的证明。另外，基于这个定理，我们只能在样本空间是无穷维的欧氏空间的情况下定义概率，我们希望在其他的无穷维空间上也可以定义概率，于是我们需要对Kolmogorov extension theorem进行扩展，这一讲也会介绍一些相关的推广。

Kolmogorov扩展定理的证明

Kolmogorov扩展定理有很多版本的证明，这里介绍经典证明的思路以及一种新的证明思路，并附上参考文献。

版本一：基于有限维的测度在无穷维欧氏空间上定义pre-measure，然后用pre-measure导出外测度，再用Caratheodory扩张的思路得到测度（这个是经典的实分析构造测度的思路，版本一超链接点进去的证明比较长，这里有一个简化版本，以及还有一个更详细的版本）

版本二：考虑到∣2N∣=∣R∣|2^{\mathbb{N}}|=|\mathbb{R}|∣2N∣=∣R∣，我们可以在自然数集的幂集中讨论问题，也就是用以222为底的幂级数代替实数进行分析，虽然得到测度还是需要Caratheodory扩张，但这个版本的证明是最简洁的。

推广1 standard Borel空间 (nice spaces)
考虑可测空间(S,S)(S,\mathcal{S})(S,S)，称它是标准Borel空间如果存在从SSS到R\mathbb{R}R的双射ϕ\phiϕ，并且ϕ,ϕ−1\phi,\phi^{-1}ϕ,ϕ−1都是可测的，这样的空间也被称为nice space。Kolmogorov extension theorem适用于这样的空间。

推广2 离散型随机变量
Kolmogorov extension theorem适用于离散型随机变量。

推广3 not nice spaces
可以使用Ionescu-Tulcea theorem作为Kolmogorov extension theorem的推广。这里仅给出Ionescu-Tulcea theorem的内容。

首先我们引入一个概念，Markov kernel，可以把它理解为Markov链的状态转移矩阵推广到用映射表示的一种更一般的工具。我们回顾一下状态转移矩阵，[pij][p_{ij}][pij]表示从状态jjj转移到状态iii的概率，抽象成映射的话j,ij,ij,i就是输入，输出是一个概率，有了这个思路之后我们尝试给出Markov kernel的正式定义：

假设(X,A),(Y,B)(X,\mathcal{A}),(Y,\mathcal{B})(X,A),(Y,B)是两个可测空间，定义映射κ:B×X→[0,1]\kappa:\mathcal{B} \times X \to [0,1]κ:B×X→[0,1]，满足

给定B∈BB \in \mathcal{B}B∈B, x→κ(B,x)x \to \kappa(B,x)x→κ(B,x)是A\mathcal{A}A-可测的；
给定x∈Xx \in Xx∈X，B→κ(B,x)B \to \kappa(B,x)B→κ(B,x)是一个概率测度；

直白的说κ(B,x)\kappa(B,x)κ(B,x)应该表示从状态xxx转移到状态集BBB的概率，称这样的κ\kappaκ是一个Markov kernel。

推广2指出Kolmogorov extension theorem适用于离散型随机变量，因此也就适用于Markov链，那么如果我们把Markov链推广到了Markov kernel，并给出基于Markov kernel进行extension的做法，我们就可以对一般的概率空间也进行与Kolmogorov extension类似的操作，使之能推广到无穷维了。这就是Ionescu-Tulcea theorem的基本思路。下面我们叙述一下定理内容：

假设(Ω0,A0,P0)(\Omega_0,\mathcal{A}_0,P_0)(Ω0,A0,P0)是一个概率空间，(Ωi,Ai)(\Omega_i,\mathcal{A}_i)(Ωi,Ai)是一系列可测空间，i≥1i \ge 1i≥1，对每一个这样的可测空间，我们都可以定义一个(Ωi−1,Ai−1)(\Omega^{i-1},\mathcal{A}^{i-1})(Ωi−1,Ai−1)与(Ωi,Ai)(\Omega_i,\mathcal{A}_i)(Ωi,Ai)之间的Markov kernel κi\kappa_iκi，其中
Ωi−1=∏k=0i−1Ωk,Ai−1=⊗k=0i−1Ak\Omega^{i-1} = \prod_{k=0}^{i-1}\Omega_k,\mathcal{A}^{i-1} = \otimes_{k=0}^{i-1} \mathcal{A}_kΩi−1=k=0∏i−1Ωk,Ai−1=⊗k=0i−1Ak

对σ\sigmaσ-代数的乘积不太熟悉的读者可以参考乘积测度。则对每一个(Ωi,Ai)(\Omega_i,\mathcal{A}_i)(Ωi,Ai)，存在一个概率测度
Pi=P0⊗(⊗k=1iκi)P_i = P_0 \otimes (\otimes_{k=1}^i \kappa_i)Pi=P0⊗(⊗k=1iκi)

并且在无穷维乘积空间(∏k=0∞Ωk,⊗k=0∞Ak)(\prod_{k=0}^{\infty}\Omega_k,\otimes_{k=0}^{\infty}\mathcal{A}_k)(∏k=0∞Ωk,⊗k=0∞Ak)上存在唯一的概率测度，它满足
P(A×∏k=i+1∞Ωk)=Pi(A),∀A∈AiP(A \times \prod_{k=i+1}^{\infty} \Omega_k) = P_i(A),\forall A \in \mathcal{A}^iP(A×k=i+1∏∞Ωk)=Pi(A),∀A∈Ai