Kolmogorov公理化体系

一个概率模型可以用概率空间来描述，也就是(Ω,F,P)(\Omega,\mathcal{F},P)(Ω,F,P)，其中Ω\OmegaΩ是样本点www的集合；F\mathcal{F}F表示所有可能的事件，是Ω\OmegaΩ的一个σ\sigmaσ-代数；PPP是概率测度（P(Ω)=1P(\Omega)=1P(Ω)=1，σ\sigmaσ-可加测度）。

第I部分主要介绍Kolmogorov公理化体系的内容，包括对概率空间的直观理解、对事件的理解、对概率测度的理解，以及建立概率模型的方法。

概率空间的直观理解

祖师爷Kolmogorov引入了概率与概率空间的公理化定义，用PPP表示概率测度，Ω\OmegaΩ表示样本空间（状态空间），F\mathcal{F}F表示状态空间的σ\sigmaσ-代数（事件空间），那么概率空间就是(Ω,F,P)(\Omega,\mathcal{F},P)(Ω,F,P)。

随机试验提供了一种直观理解概率空间的思路，比如toss a coin的试验，状态空间为Ω={H,T}\Omega = \{H,T\}Ω={H,T}；toss n coins，状态空间为Ωn={w=(w1,⋯,wn):wi=HorT}\Omega_n = \{w=(w_1,\cdots,w_n):w_i = H\ or \ T \}Ωn={w=(w1,⋯,wn):wi=H or T}，状态空间也就是一次试验所有可能结果的集合。F\mathcal{F}F表示toss coin的所有可能的事件（Ω\OmegaΩ的所有子集，也就是在一个事件中，有限种结果同时发生、另一些结果不发生），比如对于toss a coin，F={ϕ,{H},{T},{H,T}}\mathcal{F} = \{\phi,\{H\},\{T\},\{H,T\}\}F={ϕ,{H},{T},{H,T}}，分别表示既不是正面也不是反面、正面、反面、既是正面也是反面这四个事件，显然第一个和第四个事件概率为0。F\mathcal{F}F中的事件的概率测度可以基于P(H)=P(T)=1/2P(H)=P(T)=1/2P(H)=P(T)=1/2进行计算。这个例子也足以说明概率公理化定义的实践就是把概率空间的三个要素准确定义出来。

这个例子非常容易推广到nnn取无穷的情况，这时状态空间可以记为
Ω∞={w=(w1,⋯,wn,⋯,∞):wi=HorT}\Omega_{\infty} = \{w=(w_1,\cdots,w_n,\cdots,\infty):w_i = H\ or \ T \}Ω∞={w=(w1,⋯,wn,⋯,∞):wi=H or T}

这时单次试验的一种可能的结果就变成了一个infinite Boolean vector，那要如何定义概率测度呢？（显然P(w)=0P(w)=0P(w)=0，pointwise的定义不可行）

一个可行的办法是考虑状态空间一些特殊的子集，定义
Ak={w:firstHoccursafterktoss}A_k = \{w: first\ H\ occurs\ after\ k\ toss\}Ak={w:first H occurs after k toss}

那么Ω∞=⨆k=1∞Ak\Omega_{\infty} = \bigsqcup_{k=1}^{\infty} A_kΩ∞=⨆k=1∞Ak，并且
P(Ak)=12kP(A_k) = \frac{1}{2^k}P(Ak)=2k1

也就是说我们只能构造状态空间的一种分割，以及每个分割的概率；这种分割比pointwise probability in state space更粗糙，也就意味着不是所有F\mathcal{F}F中的事件都一定可以基于分割的概率被计算出来，或者说，只有能够用这个分割覆盖的那些事件才有概率。

我们可以尝试把这个说法做抽象化处理，F\mathcal{F}F包含所有能被Ω\OmegaΩ的某个分割覆盖的集合，下面证明一个结论，这样的F\mathcal{F}F是一个σ\sigmaσ-代数。
证明
第一步，考虑空集，假设∃Ak,k=1,⋯,∞\exists A_k,k=1,\cdots,\infty∃Ak,k=1,⋯,∞，Ω=⨆kAk\Omega = \bigsqcup_k A_kΩ=⨆kAk，也就是AkA_kAk是Ω\OmegaΩ的一组分割。显然
Ω⊃⨆kAk⇒ϕ⊂⋂kAk⊂Ω=⨆kAk\Omega \supset \bigsqcup_k A_k \Rightarrow \phi \subset \bigcap_k A_k \subset \Omega = \bigsqcup_k A_kΩ⊃k⨆Ak⇒ϕ⊂k⋂Ak⊂Ω=k⨆Ak

所以ϕ∈F\phi \in \mathcal{F}ϕ∈F;

第二步，考虑交集，假设C,D∈FC,D\in \mathcal{F}C,D∈F，则∃Ak,Bk,k=1,⋯,∞\exists A_k,B_k,k=1,\cdots,\infty∃Ak,Bk,k=1,⋯,∞，Ω=⨆kAk=⨆kBk,Ak≠Bk\Omega = \bigsqcup_k A_k = \bigsqcup_k B_k,A_k \ne B_kΩ=⨆kAk=⨆kBk,Ak=Bk，且C⊂⨆kAk,D⊂⨆kBkC \subset \bigsqcup_k A_k,D \subset \bigsqcup_k B_kC⊂⨆kAk,D⊂⨆kBk，
C∩D⊂(⨆iAi)∩(⨆jBj)=⨆i⨆jAi∩BjC \cap D \subset (\bigsqcup_i A_i ) \cap (\bigsqcup_j B_j ) = \bigsqcup_i\bigsqcup_j A_i \cap B_jC∩D⊂(i⨆Ai)∩(j⨆Bj)=i⨆j⨆Ai∩Bj

显然Ai∩Bj,i,j=1,⋯,∞A_i \cap B_j,i,j = 1,\cdots,\inftyAi∩Bj,i,j=1,⋯,∞也是Ω\OmegaΩ的分割
⨆i⨆j=Ω\bigsqcup_i\bigsqcup_j = \Omegai⨆j⨆=Ω

因此C∩D∈FC\cap D \in \mathcal{F}C∩D∈F

第三步，考虑差集，能覆盖CCC的分割一定可以覆盖C∖DC \setminus DC∖D，所以这个结果比较naive

第四步，考虑infinite union，假设Cα∈F,α∈AC_{\alpha} \in \mathcal{F},\alpha \in ACα∈F,α∈A，则∃Aαk,k=1,⋯,∞,α∈A\exists A_{\alpha k},k=1,\cdots,\infty,\alpha \in A∃Aαk,k=1,⋯,∞,α∈A，Ω=⨆kAαk,∀α∈A\Omega = \bigsqcup_k A_{\alpha k},\forall \alpha \in AΩ=⨆kAαk,∀α∈A，且Cα⊂⨆kAαkC_{\alpha} \subset \bigsqcup_k A_{\alpha k}Cα⊂⨆kAαk，
⋃α∈ACα⊂⋃α∈A⨆kAαk=⨆k⋃α∈AAαk\bigcup_{\alpha \in A} C_{\alpha } \subset \bigcup_{\alpha \in A} \bigsqcup_k A_{\alpha k} = \bigsqcup_k \bigcup_{\alpha \in A} A_{\alpha k}α∈A⋃Cα⊂α∈A⋃k⨆Aαk=k⨆α∈A⋃Aαk

注意到⋃α∈AAαk,k=1,⋯,∞\bigcup_{\alpha \in A} A_{\alpha k},k=1,\cdots,\infty⋃α∈AAαk,k=1,⋯,∞也是Ω\OmegaΩ的分割，因此
⋃α∈ACα∈F\bigcup_{\alpha \in A} C_{\alpha } \in \mathcal{F}α∈A⋃Cα∈F

评注从理论上我们可以从分割的角度验证事件空间本质应该是状态空间的一个σ\sigmaσ-代数，但在实践中会遇到的问题则是能用来解决问题的σ\sigmaσ-代数应该怎么构造。

UA MATH563 概率论的数学基础I 概率空间1 基本概念相关推荐

UA MATH563 概率论的数学基础1 概率空间3 概率测度
UA MATH563 概率论的数学基础1 概率空间3 概率测度测度与概率概率的连续性对于概率空间(Ω,F,P)(\Omega,\mathcal{F},P)(Ω,F,P),Ω\OmegaΩ是非空集 ...
UA MATH563 概率论的数学基础1 概率空间2 可列状态空间
UA MATH563 概率论的数学基础1 概率空间2 可列状态空间有限状态空间与事件系无限可列状态空间与事件σ\sigmaσ-代数对于概率空间(Ω,F,P)(\Omega,\mathcal{F} ...
UA MATH563 概率论的数学基础1 概率空间4 实数域上的概率测度
UA MATH563 概率论的数学基础1 概率空间4 实数域上的概率测度实数集与Borel代数实数域上的概率测度 Lebesgue-Stieltjes外测度基于Lebesgue-Stieltje ...
UA MATH563 概率论的数学基础中心极限定理22 度量概率空间中的弱收敛 Portmanteau定理
UA MATH563 概率论的数学基础中心极限定理22 度量概率空间中的弱收敛 Portmanteau定理现在我们讨论度量空间中的弱收敛,假设(Ω,d)(\Omega,d)(Ω,d)是一个度量空间 ...
UA MATH563 概率论的数学基础中心极限定理10 Borel-Cantelli引理
UA MATH563 概率论的数学基础中心极限定理10 Borel-Cantelli引理这一讲我们介绍一个非常重要的结果,Borel-Cantelli引理,先引入一些基本概念. 假设(Ω,F,P) ...
UA MATH563 概率论的数学基础中心极限定理7 Kolmogorov extension theorem及其扩展
UA MATH563 概率论的数学基础中心极限定理7 Kolmogorov extension theorem及其扩展上一讲为了构造包含无限个独立随机变量的序列,我们使用了Kolmogorov e ...
UA MATH563 概率论的数学基础中心极限定理6 独立随机变量的和与Kolmogorov扩展定理
UA MATH563 概率论的数学基础中心极限定理6 独立随机变量的和的分布因为中心极限定理回答的是nnn个随机变量的和/均值的极限分布的问题,所以在考虑渐近结果之前,我们有必要先理解一下如果不考 ...
UA MATH563 概率论的数学基础鞅论初步4 Radon-Nikodym定理，条件期望的存在唯一性
UA MATH563 概率论的数学基础鞅论初步4 Radon-Nikodym定理,条件期望的存在唯一性延续上一讲对条件期望性质的讨论. 性质八:存在唯一性.绝对可积性 E[X∣F]E[X|\mat ...
UA MATH563 概率论的数学基础鞅论初步2 条件期望的应用：推导二元随机变量的条件概率与条件期望
UA MATH563 概率论的数学基础鞅论初步2 条件期望的应用:推导二元随机变量的相关计算公式上一讲我们介绍了关于σ\sigmaσ-代数定义的条件期望以及关于随机变量的条件期望,这一讲我们用这些 ...

UA MATH563 概率论的数学基础I 概率空间1 基本概念

UA MATH563 概率论的数学基础I 概率空间1 基本概念

Kolmogorov公理化体系

概率空间的直观理解

UA MATH563 概率论的数学基础I 概率空间1 基本概念相关推荐

最新文章

热门文章