划分，全概率公式，贝叶斯公式证明

划分

划分（Partition），A1,A2,...,AnA_1,A_2,...,A_nA1,A2,...,An是空间Ω\OmegaΩ的划分(Partition)，如果满足
{Ai⋂Aj=∅⋃i=1n=Ω\begin{cases}A_i \bigcap A_j = \emptyset \\ \bigcup^n_{i=1}=\Omega \end {cases} {Ai⋂Aj=∅⋃i=1n=Ω

划分指的是样本空间中的一组子集，彼此间没有交集，且所有自己的并构成整个样本空间。
全概率公式

概念准备：A1,A2,...,AnA_1,A_2,...,A_nA1,A2,...,An是空间Ω\OmegaΩ的划分(Partition)

全概率公式(Total Probability Formula):
P(B)=∑i=1nP(B∣Ai)P(Ai)P(B) = \sum^n_{i=1}P(B|A_i)P(A_i) P(B)=i=1∑nP(B∣Ai)P(Ai)

证明：
1. B⋂Ai{B\bigcap A_i}B⋂Ai两两互斥
(B⋂Ai)(B\bigcap A_i)(B⋂Ai)一定在AiA_iAi内，(B⋂Aj)(B\bigcap A_j)(B⋂Aj)一定在AjA_jAj内；

因为A1,A2,...,AnA_1,A_2,...,A_nA1,A2,...,An是空间Ω\OmegaΩ的划分(Partition)；

所以满足
(B⋂Ai)⋂(B⋂Aj)=∅(i≠j)(B\bigcap A_i)\bigcap (B\bigcap A_j)=\empty (i \neq j) (B⋂Ai)⋂(B⋂Aj)=∅(i̸=j)
即B⋂Ai{B\bigcap A_i}B⋂Ai两两互斥。
1. 有⋃i=1n(B⋂Ai)=B\bigcup^n_{i=1}(B\bigcap A_i)=B⋃i=1n(B⋂Ai)=B
  
  对于A1,A2,...,AnA_1,A_2,...,A_nA1,A2,...,An是空间Ω\OmegaΩ的划分(Partition)，有⋃i=1n(B⋂Ai)=B\bigcup^n_{i=1}(B\bigcap A_i)=B⋃i=1n(B⋂Ai)=B ，意思是B在事件空间中的每一部分中存在的元素合在一起构成B。
  
  着重留意，1，2两点都是在谈论集合，没有涉及概率，下面的3才是从概率角度进行分析。也就是说，这个证明过程是用集合论证明概率问题。
2. 全概率公式
  
  由2可得：P(B)=P(⋃i=1n(B⋂Ai))P(B)=P(\bigcup^n_{i=1}(B\bigcap A_i))P(B)=P(⋃i=1n(B⋂Ai))
  
  进一步：
  P(B)=P(⋃i=1n(B⋂Ai))=∑i=1nP(B⋂Ai)=∑i=1nP(B∣Ai)⋅P(Ai)P(B)=P(\bigcup^n_{i=1}(B\bigcap A_i)) \\= \sum^n_{i=1}P(B\bigcap A_i) \\=\sum^n_{i=1}P(B|A_i)\cdot P(A_i) P(B)=P(i=1⋃n(B⋂Ai))=i=1∑nP(B⋂Ai)=i=1∑nP(B∣Ai)⋅P(Ai)
贝叶斯公式

贝叶斯公式（Bayes Formula）

概念准备：
1. A1,A2,...,AnA_1,A_2,...,A_nA1,A2,...,An是空间Ω\OmegaΩ的划分(Partition)
2. 全概率公式
证明：
1. P(Ak⋂B)=P(B)∗P(Ak∣B)=P(Ak)∗P(B∣Ak)P(A_k \bigcap B)=P(B)*P(A_k|B)=P(A_k)*P(B|A_k)P(Ak⋂B)=P(B)∗P(Ak∣B)=P(Ak)∗P(B∣Ak)
  
  这两个等式是一样的，AB两个事情同时发生的概率=一个事情A发生的概率*事情B在A已经发生的前提下发生的概率
2. 全概率公式
  
  P(B)=∑i=1nP(B∣Ai)P(Ai)P(B)=\sum^n_{i=1}P(B|A_i)P(A_i) P(B)=i=1∑nP(B∣Ai)P(Ai)
3. Bayes公式
  
  P(Ak∣B)=P(Ak⋂B)P(B)=P(B∣Ak)⋅P(Ak)∑i=1nP(B∣Ai)⋅P(Ai)P(A_k|B)=\frac{P(A_k\bigcap B)}{P(B)}\\ =\frac{P(B|A_k)\cdot P(A_k)}{\sum^n_{i=1}P(B|A_i)\cdot P(A_i)} P(Ak∣B)=P(B)P(Ak⋂B)=∑i=1nP(B∣Ai)⋅P(Ai)P(B∣Ak)⋅P(Ak)
条件概率是是指事件A发生的前提下，求事件B发生的概率。

对于Bayes公式，可以将AkA_kAk理解为事件A有多种可能（A1,A2,...AkA_1,A_2,...A_kA1,A2,...Ak）,是导致事件B发生的各种原因。

Bayes公式是说计算事件B已经发生的前提下，是由A的各种可能中AkA_kAk导致的概率。

依据上述三个公式，可以推出下述两个引理

条件传递公式

条件概率分为一个已发生概率，一个未发生概率。

在同等结构下，可以是多个已发生概率或者多个未发生概率。
P(AB∣C)=P(A∣C)⋅P(B∣AC)P(AB|C)=P(A|C)\cdot P(B|AC) P(AB∣C)=P(A∣C)⋅P(B∣AC)

这个公式名字是我自己取的，这个公式的意思就是在说条件传递
重期望公式

E[E(X∣Y)]=E(X)E[E(X|Y)]=E(X) E[E(X∣Y)]=E(X)

Reference

《隐马尔科夫链、马尔可夫状态转换模型及在量化投资中的应用》

划分，全概率公式，贝叶斯公式证明相关推荐

乘法公式全概率公式贝叶斯公式
条件概率,乘法公式,全概率公式及贝叶斯公式的推导
条件概率,乘法公式,全概率公式及贝叶斯公式的推导条件概率乘法公式全概率公式贝叶斯公式推导过程条件概率条件概率是指事件A在另外一个事件B已经发生条件下的发生概率.条件概率表示为:P(A∣B ...
全概率公式与贝叶斯公式使用例题
只有大量的实践才能记住,不然都是拿来应付考试了. 下面就是给你做到想吐,干啥都想一下公式全概率公式贝叶斯公式
条件概率和全概率公式
条件概率公式 1.条件概率公式:设A,B为两个事件,且P(B)>0,则称为事件B已经发生的条件下事件A发生的条件概率,记为P(A|B),即: ...
概率论复习笔记——条件概率、全概率、贝叶斯公式及其应用
概统笔记--贝叶斯公式条件概率乘法定理全概率公式和贝叶斯公式样本空间全概率公式贝叶斯公式相关应用条件概率定义设 A , B A,B A,B是两个事件,且 P ( A ) > ...
UA MATH564 概率论I 离散型随机变量
UA MATH564 概率论I 离散型随机变量古典概型排列数与组合数二项式定理,负二项式定理与多项式定理第二类Stirling数独立性与条件概率全概率公式贝叶斯公式 Bernoulli试 ...
概率论＜一＞——随机事件与概率
未来属于那些相信梦想,并愿意为之付诸行动的人. 前言随机实验样本空间随机事件频率与概率古典概型几何概率条件概率乘法公式 ...
【概率论与数理统计】【线性代数】计算机保研复习
我他妈写一上午了直接没了,这狗csdn,别在已发布的文章上改,辣鸡玩意儿. 复习概率论与数理统计 1.基础 2.贝叶斯公式 3.大数定律(Law of the large numbers) 4.中心 ...
LR需要理解的一些内容
本系列为深入篇,尽可能完善专题知识,并不会所有的都会出现在面试中,更多内容,详见:Reflection_Summary,欢迎交流. 另外,欢迎大家关注我的个人bolg,知乎,更多代码内容欢迎follo ...

划分，全概率公式，贝叶斯公式证明

划分

全概率公式

证明：

B⋂Ai{B\bigcap A_i}B⋂Ai两两互斥

有⋃i=1n(B⋂Ai)=B\bigcup^n_{i=1}(B\bigcap A_i)=B⋃i=1n(B⋂Ai)=B

全概率公式

贝叶斯公式

证明：

P(Ak⋂B)=P(B)∗P(Ak∣B)=P(Ak)∗P(B∣Ak)P(A_k \bigcap B)=P(B)P(A_k|B)=P(A_k)P(B|A_k)P(Ak⋂B)=P(B)∗P(Ak∣B)=P(Ak)∗P(B∣Ak)

全概率公式

Bayes公式

条件传递公式

重期望公式

Reference

划分，全概率公式，贝叶斯公式证明相关推荐

最新文章

热门文章

划分，全概率公式，贝叶斯公式证明

划分

全概率公式

证明：

B⋂Ai{B\bigcap A_i}B⋂Ai​两两互斥

有⋃i=1n(B⋂Ai)=B\bigcup^n_{i=1}(B\bigcap A_i)=B⋃i=1n​(B⋂Ai​)=B

全概率公式

贝叶斯公式

证明：

P(Ak⋂B)=P(B)∗P(Ak∣B)=P(Ak)∗P(B∣Ak)P(A_k \bigcap B)=P(B)*P(A_k|B)=P(A_k)*P(B|A_k)P(Ak​⋂B)=P(B)∗P(Ak​∣B)=P(Ak​)∗P(B∣Ak​)

全概率公式

Bayes公式

条件传递公式

重期望公式

Reference

划分，全概率公式，贝叶斯公式证明相关推荐

最新文章

热门文章

B⋂Ai{B\bigcap A_i}B⋂Ai两两互斥

有⋃i=1n(B⋂Ai)=B\bigcup^n_{i=1}(B\bigcap A_i)=B⋃i=1n(B⋂Ai)=B

P(Ak⋂B)=P(B)∗P(Ak∣B)=P(Ak)∗P(B∣Ak)P(A_k \bigcap B)=P(B)P(A_k|B)=P(A_k)P(B|A_k)P(Ak⋂B)=P(B)∗P(Ak∣B)=P(Ak)∗P(B∣Ak)