全概率公式与贝叶斯公式

在等可能概型（古典概型）有一个抽签问题的例子：

例：一袋中有 a 个白球，b 个蓝球，记 a+b=n。设每次摸到各球的概率相等，每次从袋中摸一球，不放回地摸 n 次。则第 k 次摸到白球的概率均为 a/n。现在用另一种方法计算第 2 次取到白球的概率.

解：设Ai表示第i次取到白球，i=1,2.设 A_i 表示第 i 次取到白球，i=1,2.设Ai表示第i次取到白球，i=1,2.

P(A2)=P[(A1⋃A1‾)A2]=P(A1A2⋃A1‾A2)=P(A1‾A2)+P(A1A2)P(A_2) = P[(A_1\bigcup \overline{A_1})A_2] = P(A_1A_2\bigcup\overline{A_1}A_2) = P(\overline{A_1}A_2) + P(A_1A_2)P(A2)=P[(A1⋃A1)A2]=P(A1A2⋃A1A2)=P(A1A2)+P(A1A2)

P(A1A2)=P(A1)P(A2∣A1)=an×a−1n−1P(A_1A_2) = P(A_1)P(A_2|A_1) = \frac{a}{n} \times \frac{a-1}{n-1}P(A1A2)=P(A1)P(A2∣A1)=na×n−1a−1

P(A1‾A2)=P(A1‾)P(A2∣A1‾)=bn×an−1P(\overline{A_1}A_2) = P(\overline{A_1})P(A_2|\overline{A_1}) = \frac{b}{n} \times \frac{a}{n-1}P(A1A2)=P(A1)P(A2∣A1)=nb×n−1a

P(A2)=P(A1‾A2)+P(A1A2)=anP(A_2) = P(\overline{A_1}A_2) + P(A_1A_2) = \frac{a}{n}P(A2)=P(A1A2)+P(A1A2)=na

定义： 称 B1,B2,...BnB_1,B_2,...B_nB1,B2,...Bn 为 SSS 的一个划分，若

（1）不漏 B1⋃B2⋃...⋃Bn=S,B_1\bigcup B_2\bigcup ... \bigcup B_n = S,B1⋃B2⋃...⋃Bn=S,

（2）不重 BiBj=∅,i≠j.B_iB_j = \emptyset, i\neq j.BiBj=∅,i=j.

定理： 设 B1,B2,...,BnB_1,B_2,...,B_nB1,B2,...,Bn 为 SSS 的一个划分且 P(Bi)>0P(B_i) > 0P(Bi)>0。则有全概率公式：

P(A)=∑j=1nP(Bi)⋅P(A∣Bj)P(A) = \sum_{j=1}^{n}P(B_i)·P(A|B_j) P(A)=j=1∑nP(Bi)⋅P(A∣Bj)

证明： A=AS=AB1⋃AB2⋃...⋃ABnA = AS = AB_1\bigcup AB_2 \bigcup ... \bigcup AB_nA=AS=AB1⋃AB2⋃...⋃ABn ， ABi与ABj不相容（i≠j）AB_i 与AB_j 不相容（i\neq j）ABi与ABj不相容（i=j）

∴P(A)=∑j=1nP(ABj)=∑j=1nP(Bj)⋅P(A∣Bj)\therefore P(A) = \sum_{j=1}^{n}P(AB_j) = \sum_{j=1}^{n}P(B_j)·P(A|B_j)∴P(A)=j=1∑nP(ABj)=j=1∑nP(Bj)⋅P(A∣Bj)

设 P(Bj)=pj,P(A∣Bj)=qj,j=1,2,...,n.P(B_j) = p_j, P(A|B_j) = q_j, j=1,2,...,n.P(Bj)=pj,P(A∣Bj)=qj,j=1,2,...,n.

则：P(A)=∑j=1npjqj.P(A) = \sum_{j=1}^{n}p_jq_j.P(A)=j=1∑npjqj.

注意： 在运用全概率公式时，关键是构造合适的划分。

定理： 设 B1,B2,...Bn为S的一个划分且P(Bi)>0。对P(A)>0有Bayes公式：B_1,B_2,...B_n 为 S 的一个划分且 P(B_i) > 0。对 P(A) > 0 有 Bayes 公式：B1,B2,...Bn为S的一个划分且P(Bi)>0。对P(A)>0有Bayes公式：

P(Bi∣A)=P(Bi)P(A∣Bi)∑j=1nP(Bj)P(A∣Bj)=piqj∑j=1npiqjP(B_i|A) = \frac{P(B_i)P(A|B_i)}{\sum_{j=1}^{n}P(B_j)P(A|B_j)} = \frac{p_iq_j}{\sum_{j=1}^{n}p_iq_j} P(Bi∣A)=∑j=1nP(Bj)P(A∣Bj)P(Bi)P(A∣Bi)=∑j=1npiqjpiqj

例 1： 一小学举办家长开放日,欢迎家长参加活动.小明的母亲参加的概率为 80%.若母亲参加，则父亲参加的概率为 30%；若母亲不参加,则父亲参加的概率为 90%。

(1)求父母都参加的概率；

(2)求父亲参加的概率；

(3)在已知父亲参加的条件下，求母亲参加的概率.

解：设 A={母亲参加}，B={父亲参加}.A=\{母亲参加\}，B=\{父亲参加\}.A={母亲参加}，B={父亲参加}.

由题意可知，P(A)=0.80,P(B∣A)=0.30,P(B∣A‾)=0.90P(A)=0.80,P(B|A)=0.30,P(B|\overline{A})=0.90P(A)=0.80,P(B∣A)=0.30,P(B∣A)=0.90

（1）P(AB)=P(A)P(B∣A)=0.80×0.30=0.24P(AB) = P(A)P(B|A) = 0.80 \times 0.30 = 0.24P(AB)=P(A)P(B∣A)=0.80×0.30=0.24

（2）由全概率公式得：

P(B)=P(A)P(B∣A)+P(A‾)P(B∣A‾)=0.8×0.3+0.2×0.9=0.42=42%P(B) = P(A)P(B|A) + P(\overline{A})P(B|\overline{A}) = 0.8\times0.3+0.2\times0.9 = 0.42 = 42\%P(B)=P(A)P(B∣A)+P(A)P(B∣A)=0.8×0.3+0.2×0.9=0.42=42%

（3）由 Bayes 公式得：

P(A∣B)=P(AB)P(B)=P(A)P(B∣A)P(A)P(B∣A)+P(A‾)P(B∣A‾)=47P(A|B) = \frac{P(AB)}{P(B)} = \frac{P(A)P(B|A)}{P(A)P(B|A) + P(\overline{A})P(B|\overline{A})} = \frac{4}{7}P(A∣B)=P(B)P(AB)=P(A)P(B∣A)+P(A)P(B∣A)P(A)P(B∣A)=74

例 2： 有甲乙两盒，甲盒有 3 个红球 2 个白球，乙盒有 2 个红球，1 个白球。先从甲盒中采用不放回抽样取 3 球放入乙盒，再从乙盒中取一个球，求取到的是红球的概率。

解：设 Ai={从甲盒中取到i个红球},i=1,2,3.A_i=\{从甲盒中取到 i 个红球\},i=1,2,3.Ai={从甲盒中取到i个红球},i=1,2,3.

P(A1)=C31C22C53=0.3P(A_1) = \frac{C_{3}^{1}C_{2}^{2}}{C_{5}^{3}}=0.3P(A1)=C53C31C22=0.3 , P(A2)=C32C21C53=0.6P(A_2) = \frac{C_{3}^{2}C_{2}^{1}}{C_{5}^{3}}=0.6P(A2)=C53C32C21=0.6 , P(A3)=C33C53=0.1P(A_3) = \frac{C_{3}^{3}}{C_{5}^{3}}=0.1P(A3)=C53C33=0.1

设 B={从乙盒中取到红球},B = \{从乙盒中取到红球\},B={从乙盒中取到红球},

P(B∣A1)=1/2，P(B∣A2)=2/3，P(B∣A3)=5/6.P(B|A_1)=1/2 ， P(B|A_2)=2/3 ， P(B|A_3)=5/6.P(B∣A1)=1/2，P(B∣A2)=2/3，P(B∣A3)=5/6.

这里解释一下， 上面得到的三个概率是由于确认从甲盒中取出 1,2,3 个红球后，乙盒中球的变化，在根据当前乙盒中的情况，分别求出上面三个概率。

由全概率公式得：

P(B)=P(A1)P(B∣A1)+P(A2)P(B∣A2)+P(A3)P(B∣A3)=310×12+610×23+110×56=1930\begin{aligned} P(B) =& P(A_1)P(B|A_1) + P(A_2)P(B|A_2) + P(A_3)P(B|A_3) \\ =& \frac{3}{10}\times\frac{1}{2} + \frac{6}{10}\times\frac{2}{3} + \frac{1}{10}\times\frac{5}{6} = \frac{19}{30} \end{aligned} P(B)==P(A1)P(B∣A1)+P(A2)P(B∣A2)+P(A3)P(B∣A3)103×21+106×32+101×65=3019

例 3： 根据以往的临床记录某种诊断癌症的试验具有 5%的假阳性及 3%的假阴性：

若设A={试验反应是阳性}，C={被诊断患有癌症},则有：

P(A∣C‾)=5%,P(A‾∣C)=3%,P(A|\overline{C})=5\%, P(\overline{A}|C) = 3\%,P(A∣C)=5%,P(A∣C)=3%,

已知某一群体 P(C)=0.005P(C)=0.005P(C)=0.005,问这种方法能否用于普查？

解：由题意可得：

P(C)=0.005,P(C‾)=0.995,P(A∣C)=1−P(A‾∣C)=0.97P(C) = 0.005, P(\overline{C}) = 0.995, P(A|C) = 1 - P(\overline{A}|C) = 0.97P(C)=0.005,P(C)=0.995,P(A∣C)=1−P(A∣C)=0.97

由 Bayes 公式得

P(C∣A)=P(CA)P(A)=P(C)P(A∣C)P(C)P(A∣C)+P(C‾)P(A∣C‾)=0.089P(C|A) = \frac{P(CA)}{P(A)} = \frac{P(C)P(A|C)}{P(C)P(A|C)+P(\overline{C})P(A|\overline{C})} = 0.089 P(C∣A)=P(A)P(CA)=P(C)P(A∣C)+P(C)P(A∣C)P(C)P(A∣C)=0.089

这个结果表面，100 个阳性病人中被诊断患有癌症的大约有 8.9 个，所以不宜用于普查。如果发现结果为阳性，还需要作进一步的检查。

7. 全概率公式与贝叶斯公式相关推荐

全概率公式与贝叶斯公式-机器学习
转载自:点击打开链接在概率论与数理统计中,有两个相当重要的公式--全概率公式与贝叶斯公式.然而很多人对这两个公式感到非常迷茫.一来不知道公式背后的意义所在,二来不知道这些冰冷的公式能有什么现实应用. ...
条件概率、全概率公式和贝叶斯公式
1. 条件概率我么可以看到 P(B|A) ≠ P(B) P(B|A) 叫做A发生的条件下B发生的概率,所以以这个就叫做条件概率这里一定要把可列可加性看懂... 对上面这个推导做一下解释对于上面的 ...
条件概率,乘法公式,全概率公式及贝叶斯公式的推导
条件概率,乘法公式,全概率公式及贝叶斯公式的推导条件概率乘法公式全概率公式贝叶斯公式推导过程条件概率条件概率是指事件A在另外一个事件B已经发生条件下的发生概率.条件概率表示为:P(A∣B ...
学习笔记 | 条件概率、联合概率、全概率公式、贝叶斯公式
定义边缘概率(又称先验概率):某个事件发生的概率. 边缘概率是这样得到的:在联合概率中,把最终结果中那些不需要的事件通过合并成它们的全概率,而消去它们(对离散随机变量用求和得全概率,对连续随机变量用 ...
连续变量的全概率和贝叶斯公式_浅谈条件概率、全概率公式和贝叶斯公式
一.条件概率公式举个例子,比如让你背对着一个人,让你猜猜背后这个人是女孩的概率是多少?直接猜测,肯定是只有50%的概率,假如现在告诉你背后这个人是个长头发,那么女的概率就变为90%.所以条件概率的意 ...
划分，全概率公式，贝叶斯公式证明
划分划分(Partition),A1,A2,...,AnA_1,A_2,...,A_nA1,A2,...,An是空间Ω\OmegaΩ的划分(Partition),如果满足 {Ai⋂Aj=∅⋃i ...
条件概率公式、全概率公式以及贝叶斯公式
一.条件概率公式 P(A|B)--在 B 条件下 A 的概率.即事件A 在另外一个事件 B 已经发生条件下的发生概率. P(AB)--事件A. B同时发生的概率,即联合概率.联合概率表示两个事件共同发 ...
全概率公式及贝叶斯公式---先验概率、后验概率
1. 全概率公式设实验EEE的样本空间为SSS,AAA为实验EEE的事件,B1B_1B1,B2B_2B2--BnB_nBn为样本空间S的划分(互斥),且P(Bi)>0P(B_i)> ...
机器学习数学基础——全概率公式与贝叶斯公式
概率论在机器学习中有很重要的地位,本篇总结一下我对贝叶斯公式和全概率公式的理解. 1.全概率公式的定义因为公式本身就比较抽象,一开始就列举公式很不友好,因此先举个栗子抛砖引玉: [问题1]现追捕某犯 ...

7. 全概率公式与贝叶斯公式

文章目录

全概率公式与贝叶斯公式

7. 全概率公式与贝叶斯公式相关推荐

最新文章

热门文章