条件概率

任何概率的大小都可以用图和面积来表示。在下图中，E是全体事件集，也就是说任何可能发生的事件都在E中，很显然E的面积是1，表示事件一定会发生。

假设左边的椭圆是事件A，它的面积小于1，不妨假设是P(A)P(A)P(A)，那么A发生的概率也是它的面积。同理，右边的B的面积也是B发生的概率是P(B)P(B)P(B)。

那么，A和B同时发生的概率是两个椭圆相交的面积，即图中中间的部分，是P(AB)P(AB)P(AB)

假设我们知道了A发生的概率P(A)P(A)P(A)，也知道了A和B同时发生的概率P(AB)P(AB)P(AB)，现在想知道如果A发生了，此时B也会发生的概率。注意，这和AB同时发生是不同的，前者强调发生的先后顺序，即A发生的情况下，B有多大的可能性发生；而AB同时发生指的是同时性，即A和B交事件同时发生。

这看图很好理解，因为A发生了，所以P(A)P(A)P(A)就变成了必然事件，此时所有的事件都在A中；再求解此时B发生的概率，根据图来看，只能是AB的交集部分了，所以很自然P(AB)P(AB)P(AB)概率就是面积所占的百分比，即
P(B∣A)=P(AB)P(B)P(B|A) = \frac{P(AB)}{P(B)} P(B∣A)=P(B)P(AB)
假设我们知道P(AB)P(AB)P(AB)，那么条件概率就很好计算了。

全概率公式

个人认为，从已知概率来推出未知概率，是全概率公式的核心思想，其实这也是任何自然科学的一个基本方法。

与条件概率一样，E是全体事件集，面积是1。下面椭圆是我们想要求解的事件A的概率（面积）。

事件的划分，很多经典教科书上都有解释，通俗一点讲，就是把一个全体事件集用我们知道概率的各个子事件进行分割。比如下图中我们知道B1⋯B7B_1\cdots B_7B1⋯B7各个事件的概率，那么这7个事件就是一个划分。

假设我们还知道AAA在BiB_iBi下的条件概率，即P(A∣Bi)P(A|B_i)P(A∣Bi)。根据图来看，很明显P(A)=Σ17P(ABi)P(A)=\Sigma^{7}_{1}{P(AB_{i})}P(A)=Σ17P(ABi)

在结合上面的条件概率公式，就可以推出P(A)P(A)P(A)来，假设B事件有N个
P(A)=Σ1NP(ABi)=Σi=1NP(A∣Bi)P(Bi)P(A)=\Sigma^{N}_{1}P(AB_i)=\Sigma_{i=1}^{N}{P(A|B_i)P(B_i)} P(A)=Σ1NP(ABi)=Σi=1NP(A∣Bi)P(Bi)
本质上讲，全概率公式是概率加法和条件概率的一个组合的形式，使用已知来求解未知。

贝叶斯公式

有了上面的全概率公式，贝叶斯公式就更容易理解了。上面的全概率公式，我们的目的是为了计算A可能发生的概率，也就是说计算的时候，事件A没有发生，我们称之为先验概率（学者们起了个高大上的名字…）。。而贝叶斯公式的使用情景正好与之相反，它的假设前提是A事件已经发生了，让我们计算AAA在某个BiB_iBi事件下发生的可能性，学者们称之为后验概率。。。。

举个形象的例子，假设AAA表示一个蛋糕在晚上被偷吃，B1B_1B1到B7B_7B7是7个馋嘴小孩子晚上不睡觉的概率，而P(ABi)P(AB_i)P(ABi)表示小孩子iii不睡觉而且能偷吃到蛋糕的概率。很明显，全概率计算的是蛋糕被偷吃的概率，此时蛋糕还没有被偷吃。。。那么贝叶斯是，家长发现蛋糕被偷吃了，想要计算出每个小孩子偷吃这个蛋糕的概率，当然在这里假设的是，蛋糕只能被一个孩子吃掉。。。。

我们可以根据全概率计算出P(A)P(A)P(A)，那么很显然，P(Bi∣A)P(B_i|A)P(Bi∣A)表示A发生了，是BiB_iBi造成的可能性，即面积所占的A的比例即可。所以有公式：
P(Bi∣A)=P(ABi)P(A)=P(A∣Bi)P(Bi)Σj=1NP(A∣Bj)P(Bj)P(B_i|A)=\frac{P(AB_i)}{P(A)}=\frac{P(A|B_i)P(B_i)}{\Sigma_{j=1}^{N}P(A|B_j)P(B_j)}P(Bi∣A)=P(A)P(ABi)=Σj=1NP(A∣Bj)P(Bj)P(A∣Bi)P(Bi)

总结

全概率公式是概率加法的一个推广，贝叶斯公式是条件概率的一个推广。不论数据怎样变换，两者的核心思想是找一个已知的事件划分，来分割整个事件集。

从条件概率到贝叶斯公式相关推荐

070103_条件概率与贝叶斯公式，独立性
一.条件概率的计算一直某个时间A发生的条件下,另一个事件B发生的概率称为条件概率,记为P(B|A) p(B|A)=P(AB)/P(A) 条件概率也符合概率定义的三个条件. 游戏[汽车与山羊] 二.乘 ...
古典概型，条件概率，贝叶斯公式
概率的定义,性质定义设 EEE 是随机试验,SSS 是它的样本空间. 对于 EEE 的每一个事件 AAA 赋予一个实数,记为 P(A)P(A)P(A),称为事件 AAA 的概率. 如果 ...
终于有人把条件概率和贝叶斯公式讲明白了
导读:本文将从条件概率入手,介绍事件之间独立性的相关概念,然后引出全概率公式和贝叶斯公式的基本内容,带领读者通过概率的视角初步认知现实世界. 作者:张雨萌来源:大数据DT(ID:hzdashuju) ...
概率论与数理统计（一）—— 联合概率、条件概率与边缘概率
0. 联合概率.条件概率与边缘概率的关系假定已知联合概率分布 p(x,y)p(x,y),现求 p(y|x0)p(y|x_0), p(y|x0)=p(x0,y)p(x0)=p(x0,y)∑yp(x0, ...
朴素贝叶斯（Naive Bayes），联合概率，条件概率，先验概率，后验概率
目录联合概率: 条件概率(条件概率,又叫似然概率): 先验概率: 后验概率: 贝叶斯公式: 主要公式推导联合概率: 包含多个条件,且所有条件同时成立的概率 a 条件概率(条件概率,又叫似然概率): ...
人工智能高薪的背后……
随着人工智能近几年的大火,来咨询人工智能如何学习的小伙伴特别多,小编给大家简单的介绍一下,并且特意准备了一套人工智能学习资料,希望可以帮助到大家. 人工智能是什么? 人工智能(Artificial I ...
第九课.朴素贝叶斯分类器
目录朴素贝叶斯算法原理朴素贝叶斯参数估计极大似然估计贝叶斯估计朴素贝叶斯算法流程实验:Numpy实现朴素贝叶斯分类器朴素贝叶斯算法原理若P(X)P(X)P(X)表示事件XXX发生的概率 ...
「AI白身境」入行AI需要什么数学基础：左手矩阵论，右手微积分
https://www.toutiao.com/a6694018168718885390/ 今天是新专栏<AI白身境>的第九篇,所谓白身,就是什么都不会,还没有进入角色. 咱们这个系列接近 ...
N-gram统计语言模型(总结)
N-gram统计语言模型 1.统计语言模型自然语言从它产生開始,逐渐演变成一种上下文相关的信息表达和传递的方式.因此让计算机处理自然语言.一个主要的问题就是为自然语言这样的上下文相关特性建立数学模型 ...
UA MATH564 概率论I 离散型随机变量
UA MATH564 概率论I 离散型随机变量古典概型排列数与组合数二项式定理,负二项式定理与多项式定理第二类Stirling数独立性与条件概率全概率公式贝叶斯公式 Bernoulli试 ...

从条件概率到贝叶斯公式

条件概率

全概率公式

贝叶斯公式

总结

从条件概率到贝叶斯公式相关推荐

最新文章

热门文章