品鉴贝叶斯公式里的大道理

先给出贝叶斯公式的通常写法(即教科书写法)：

为了理解它，需要理解很多的概念，最后过了一段时间可能还是记不住…

然而，如果我们将贝叶斯公式换一个写法，其中代表的含义以及如何使用它就令人恍然大悟了。

曾经的解释
曾经很多人对贝叶斯公式给出的解释是，先根据经验拍一个先验概率，然后再逐步根据实际观测的结果对先验概率进行微调。写法如下所示：

其中，可以将设为u，这样就成了：

如果u>1，则增加事件发生的概率，如果u<1，则降低相应的概率。

那么u代表什么含义呢？其实uu就是根据实际信息生成的一个微调杠杆，随着实验次数的增加，它会不断的增强或者否认先验结论P(A)。

值得品味的是，这就是我们人类的思维方式！我们对待任何事物，几乎都是按照这种方式进行的，首先凭直觉对事物有个大概的印象，然后根据后续发生的一系列事件对这个初始印象进行修正，虽然最终我们可能依然是在盲人摸象，但至少是在不断逼近真理。

以上是贝叶斯公式蕴含的生活哲学。

因果对称解释
我不知道之前有没有这种解释，我是没有看到。这个解释是我在下班的班车上突然想到的，觉得不错，就即时总结下来，写成这篇文章。

贝叶斯公式的两边同时乘以P(B)，得到以下的等式：

嗯，就是它！

我先来解释一下的含义。

两个概率相乘，并不总要理解成两个事件同时发生的概率，其实从其字面意义理解更简单。这里先从全概率公式说起。

先看下全概率公式：

公式本身很简单，关键是如何来理解它。其实，关键就是如何理解每一个乘积，它代表什么。我这里给出一个解释：
全概率P(B)其实是一个数学期望，它表示事件B发生的概率的期望，假设引起事件B的前因有i个，分别是A0到Ai，那么事件B的发生的概率就成了事件Ai的概率组合，它的期望自然而然就是每个原因导致B发生的概率，乘以每个原因的概率之和 (这一个解释和信息熵的期望的解释是一样的)。

请注意，上述解释中，Ai是原因，而B是结果。理解了这个全概率公式里关于条件概率乘积的解释，我们就可以理解上述的贝叶斯公式的变形了。

我们先来看式子的左边，其中代表假定事件B发生的前提下，事件A发生的概率，乘以P(B)表示上述假定确实发生的概率，这里B是因，A是果。

再看右边，不用再重复上段的解释，最终，A是因，B是果！然而这二者却是相等的。这意味着什么？！

这意味着事件的发生关于时间是对称的！如果你相信数学，那么我们的宇宙关于时间的演化就是对称的！没有什么因果区分，如果A发生于B之前，那么如果时间倒过来的话，BB显然发生在A之前，它们的概率竟然是一样的！

这很有意思！单凭这个式子，即使是上帝也无法确定时间流逝的方向：

这到底是宿命论，还是因果论的崩塌！

只是把贝叶斯公式做了一个最简单的移项处理，竟然可以得到这么一个结论，我本来是相信自由意志的，但是这个式子明显表示因果和果因根本就是一一对应的，这是注定的，难道是数学错了？除非概率论本身的根基就是错的，不然这一定是一个真理，就算没有贝叶斯，相信随便一个人也会很快得出相应的结论：

我们从最基本的开始：

所以就有：

这难道不是显然的吗？即便没有贝叶斯，这也是显然的。然而这式子本身并不重要，重要的是这表达了一种全新的解答问题的方式，和本文第一种解释完全契合。

执果溯因这种方法论意义上的指示不是形而上的，而是物质的，是客观的真理！

几乎所有人的一生都是不断事件的结果寻找原因的过程，我记得我女儿小小小时候学说话的时候，从来都是不断模仿而不管其什么含义，其它的行为也是不断试错，从周围的人的反馈来获取信息，然后就知道了自己这么做是对还是错，是该加强还是该削减。

抛开个人不谈，几万年甚至几十万年前的原始野人，在没有任何可供现成学习的经验的前提下，也是靠不断的运用贝叶斯公式来逐渐逼近事物真实的原因的，当原因猜到他们认为八九不离十正确的时候，他们便可以运用这个判断去指导一些自由的行为了，这正是文明最终产生的根本源动力，搞了半天原来就是一个贝叶斯公式！

也许现在你应该明白为什么AI领域的机器学习中贝叶斯这个名字如此普遍存在了吧，难道原始野人的进化过程不就跟机器学习的过程很类似吗？
…

品鉴贝叶斯公式里的大道理相关推荐

【机器学习基本理论】详解最大似然估计（MLE）、最大后验概率估计（MAP），以及贝叶斯公式的理解
[机器学习基本理论]详解最大似然估计(MLE).最大后验概率估计(MAP),以及贝叶斯公式的理解 https://mp.weixin.qq.com/s/6H0gmMWvTExySMraroLVlQ 最 ...
详解最大似然估计（MLE）、最大后验概率估计（MAP），以及贝叶斯公式的理解...
转载声明:本文为转载文章,发表于nebulaf91的csdn博客.欢迎转载,但请务必保留本信息,注明文章出处. 原文作者: nebulaf91 原文原始地址:http://blog.csdn.net ...
详解最大似然估计（MLE）、最大后验概率估计（MAP），以及贝叶斯公式的理解
声明:本文为原创文章,发表于nebulaf91的csdn博客.欢迎转载,但请务必保留本信息,注明文章出处. 本文作者: nebulaf91 本文原始地址:http://blog.csdn.net/u0 ...
通过贝叶斯公式计算阳性概率
今天有一个小盆友对他们的课程里一道题存在疑问过来问我,说是要求必须应用贝叶斯公式,题目如下: 已知某病发病率5%,假阴率5%,假阳率5%,如果一个人检出了阳性结果,那么他患该病的可能性有多大? 首先需 ...
详解最大似然估计、最大后验概率估计及贝叶斯公式
最大似然估计(Maximum likelihood estimation, 简称MLE)和最大后验概率估计(Maximum a posteriori estimation, 简称MAP)是很常用的两种 ...
机器学习-贝叶斯公式
贝叶斯公式学习机器学习和模式识别的人一定都听过贝叶斯公式(Bayes' Theorem): P ( A ∣ B ) = P ( B ∣ A ) P ( A ) P ( B ) P(A|B) = \f ...
【机器学习】贝叶斯学派与频率学派有何不同？
要说贝叶斯和频率学派,那简直太有意思了.为什么这么说呢?因为两个学派的理解对于我来说真的是一场持久战.我是在学习机器学习的时候接触到的这两个学派,此前并不知道,当时就被深深吸引了,于是找了各种资料学习 ...
最大似然估计和最大后验概率估计的理解与求解
1. 最大似然估计的理解最大似然估计(Maximum likelihood estimation, 简称MLE)和最大后验概率估计(Maximum a posteriori estimation, ...
机器学习 —— 浅谈贝叶斯和MCMC
‍‍Abstract:最近课业内的任务不是很多,又临近暑假了,就在网上搜了一些有关于机器学习和深度学习的课程进行学习.网上的资料非常繁多,很难甄别,我也是货比三家进行学习.这是这个系列的第一个笔记,是 ...
最大似然估计【MLE】与最大后验概率【MAP】
最大似然估计(Maximum likelihood estimation, 简称MLE)和最大后验概率估计(Maximum a posteriori estimation, 简称MAP)是很常用的两种 ...

品鉴贝叶斯公式里的大道理

品鉴贝叶斯公式里的大道理相关推荐

最新文章

热门文章