Explaining Away的简单理解

最早在Hinton老爷子的文章里看到了explaining away这个概念，困惑了很长时间。最近在看Stanford大神Daphne Koller的概率图模型，里面贝叶斯网络一节讲到了explaining away。我看过之后试着谈谈自己的理解。

explaining away指的是这样一种情况：对于一个多因一果的问题，假设各种“因”之间都是相互独立的，如果已经确定了是因为其中一种原因导致了结果，那么因为其他原因导致了该结果的概率就会下降。

单纯看定义似乎很令人费解，因为原因之间应该是相互独立的，怎么会相互影响呢？举个最简单的例子就可以回答这个问题。

考虑三个随机变量ABC，其中C=A | B，AB相互独立。如果写出它们的概率分布就是这样的：

A	B	C	P
0	0	0	0.25
0	1	1	0.25
1	0	1	0.25
1	1	1	0.25

可以看出，只要A与B中的任意一个为1就会导致C为1,这正是一个最简单的多因一果问题。

假设我们观察到C = 1，但不知道是哪种原因导致的，那么根据上面的联合概率分布可以推断，P( A = 1 | C = 1 ) = P( B = 1 | C = 1 ) = 2/3。而且P( B = 1 | C = 1 ) > P( B = 1 )，即因为观察到了“果”，出现“因”的概率比平常更大，这是符合我们经验的。

但是，如果我们已经确认了A = 1，那么此时不论B取值为多少都会有C=1，即P( B = 1 | C = 1, A = 1 ) = 1/2 = P( B = 1 ) < P( B = 1 | C = 1 ) 。B的取值再一次变得完全无法判断（对比上面，B取值为1的概率减小了），这就是explaining away。

在现实生活中也可以找到这样的例子：假设房子倒塌的可能性包括地震和恐怖袭击，如果我们发现房子倒了，那么很有可能发生了两者中的一个，但如果我们知道是恐怖分子用飞机撞倒的，那么我们就无法判断是不是发生了地震。这时地震的概率就从“很可能”变回了“有可能”，概率降低了，这就是explaining away。

Explaining Away的简单理解相关推荐

android 点击事件消费,Android View事件分发和消费源码简单理解
Android View事件分发和消费源码简单理解前言: 开发过程中觉得View事件这块是特别烧脑的,看了好久,才自认为看明白.中间上网查了下singwhatiwanna粉丝的读书笔记,有种茅塞顿开 ...
【转载】Deep learning：十九(RBM简单理解)
Deep learning:十九(RBM简单理解) 这篇博客主要用来简单介绍下RBM网络,因为deep learning中的一个重要网络结构DBN就可以由RBM网络叠加而成,所以对RBM的理解有利于我 ...
学习：双机热备、集群、负载均衡、SQL故障转移群集简单理解（转）
双机热备.集群.负载均衡.SQL故障转移群集简单理解平常,大家常提到几个技术名词:双机热备.集群.负载均衡.SQL故障转移群集.这里,就我的理解,和大家简单探讨下,有不足或错误之处还请各位指出! 这些 ...
字符串匹配算法Java_如何简单理解字符串匹配算法？
这篇文章来说说如何简单理解KMP,BM算法.之前看过一些文章说,KMP算法很难理解. 可我并不觉得. 我反而觉得它容易理解.平时我们写java代码的时候, 判断一个字符串是否存在包含另一个字符串都是直 ...
python yield的简单理解
2019独角兽企业重金招聘Python工程师标准>>> yield是个生成器,它可以使一个方法变成可迭代的方法,每次迭代返回yield后面的值简单理解: >>>d ...
linun——SElinux的简单理解
SElinux简单理解一.什么是SElinux? SELinux 全称 Security Enhanced Linux (安全强化 Linux),是 MAC (Mandatory Access Co ...
git pull 是到工作区还是暂存区_每天一Git之简单理解工作区和暂存区
每天一Git之简单理解工作区和暂存区 1. 工作区与暂存区命令初体验 1.1. 暂存区文件与文件夹管理 [root@number ~]# cd GitDir/git_learning/ [root@n ...
c语言理解参数,c语言中对可变参数列表的简单理解
函数原型中一般情况下参数的数目是固定的,但是如果想在不同的时候接收不定数目的参数时该怎么办呢?c语言提供了可变参数列表来实现. 可变参数列表是通过宏来实现的,这些宏定义在stdarg.h的头文件中.头 ...
QGraphicsScene 的简单理解--关于手册的简要翻译
文章目录 QGraphicsScene 的简单理解--关于手册的简要翻译简介: 一般操作: 关于scene's bounding rect: the location of items. scene ...

Explaining Away的简单理解

Explaining Away的简单理解相关推荐

最新文章

热门文章