【概率证明】—— sum and product rules of probability

1. sum and product rules of probability

⎧⎩⎨p(x)=∫p(x,y)dyp(x,y)=p(x|y)p(y)

\left\{ \begin{split} &p(x)=\int p(x, y)dy\\ &p(x,y)=p(x|y)p(y) \end{split} \right.

sum rule of probability 的积分符号自然可以换成 ∑\sum 求和符号（针对离散型随机变量）

2. 简单应用

sum and product rules of probability in Bishop’s book
sum and product rules of probability

证明：p(x=1|D)=∫10p(x=1|μ)p(μ|D)dμp(x=1|\mathcal D)=\int_0^1 p(x=1|\mu)p(\mu|\mathcal D)d\mu

首先根据 sum rule：

p(x=1|D)=∫10p(x=1,μ|D)dμ

p(x=1|\mathcal D)=\int_0^1 p(x=1,\mu|\mathcal D)d\mu

进一步应用 product rule，可得：

∫10p(x=1,μ|D)dμ==∫10p(x=1|μ,D)p(μ|D)dμ∫10p(x=1|μ)p(μ|D)dμ

\begin{split}\int_0^1 p(x=1,\mu|\mathcal D)d\mu=&\int_0^1p(x=1|\mu, \mathcal D)p(\mu|\mathcal D)d\mu\\=&\int_0^1p(x=1|\mu)p(\mu|\mathcal D)d\mu\end{split}

这里隐含了一个假定，即给定 μ\mu 条件下，x=1x=1（新的待测样本）与 D\mathcal D（既有的历史数据集）是条件独立的。

【概率证明】—— sum and product rules of probability相关推荐

ACdream 1431 Sum vs Product
题目链接:http://115.28.76.232/problem? pid=1431 Sum vs Product Time Limit: 4000/2000MS (Java/Others)Memo ...
python概率编程_TensorFlow新功能：TensorFlow Probability概率编程工具箱介绍
在2018年TensorFlow开发者峰会上,我们宣布了TensorFlow Probability:一种概率编程工具箱,用于机器学习研究人员和其他从业人员快速可靠地利用最先进硬件构建复杂模型.如果出 ...
python3 联合概率，边缘概率，贝叶斯定理(含详细推导）
1.贝叶斯原理假设有两个随机变量X:Y(下方左图): X的取值为 {},其中 i=1,...,M(M个特征): Y的取值为 {},,其中 j=1,...,L(L个类),如下图所示,M=5, L ...
TensorFlow手把手教你概率编程：TF Probability内置了开源教材，新手友好
晓查栗子发自凹非寺量子位出品 | 公众号 QbitAI 大家可能知道,要做概率编程 (Probabilistic Programming) 的话,TensorFlow Probabilit ...
UA MATH564 概率论计算至少有一个发生的概率：Waring公式
UA MATH564 概率论计算至少有一个发生的概率:Waring公式基于组合学的证明方法基于概率论的证明方法在推出Poincare公式后,计算nnn个事件中至少有一个事件发生的概率的问题就彻 ...
概率随机问题【2】取样与概率
概率随机问题[1]相关C语言知识:http://blog.csdn.net/hxz_qlh/article/details/12843131 概率随机问题[3]http://blog.csdn.net ...
MIT自然语言处理第三讲：概率语言模型（第四、五、六部分）
MIT自然语言处理第三讲:概率语言模型(第四部分) 自然语言处理:概率语言模型 Natural Language Processing: Probabilistic Language Modeling ...
与PHP对抗招聘者垃圾邮件-概念证明
Ever since I moved off of Google services (due to quality, not privacy concerns), I'd been looking f ...
近似概率编程文献综述
近似概率编程文献综述摘要:概率编程是一个新兴的编程范式,在概率编程的推理过程中,近似算法可以大大优化效率.概率编程中的近似算法主要有边界近似算法和模拟近似算法.边界近似算法通过计算查询为真的所有可能 ...

【概率证明】—— sum and product rules of probability

1. sum and product rules of probability

2. 简单应用

【概率证明】—— sum and product rules of probability相关推荐

最新文章

热门文章