这里只是记录一下,非常推荐马同学高等数学,文末有原文.点击这里看里面的例一应该是理解贝叶斯公式最好的例子
,如果你稍微有一些基础,我觉得文末第二个链接中的例一更加适合你

代数推导

1. 贝叶斯公式

是根据条件概率推导的
P(A|B)=P(AB)P(B)P(B|A)=P(AB)P(A)P(A|B)=P(AB)P(B)P(B|A)=P(AB)P(A) P(A|B) = \frac{P(AB)}{P(B)} \qquad P(B|A) = \frac{P(AB)}{P(A)}
所以推导可以得到Bayes公式:

P(A|B)=P(B|A)P(A)P(B)P(A|B)=P(B|A)P(A)P(B)

P(A|B) = \frac{P(B|A)P(A)}{P(B)}
通常会把P(B)看成归一化系数 ηη\eta;

P(A|B)=P(B|A)P(A)P(B)=ηP(B|A)P(A)η=P(B)−1=1∑AP(B|A)P(A)P(A|B)=P(B|A)P(A)P(B)=ηP(B|A)P(A)η=P(B)−1=1∑AP(B|A)P(A)

P(A|B) = \frac{P(B|A)P(A)}{P(B)} = \eta P(B|A)P(A) \\\eta = P(B)^{-1} = \frac{1}{\sum_{A}P(B|A)P(A)}
这里有什么过程不懂可以看文末的知识补充

A一般是某种状态,B一般是某种观测值
1.P(A)先验概率1.P(A)先验概率 1. P(A)先验概率(Prior probability)
2.P(A|B)后验概率2.P(A|B)后验概率 2. P(A|B)后验概率(Posterior/causal probability)
3.P(B|A)P(B)可能性函数(Likelyhood)3.P(B|A)P(B)可能性函数(Likelyhood) 3. \frac{P(B|A)}{P(B)}可能性函数(Likelyhood)

2. 递归贝叶斯

先简单推导一下三次变量:

P(x|y,z)=P(y|x,z)P(x|z)P(y|z)=P(z|x,y)P(x|y)P(z|y)P(x|y,z)=P(y|x,z)P(x|z)P(y|z)=P(z|x,y)P(x|y)P(z|y)

P(x|y,z) = \frac{P(y|x,z)\, P(x|z)}{P(y|z)} \\\qquad \quad= \frac{P(z|x,y)\, P(x|y)}{P(z|y)}
这里y,z是可以互换的
如果y,z符合Markov属性,那么还可以推导如下:

P(x|y,z)=P(y|x)P(x|z)P(y|z)=P(y|x)P(x|z)P(y|open)P(open|z)+P(y|open⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯)P(open⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯|z)P(x|y,z)=P(y|x)P(x|z)P(y|z)=P(y|x)P(x|z)P(y|open)P(open|z)+P(y|open¯)P(open¯|z)

P(x|y,z) = \frac{P(y|x)\, P(x|z)}{P(y|z)} \\ \qquad \qquad = \frac{P(y|x)\, P(x|z)}{P(y|open)P(open|z)+P(y|\overline{open})P(\overline{open}|z)}
P(x|z1…zn)P(x|z1…zn)P(x|z_{1} \dots z_{n})?
把Z1,…..,Zn看成一个整体,再根据马尔科夫条件,在x已经知道的情况下,Zn同{Z1,…,Zn-1}无关,所以

P(x|z1…zn)=P(zn|x,z1,…,zn−1)P(x|z1,…,zn−1)P(zn|z1,…,zn−1)=P(zn|x)P(x|z1,…,zn−1)P(zn|z1,…,zn−1)P(x|z1…zn)=P(zn|x,z1,…,zn−1)P(x|z1,…,zn−1)P(zn|z1,…,zn−1)=P(zn|x)P(x|z1,…,zn−1)P(zn|z1,…,zn−1)

P(x|z_{1} \dots z_{n}) = \frac{P(z_{n}|x,z_{1},\dots,z_{n-1})\, P(x|z_{1},\dots,z_{n-1})}{P(z_{n}|z_{1},\dots,z_{n-1})} \\= \frac{P(z_{n}|x)\, P(x|z_{1},\dots,z_{n-1})}{P(z_{n}|z_{1},\dots,z_{n-1})}
所以可以得到递归贝叶斯公式

P(x|z1…zn)=P(zn|x)P(x|z1,…,zn−1)P(zn|z1,…,zn−1)=ηnP(zn|x)P(x|z1,…,zn−1)=ηnP(zn|x)ηn−1P(zn−1|x)P(x|z1,…,zn−2)=η1…ηn∏i=1…nP(zi|x)P(x)P(x|z1…zn)=P(zn|x)P(x|z1,…,zn−1)P(zn|z1,…,zn−1)=ηnP(zn|x)P(x|z1,…,zn−1)=ηnP(zn|x)ηn−1P(zn−1|x)P(x|z1,…,zn−2)=η1…ηn∏i=1…nP(zi|x)P(x)

P(x|z_{1} \dots z_{n})= \frac{P(z_{n}|x)\, P(x|z_{1},\dots,z_{n-1})}{P(z_{n}|z_{1},\dots,z_{n-1})} \\= \eta_{n}\,P(z_{n}|x)\, P(x|z_{1},\dots,z_{n-1}) \\ \qquad \qquad \; \; \;= \eta_{n}\,P(z_{n}|x)\,\eta_{n-1}\,P(z_{n-1}|x)P(x|z_{1},\dots,z_{n-2}) \\ = \bf{\eta_{1} \dots \eta_{n}\prod_{i=1\dots n}\,P(z_{i}|x)\,P(x)}

3. 贝叶斯滤波

直观理解


知识补充

  • 连续情况下:

    P(x|μ)=∫P(x|μ,x′)P(x′)dx′P(x|μ)=∫P(x|μ,x′)P(x′)dx′

    P(x|\mu) = \int\,P(x|\mu,x')P(x')dx'

  • 连续情况下:
    P(x|μ)=∑P(x|μ,x′)P(x′)P(x|μ)=∑P(x|μ,x′)P(x′)

    P(x|\mu) = \sum P(x|\mu,x')P(x')

参考

https://www.matongxue.com/madocs/301/
https://www.cnblogs.com/ycwang16/p/5995702.html
https://blog.csdn.net/qq_30159351/article/details/53395515

贝叶斯相关公式(Bayes)相关推荐

  1. 朴素贝叶斯(Naive Bayes)分类和Gaussian naive Bayes

    朴素贝叶斯(Naive Bayes)   参考资料:https://www.cnblogs.com/pinard/p/6069267.html   朴素贝叶斯最关键的就是 (强制认为每种指标都是独立的 ...

  2. 【机器学习sklearn】高斯朴素贝叶斯 Gaussian naive bayes

    贝叶斯Bayes - Thomas Bayes 前言 一.贝叶斯决策论(Bayesian decision theory) 二.实例:高斯朴素贝叶斯 Gaussian Naive Bayes (Gau ...

  3. 贝叶斯信念网络Bayes Belief network

    贝叶斯信念网络Bayes Belief network 文章目录 贝叶斯信念网络Bayes Belief network 1. BBN 2. 两大成分 3. 先验概率 3.1.1 计算患心脏病的概率 ...

  4. 朴素贝叶斯(naive bayes)原理小结

    朴素贝叶斯(naive bayes)原理小结 1. 朴素贝叶斯的学习 1.1 基本假设:条件独立性 1.2 朴素贝叶斯分类器 1.3 后验概率的含义 2. 参数估计 2.1 极大似然估计 2.2 贝叶 ...

  5. 一文读懂贝叶斯原理(Bayes‘ theorem)

    一文读懂贝叶斯原理(Bayes' theorem) 前言:贝叶斯定理是18世纪英国数学家托马斯·贝叶斯(Thomas Bayes)提出得重要概率论理论.以下摘一段 wikipedia 上的简介: 一. ...

  6. 朴素贝叶斯(naive bayes)分类

    1. 概念回顾 1.1 条件概率公式 条件概率是指在事件B发生的条件下,事件A发生的概率.条件概率表示为P(A∣B)P(A|B)P(A∣B),读作"A在B发生的条件下发生的概率". ...

  7. 朴素贝叶斯(Naive Bayes):鸢尾花分类项目(不调库,手工推)

    一.数据来源 1.数据来源:kaggle 2.数据样式 通过对数据"萼片.花瓣的长度.宽度(sepal_length.sepal_width.petal_length.petal_width ...

  8. python机器学习-朴素贝叶斯(Naive Bayes)模型建立及评估(完整代码+实现效果)

    实现功能: python机器学习-朴素贝叶斯(Naive Bayes)模型建立及评估. 实现代码: # 导入需要的库 from warnings import simplefilter simplef ...

  9. 二项分布_贝塔分布(multivariate Beta distribution)_多项分布_狄利克雷分布(Dirichlet distribution)_贝叶斯理论公式浅述

    二项分布_贝塔分布(multivariate Beta distribution)_多项分布_狄利克雷分布(Dirichlet distribution)_贝叶斯理论公式浅述 参考书籍<统计学习 ...

最新文章

  1. [转帖][实用]Linux 释放内存方法
  2. J2ME下的游戏精灵的碰撞检测(转)
  3. Ubuntu 18.0.4 安装Selenium 详细流程(亲测有效)
  4. php 查看文件锁定状态_PHP flock 文件锁详细介绍
  5. SpringBoot 配置多数据源(Sql Server、MySql)
  6. 克隆可序列化和不可序列化的Java对象
  7. define定义的函数如何引用_「C与指针心得」25.预处理器-宏函数
  8. 微课|中学生可以这样学Python(8.4节):递归算法例题讲解2
  9. b+树的增删改查_考研计算机 | 如何理解m阶B树?
  10. 纯CSS实现返回顶部的功能
  11. 近来接连换了U盘、剃须刀,京东服务确实好
  12. linux系统fsck.ext4,Ext4文件系统fsck后损坏修复过程一例
  13. win10玩cf如何调全屏_穿越火线:WIN10系统烟雾头和画面卡顿解决办法
  14. ubuntu 安装gnome3
  15. 网络神采 网站数据采集软件
  16. html详细笔记及练习的几个例子
  17. PHP超全基础知识点
  18. 2022年上海应届生落户流程及步骤!应届生落户上海材料清单!
  19. r语言做绘制精美pcoa图_PCOA分析
  20. web.xml学习随笔

热门文章

  1. 给国企定制小程序,这家「云服务商」 1 个月搞定
  2. java计算机毕业设计潮流奢侈品购物网站MyBatis+系统+LW文档+源码+调试部署
  3. ​使用MyBatis解析出XML结构中的sql语句
  4. 【PTM】ELMo:通过预训练语言模型生成词向量
  5. ubuntu 16.04与win7双系统安装图解
  6. Word宏学习之引用字体颜色
  7. selenium+python 遍历select下拉框获取value值
  8. Linux 安装Nginx教程
  9. ufo帧率测试网站_技嘉雪鹰3080 VISION OC性能测试
  10. C语言qsort函数的使用详解