贝叶斯相关公式(Bayes)
这里只是记录一下,非常推荐马同学高等数学,文末有原文.点击这里看里面的例一应该是理解贝叶斯公式最好的例子
,如果你稍微有一些基础,我觉得文末第二个链接中的例一更加适合你
代数推导
1. 贝叶斯公式
是根据条件概率推导的
P(A|B)=P(AB)P(B)P(B|A)=P(AB)P(A)P(A|B)=P(AB)P(B)P(B|A)=P(AB)P(A) P(A|B) = \frac{P(AB)}{P(B)} \qquad P(B|A) = \frac{P(AB)}{P(A)}
所以推导可以得到Bayes公式:
P(A|B) = \frac{P(B|A)P(A)}{P(B)}
通常会把P(B)看成归一化系数 ηη\eta;
P(A|B) = \frac{P(B|A)P(A)}{P(B)} = \eta P(B|A)P(A) \\\eta = P(B)^{-1} = \frac{1}{\sum_{A}P(B|A)P(A)}
这里有什么过程不懂可以看文末的知识补充
A一般是某种状态,B一般是某种观测值
1.P(A)先验概率1.P(A)先验概率 1. P(A)先验概率(Prior probability)
2.P(A|B)后验概率2.P(A|B)后验概率 2. P(A|B)后验概率(Posterior/causal probability)
3.P(B|A)P(B)可能性函数(Likelyhood)3.P(B|A)P(B)可能性函数(Likelyhood) 3. \frac{P(B|A)}{P(B)}可能性函数(Likelyhood)
2. 递归贝叶斯
先简单推导一下三次变量:
P(x|y,z) = \frac{P(y|x,z)\, P(x|z)}{P(y|z)} \\\qquad \quad= \frac{P(z|x,y)\, P(x|y)}{P(z|y)}
这里y,z是可以互换的
如果y,z符合Markov属性,那么还可以推导如下:
P(x|y,z) = \frac{P(y|x)\, P(x|z)}{P(y|z)} \\ \qquad \qquad = \frac{P(y|x)\, P(x|z)}{P(y|open)P(open|z)+P(y|\overline{open})P(\overline{open}|z)}
P(x|z1…zn)P(x|z1…zn)P(x|z_{1} \dots z_{n})?
把Z1,…..,Zn看成一个整体,再根据马尔科夫条件,在x已经知道的情况下,Zn同{Z1,…,Zn-1}无关,所以
P(x|z_{1} \dots z_{n}) = \frac{P(z_{n}|x,z_{1},\dots,z_{n-1})\, P(x|z_{1},\dots,z_{n-1})}{P(z_{n}|z_{1},\dots,z_{n-1})} \\= \frac{P(z_{n}|x)\, P(x|z_{1},\dots,z_{n-1})}{P(z_{n}|z_{1},\dots,z_{n-1})}
所以可以得到递归贝叶斯公式
P(x|z_{1} \dots z_{n})= \frac{P(z_{n}|x)\, P(x|z_{1},\dots,z_{n-1})}{P(z_{n}|z_{1},\dots,z_{n-1})} \\= \eta_{n}\,P(z_{n}|x)\, P(x|z_{1},\dots,z_{n-1}) \\ \qquad \qquad \; \; \;= \eta_{n}\,P(z_{n}|x)\,\eta_{n-1}\,P(z_{n-1}|x)P(x|z_{1},\dots,z_{n-2}) \\ = \bf{\eta_{1} \dots \eta_{n}\prod_{i=1\dots n}\,P(z_{i}|x)\,P(x)}
3. 贝叶斯滤波
直观理解
知识补充
- 连续情况下:
P(x|μ)=∫P(x|μ,x′)P(x′)dx′P(x|μ)=∫P(x|μ,x′)P(x′)dx′
P(x|\mu) = \int\,P(x|\mu,x')P(x')dx'
- 连续情况下:
P(x|μ)=∑P(x|μ,x′)P(x′)P(x|μ)=∑P(x|μ,x′)P(x′)
P(x|\mu) = \sum P(x|\mu,x')P(x')
参考
https://www.matongxue.com/madocs/301/
https://www.cnblogs.com/ycwang16/p/5995702.html
https://blog.csdn.net/qq_30159351/article/details/53395515
贝叶斯相关公式(Bayes)相关推荐
- 朴素贝叶斯(Naive Bayes)分类和Gaussian naive Bayes
朴素贝叶斯(Naive Bayes) 参考资料:https://www.cnblogs.com/pinard/p/6069267.html 朴素贝叶斯最关键的就是 (强制认为每种指标都是独立的 ...
- 【机器学习sklearn】高斯朴素贝叶斯 Gaussian naive bayes
贝叶斯Bayes - Thomas Bayes 前言 一.贝叶斯决策论(Bayesian decision theory) 二.实例:高斯朴素贝叶斯 Gaussian Naive Bayes (Gau ...
- 贝叶斯信念网络Bayes Belief network
贝叶斯信念网络Bayes Belief network 文章目录 贝叶斯信念网络Bayes Belief network 1. BBN 2. 两大成分 3. 先验概率 3.1.1 计算患心脏病的概率 ...
- 朴素贝叶斯(naive bayes)原理小结
朴素贝叶斯(naive bayes)原理小结 1. 朴素贝叶斯的学习 1.1 基本假设:条件独立性 1.2 朴素贝叶斯分类器 1.3 后验概率的含义 2. 参数估计 2.1 极大似然估计 2.2 贝叶 ...
- 一文读懂贝叶斯原理(Bayes‘ theorem)
一文读懂贝叶斯原理(Bayes' theorem) 前言:贝叶斯定理是18世纪英国数学家托马斯·贝叶斯(Thomas Bayes)提出得重要概率论理论.以下摘一段 wikipedia 上的简介: 一. ...
- 朴素贝叶斯(naive bayes)分类
1. 概念回顾 1.1 条件概率公式 条件概率是指在事件B发生的条件下,事件A发生的概率.条件概率表示为P(A∣B)P(A|B)P(A∣B),读作"A在B发生的条件下发生的概率". ...
- 朴素贝叶斯(Naive Bayes):鸢尾花分类项目(不调库,手工推)
一.数据来源 1.数据来源:kaggle 2.数据样式 通过对数据"萼片.花瓣的长度.宽度(sepal_length.sepal_width.petal_length.petal_width ...
- python机器学习-朴素贝叶斯(Naive Bayes)模型建立及评估(完整代码+实现效果)
实现功能: python机器学习-朴素贝叶斯(Naive Bayes)模型建立及评估. 实现代码: # 导入需要的库 from warnings import simplefilter simplef ...
- 二项分布_贝塔分布(multivariate Beta distribution)_多项分布_狄利克雷分布(Dirichlet distribution)_贝叶斯理论公式浅述
二项分布_贝塔分布(multivariate Beta distribution)_多项分布_狄利克雷分布(Dirichlet distribution)_贝叶斯理论公式浅述 参考书籍<统计学习 ...
最新文章
- [转帖][实用]Linux 释放内存方法
- J2ME下的游戏精灵的碰撞检测(转)
- Ubuntu 18.0.4 安装Selenium 详细流程(亲测有效)
- php 查看文件锁定状态_PHP flock 文件锁详细介绍
- SpringBoot 配置多数据源(Sql Server、MySql)
- 克隆可序列化和不可序列化的Java对象
- define定义的函数如何引用_「C与指针心得」25.预处理器-宏函数
- 微课|中学生可以这样学Python(8.4节):递归算法例题讲解2
- b+树的增删改查_考研计算机 | 如何理解m阶B树?
- 纯CSS实现返回顶部的功能
- 近来接连换了U盘、剃须刀,京东服务确实好
- linux系统fsck.ext4,Ext4文件系统fsck后损坏修复过程一例
- win10玩cf如何调全屏_穿越火线:WIN10系统烟雾头和画面卡顿解决办法
- ubuntu 安装gnome3
- 网络神采 网站数据采集软件
- html详细笔记及练习的几个例子
- PHP超全基础知识点
- 2022年上海应届生落户流程及步骤!应届生落户上海材料清单!
- r语言做绘制精美pcoa图_PCOA分析
- web.xml学习随笔
热门文章
- 给国企定制小程序,这家「云服务商」 1 个月搞定
- java计算机毕业设计潮流奢侈品购物网站MyBatis+系统+LW文档+源码+调试部署
- ​使用MyBatis解析出XML结构中的sql语句
- 【PTM】ELMo:通过预训练语言模型生成词向量
- ubuntu 16.04与win7双系统安装图解
- Word宏学习之引用字体颜色
- selenium+python 遍历select下拉框获取value值
- Linux 安装Nginx教程
- ufo帧率测试网站_技嘉雪鹰3080 VISION OC性能测试
- C语言qsort函数的使用详解