基础-数学-最大后验概率(MAP)maximum a posteriori
转载自 (http://blog.csdn.net/mafeichao/article/details/6403008)
在统计学中，最大后验（英文为Maximum a posteriori，缩写为MAP）估计方法根据经验数据获得对难以观察的量的点估计。它与最大似然估计中的 Fisher 方法有密切关系，但是它使用了一个增大的优化目标，这种方法将被估计量的先验分布融合到其中。所以最大后验估计可以看作是规则化（regularization）的最大似然估计。
假设我们需要根据观察数据 x 估计没有观察到的总体参数 θ，让 f 作为 x 的采样分布，这样 f(x | θ) 就是总体参数为θ 时 x 的概率。函数
即为似然函数，其估计
就是 θ 的最大似然估计。
假设 θ 存在一个先验分布 g，这就允许我们将 θ 作为 贝叶斯统计（en:Bayesian statistics）中的随机变量，这样 θ的后验分布就是：
其中 Θ 是 g 的domain，这是贝叶斯定理（en: Bayes' theorem）的直接应用。
最大后验估计方法于是估计 θ 为这个随机变量的后验分布的mode：
后验分布的分母与 θ 无关，所以在优化过程中不起作用。注意当前验 g 是 uniform（也就是常函数）时最大后验估计与最大似然估计重和。
最大后验估计可以用以下几种方法计算：
- 解析方法，当后验分布的模能够用 closed form 方式表示的时候用这种方法。当使用en:conjugate prior 的时候就是这种情况。
- 通过如共扼积分法或者牛顿法这样的数值优化方法进行，这通常需要一阶或者导数，导数需要通过解析或者数值方法得到。
- 通过 期望最大化算法 的修改实现，这种方法不需要后验密度的导数。
尽管最大后验估计与 Bayesian 统计共享前验分布的使用，通常并不认为它是一种 Bayesian 方法，这是因为最大后验估计是点估计，然而 Bayesian 方法的特点是使用这些分布来总结数据、得到推论。Bayesian 方法试图算出后验均值或者中值以及posterior interval，而不是后验模。尤其是当后验分布没有一个简单的解析形式的时候更是这样：在这种情况下，后验分布可以使用 Markov chain Monte Carlo 技术来模拟，但是找到它的模的优化是很困难或者是不可能的。
基础-数学-最大后验概率(MAP)maximum a posteriori相关推荐
- 最大后验（Maximum a Posteriori，MAP）概率估计详解
最大后验(Maximum A Posteriori,MAP)概率估计 注:阅读本文需要贝叶斯定理与最大似然估计的部分基础 最大后验(Maximum A Posteriori,MAP)估计可以利用经 ...
- 【转】最大后验概率（MAP）- maximum a posteriori
最大后验概率(MAP)- maximum a posteriori var $tag='map,最大后验概率,杂谈'; var $tag_code='55bc272ff71193850b39cc269 ...
- 最大后验概率（MAP）- maximum a posteriori（转载）
原文:http://student.csdn.net/space.php?uid=119638&do=blog&id=11801 在统计学中,最大后验(英文为Maximum a pos ...
- 最大后验概率（MAP）- maximum a posteriori
原文:http://student.csdn.net/space.php?uid=119638&do=blog&id=11801 在统计学中,最大后验(英文为Maximum a pos ...
- 极大后验概率（MAP）- maximum a posteriori（转载）
在统计学中,最大后验(英文为Maximum a posteriori,缩写为MAP)估计方法根据经验数据获得对难以观察的量的点估计.它与最大似然估计中的 Fisher 方法有密切关系,但是它使用了一个 ...
- 【数学基础】参数估计之最大后验估计（Maximum A Posteriori，MAP）
前言,MLE与MAP的联系 在前一篇文章参数估计之极大似然估计中提到过频率学派和贝叶斯学派的区别.如下图 在极大似然估计(MLE)中,我们求参数,通过使得似然函数最大,此时为一个待估参数,其本身是确定 ...
- 机器学习基础：最大似然（Maximum Likelihood） 和最大后验估计 （Maximum A Posteriori Estimation）的区别
前言 在研究SoftMax交叉熵损失函数(Cross Entropy Loss Function)的时候,一种方法是从概率的角度来解释softmax cross entropy loss functi ...
- MAP（maximum a posteriori）
在统计学中,最大后验概率(MAP) 估计可以用于未知参量的点估计,它和最大似然估计maximum likelihood (ML)的Fisher方法差不多,但是这里的后验概率的最大化是和先验分布紧密相关 ...
- 模型汇总-9 Variational AutoEncoder_VAE基础：LVM、MAP、EM、MCMC、Variational Inference（VI）
Kingma et al和Rezende et al在2013年提出了变分自动编码器(Variational AutoEncoders,VAEs)模型,仅仅三年的时间,VAEs就成为一种最流行的生成模 ...
最新文章
- SLAVE为什么一直不动了
- mysql 5.7.22 winx64_windows下mysql-5.7.22-winx64突然启动不了，报错Could not open log file
- 如何解决”ArcGIS Server Site is currently being configured by another administrative operation“的问题
- Python之协程、异步IO、redis缓存、rabbitMQ队列
- Java之dead code——无用代码
- Python基础(7) - 函数
- 单片机c语言带参数子函数,单片机C语言教程：C51函数
- jeep智能手表软件测评中心的测试,够了，不要太帅：Jeep黑骑士智能手表深度评测...
- 李国庆PK刘强东：最失败是品类战略
- 整洁面向对象分层架构 （Clean Object-Oriented and Layered Architecture）
- TCP通信协议基本操作
- python桌面应用_用Python写个Metro风格的桌面程序
- springBoot redis开发的Java快递代拿系统（含人脸识别，验证码登录）
- 浅谈DOS扩展器和DPMI
- wifi连接一段时间才能上网_Win7系统下连接wifi一段时间就自动断线怎么办【图文】...
- 1360: 最大公约与最小公倍
- 战网客户端 linux,暴雪战网客户端 | Blizzard Battle.net
- geekbench5 cpu排名 202009
- 神奇的Css3（3） 多列布局
- 不止于大西瓜，让你的 H5 小游戏一键“起飞”