最大后验估计(MAP)

最大后验估计（maximum a posteriori probability estimate, 简称MAP）

与最大似然估计类似，但是，在似然函数后面多乘了一项，即“待估计参数的先验分布”。故最大后验估计可以看作规则化的最大似然估计。

根据贝叶斯理论，对于θ的后验分布：

后验分布的目标为：

（分母为f(x)，是固定值）

MAP认为，θ是一个随机变量，其先验概率密度函数是已知的，为P(θ)，所以其目标为：

MLE认为，θ是非随机变量或者分布未知的随机变量，这两种情况都可以认为P(θ)均匀分布的，即该概率是一个固定值，P(θ)=C，所以其目标为：

转载：http://www.cnblogs.com/liliu/archive/2010/11/24/1886110.html

注：最大后验估计可以看做贝叶斯估计的一种特定形式。

举例来说：

假设有五个袋子，各袋中都有无限量的饼干(樱桃口味或柠檬口味)，已知五个袋子中两种口味的比例分别是

樱桃 100%

樱桃 75% + 柠檬 25%

樱桃 50% + 柠檬 50%

樱桃 25% + 柠檬 75%

柠檬 100%

如果只有如上所述条件，那问从同一个袋子中连续拿到2个柠檬饼干，那么这个袋子最有可能是上述五个的哪一个？

  我们首先采用最大似然估计来解这个问题，写出似然函数。假设从袋子中能拿出柠檬饼干的概率为p(我们通过这个概率p来确定是从哪个袋子中拿出来的)，则似然函数可以写作

由于p的取值是一个离散值，即上面描述中的0,25%，50%，75%，1。我们只需要评估一下这五个值哪个值使得似然函数最大即可，得到为袋子5。这里便是最大似然估计的结果。

上述最大似然估计有一个问题，就是没有考虑到模型本身的概率分布，下面我们扩展这个饼干的问题。

假设拿到袋子1或5的机率都是0.1，拿到2或4的机率都是0.2，拿到3的机率是0.4，那同样上述问题的答案呢？这个时候就变MAP了。我们根据公式

写出我们的MAP函数。

根据题意的描述可知，p的取值分别为0,25%，50%，75%，1，g的取值分别为0.1，0.2,0.4,0.2,0.1.分别计算出MAP函数的结果为：0,0.0125,0.125,0.28125,0.1.由上可知，通过MAP估计可得结果是从第四个袋子中取得的最高。

上述都是离散的变量，那么连续的变量呢？假设为独立同分布的，μ有一个先验的概率分布为。那么我们想根据来找到μ的最大后验概率。根据前面的描述，写出MAP函数为：

此时我们在两边取对数可知。所求上式的最大值可以等同于求

的最小值。求导可得所求的μ为

以上便是对于连续变量的MAP求解的过程。

在MAP中我们应注意的是：

MAP与MLE最大区别是MAP中加入了模型参数本身的概率分布，或者说。MLE中认为模型参数本身的概率的是均匀的，即该概率为一个固定值。

最大后验估计(MAP)相关推荐

最大后验估计(MAP)------贝叶斯学派的法宝
本文讲一讲贝叶斯学派的法宝------最大后验估计(MAP) 学派背景目前在统计分析领域存在两大学派,即频率学派和贝叶斯学派,它俩的争吵由来已久.目前国内大部分的医学统计学教材都是基于频率学派的,但 ...
正则化和最大后验估计(MAP)
正则化前提 y=kx+by=kx+by=kx+b 拟合结果f(w)=wTxf(w)=w^Txf(w)=wTx 运用最小二乘法得到损失函数L=∑i=1N∣∣wTxi−yi∣∣2L=\sum^N_{i= ...
最大似然估计MLE和最大后验估计MAP理解
1.频率学派和贝叶斯派频率学派认为参数是固定而未知的,关心似然函数. 贝叶斯派认为参数是随机的有分布的,关心后验分布. 2.MLE.MAP公式 3.参数估计-MLE 4.参数估计-MAP MAP与M ...
机器学习-白板推导系列(一)-绪论（机器学习的MLE(最大似然估计)和MAP(最大后验估计)）
频率学派 - Frequentist - Maximum Likelihood Estimation (MLE,最大似然估计) 贝叶斯学派 - Bayesian - Maximum A Posteri ...
贝叶斯估计和最大后验估计
贝叶斯估计和最大后验估计发表于1年前(2015-01-03 11:48) 阅读(23) | 评论(0) 0人收藏此文章, 我要收藏赞0 使用贝叶斯估计计算参数比较困难,所以简化为最大后验估计. ...
最大似然估计_状态估计的基本概念（2）最大似然估计和最大后验估计
(1)最大似然估计ML和最大后验估计MAP 最大似然估计量非贝叶斯方法通常是最大化似然函数: 其中被称为的最大似然估计量,它是的函数. 最大后验估计量估计随机参数的通常方法是最大化后验分布函 ...
贝叶斯学习、MAP、ML
贝叶斯估计与有监督学习如何用贝叶斯估计解决有监督学习问题? 对于有监督学习,我们的目标实际上是估计一个目标函数f : X->Y,,或目标分布P(Y|X),其中X是样本的各个feature组成的 ...
频率学派（似然估计）与贝叶斯学派（后验估计）
"若是心怀旧梦,就别再无疾而终!" 频率学派与贝叶斯学派作为统计学的两大学派,由于对统计推断的观点不一致,相应的方法也不一样.本文主要小结两派思想的区别,并结合实例对两种思想对应 ...
文本语言模型的参数估计-最大似然估计、MAP及贝叶斯估计
以PLSA和LDA为代表的文本语言模型是当今统计自然语言处理研究的热点问题.这类语言模型一般都是对文本的生成过程提出自己的概率图模型,然后利用观察到的语料数据对模型参数做估计.有了语言模型和相应的模型 ...

最大后验估计(MAP)

最大后验估计(MAP)相关推荐

最新文章

热门文章