MAP（maximum a posteriori）

　　在统计学中，最大后验概率(MAP) 估计可以用于未知参量的点估计，它和最大似然估计maximum likelihood (ML)的Fisher方法差不多，但是这里的后验概率的最大化是和先验分布紧密相关的。故而MAP可以看作是ML估计的正则化。

　　假设我们要根据观测变量x估计参量 θ，并假设x的采样分布是f，那么基于θ的x的条件概率为 f(x | θ) 于是就有似然函数，估计

作为θ的最大似然估计。

现在假设参数 θ的先验概率是已知的，我们就可以把θ当作贝叶斯统计（Bayesian statistics）中的随机变量来处理。后验概率就可以表示为：

其中g的定义域为Θ，这是贝叶斯定理的直接应用。将基于θ的最大后验概率就看作是随机变量x的后验分布：

上式中后验概率的分母就和θ没有任何关系了，因而在优化过程中不起任何作用。可以发现 MAP的θ的先验分布为均匀分布时，和MLE是一致的。

MAP计算方法：

１、当后验概率可以表达成闭型形式时，则可以通过求导的方法求解；

２、通过数值计算来优化，常用的方法有共轭梯度法和牛顿法，但是这些方法往往涉及到比较繁琐的一阶和二阶导数；

３、通过改进型的最大期望算法，不需要计算后验概率的导数。

评价：在贝叶斯方法中，像MAP这样通过先验概率来求解后验模式的方法并不多见，MAP是一种点估计，一般的贝叶斯方法是根据分布来提取数据的特征的。尤其是在后验概率并不是一个简单的分析形式，此时可以通过蒙特卡罗来模拟，但是要想获取其分布类型是很困难的。

转载于:https://www.cnblogs.com/ysjxw/archive/2008/03/28/1127912.html

MAP（maximum a posteriori）相关推荐

MAP（Maximum A Posteriori，最大后验准则）算法
一.意义训练过程中,UBM通过MAP自适应,可以得到每个说话人的GMM模型. 二.算法示意图三.算法过程 1. 与EM算法中的E-Step相同已知 a. O = { o 1 , o 2 , . ...
【数学基础】参数估计之最大后验估计（Maximum A Posteriori，MAP）
前言,MLE与MAP的联系在前一篇文章参数估计之极大似然估计中提到过频率学派和贝叶斯学派的区别.如下图在极大似然估计(MLE)中,我们求参数,通过使得似然函数最大,此时为一个待估参数,其本身是确定 ...
最大后验（Maximum a Posteriori，MAP）概率估计详解
最大后验(Maximum A Posteriori,MAP)概率估计注:阅读本文需要贝叶斯定理与最大似然估计的部分基础最大后验(Maximum A Posteriori,MAP)估计可以利用经 ...
机器学习基础：最大似然（Maximum Likelihood）和最大后验估计（Maximum A Posteriori Estimation）的区别
前言在研究SoftMax交叉熵损失函数(Cross Entropy Loss Function)的时候,一种方法是从概率的角度来解释softmax cross entropy loss functi ...
目标检测扩（六）一篇文章彻底搞懂目标检测算法中的评估指标计算方法（IoU（交并比）、Precision（精确度）、Recall（召回率）、AP（平均正确率）、mAP（平均类别AP））
基本在目标检测算法中会碰到一些评估指标.常见的指标参数有:IoU(交并比).Precision(精确度).Recall(召回率).AP(平均正确率).mAP(平均类别AP)等.这些评估指标是在评估 ...
map（＆：name）在Ruby中是什么意思？
我在RailsCast中找到了以下代码: def tag_names@tag_names || tags.map(&:name).join(' ') end 什么是(&:name)在m ...
最大熵模型（Maximum Entropy Model）文献阅读指南
最大熵模型(Maximum Entropy Model)是一种机器学习方法,在自然语言处理的许多领域(如词性标注.中文分词.句子边界识别.浅层句法分析及文本分类等)都有比较好的应用效果.张乐博士的最大 ...
最大团问题（Maximum Clique Problem）
最大团问题(Maximum Clique Problem) 给定无向图 ,如果子集且对于任意两个顶点 ,有 ,则称U是G的完全子图.G的最大团即G的最大完全子图. G的完全子图U是G的团当且仅当U不 ...
集合-2（Set（HashSet、TreeSet、LinkedHashSet）、List（ArrayList、LinkedList、Vector）、Map（HashMap、TreeMap...））
1.Set接口集合中的元素不能重复,所以存入Set的元素都必须定义equals()来确保对象的唯一性. 无序.无索引 1.1HashSet类实现了Set接口,此实现不是同步的. 由哈希表支持.实际 ...

MAP（maximum a posteriori）

MAP（maximum a posteriori）相关推荐

最新文章

热门文章