Maximum Likelihood (MLE) Maximum a posteriori (MAP)的分別

有趣且浅显易懂的举例

刚刚在找MAP的资料，无意中找到有人写的一个有趣的文章，拿减肥当例子真的是浅显易懂 XD

如果拿 Artificial Intelligence: A Modern Approach (ISBN-10: 0137903952, ISBN-13: 978-0137903955 , find it in Amazon)这本书里头的例子来说的话是这样：

假设有五个袋子，各袋中都有无限量的饼干(樱桃口味或柠檬口味)，已知五个袋子中两种口味的比例分别是

樱桃 100%

樱桃 75% + 柠檬 25%

樱桃 50% + 柠檬 50%

樱桃 25% + 柠檬 75%

柠檬 100%

如果只有如上所述条件，那问从同一个袋子中连续拿到2个柠檬饼干，那么这个袋子最有可能是上述五个的哪一个？其实答案很明显为#5，因为从#5袋子连续拿到五个柠檬口味饼干的机率为1，其它#1~#4分别为0, 0.25^2, 0.5^2, 0.75^2，这时候我们是用MLE来解。

但是今天如果多增加一些条件，假设拿到#1或#5的机率都是0.1，拿到#2或#4的机率都是0.2，拿到#3的机率是0.4，那同样上述问题的答案呢？这个时候就变MAP了。

假设 P(hi | d) 为挑中第i个袋子然后连续拿出2个柠檬口味的饼干，那么根据Bayesian Prob.

P(hi | d) = P(hi) P(d | hi)/P(d)

而其中P(d) = 1 (因为已经说连续拿出2个柠檬口味饼干了)，P(hi)则分别为(0.1, 0.2, 0.4, 0.2, 0.1)，P(d | hi)分别为(0, 0.25^2, 0.5^2, 0.75^2, 1^2)，这样就可以算出P(hi | d)，结果会发现P(h4 | d) (第4个袋子)为最高。

转载于:https://www.cnblogs.com/ysjxw/archive/2008/04/23/1167707.html

Maximum Likelihood (MLE) Maximum a posteriori (MAP)的分別相关推荐

很好的例子理解区别 Maximum Likelihood (ML) Maximum a posteriori (MAP)
节食一定会瘦, 而食减肥药有一半机会瘦. P(瘦|节食)=1 P(瘦|食减肥药)=0.5 A女士很瘦. By Maximum Likelihood(ML),则A女士最大机会节食. 但如果 given ...
机器学习基础：最大似然（Maximum Likelihood）和最大后验估计（Maximum A Posteriori Estimation）的区别
前言在研究SoftMax交叉熵损失函数(Cross Entropy Loss Function)的时候,一种方法是从概率的角度来解释softmax cross entropy loss functi ...
极大似然估计（Maximum Likelihood Estimattion Theory）是什么？极大似然估计的本质思想是什么？为什么极大似然可以作为损失函数使用？负对数似然损失函数（Negative
极大似然估计(Maximum Likelihood Estimattion Theory)是什么?极大似然估计的本质思想是什么?为什么极大似然可以作为损失函数使用?负对数似然损失函数(Negative ...
极大似然估计 —— Maximum Likelihood Estimation
1 引入机器学习中,经常会遇到极大似然估计 (Maximum Likelihood Estimation, MLE) 这个名词,它的含义是什么?它能够解决什么问题?我们该如何理解并使用它?本篇就对此 ...
Lab 4: Phylogenetic Reinference Using Maximum Likelihood
Lab 4: Phylogenetic Reinference Using Maximum Likelihood [!TOC] 来自吴茂英老师的Exercise Learning Objectives ...
【声源定位】球面散乱数据插值方法/似然估计hybrid spherical interpolation/maximum likelihood (SI/ML) 麦克风阵列声源定位
1.软件版本 MATLAB2021a 2.本算法理论知识点球面散乱数据插值方法/似然估计SI/ML 麦克风阵列声源定位 3.算法具体理论这个部分的程序如下所示: 这个部分理论如下所示: 本文最后的 ...
机器学习之数学基础(一)～maximum likelihood
一.转载博客转载在:https://www.douban.com/note/640290683/ 注0:<deep learning>的chapter 5有一部分讲maximum lik ...
[转载]什么是似然度～maximum likelihood
转载在:https://www.douban.com/note/640290683/ 注0:<deep learning>的chapter 5有一部分讲maximum likelihood ...
【机器学习算法-python实现】最大似然估计(Maximum Likelihood)
1.背景最大似然估计是概率论中常常涉及到的一种统计方法.大体的思想是,在知道概率密度f的前提下,我们进行一次采样,就可以根据f来计算这个采样实现的可能性.当然最大似然可以有很多变化,这里实现一种简单 ...

Maximum Likelihood (MLE) Maximum a posteriori (MAP)的分別

Maximum Likelihood (MLE) Maximum a posteriori (MAP)的分別相关推荐

最新文章

热门文章