简单理解极大似然估计MLE

2024-04-17 05:12:08

简单理解极大似然估计（MLE）

基本思想

使数据集中数据出现的概率（似然）最大

举例描述

假设某一个新闻文档数据集下有体育、财经、游戏等分类，已知体育类下的所有文档中“篮球“一词出现了100次（可以统计得出，此处为了方便表示取成100），体育类下所有文档的总的词汇有10000个（可以统计得出）。我们想要估计在体育类下“篮球“一词出现的概率P(t=”篮球” | c = “体育“) 。
为了方便描述首先我们将概率P(t=”篮球” | c = “体育“) 记为p1p_1。根据上面的基本思想，概率p1p_1的取值应该让体育类中出现100次篮球的概率最大，那么体育类下10000个单词中出现100次词汇篮球的概率可以表示成 f(p1)=C10010000p1001(1−p1)10000−100f(p_1) = C_{10000}^{100}p_1^{100}(1-p_1)^{10000-100}。
要让上述概率最大，我们只需要对p1p_1进行求导，令导数等与0，从而得到上述概率表示的极大值也是最大值，此时求得p1=10010000p_1 = \frac{100}{10000}。

总结一下，极大似然就是对于某个事件的概率p，p使得观测数据集中对应该事件取值为最大。即使给定数据集中某个事件出现的概率最大。

简单理解极大似然估计MLE相关推荐

透彻理解机器学习中极大似然估计MLE的原理（附3D可视化代码)
文章目录相关资料一.什么是概率,什么是似然二.极大似然估计 Maximum Likelihood Estimation (MLE) 的含义 2.1 机器学习中的极大化似然函数 2.2 极大似然估 ...
如何理解极大似然估计？
文章目录 1 引入 2 分析 3 总结 4 补充 1 引入首先,来看这样一个例子: 一口袋中有许多红球和白球,只知道数目比例为 1 : 3 1:3 1:3,不知道哪种多,通过实验来判断红球占的比例是 ...
通俗理解极大似然估计
维基百科:在统计学中,最大似然估计(英语:Maximum Likelihood Estimation,简作MLE),也称极大似然估计,是用来估计一个概率模型的参数的一种方法极大似然估计,通俗理解来说 ...
通俗理解“极大似然估计”
文章目录前言 1. 似然估计 1.1 下定义 1.2 举例子 1.3 推公式 1.3.1 概率函数 1.3.2 似然函数 1.4 为什么要估计参数的似然性? 2. 极大似然估计 2.1 一般概念 2 ...
如何通俗地理解“极大似然估计”？
博客内容搬运自https://www.matongxue.com/madocs/447.html 前言最大似然估计说的就是,如果事情发生了,那必然是概率最大的. 一般来说,我们都觉得硬币是公平的,也 ...
极大似然估计_干货|一文理解极大似然估计
一.什么是极大似然估计极大似然估计是一种参数估计的方法.它要解决这样一个问题:给定一组数据和一个参数待定的模型,如何确定模型的参数,使得这个确定参数后的模型在所有模型中产生已知数据的概率最大. 通俗 ...
【转载】通俗理解极大似然估计
看了一些相关帖子,感觉这篇写的不错. https://www.sohu.com/a/235713737_466874
Python实现极大似然估计
概念现实中任何随机变量的概率分布函数都是未知的. 如果假定随机变量服从某种分布(如正态分布),可以通过统计手段来计算该分布的参数,这种方法称为参数估计. 极大似然估计(Maximum Likelih ...
什么是极大似然估计？
● 每周一言坚持一定是有毅力,但有毅力不一定能坚持. 导语统计学中,我们经常能听到极大似然估计,或者最大似然估计,它是一种参数估计方法.在机器学习中,逻辑回归就是基于极大似然估计来计算的损失函数. ...

最新文章

热门文章