通俗理解极大似然估计
维基百科：在统计学中，最大似然估计（英语：Maximum Likelihood Estimation，简作MLE），也称极大似然估计，是用来估计一个概率模型的参数的一种方法
极大似然估计，通俗理解来说，就是利用已知的样本结果信息，反推最具有可能（最大概率）导致这些样本结果出现的模型参数值！
换句话说，极大似然估计提供了一种给定观察数据来评估模型参数的方法，即：“模型已定，参数未知”。
某件事已经发生了，我们知道这件事的概率模型，但是不知道具体的参数，我们需要找到使这件事发生概率最大对应的模型参数。
原理：
给定一个概率分布，已知其概率密度函数（连续分布）或概率质量函数（离散分布）为
，以及一个分布参数
，我们可以从这个分布中抽出一个具有个值的采样
，利用
计算出其似然函数：
若是离散分布，
即是在参数为
时观测到这一采样的概率。若其是连续分布，
则为
联合分布的概率密度函数在观测值处的取值。一旦我们获得
，我们就能求得一个关于
的估计。最大似然估计会寻找关于
的最可能的值（即，在所有可能的
取值中，寻找一个值使这个采样的“可能性”最大化）。从数学上来说，我们可以在
的所有可能取值中寻找一个值使得似然函数取到最大值，这个使可能性最大的
值即称为
的最大似然估计。由定义，最大似然估计是样本的函数。
可以这么理解，这一事件的概率密度函数是已知的，我们知道样本（采样点）服从二次函数：，我们当前知道这个函数上的几个离散点，如（1,2）， （2,4), (5,6),(2,5),现在我们要求一个最优的a，b，更加能贴近每个点，目标是使整体的误差最小，极大似然估计的原理和这个相同。
举例说明（来源维基百科）：
假设一个盒子中有无数个硬币，硬币抛出正面的概率为（硬币不是均匀的，假设对于任何的p,都有这样的硬币存在），
，我们把这个硬币抛80次（即，我们获取一个采样
并把正面的次数记下来，正面记为H，反面记为T）。因此，这里的
即相当于上边的
。假设我们抛出了49个正面，31个反面，即49次H，31次T。
· 我们来求其似然函数（这件事发生概率）的最大值：
似然函数可以理解为：我们要用未知参数的模型、事件发生的次数来把这个事件发生的概率表示出来，然后求其最大值对应的参数值
其中， 我们可以使用微分法来求极值。方程两边同时对
取微分，并使其为零。
其解为,
，以及
.使可能性最大的解显然是
,因为
,
都会使, 而
能使
为最大值，因为函数的最大值在零点处，另外两个零点都不是函数的最大值，那么这个一定是函数的最大值。因此我们说最大似然估计值为
，即这个盒子中硬币正面朝上的概率为
。
最大似然估计出来的参数值，只有当实验次数很大时才具有一定的可信度，假如上面的例子实验了1000次，发现正面朝上的次数为501次，反面朝上的概率为499，那么采用最大似然估计出来的正面朝上的概率值， 这个值会更加接近真实的模型参数值。
推荐：极大似然估计详解_知行流浪-CSDN博客_极大似然估计
原文：一文搞懂极大似然估计 - 知乎
最大似然估计 - 维基百科，自由的百科全书 (wikipedia.org)
通俗理解极大似然估计相关推荐
- 通俗理解“极大似然估计”
文章目录 前言 1. 似然估计 1.1 下定义 1.2 举例子 1.3 推公式 1.3.1 概率函数 1.3.2 似然函数 1.4 为什么要估计参数的似然性? 2. 极大似然估计 2.1 一般概念 2 ...
- 【转载】通俗理解极大似然估计
看了一些相关帖子,感觉这篇写的不错. https://www.sohu.com/a/235713737_466874
- 如何理解极大似然估计？
文章目录 1 引入 2 分析 3 总结 4 补充 1 引入 首先,来看这样一个例子: 一口袋中有许多红球和白球,只知道数目比例为 1 : 3 1:3 1:3,不知道哪种多,通过实验来判断红球占的比例是 ...
- 伽马分布极大似然估计_一文通俗解释极大似然估计
我们都知道机器学习的大致流程是通过建立一个合理的模型学习现有数据集,然后通过该模型去完成特定的任务.其中每个模型都包含自身的一组特定参数,而这组参数决定着模型的本身.但这里存在一个很关键的一个问题,就 ...
- 如何通俗地理解“极大似然估计”？
博客内容搬运自https://www.matongxue.com/madocs/447.html 前言 最大似然估计说的就是,如果事情发生了,那必然是概率最大的. 一般来说,我们都觉得硬币是公平的,也 ...
- 简单理解极大似然估计MLE
简单理解极大似然估计(MLE) 基本思想 使数据集中数据出现的概率(似然)最大 举例描述 假设某一个新闻文档数据集下有体育.财经.游戏等分类,已知体育类下的所有文档中"篮球"一词出 ...
- 极大似然估计_干货|一文理解极大似然估计
一.什么是极大似然估计 极大似然估计是一种参数估计的方法.它要解决这样一个问题:给定一组数据和一个参数待定的模型,如何确定模型的参数,使得这个确定参数后的模型在所有模型中产生已知数据的概率最大. 通俗 ...
- 什么是极大似然估计？
● 每周一言 坚持一定是有毅力,但有毅力不一定能坚持. 导语 统计学中,我们经常能听到极大似然估计,或者最大似然估计,它是一种参数估计方法.在机器学习中,逻辑回归就是基于极大似然估计来计算的损失函数. ...
- 透彻理解机器学习中极大似然估计MLE的原理（附3D可视化代码)
文章目录 相关资料 一.什么是概率,什么是似然 二.极大似然估计 Maximum Likelihood Estimation (MLE) 的含义 2.1 机器学习中的极大化似然函数 2.2 极大似然估 ...
最新文章
- 知识点丨你一定要了解的Win10 RS2重大更新，绝不只是装补丁！
- vue配置文件读取_Vue+Spring Boot简单用户登录Demo实现
- SAP中有关差异的一些概念
- 简单有趣的 NLP 教程：手把手教你用 PyTorch 辨别自然语言（附代码）
- C++ Vector的使用
- 写代码爬取了某 Hub 资源，只为撸这个鉴黄平台！
- 1584 - Circular Sequence
- （79）FPGA复位激励（initial）
- Ubuntu中DenyHosts安装及配置
- 二分--求最小值的最大p1m2
- 「leetcode」406.根据身高重建队列【贪心算法】详解-续集！
- 饿了么异地多活技术实现
- Python3-问题整理
- idea运行报Command line is too long
- oracle 本地数据库卸载,完美卸载Oracle数据库
- [转载]斐讯K2 A2版免TTL刷BREED不死Bootloader
- Java实现批量下载《神秘的程序员》漫画
- 迅雷插件会导致IE8假死
- frame切换/窗口切换
- fsolve：对非线性方程组求解