1. 正态分布的极大似然估计

笔记来源：Maximum Likelihood For the Normal Distribution, step-by-step!!!

1.1 正态分布的参数对其形状的影响

1.1.1 μ值对正态分布的影响

1.1.2 σ值对正态分布的影响

1.2 极大似然估计

极大似然估计提供了一种给定观察数据来评估模型参数的方法【引用自：一文搞懂极大似然估计】

P(所求 | 已知)、L(所求 | 已知)
概率是已知模型和参数，推数据 P(x∣μ,σ)P(x|\mu,\sigma)P(x∣μ,σ)

统计是已知数据，推模型和参数 L(μ,σ∣x)L(\mu,\sigma|x)L(μ,σ∣x)【引用自：详解最大似然估计（MLE）、最大后验概率估计（MAP），以及贝叶斯公式的理解】

我们简单的计算一下某个数据32在两个正态分布下的似然值
L(μ=28，σ=2∣x=32)L(μ=30，σ=2∣x=32)L(\mu=28，\sigma=2\ |\ x=32)\\ L(\mu=30，\sigma=2\ |\ x=32) L(μ=28，σ=2 ∣ x=32)L(μ=30，σ=2 ∣ x=32)

寻找极大似然估计的流程解释：
1.固定标准差，改变均值，计算出所给数据在正态分布（标准差相同、均值不同）下的似然值，绘制均值似然值函数图像，函数图像导数为0的地方就是均值的极大似然
2.将第一步中找到的均值最大似然固定下来，这次我们只改变标准差，计算出所给数据在正态分布（均值相同、标准差不同）下的似然值，绘制标准差似然值函数图像，函数图像导数为0的地方就是标准差的极大似然

因为要完成上面流程需要大于1个观测数据，但为了解极大似然估计图像如何绘制，我们这里先以一个数据来展示

寻找最优标准差需要大于1个数据

接下来进入正题：计算n个数据的极大似然估计

为方便处理，我们将上式两端同时取对数
取对数不改变极值的位置

首先对上面的等式求μ\muμ的偏导（将μ\muμ视为变量，将σ\sigmaσ视为常数），然后令其等于0，找到均值的极大似然估计

上面我们找到了均值的极大似然估计，接下来上面的等式求σ\sigmaσ的偏导（将σ\sigmaσ视为变量，将μ\muμ视为常数），找到标准差的极大似然估计

正态分布的极大似然估计相关推荐

多元正态分布的极大似然估计
多元正态分布的极大似然估计 1. 一元正态分布的密度函数一元正态分布的密度函数表示为: f ( x ) = 1 ( 2 π ) σ e − ( x − μ ) 2 2 σ 2 f(x) = \fra ...
干货 | 一文搞懂极大似然估计
极大似然估计,通俗理解来说,就是在假定整体模型分布已知,利用已知的样本结果信息,反推最具有可能(最大概率)导致这些样本结果出现的模型参数值! 换句话说,极大似然估计提供了一种给定观察数据来评估模型参数 ...
零基础掌握极大似然估计
零基础掌握极大似然估计 https://mp.weixin.qq.com/s/v98qGCz_qN_73hnYKrCQFw 1极大似然估计极大似然估计,通俗理解来说,就是在假定整体模型分布已知,利用 ...
极大似然估计_计量经济学 | 极大似然估计
写在前面:本文写作于被新冠病毒 (COVID-19) 笼罩下的英国.前段时间本人的恩师.苏格兰老爷爷.英国伯明翰大学Emeritus讲席教授Peter Sinclair确诊新冠病毒,实乃不幸.在此祝P ...
7.2 极大似然估计
7.2 极大似然估计估计类条件概率的一种常用策略是先假设其具有某种确定的概率分布形式,然后再基于训练样本对概率分布的参数进行估计,具体的说,记关于类别C的类条件概率为P(X|C),假设P(X|C ...
伽马分布极大似然估计_一文通俗解释极大似然估计
我们都知道机器学习的大致流程是通过建立一个合理的模型学习现有数据集,然后通过该模型去完成特定的任务.其中每个模型都包含自身的一组特定参数,而这组参数决定着模型的本身.但这里存在一个很关键的一个问题,就 ...
Python实现极大似然估计
概念现实中任何随机变量的概率分布函数都是未知的. 如果假定随机变量服从某种分布(如正态分布),可以通过统计手段来计算该分布的参数,这种方法称为参数估计. 极大似然估计(Maximum Likelih ...
求解极大似然估计，一共有几步？
前提知识阅读本文之前,需要了解似然函数相关的概念,详见另一篇文章如何通俗地理解"最大似然估计法"? 极大似然估计的目的就是:利用已知的样本结果,反推最有可能(最大概率)导致这样 ...
【转载】极大似然估计
原文链接:知行流浪 https://blog.csdn.net/zengxiantao1994/article/details/72787849 以前多次接触过极大似然估计,但一直都不太明白到底什么原 ...
透彻理解机器学习中极大似然估计MLE的原理（附3D可视化代码)
文章目录相关资料一.什么是概率,什么是似然二.极大似然估计 Maximum Likelihood Estimation (MLE) 的含义 2.1 机器学习中的极大化似然函数 2.2 极大似然估 ...

正态分布的极大似然估计