二维正态分布的最大似然估计_最大似然估计-高斯分布

前言：介绍了最简单的

问题

(这里都是玩具数据，为了方便理解才列出)

0123456789101112

4.2

4.4

4.6

4.8

假设 x = 4.9 用科学的办法估计 y 的分类。

预备知识

高斯分布的概率密度函数

理解

通常用「概率密度函数」代替概率，仅仅去比较大小。还有其他的分布，我也没有去深挖 :)。而不是直接求出概率。这非常重要！！！

求解问题

写出这个数据集的似然函数

还记得之前我们说过的「似然函数」吗？现在写出这个数据的「似然函数」

P(y=0 | x) = P(y=0 | x=1)P(y=0 | x=2)P(y=0 | x=3)P(y=0 | x=4)P(y=0 | x=5)P(y=0 | x=6)P(y=0 | x=7)P(y=0 | x=8)

P(y=1 | x) = P(y=1 | x=4.2)P(y=0 | x=4.4)P(y=0 | x=4.6)P(y=0 | x=4.8)

似然函数的本质描述出现这个情形的概率，最大化它即是是这个情形出现的概率最大。现在遇到了一个问题，我们无法写出等式左边的每一项。就更别谈最大化似然函数了。

常用的方法用概率密度函数替代概率。

比如：把 x = 1 带入概率密度函数代替 P(y=0 | x=1)。

所以最大化多个概率相乘变为了，最大化多个概率密度函数的相乘

最大化多个概率密度函数的相乘

取对数求导，并让导数为 0 。最后能得到一个非常舒适的结论。

最大化似然函数

解决问题

现在求得两组 (mu, sigma), (mu, sigma) 用来分别表示。

y = 1 时，最符合数据的概率密度函数 1

y = 0 时，最符合数据的概率密度函数 2

将 x = 4.9 分别带入函数 1、函数 2 中比较大小，最后确定 y 的类别。

最后总结

似然函数用来描述：已知情况的概率随参数变化的图像

最大化似然函数能得到，使这个情况出现概率最大的参数。

但是有时候，不能写出概率。常用概率密度函数代替概率。这非常重要。

如果假设高斯分布，那么通过「最大似然估计」会得到一个非常舒适的结果。见上述图片

最后结果的导出，使用概率密度函数来代替概率求解。

二维正态分布的最大似然估计_最大似然估计-高斯分布相关推荐

一维正态分布、二维正态分布的matlab实现
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% %本程序用于产生一维正态分布.二维正态分布 %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% ...
二维正态分布matlab程序,一维正态分布、二维正态分布的matlab实现
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% %本程序用于产生一维正态分布.二维正态分布 %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% ...
一维、二维正态分布概率密度曲线的绘制
在MATLAB中使用 Y = normpdf(X,MU,SIGMA)函数求一维正态分布的概率密度,其中X为随机矢量,MU为期望,SIGMA为标准差 matlab代码如下: x=-8:0.1:8; y1 ...
概率论笔记（六）一维正态分布/二维正态分布/多维正态分布
文章目录一:一维正态分布二:二维正态分布/多维正态分布三:各向同性正态分布一:一维正态分布二:二维正态分布/多维正态分布三:各向同性正态分布各向同性的高斯分布(球形高斯分布)指的是各个方 ...
【概率论】5-10:二维正态分布(The Bivariate Normal Distributions)
title: [概率论]5-10:二维正态分布(The Bivariate Normal Distributions) categories: - Mathematic - Probability k ...
matlab画二维正态等密度曲线,matlab:画二维正态分布密度函数图
首先,把二维正态分布密度函数的公式贴这里这只图好大啊~~ 但是上面的那个是多维正态分布的密度函数的通式,那个n阶是对称正定方阵叫做协方差矩阵,其中的x,pi,u都是向量形式.虽然这个式子很酷,但是用 ...
证明二维正态分布中的参数ρ为相关系数
在二维正态分布中,参数 ρ\rhoρ 被定义为随机变量 X,YX,YX,Y 的相关系数,即 ρ=r(x,y)\rho=r(x,y)ρ=r(x,y).由 r(x,y)=Cov(x,y)Var[x]Var ...
二维正态分布的参数与概率密度图形
用 Microsoft Mathematics 绘制二维正态分布的概率密度图形,参数可以交互地调整. N(μ1, μ2; σ1, σ2, ρ) 下载二维正态概率密度.gcw 然后点击重绘图形 μ1 ...
python二维正态分布
# -*- coding:utf-8 -*- import numpy as np from scipy import stats import math import matplotlib as m ...
机器视觉学习之--贝叶斯学习 MATLAB二维正态分布二维图
1.贝叶斯介绍我个人一直很喜欢算法一类的东西,在我看来算法是人类智慧的精华,其中蕴含着无与伦比的美感.而每次将学过的算法应用到实际中,并解决了实际问题后,那种快感更是我在其它地方体会不到的. 一直想 ...

二维正态分布的最大似然估计_最大似然估计-高斯分布

二维正态分布的最大似然估计_最大似然估计-高斯分布相关推荐

最新文章

热门文章