【转载】混合高斯模型(Mixtures of Gaussians)和EM算法
混合高斯模型(Mixtures of Gaussians)和EM算法
这篇讨论使用期望最大化算法(Expectation-Maximization)来进行密度估计(density estimation)。
与k-means一样,给定的训练样本是,我们将隐含类别标签用表示。与k-means的硬指定不同,我们首先认为是满足一定的概率分布的,这里我们认为满足多项式分布,,其中,有k个值{1,…,k}可以选取。而且我们认为在给定后,满足多值高斯分布,即。由此可以得到联合分布。
整个模型简单描述为对于每个样例,我们先从k个类别中按多项式分布抽取一个,然后根据所对应的k个多值高斯分布中的一个生成样例,。整个过程称作混合高斯模型。注意的是这里的仍然是隐含随机变量。模型中还有三个变量和。最大似然估计为。对数化后如下:
这个式子的最大值是不能通过前面使用的求导数为0的方法解决的,因为求的结果不是close form。但是假设我们知道了每个样例的,那么上式可以简化为:
这时候我们再来对和进行求导得到:
就是样本类别中的比率。是类别为j的样本特征均值,是类别为j的样例的特征的协方差矩阵。
实际上,当知道后,最大似然估计就近似于高斯判别分析模型(Gaussian discriminant analysis model)了。所不同的是GDA中类别y是伯努利分布,而这里的z是多项式分布,还有这里的每个样例都有不同的协方差矩阵,而GDA中认为只有一个。
之前我们是假设给定了,实际上是不知道的。那么怎么办呢?考虑之前提到的EM的思想,第一步是猜测隐含类别变量z,第二步是更新其他参数,以获得最大的最大似然估计。用到这里就是:
循环下面步骤,直到收敛: { (E步)对于每一个i和j,计算 (M步),更新参数: } |
在E步中,我们将其他参数看作常量,计算的后验概率,也就是估计隐含类别变量。估计好后,利用上面的公式重新计算其他参数,计算好后发现最大化最大似然估计时,值又不对了,需要重新计算,周而复始,直至收敛。
的具体计算公式如下:
这个式子利用了贝叶斯公式。
这里我们使用代替了前面的,由简单的0/1值变成了概率值。
对比K-means可以发现,这里使用了“软”指定,为每个样例分配的类别是有一定的概率的,同时计算量也变大了,每个样例i都要计算属于每一个类别j的概率。与K-means相同的是,结果仍然是局部最优解。对其他参数取不同的初始值进行多次计算不失为一种好方法。
虽然之前再K-means中定性描述了EM的收敛性,仍然没有定量地给出,还有一般化EM的推导过程仍然没有给出。下一篇着重介绍这些内容。
转载于:https://www.cnblogs.com/daleloogn/p/4228219.html
【转载】混合高斯模型(Mixtures of Gaussians)和EM算法相关推荐
- 基于Python实现k-means算法和混合高斯模型
1. 实验目的 实现一个 k-means 算法和混合高斯模型,并且用 EM 算法估计模型中的参数. 2. 实验要求 用高斯分布产生 k 个高斯分布的数据(不同均值和方差)(其中参数自己设定). 用 k ...
- 混合高斯模型(Mixtures of Gaussians)和EM算法
与k-means一样,给定的训练样本是,我们将隐含类别标签用表示.与k-means的硬指定不同,我们首先认为是满足一定的概率分布的,这里我们认为满足多项式分布,,其中,有k个值{1,-,k}可以选取. ...
- 混合高斯模型(GMM)推导及实现
作者:桂. 时间:2017-03-20 06:20:54 链接:http://www.cnblogs.com/xingshansi/p/6584555.html 前言 本文是曲线拟合与分布拟合系列的 ...
- 混合高斯模型(matlab)
推荐博客:http://blog.csdn.net/crzy_sparrow/article/details/7413019 背景模型有很多种,其中很多方法对光照的的突变和其它因素的适应能力不够,而高 ...
- python opencv 背景建模 混合高斯模型
本文转载自别人博客 混合高斯模型:在进行前景检测前,先对背景进行训练,对图像中每个背景采用一个混合高斯模型进行模拟,每个背景的混合高斯的个数可以自适应.然后在测试阶段,对新来的像素进行GMM匹配,如果 ...
- 聚类(1)——混合高斯模型 Gaussian Mixture Model
聚类系列: 聚类(序)----监督学习与无监督学习 聚类(1)----混合高斯模型 Gaussian Mixture Model 聚类(2)----层次聚类 Hierarchical Clusteri ...
- 混合高斯模型_EM算法求解高斯混合模型(GMM)
单维的高斯模型: 求解一维的高斯模型参数时,我们可以使用最大似然法,其对数似然函数的表达式(log-likelyhood)如下: 对均值和方差求偏导可以求的高斯分布中的 在混合高斯模型中, 记 其对数 ...
- python gmm em算法 2维数据_AI大语音(六)——混合高斯模型(GMM)(深度解析)...
1 GMM基础 高斯混合模型(GMM)指的是多个高斯分布函数的线性组合,理论上GMM可以拟合出任意类型的分布,通常用于解决同一集合下的数据包含多个不同的分布的情况. 灵魂的拷问:为什么GMM可以拟合出 ...
- ASR 混合高斯模型GMM的理解
混合高斯模型(GMM)是使用非常广泛的统计模型,一种非常高调的说法是,混合高斯模型能拟合一切数据.虽然实际还是受到很多限制,比如混合高斯分布数量需要确定等等,不难看出其强大指出.此文包含以下内容: G ...
最新文章
- 时间序列预测实例(prophet的血泪史)
- mysql 5.5 主从双向同步,请教mysql 定时 双向 主从同步問題
- 手把手教你使用TF服务将TensorFlow模型部署到生产环境
- Nacos在双击startup.cmd启动时提示:Unable to start embedded Tomcat
- 开源 java CMS - FreeCMS2.2 系统配置
- auto.js小案例
- c++实现数值的整数次方(类似pow())作用
- VC++6.0与VS2010的区别
- 计算机组成原理微课版(谭志虎主编)预习笔记
- 云课堂计算机教室怎么使用,锐捷“云课堂2.0”焕发计算机教室青春活力
- 360服务器linux版,360浏览器Linux版
- 基于MATLAB的疲劳检测
- buctoj-python 2022.6.19
- POJ 1436.Horizontally Visible Segments-线段树(区间更新、端点放大2倍)
- 一键修改Windows密码批处理
- matlab ptb安装,PTB之MATLAB编程:实验流程
- Laravel Guzzle封装
- 淮师计算机网络试题库,淮阴师范学院(淮师)计算机基础一至六章习题
- 微信 开发诡异的40029错误invalid code错误 443 failed to respond错误的解决办法
- while循环+无限循环.py