模式识别学习笔记（3）—

概率密度估计方法

参数法：只需将均值和协方差矩阵保存下来，就可知道其分布。

半参数法：GM通过解析求解；期望最大化是极大似然估计的特例，多次迭代才能求得

高斯密度函数

牢记密度函数公式！！！

把协方差矩阵对角化，即将其变为对角矩阵，除主对角线上的元素外其余元素全为0.

马氏距离相等的点构成的是等密度点轨迹.

白化变换参考：https://www.cnblogs.com/kevinGaoblog/archive/2012/06/20/2556335.html

The whitening transformation is a decorrelation method which transforms a set of random variables having the covariance matrix Σ into a set of new random variables whose covariance is aI, where a is a constant and I is the identity matrix. The new random variables are uncorrelated and all have variance 1. The method is called "whitening" because it transforms the input matrix to the form of white noise, which by definition is uncorrelated and has uniform variance. It differs from decorrelation in that the variances are made to be equal, rather than merely making the covariances zero. That is, where decorrelation results in a diagonal covariance matrix, whitening produces a scalar multiple of the identity matrix.

linear discrimination function（3 cases）

学习笔记2、3，总的内容：

贝叶斯决策的错误率是理论上的，因为贝叶斯是理想的（最优）分类器。但这个错误率很重要，因为贝叶斯错误率是我们做研究时的错误率下限，即我们的错误率一定比贝叶斯错误率高！

参考资料：

中国科学院大学硕士课《模式识别》ppt

模式识别学习笔记（3）——高斯概率密度相关推荐

模式识别学习笔记（1）——基本概念
模式识别学习笔记--绪论一.从数据集D中产生训练集S和测试集T,主要有以下方法: --hold-out(留出法) --cross-validation(交叉验证法) --bootstrapping( ...
模式识别学习笔记-lecture2-统计判别1
作为统计判别问题的模式分类模式识别的目的就是要确定某一个给定的模式样本属于哪一类输入:被识别对象的特征向量输出:被识别样本的类别贝叶斯判别原则两类模式集的分类目的:要确定xxx是属于ω1\ ...
模式识别学习笔记（9）——非参数方法
非参数概率密度估计概率:特征空间中一定区域内样本的比率. 密度:局部区域内概率的平均值(假设局部区域[体积为V,样本数为k]内等概率密度) pn(x)表示对p(x)的第n次估计非参数概率密度估计 ...
模式识别学习笔记（一）模式识别初认识
这是本人第一次写博客,把学到的东西以及自己的理解用类似于学习笔记的形式表达出来.如果有不妥的地方,希望大家指正.谢谢! 一.模式识别的定义关于模式识别(pattern recognition)的定义 ...
模式识别学习笔记（1）概率论基础知识
大学的时候,我的<概率论和数理统计>这门课一共挂过3次,而且我记得最后一次考过的时候刚刚及格,只有60分.你可以想象我的<概率论>这门课学的是有多差了.后来,我工作以后,在学习 ...
模式识别学习笔记之——统计决策方法
统计决策方法 1.一个简单的例子引出一些基本概念假如我手里拿着一枚硬币,让你猜是多少钱的硬币,这其实就可以看作是一个分类决策的问题:你需要从各种可能的硬币中做出一个决策.如果我告诉你这是一枚一角或五 ...
模式识别学习笔记（2）——贝叶斯决策
贝叶斯决策理论生成模型:一个类别一个类别进行训练判别模型:将多个类别的样本放在一起分析训练参数模型非参数模型:无函数形式半参数:多个高斯函数混合而成,可表示任意分布的密度函数最小错误率决策 ...
XY的模式识别学习笔记-最小平方误差准则分类 MSE
最小平方误差准则分类 MSE 最小平方误差准则分类定义简单例题及Matlab代码实现大三数学狗,记录一下学习过程. 最小平方误差准则分类定义对线性不可分的样本集,不等式组 a T y i & ...
模式识别学习笔记——第2章—2.4 两类错误率、Neyman-Pearson决策与ROC曲线
上一节学习了决策表,这一节我们在只有两类情况的决策表中继续深入研究.假设现在我们有两类状态分别是阳性和阴性.可以绘制出如下的决策表: 截至<模式识别(第三版)>阳性阴性状态与决策的可能性关 ...

模式识别学习笔记（3）——高斯概率密度

模式识别学习笔记（3）——高斯概率密度相关推荐

最新文章

热门文章