非参数概率密度估计

概率:特征空间中一定区域内样本的比率。

密度:局部区域内概率的平均值(假设局部区域【体积为V,样本数为k】内等概率密度)

pn(x)表示对p(x)的第n次估计

非参数概率密度估计

parzen window:固定局部区域体积V,k变化

k-nearest neighbor:固定局部样本数k,V变化

parzen window

-窗函数
1、满足条件
比如高斯函数,就是满足该条件的窗函数
2、
(why?)
3、

k近邻估计

1维:
x到x-k近邻的两倍!!!
ki:来自第i个类别的个数
第二个公式:联合概率密度
第三个公式:后验概率
最近邻规则(k=1)
测试样本点x在集合中距离其最近的点记为x’
每个样本都有一个局部区域
加*表示贝叶斯的错误率

参考资料:

中国科学院大学硕士课《模式识别》ppt

模式识别学习笔记(9)——非参数方法相关推荐

  1. 模式识别学习笔记(1)——基本概念

    模式识别学习笔记--绪论 一.从数据集D中产生训练集S和测试集T,主要有以下方法: --hold-out(留出法) --cross-validation(交叉验证法) --bootstrapping( ...

  2. 模式识别学习笔记(一)模式识别初认识

    这是本人第一次写博客,把学到的东西以及自己的理解用类似于学习笔记的形式表达出来.如果有不妥的地方,希望大家指正.谢谢! 一.模式识别的定义 关于模式识别(pattern recognition)的定义 ...

  3. 模式识别学习笔记-lecture2-统计判别1

    作为统计判别问题的模式分类 模式识别的目的就是要确定某一个给定的模式样本属于哪一类 输入:被识别对象的特征向量 输出:被识别样本的类别 贝叶斯判别原则 两类模式集的分类 目的:要确定xxx是属于ω1\ ...

  4. 模式识别学习笔记(3)——高斯概率密度

    概率密度估计方法 参数法:只需将均值和协方差矩阵保存下来,就可知道其分布. 半参数法:GM通过解析求解:期望最大化是极大似然估计的特例,多次迭代才能求得 高斯密度函数 牢记密度函数公式!!! 把协方差 ...

  5. 模式识别学习笔记(1)概率论基础知识

    大学的时候,我的<概率论和数理统计>这门课一共挂过3次,而且我记得最后一次考过的时候刚刚及格,只有60分.你可以想象我的<概率论>这门课学的是有多差了.后来,我工作以后,在学习 ...

  6. XY的模式识别学习笔记-最小平方误差准则分类 MSE

    最小平方误差准则分类 MSE 最小平方误差准则分类 定义 简单例题及Matlab代码实现 大三数学狗,记录一下学习过程. 最小平方误差准则分类 定义 对线性不可分的样本集,不等式组 a T y i & ...

  7. 模式识别学习笔记——第2章—2.4 两类错误率、Neyman-Pearson决策与ROC曲线

    上一节学习了决策表,这一节我们在只有两类情况的决策表中继续深入研究.假设现在我们有两类状态分别是阳性和阴性.可以绘制出如下的决策表: 截至<模式识别(第三版)>阳性阴性状态与决策的可能性关 ...

  8. 模式识别学习笔记之——统计决策方法

    统计决策方法 1.一个简单的例子引出一些基本概念 假如我手里拿着一枚硬币,让你猜是多少钱的硬币,这其实就可以看作是一个分类决策的问题:你需要从各种可能的硬币中做出一个决策.如果我告诉你这是一枚一角或五 ...

  9. 模式识别学习笔记(10)——距离度量

    距离度量 度量会影响分类性能 metric learning(度量学习) -Parameters in metric optimized in learning (e.g., empirical ri ...

最新文章

  1. java打字母小游戏总结与收获,java:打字母小游戏demo
  2. docker几个基础命令及nodejs容器
  3. 2017/Province_Java_C/2、兴趣小组
  4. 【Python入门】for循环的易错点
  5. Spring JDBC 框架一个最简单的Hello World级别的例子
  6. Matlab功率谱估计
  7. C++ 的几个for 循环,范围for语句
  8. mysql查询时间段内的数据
  9. php fpm在哪配置,php7的php-fpm.conf文件在哪里
  10. 判别性的低秩字典学习代码matlab,基于分类的判别性字典学习的稀疏编码算法研究...
  11. python 强制转换成字符_Python笔记(三)
  12. og 的 debug()、 error()、 info()方法的区别
  13. 传B站35岁女副总裁嫁给24岁男主播!女方资产80亿,任职45家企业
  14. java程序(1016)
  15. python小学教材全解_小学教材全解五年级数学上人教版
  16. 解决 error: Raw kernel process exited code: 3221226505
  17. win10鼠标右边光圈一直闪烁,原因是
  18. QGIS编译---QGIS2.14.16 + Qt4.8.6 + VS2010 ---32位版本
  19. 03 Jme3和Nifty1.4.2中文显示
  20. 视频文件损坏怎么修复?简单的修复办法分享

热门文章

  1. 第一回:Matplotlib初相识
  2. SpringBoot实现数据加密传输
  3. (AI)联通logo练习
  4. np.digitize()函数
  5. 计算机创意作品画图,快乐画图 趣味画图 创意画图
  6. ubuntu卸载永中office2012青年版
  7. JavaScript知识点-周4.md
  8. 最小二乘法实现C++
  9. step by step css样式,DIV+CSS的StepByStep步骤导航栏.
  10. win7开机突然变得很慢_win7突然开机变慢怎么办?