[模式识别].(希腊)西奥多里蒂斯lt;第四版gt;笔记5之_

1，引言

有关模式识别的一个主要问题是维数灾难。我们将在第7章看到维数非常easy变得非常大。

减少维数的必要性有几方面的原因。计算复杂度是一个方面。还有一个有关分类器的泛化性能。

因此，本章的主要任务是：在尽可能保留特征的分类判别信息前提下，来选择重要的和维数少的特征量。这个过程被称作特征选择或者特征降维。

定量描写叙述来讲，选择的特征应该使得类内距离减小，类间距离增大。

一些文献表述中使用feature extraction,而不是我们本文使用的featureselection。这将会和第7章的一些描写叙述有些冲突。

2。预处理

① 离群值删除（outlier removal）

离群值定义为偏离相关变量均值较大的点

② 数据归一化

很多特征值位于不同的动态阈中。而大的特征值对损耗函数会有较大影响。所以归一化到相似阈值会有帮助。

③ 缺失数据

一些特征会从特征量量中缺失。比如遥感在特定区域被其它传感器覆盖的情况就是如此。

3。峰值现象

4，基于统计如果的特征选取

5,接收操作（THE RECEIVER OPERATING）特性曲线

6。类可分性度量

7。特征子集选取

8，最优特征代（OPTIMAL FEATURE GENERATION）

9。神经网络和特征选取

10，一个提示泛化理论

11。贝叶斯信息标准

[模式识别].(希腊)西奥多里蒂斯lt;第四版gt;笔记5之__特征选取相关推荐

[模式识别].(希腊)西奥多里蒂斯lt;第四版gt;笔记8它__模板匹配
在语音识别方面,同样的话都是同一个人,每次说的情况是不同的,难以识别.本章是定义如何适应不同的情况有不同的特性指标. 1,基于最优路径搜索的度量:①贝尔曼最优性原则和动态编程②编辑距离(The E ...
[模式识别].(希腊)西奥多里蒂斯第四版笔记3之__线性分类器
1,线性分类器主要优点是他们的简化和计算吸引力 2,线性判别函数和决策超平面 3,感知器算法 4,最小二乘法:均方误差估计:随机近似和LMS算法:方差和估计 5,均方估计回顾:均方误差回归:MSE估计 ...
[模式识别].(希腊)西奥多里蒂斯第四版笔记2之__基于贝叶斯决策理论的分类器
本章的主要工作在基于训练集的特征向量,估计概率密度函数. 1,贝叶斯决策理论条件概率公式.其中P(w)为先验概率,P(x|w)为类条件概率密度 2,基于正态分布的贝叶斯分类高斯分布和正态分布是最常 ...
[模式识别].(希腊)西奥多里蒂斯第四版笔记1之__模式识别相关领域
1. 模式识别相关领域 ① Machine vision, ② Character (letter or number)recognition->Optical character recog ...
[模式识别].(希腊)西奥多里蒂斯第四版笔记4之__非线性分类器
1,Exclusive OR(XOR)Booleanfunction问题布尔量AND和OR是线性可分的 2,两层感知器对Figure4.1中A类和B类,首先能想到的是画两条直线.如图Figure4 ...
[模式识别].(希腊)西奥多里蒂斯第四版笔记7之__feature generation (2)
本章将关注图像分析领域的feature generation. 1,区域特征:①纹理特性②局部线性变换提取纹理特征③矩④参数模型 2,形状和尺寸特征:①傅里叶特征②链式编码,它是边界形状描述最常用的技 ...
[模式识别].(希腊)西奥多里蒂斯第四版笔记6之__feature generation (1)：数据转换和降维
1,单值分解:线性代数的重要部分,已经被广泛用于模式识别中的降维和信息检索应用中. 2,独立成分分析 3,非负矩阵分解 4,非线性降维算法:① kernel PCA②基于图的方法(拉普拉斯算子,Loc ...
[模式识别].(希腊)西奥多里蒂斯第四版笔记9之__context-based classification
本章的假设前提是不同类之间存在相关性.连续的特征向量不是孤立的. 1,贝叶斯分类器 2,马尔科夫链模型 3,the viterbi algorithm 4, 信道均衡(channel equaliza ...
[模式识别].(希腊)西奥多里蒂斯第四版笔记8之__模板匹配
对语音识别来讲,同一个单词被同一个人每次说的情况都不同,给识别带来困难.本章讨论的就是对不同的情形如何定义适应不同特性的度量. 1,基于最优路径搜索的度量:①贝尔曼最优性原则和动态编程②编辑距离( ...

[模式识别].(希腊)西奥多里蒂斯lt;第四版gt;笔记5之__特征选取

[模式识别].(希腊)西奥多里蒂斯lt;第四版gt;笔记5之__特征选取相关推荐

最新文章

热门文章