特征选择与特征提取（降维）

特征选择和降维

1、相同点和不同点

特征选择和降维有着些许的相似点，这两者达到的效果是一样的，就是试图去减少特征数据集中的属性(或者称为特征)的数目；但是两者所采用的方式方法却不同：降维的方法主要是通过属性间的关系，如组合不同的属性得新的属性，这样就改变了原来的特征空间；而特征选择的方法是从原始特征数据集中选择出子集，是一种包含的关系，没有更改原始的特征空间。

2、降维的主要方法

Principal Component Analysis(主成分分析)，详细见“简单易学的机器学习算法——主成分分析(PCA)”

Singular Value Decomposition(奇异值分解)，详细见“简单易学的机器学习算法——SVD奇异值分解”

Sammon’s Mapping(Sammon映射)

特征提取和特征选择都是从原始特征中找出最有效（同类样本的不变性、不同样本的鉴别性、对噪声的鲁棒性）的特征

特征提取：将原始特征转换为一组具有明显物理意义（Gabor、几何特征[角点、不变量]、纹理[LBP HOG]）或者统计意义或核的特征

特征选择：从特征集合中挑选一组最具统计意义的特征，达到降维

两者作用：

1 减少数据存储和输入数据带宽

2 减少冗余

3 低纬上分类性往往会提高

4 能发现更有意义的潜在的变量，帮助对数据产生更深入的了解

特征选择与特征提取（降维）相关推荐

机器学习之降维（特征选择与特征提取）
一.降维技术主要分为两大类:特征选择和特征提取. 基本概念:特征选择:我们可以选出原始特征的一个子集.特征提取:通过现有信息进行推演,构造出一个新的特征子空间. 为什么要降维: (1)数据的多重 ...
近红外光谱特征选择、特征提取区别及稀疏表示
近红外光谱分析技术已经在很多领域得到了广泛应用,但是实际分析过程中所采集的数据都是高维.复杂的数据信号,如何从复杂的信号中选择出建模所需要的基本数据就是所谓的近红外光谱数据特征筛选或特征选择,特征提取 ...
【机器学习入门】(12) 特征工程：特征选择、数据降维、PCA
各位同学好,今天我和大家分享一下python机器学习中的特征选择和数据降维.内容有: (1)过滤选择:(2)数据降维PCA:(3)sklearn实现那我们开始吧. 一个数据集中可能会有以下问题: ( ...
特征提取算法_基于特征选择与特征提取融合的鸡蛋新鲜度光谱快速检测模型优化...
鸡蛋新鲜度为鸡蛋运输.加工以及销售等环节中所需要考察的重要指标.随着鸡蛋新鲜度越来越受重视,新鲜度检测水平亟待提高,其中优化新鲜度检测模型.提高检测效率至关重要.近年来,国内外学者运用光谱分析.介电特 ...
【老生谈算法】matlab实现特征选择、特征提取算法——特征提取算法
特征选择.特征提取matlab算法实现(模式识别) 1.文档下载: 本算法已经整理成文档如下,有需要的朋友可以点击进行下载序号文档(点击下载) 本项目文档 [老生谈算法]特征选择.特征提取matl ...
降维：特征选择与特征提取
对于降维,我看可以简单理解为减少数据的维度,说白了就是减少变量个数.文末的视频墙裂推荐观看一下. 特征选择: 不改变变量的含义,仅仅只是做出筛选,留下对目标影响较大的变量. Backward Elim ...
《机学三》特征工程3 —— 特征选择：特征选择、数据降维
一.概述 1.1[降维] [维降]:把三维降成二维,本质就是减少特征数量: 1.2[特征选择] 什么是特征选择: 特征选择就是单纯地从提取到的所有特征中选择部分特征作为训练集特征,特征在选择前和选择后 ...
edd算法 matlab,特征选择、特征提取MATLAB算法实现(模式识别)
6特征选择 6.1问题对"threethreelarge.m"数据,采用任意一种特征选择算法,选择2个特征 6.2思路采用简单特征选择法(simple feature sele ...
数据降维（特征提取）和特征选择有什么区别？
Feature extraction和feature selection 都同属于Dimension reduction.要想搞清楚问题当中二者的区别,就首先得知道Dimension reductio ...
一、降维——机器学习笔记——降维（特征提取）
目录一.为什么要降维 1.降维的分类 2.示例二.第一部分,线性降维方法 1.[PCA]主成分分析 2.[LDA]判别分析 3.[MDS]多维尺度分析三.第二部分,非线性降维方法 1.[流形学习 ...

特征选择与特征提取（降维）

特征选择与特征提取（降维）相关推荐

最新文章

热门文章