1. 特征工程

特征工程师对原始数据进行一系列的工程处理，作为输入供算法和模型使用。
举例：想让机器识别这个图片是不是苹果，可以选择形状，颜色分布，边等作为特征
从本质上讲，特征工程是一个表示和展现数据的过程。
实际中，特征工程旨在去除原始数据中的杂质和冗余，设计更高效的特征以刻画求解问题与预测模型之间的关系

1.1 特征工程的目的

去掉数据中的杂质
构造更高级的高效的特征来描述数据。

1.2 怎么做特征工程？

特征工程一般包括三个子模块：特征构建->特征提取->特征选择

1.2.1 特征构建

根据原始数据构建新的特征，需要找出一些具有物理意义的特征。

1.2.2 特征提取

自动地构建新的特征，将原始特征转换为一组具有明显物理意义或者统计意义或核的特征。例如 Gabor、几何特征、纹理等。

1.2.2.1特征提取常用方法

PCA (Principal component analysis，主成分分析)
ICA (Independent component analysis，独立成分分析)
LDA （Linear Discriminant Analysis，线性判别分析）

1.2.3 特征选择

从特征集合中挑选一组最具统计意义的特征子集，把无关的特征删掉，从而达到降维的效果

1.2.3.1 特征选择常用方法

常用的方法：

filter 方法：Pearson相关系数，Gini-index（基尼指数），IG（信息增益）等
wrapper ：有逐步回归（Stepwise regression 递归特征消除法）、向前选择（Forward selection）和向后选择（Backward selection）等
Embeded ：Regularization（基于L1，L2惩罚项的特征选择法），或者使用决策树思想，Random Forest和Gradient boosting等

2. 结构化数据

结构化数据类型可以看做关系型数据库的一张表，每列都有清晰的定义，包含了数值型、类别型两种基本类型，每一行数据表示一个样本的信息。

3. 非结构化数据

非结构化数据主要包括文本、图像、音频、视频数据，其包含的信息无法用一个简单的数值表示，也没有清晰地类别定义，并且每条数据的大小各不相同。

《百面机器学习》第零问：什么是特征工程？什么是结构化数据？什么是非结构化数据？相关推荐

机器学习之恶意流量检测的特征工程
背景传统的机器学习除了使用Tfidf-ngram的方式外还有其他做特征工程方式,还可以通过定义不同维度的特征来做特征工程,这种特征工程方式需要安全工程师对每一种攻击有良好特征提取能力.这种方法举个例 ...
Python数据分析案例07——二手车估价（机器学习全流程，数据清洗、特征工程、模型选择、交叉验证、网格搜参、预测储存）
案例背景本次案例来自2021年matchcop大数据竞赛A题数据集.要预测二手车的价格.训练集3万条数据,测试集5千条.官方给了二手车的很多特征,有的是已知的,有的是匿名的.要求就是做模型去预测测试 ...
大厂面试机器学习算法（0）：特征工程 | 数据预处理
文章目录数据分桶(分箱) 卡方分桶等距分桶等频分桶聚类分桶无量纲化数据规范化数据正则化数据清洗数据缺失噪音数据数据不一致特征选择与特征提取特征选择特征提取数据分桶(分箱) ...
机器学习入门研究（五）-特征工程之特征提取
目录为什么要用特征工程特征提取(Feature Extraction) 1.目的 2.对应的工具 3.三种方法 4.对应的sklearn的API (1)字典特征提取 (2)文本特征提取总结特征 ...
《机器学习算法竞赛实战》-chapter4特征工程
<机器学习算法竞赛实战>学习笔记,记录一下自己的学习过程,详细的内容请大家购买作者的书籍查阅. 特征工程特征工程是算法竞赛中工作量最大,决定参赛者能否拿到较好名次的关键部分.吴恩达老师说 ...
重磅 | 《机器学习综述》算法分类及特征工程手推笔记！
编辑:Sophia | 王博(Kings)笔记计算机视觉联盟报道 | 公众号 CVLianMeng 这是AI博士系列笔记的第一篇(欢迎关注王博的公众号[计算机视觉联盟],我们一起学习进步!) 笔记 ...
重磅 | 《机器学习综述》算法分类及特征工程手写笔记
点上方蓝字计算机视觉联盟获取更多干货在右上方 ··· 设为星标 ★,与你不见不散编辑:Sophia | 王博(Kings)笔记计算机视觉联盟报道 | 公众号 CVLia ...
【机器学习】机器学习从零到掌握之三 -- 教你使用K近邻算法改进约会网站
本文是<机器学习从零到掌握>系列之第3篇机器学习从零到掌握之一 -- 教你理解K近邻算法机器学习从零到掌握之二 -- 教你实现K近邻算法本篇使用的数据存放在文本文件datingTes ...
机器学习实战之特征工程
机器学习实战与特征工程 1.机器学习概述 1.1 什么是机器学习 1.2 为什么要机器学习 1.3 机器学习应用场景 1.4 学习框架和资料的介绍 2.特征工程 2.1 特征工程介绍 2.1.1 数据 ...
机器学习特征工程之特征选择
前言本文总结了特征选择的常用方法,并附上Python实现代码,其中输入数据集 ...

《百面机器学习》第零问：什么是特征工程？什么是结构化数据？什么是非结构化数据？

机器学习基本概念