一、前言

机器学习时期，要花费大量的时间在特征设计上，好的输入数据可以让训练事半功倍。而有了深度学习后，神经网络可以自动实现特征提取，解放了手工(理论上是这样，实际也是要进行特征筛选的，因为在应用中特征一般都很大，几千万或上亿，如果输入网络的特征过多，则模型参数量就会十分巨大，模型训练起来就会十分困难)。

二、Tabular Data Features(表格数据特征)

数值型数据(例如用户ID，年龄)等，直接使用或划分为n个bin区间(连续形式数据离散化)
类别型数据，one-hot编码/multi-hot编码
时间类型数据
特征交叉

注：此类特征使用时一般要先输入embedding层获得潜入向量，再输入神经网络

三、multimodal features

多模态特征被馈送到不同的模态编码器中，用来提取表征。多模态编码器是其他领域中使用的通用架构，例如图像中的ViT，文本中的Bert……。

Image/Video Features

对于图片、视频类型数据，基本都是通过预训练出一个神经网络的模型，获取相应的向量表达。比如可以通过Image Net里面获取一个预训练好的模型，将我们的图片样本输入到模型进行训练，然后拿到hidden_layer里面的最后一层作为当前图片样本的特征数据。

四、总结

对于文本，图片，视频类型数据，可以通过预训练好的模型获取我们所需要的数据信息。
而对于Tabular类型的数据，就需要手动进行构造特征工程，使得模型训练学习到更多维度的信息

特征工程——Tabular Data Features multimodal features相关推荐

数据预处理与特征工程—12.常见的数据预处理与特征工程手段总结
文章目录引言 1.数据预处理 1.1 数据清洗 1.1.1 异常值处理 1.1.2 缺失值处理 1.2 特征预处理 1.2.1 数值型特征无量纲化 1.2.2 连续数值型特征分箱 1.2.2.1 无 ...
金融风控特征工程小结
1 前言前一阵子总结了下自己参加的信贷违约风险预测比赛的数据处理和建模的流程,发现自己对业务上的特征工程认识尚浅,凑巧在Kaggle上曾经也有一个金融风控领域--房贷违约风控的比赛,里面有许多大神分 ...
R语言构建xgboost模型：使用xgboost模型训练tweedie回归模型，特征工程（dataframe转化到data.table、独热编码、缺失值删除、DMatrix结构生成）
R语言构建xgboost模型:使用xgboost模型训练tweedie回归模型,特征工程(dataframe转化到data.table.独热编码.缺失值删除.DMatrix结构生成) 目录
Python+OpenCV：图像二进制鲁棒独立基本特征(BRIEF, Binary Robust Independent Elementary Features)
Python+OpenCV:图像二进制鲁棒独立基本特征(BRIEF, Binary Robust Independent Elementary Features) 理论 We know SIFT us ...
kaggle上面的E-Commerce Data数据集练习（可视化与部分特征工程）
接上篇: https://editor.csdn.net/md/?articleId=103394900 集体换个列名 data = data.rename(index=str, columns={' ...
可能是全网写特征工程最通透的...
特征工程到底是什么?今天是包大人出租车原创日更,因为正在出差去机场的路上... 前言现在这个知乎上的回答,包大人那个还是处于排序第一的位置,在知乎上有158万浏览, 2K+赞, 6K+收藏,2专业 ...
特征工程与特征选择架构性好文
作者:马东什么来源:https://zhuanlan.zhihu.com/ p/96420594 整理:深度传送门偶然看到的一篇好文,有一些部分讲的不错,分享一下. 特征工程和选择是以最好的方式转 ...
手把手教你用Python实现自动特征工程
任何参与过机器学习比赛的人,都能深深体会特征工程在构建机器学习模型中的重要性,它决定了你在比赛排行榜中的位置. 特征工程具有强大的潜力,但是手动操作是个缓慢且艰巨的过程.Prateek Joshi,是 ...
手动特征工程已经OUT了！自动特征工程才是改进机器学习的方式
作者 | William Koehrsen 译者 | linstancy 编辑 | Jane 出品 | AI科技大本营 [导读]近年来,我们在自动模型选择和超参数调优方面取得了进展,但机器学习流程中最 ...

特征工程——Tabular Data Features multimodal features