观点1

是不同数据有不同定义，可分为空间/非空间数据。空间数据指空间上邻近的数据含有相关信息，可以用信号处理滤波的方法提取出这些相关信号，比如图像，声音。非空间数据指数据不是空间上的邻居，不能提取空间信息，比如身高，姓名，工作，收入等不相关信号。

对于空间信号，欠采样和过采样就是信号处理中的under-sample和over-sample。其中心思想是根据采样定理，数字信号能保存的最大频率是其采样频率的1/2。

欠采样是采样频率小于信号最大频率的2倍，会有频谱的叠加，产生混叠。
过采样是采样频率远大于信号最大频率的2倍，会增加计算量，在数字换模拟信号时，还会增加模拟噪声。

对于非空间信号，欠采样和过采样是对数据的down/sub-sample和up-sample，参考这里。其目的是调整数据量，或者做分类平衡（class balance）。

欠采样：只想用少量数据代表大量的原始数据。比如k-means里用mean代表一簇数据。Random forest也可以认为是对数据点和特征做down-sample。
过采样：生成新数据或重复采样。比如SMOTE，bootstrap。

观点2

过采样和欠采样是处理非平衡分类问题时的常用手段。

拿二元分类为例，如果训练集中阳性样本有1000个，阴性样本有10万个，两者比例为1：100严重失衡。为了一些模型的性能考虑，我们需要进行一些处理使得两者的比例尽可能接近。

过采样：对少的一类进行重复选择，比如我们对1000个阳性样本进行有放回的抽样，抽5万次（当然其中有很多重复的样本），现在两类的比例就变成了1：2，比较平衡。

欠采样：对多的一类进行少量随机选择，比如我们对10万个阴性样本进行随机选择，抽中2000个（当然原样本中很多样本未被选中），现在两类的比例就变成了1：2，比较平衡。

如果您觉得本文对您有帮助的话请点赞转发并关注。

两分钟带你彻底明白机器学习中的过采样和欠采样是什么意思？相关推荐

一文解决机器学习中的过拟合与欠拟合问题(正则化，数据增强，Dropout）
一文解决机器学习中的过拟合与欠拟合问题(正则化,数据增强,Dropout,提前终止) 生活中的过拟合与欠拟合现象过拟合与欠拟合的概念解决过拟合与欠拟合问题的四大金刚正则化数据增强 Dropou ...
彻底分清机器学习中的上采样、下采样、过采样、欠采样【总结】
今天看了篇中文的硕士论文,读着读着感觉有点奇怪,仔细一看原来他把下采样和欠采样搞混了,这里笔者就详细区分一下各个名称的概念. 文章目录 1. 上采样&下采样 2.过采样&欠采样 3.信 ...
机器学习算法 03 —— 逻辑回归算法(精确率和召回率、ROC曲线和AUC指标、过采样和欠采样)
文章目录系列文章逻辑回归 1 逻辑回归介绍 1.1 逻辑回归原理输入激活函数 1.2 损失以及优化 2 逻辑回归API介绍 3 案例:肿瘤良性恶性预测 4 分类模型的评估 4.1 分类评估方法 ...
机器学习（三十）：过采样和欠采样技术
当我们的训练数据的类别分布严重偏斜时,我们面临的分类不平衡问题.不平衡可能影响我们的机器学习算法的一种方式是当我们的算法完全忽略少数类时.这是一个问题的原因是因为少数类通常是我们最感兴趣的类.例如,在 ...
深度学习模型在训练集上很好而在测试集表现得不好而拟合次数并不多_机器学习中的过拟合，欠拟合和偏倚方差折衷...
过度拟合在机器学习中很重要. 很直观的解释过拟合:假设我们现在让机器学习考试做题,想象一种情况,机器逐字记住每个问题的答案(拟合非常好-完美).然后,我们可以在练习题上得分很高:我们这样做是基于希望实 ...
机器学习中的过拟合与欠拟合
目录一.什么是过拟合与欠拟合二.原因及解决方法三.正则化类别四.拓展-原理问题:训练数据训练的很好啊,误差也不大,为什么在测试集上面有问题呢? 当算法在某个数据集当中出现这种情况,可能就出 ...
两分钟彻底让你明白Android Activity生命周期(图文)!
大家好,今天给大家详解一下Android中Activity的生命周期,我在前面也曾经讲过这方面的内容,但是像网上大多数文章一样,基本都是翻译Android API,过于笼统,相信大家看了,会有一点点的 ...
两分钟彻底让你明白Android Activity生命周期
大家好,今天给大家详解一下Android中Activity的生命周期,我在前面也曾经讲过这方面的内容,但是像网上大多数文章一样,基本都是翻译Android API,过于笼统,相信大家看了,会有一点点的 ...
超专业解析！10分钟带你搞懂Linux中直接I/O原理
导语 | 本文主要以一张图为基础,向大家介绍Linux在I/O上做了哪些事情,即Linux中直接I/O原理,希望本文的经验和思路能为读者提供一些帮助和思考. 引言我们先看一张图: 这张图大体上描述了 ...

两分钟带你彻底明白机器学习中的过采样和欠采样是什么意思？

观点1

观点2

两分钟带你彻底明白机器学习中的过采样和欠采样是什么意思？相关推荐

最新文章

热门文章