如何选择数据拆分方法:不同数据拆分方法的优缺点及原因
拆分可用的数据是有效训练和评估模型的一项重要任务。在这里,我将讨论 scikit-learn 中的不同数据拆分技术、选择特定方法以及一些常见陷阱。
本文包含易于使用的代码块,并提供快速总结以供参考。 随意将本文加入书签以备后用。
在第一次学习数据科学时,拆分数据是一项主要任务。
为什么应该只使用部分数据?是否有更多数据供我的模型学习以产生更好的结果?
虽然人们一致认为在构建预测模型时更多的数据会产生更好的模型,但重要的是要考虑如何使用模型。
在将模型发布到世界各地之前,在开发过程中测试模型是必不可少的。尽管如此,必须仅使用可用数据,这意味着将一些数据放在一边作为的现实生活”数据。
但调查实际“现实生活”数据至关重要。这个问题的答案决定了应该如何分离你的数据。
train_test_split
在最简化的数据分离形式中,随机抽取一部分数据,将其放在一边供以后测试。
很简单,但停下来想想正在做的假设。
此方法假设数据来自相同的分布。例如,假设您的数据每年都在变化。假设您对最近一年的大部分数据进行了采样(甚至可能是由于随机选择而偶然发生的)。在这种情况下,您的模型可能无法有效处理今年的预测。
有足够的数据使你的数据集具有代表性。如果拥有来自相同分布的数据但只有 100 个实例,则选择包含 10% 数据的测试集可能会提供偏斜的结果。如果这 10 个数据点来自数据中最异常的区域,则模型性能会更差。当您有更多数据实例时,这种情况不太可能发生。
对于分类问题,是否需要考虑每个类的部分?假设您有一个高度偏斜的分类问题(根据我的经验,通常是这种情况)。在这种情况下,可能需要考虑对数据集进行分层。这一点几乎落入了前一点,测试集可能太小,但在这种情况下,对于您尝试预测的某个类来说,它太小了。
如果您想执行内部交叉验证,这种拆分方法是完美的。将数据拆分为训练和测试,并在训练模型时应用交叉验证方法。如果来自同一分布的足够数据,此方法有效
在中大型数据集上使用 train_test_split,数据来自相同的分布
import numpy as np
from sklearn.model_selection import train_test_split# Update with your data
X = np.array([[1, 2], [3, 4], [5, 6], [7, 8], [9, 10]])
y = np.array([1, 2, 3, 4, 5])X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.33, random_state=10)
train_test_split拆分的一个缺点是,当您进行拆分时,会决定测试集中的数据将始终是您的测试数据。
这有一些缺点。
在训练时,您永远不会在模型中包含测试数据。 您的测试数据中可能存在会使您的模型更加健壮的实例。
测试数据是固定的。 最后,这个测试集存在过度拟合的微妙问题。 虽然这不像过度训练神经网络以完美地学习数据那样明确,但这种类型的过度拟合仍然是一个问题。 修复此数据后,您执行的实验将针对此测试集进行重复测试。 您将搜索在该集合上表现最佳的模型。 但是考虑一下预测建模的原始问题。 你不知道未来的数据会是什么。 通过针对固定测试集反复测试,您正在做一些在现场场景中不可能完成的事情。
kFold
作为训练-测试拆分的替代方案,K-fold 提供了一种机制,可将数据集中的所有数据点用作训练数据和测试数据。
Kfolds 将数据集分成多组零重叠的索引,以从您的数据集中提取随机数据集。
这种方法优于之前的train_test_split,因为每个数据点都可以是模型和测试集的一部分。
然而,这意味着一些事情。
您将在每个训练数据集上构建多个模型并在每个测试数据集上进行测试。虽然这对于小数据集来说很好,但是当模型很大并且数据集很大时,事情很快就会变得昂贵。
测试之间的性能不同。这种性能上的变化是一件好事。您可以计算有关您的表现的统计数据(即,您可以从多次评估中获得标准偏差和平均值)。您还可以更深入地了解模型在不同场景中的表现。
通常,在使用这种类型的数据分割时,每次测试的平均值对模型在实时环境中的表现给出了更可靠的解释。外部交叉验证以这种方式创建多个模型,报告所有折叠的平均性能,然后根据所有数据制作最后一个模型。这个最终模型受益于使用所有数据。但是,除非有其他数据,否则无法对其进行测试。因此,在这种情况下,模型性能的平均值被用作该模型的性能。
当您的数据来自同一分布时,将 KFold 用于中小型数据集
import numpy as np
from sklearn.model_selection import KFold# Update with your data
X = np.array([[1, 2], [3, 4], [5, 6], [7, 8], [9, 10]])
y = np.array([1, 2, 3, 4, 5])KF = KFold(n_splits=5)
for train_index, test_index in KF.split(X):X_train, X_test = X[train_index], X[test_index]y_train, y_test = y[train_index], y[test_index]
时间序列拆分
前面两种方法都认为你拥有的数据是可以随机抽样的。 但是,在时间序列数据中,您不能随机采样数据。 最重要的原因是,没有现实生活场景可以让您用未来的数据训练模型来预测过去。
相反,您可以按时间分离数据。 例如,获取数据点之前的所有数据,然后在下一个数据点上对其进行测试,以确保不会出现数据泄漏。 从这个意义上说,泄漏将使用未来的数据来预测以前的数据。
这种拆分方法是三者中唯一考虑随时间变化的分布的方法。 因此,当您拥有随时间变化的数据时,可以使用它。
对时间序列数据或数据分布随时间变化时使用 TimeSeriesSplit。
import numpy as np
from sklearn.model_selection import TimeSeriesSplit# Update with your data
X = np.array([[1, 2], [3, 4], [5, 6], [7, 8], [9, 10]])
y = np.array([1, 2, 3, 4, 5])time_series_cv = TimeSeriesSplit(gap=0, max_train_size=None, n_splits=5, test_size=None)for train_index, test_index in time_series_cv.split(X):X_train, X_test = X[train_index], X[test_index]y_train, y_test = y[train_index], y[test_index]
总结
构造模型很有趣。 但是,尝试提高模型的性能可能是一项无止境的任务。 虽然您可能在一组数据上具有出色的性能,但考虑如何在现实世界中使用您的模型至关重要。 不同的拆分方法有不同的用途,因此请相应地选择。
记住要专注于目标问题,而不仅仅是某些测试集上的最高性能。
本文作者:Zachary Warnes
如何选择数据拆分方法:不同数据拆分方法的优缺点及原因相关推荐
- python 列表多行_Python Pandas list列表数据列拆分成多行的方法实现
1.实现的效果 示例代码: df=pd.DataFrame({'A':[1,2],'B':[[1,2],[1,2]]}) df Out[458]: A B 0 1 [1, 2] 1 2 [1, 2] ...
- pandas中将每一行数据拆分成多行的方法
一.应用场景 用pandas处理数据时,我们经常会遇到将一行拆分成多行,或者将一列拆分成多列的方法,今天主要讲第一个问题,第二个问题下次讲.举个例子:我现有的数据如下: 其中TrainData是我需要 ...
- c修改datatable单元格的值_神奇的VBA编程:批量拆分单元格数据
批量对单元格区域内每个单元格中的数据按照一定的规则进行拆分是职场工作中经常碰到的操作.Excel数据选项卡中"分列"提供了基础的功能.能帮助用户通过鼠标快速分列数据. 本篇< ...
- java拆分单元格_Java 拆分Excel单元格数据为多列
一.概述及使用工具 在Excel表格里面,可设置将单元格中的文本数据按分隔符拆分为多列,下面通过Java程序来介绍具体实现方法.这里使用Free Spire.XLS for Java(免费版)来实现数 ...
- 《Java安全编码标准》一2.11 IDS10-J不要拆分两种数据结构中的字符串
2.11 IDS10-J不要拆分两种数据结构中的字符串 在历史遗留系统中,常常假设字符串中的每一个字符使用8位(一个字节,Java中的byte).而Java语言使用16位表示一个字符(Java中的Ch ...
- 数据图表可视化_数据可视化如何选择正确的图表第1部分
数据图表可视化 According to the World Economic Forum, the world produces 2.5 quintillion bytes of data ever ...
- 疫情期各类数据图表背后的七个方法、三驾马车与一个工具
疫(zhái)情(jiā)期间,数据分析领域涌现出很多民间高手,数据玩家各显神通,或通过仿真程序调参,模拟病毒传播,强调不要出门对控制传播的重要贡献:或用自然语言处理工具+词云,直观展示每日新闻热词的 ...
- 数据预处理——4种缺失值处理方法
1.删除含有缺失值的个案 主要有简单删除法和权重法.简单删除法是对缺失值进行处理的最原始方法.它将存在缺失值的个案删除.如果数据缺失问题可以通过简单的删除小部分样本来达到目标,那么这个方法是最有效的. ...
- string生成固定长度的哈希_Redis 选择Hash还是String 存储数据?
点击上方"Java之间",选择"置顶或者星标" 你关注的就是我关心的! 作者:goodspeed 微信公众号:四月(ID:hiiiapril) 在stackov ...
最新文章
- Eclipse Gradle 构建多模块项目
- 深度学习框架PyTorch一书的学习-第三章-Tensor和autograd-1-Tensor
- irq domain介绍和代码导读
- 小明分享|LVGL调试日志
- CTL_CODE定义中Method的说明
- javaSE_base04_集合框架
- php试题及答案 博客,转php面试题及我的答案(一)
- php 获取mysql大小限制_php计算整个mysql数据库大小的方法
- 为什么说区块链是具有革命性意义的?
- HTML5移动Web开发指南
- QT4.7.3在dm6446平台上的移植[转]--make[1]: *** [assistant_cs.qm] Error 2
- java for循环效率优化_java 优雅代码for循环 之性能调优
- 需要凭据_PE管件连接时有哪些需要注意的地方
- Thumb指令集与ARM指令集的区别
- ABAQUS中的非线性分析
- 文献阅读|Nomograms列线图在肿瘤中的应用
- linux内存占用率高怎么办,Linux下如何解决高内存使用率问题?
- 小技巧:如何在R语言与excel/word之间进行复制粘贴
- vue cle新建vue项目
- Django建立博客搜索功能(haystack+whoosh+jieba)
热门文章
- Microsoft Visio 2010 - 弧线
- 块存储、文件存储与对象存储的区别与应用场景
- 客户订单管理系统使用教程
- win10右键闪退到桌面_win10打开控制面板总闪退弹回桌面怎么办
- EF-AsNoTracking()
- 关于 使用pyecharts进行数据可视化分析 的学习报告I
- 亚马逊asin关键词排名追踪_亚马逊listing关键词的挖掘和布局!让产品关键词排名上首页...
- Unite 2017 Shanghai 四大技术专场全面解锁
- 渗透测试-LDAP目录服务攻击
- ceph中monitor节点基本解释与图解