1.train/dev/test data

我们将数据划分为训练集、验证集（也称开发集：development data）和测试集。

1.1 为什么要分成三类？

在训练集上训练模型，在验证集上评估模型，一旦找到的最佳的参数，就在测试集上最后测试输出（一般来说，论文中的模型效果都是使用这个测试集的结果），测试集上的误差作为泛化误差的近似。
关于验证集的划分可以参考测试集的划分，其实都是一样的，这里不再赘述。

可以简单地将上述三者对应学习过程：
训练集看成是家庭作业；
开发（验证）集看出是小测试；
测试集看成是期末考试。

2.交叉验证（cross-validation）

2.1 为什么要这么做？

上图说明的问题是：如果采用不同的 Training set,validation set ，当模型取最佳效果时，超参数c可能落在不同的取值处所以我们就需要轮流验证（也就是交叉验证）。这么看来，其实交叉验证的根本原因是：为了避免数据集太小，而带来对参数估计出现的问题。

2.2 目的

验证集用来调节超参数， 可以得到效果更好的模型

2.3 做法

将原始的训练集分成训练集和验证集，然后轮流取出一部分作为验证集进行验证，这种思想就是交叉验证。
比如说，现在有五份数据集：A,B,C,D,E,F 然后我们将其中的每一份都轮流作为验证集，这样做的目的是为了剔除“验证集”的随机性，因为可能某份验证集就存在数据倾斜的情况，如果拿5份数据分别作为验证集那么就可以避免数据集不平整带来的调参失败问题。

算法工程师面试题八之交叉验证相关推荐

面经 |算法工程师面试题汇总分享
面经 |算法工程师面试题汇总分享来源:https://github.com/PPshrimpGo/AIinterview 0 导读本文汇总了深度学习(模型评估方法.基本方法.优化方法.深度学习基 ...
名企笔试：京东 2016 算法工程师笔试题（登楼梯）
名企笔试:京东 2016 算法工程师笔试题(登楼梯) 2017-02-04 算法爱好者有一段楼梯台阶有 15 级台阶,以小明的脚力一步最多只能跨 3 级,请问小明登上这段楼梯,有多少种不同的走法? ...
【数据挖掘】2022年昆仑万维算法工程师笔试题
[数据挖掘]2022年昆仑万维算法工程师笔试题企业:昆仑万维 1 单选题 1.ABCDE,出栈的顺序不可能是? 栈的知识 2.连续投硬币,第一次正面,奇数次A赢,偶数次B赢.则A赢的概率是多少问 ...
【数据挖掘】2022年京东算法工程师笔试题（23届）
时间:90分钟 2022年京东算法工程师笔试题(23届) 1 单选题 1.MySQL内部存储代码的优势服务器上执行还可以节省带宽和网络延迟代码重用.可以方便的统一业务规则,保证某些行为的一致性,所 ...
算法工程师面试题【集锦cv/ml/dl】
(一) 机器学习方面 SVM 1. 支撑平面---和支持向量相交的平面:::分割平面---支撑平面中间的平面(最优分类平面) 2. SVM不是定义损失,而是定义支持向量之间的 ...
京东2019春招算法工程师笔试题-牛牛下象棋（编程题3）
这次京东2019的春招算法工程师笔试时间是2018-04-09 19:00~21:00,其中有三道编程题目,当时就做了2个,后一个时间原因就没做,就截了一个图,今天又突然看到了,练练手吧哈. 题目要求 ...
【数据挖掘】2022年2023届秋招知能科技公司机器学习算法工程师笔试题
岗位:高级机器学习算法工程师笔试时间:2022-9-28 1 简答题 1.神经网络中防止过拟合的方法 (1)降低模型复杂度 (2)正则化 ,正则化正是通过在损失函数上添加额外的参数稀疏性惩罚项(正则 ...
算法工程师面试题与解答
题目来源: 作者:xfcherish 链接:https://www.nowcoder.com/discuss/65323?type=0&order=0&pos=50&page= ...
计算机视觉与深度学习算法工程师面试题整理
整理自牛客在梯度下降法中,为什么梯度的负方向是函数下降最快的方向? 为什么引入Relu呢? softmax,softmax loss和cross entropy bias的作 ...

算法工程师面试题八之交叉验证