Cross-validation 交叉验证

Cross-Validation官方文档说明

一、train_test_split
train_test_split是sklearn库中提供数据分割方法，将X，y分割成，X_train, X_valid, y_train, y_valid，其中X_train,y_train用来做训练集，X_valid,y_valid用来做测试集。

二、为什么要引入交叉验证
但在实际运用中，数据集不足是我们经常遇到的问题，那么怎么样将现有的数据集的利用率提高，充分利用呢？那么就引入交叉验证即可。

三、什么是交叉验证

使用这5个Split分割，分别训练出五个模型（蓝色为测试，绿色为训练集），在计算模型准确率时，使用5个模型准确率的均值，在模型预测时，使用五个模型预测均值。

四、代码实现

import numpy as np
from sklearn import datasets,svm
from sklearn.model_selection import train_test_split,cross_val_score,ShuffleSplit
from sklearn.ensemble import RandomForestClassifierX,y = datasets.load_iris(return_X_y=True)
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.4, random_state=0)clf = svm.SVC(kernel='linear',C=1,random_state=42)scores = cross_val_score(clf,X,y,cv=5)
print(scores.mean())

五、运行结果

没有使用交叉验证时得分为：0.96（这里没有使用代码演示，官网文档有更加详细的解释）

Cross-validation 交叉验证相关推荐

cross validation交叉验证
交叉验证是一种检测model是否overfit的方法.最常用的cross validation是k-fold cross validation. 具体的方法是: 1.将数据平均分成k份,0,1,2,, ...
Sklearn——交叉验证(Cross Validation)
文章目录 1.前言 2.非交叉验证实验 3.交叉验证实验 4.准确率与平方误差 4.1.准确率实验 4.2.均方误差实验 5.Learning curve 检查过拟合 5.1.加载必要模块 5.2.加 ...
K-近邻算法之交叉验证，网格搜索
K-近邻算法之交叉验证,网格搜索 1 什么是交叉验证(cross validation) 交叉验证:将拿到的训练数据,分为训练和验证集.以下图为例:将数据分成4份,其中一份作为验证集.然后经过4次(组 ...
python实现留一法_数据分割：留出法train_test_split、留一法LeaveOneOut、GridSearchCV(交叉验证法+网格搜索)、自助法...
1.10 交叉验证,网格搜索学习目标目标知道交叉验证.网格搜索的概念会使用交叉验证.网格搜索优化训练模型 1 什么是交叉验证(cross validation) 交叉验证:将拿到的训练数据,分 ...
交叉验证方法汇总【附代码】（留一法、K折交叉验证、分层交叉验证、对抗验证、时间序列交叉验证）
目录交叉验证是什么? 留一验证(LOOCV,Leave one out cross validation ) LOOCC代码验证集方法验证集方法代码 K折交叉验证(k-fold cross va ...
简单粗暴理解与实现机器学习之K-近邻算法（十）：交叉验证，网格搜索（模型选择与调优）API、鸢尾花案例增加K值调优
K-近邻算法文章目录 K-近邻算法学习目标 1.10 交叉验证,网格搜索 1 什么是交叉验证(cross validation) 1.1 分析 1.2 为什么需要交叉验证 **问题:那么这个只是对 ...
机器学习算法------1.10 交叉验证，网格搜索（交叉验证，网格搜索（模型选择与调优）API、鸢尾花案例增加K值调优）
文章目录 1.10 交叉验证,网格搜索学习目标 1 什么是交叉验证(cross validation) 1.1 分析 1.2 为什么需要交叉验证 2 什么是网格搜索(Grid Search) 3 交 ...
十折交叉验证10-fold cross validation, 数据集划分训练集验证集测试集
机器学习数据挖掘数据集划分训练集验证集测试集 Q:如何将数据集划分为测试数据集和训练数据集? A:three ways: 1.像sklearn一样,提供一个将数据集切分成训练集和测试集的函数 ...
R语言构建xgboost模型：交叉验证（cross validation）训练xgboost模型，配置自定义的损失函数评估函数并使用交叉验证训练xgboost模型
R语言构建xgboost模型:交叉验证(cross validation)训练xgboost模型,配置自定义的损失函数(loss function).评估函数(evaluation function) ...
R语言构建xgboost模型：交叉验证（cross validation）训练xgboost模型
R语言构建xgboost模型:交叉验证(cross validation)训练xgboost模型目录

Cross-validation 交叉验证

Cross-validation 交叉验证相关推荐

最新文章

热门文章