VGG16的10折交叉验证实现cifar10的分类（keras实现）

#!/usr/bin/env python3
# -*- coding: utf-8 -*-
"""
Created on Sun Sep 30 17:12:12 2018
这是用keras搭建的vgg16网络
这是很经典的cnn,在图像和时间序列分析方面有很多的应用
@author: lg
"""
#################
import keras
from keras import regularizers
from keras.datasets import cifar10
from keras.models import Sequential
from keras.layers import Conv2D, MaxPooling2D, Dense, Dropout, Flatten, BatchNormalization
from keras.optimizers import SGD
import os
import argparse
import random
import numpy as np
from scipy.misc import imread, imresize, imsave
import pickle
from sklearn.model_selection import StratifiedKFold
parser = argparse.ArgumentParser()
parser.add_argument('--train_dir', default='./train/')
parser.add_argument('--test_dir', default='./test/')
parser.add_argument('--log_dir', default='./')
parser.add_argument('--batch_size', default=16)
parser.add_argument('--gpu', type=int, default=0)
args = parser.parse_args()
os.environ['CUDA_VISIBLE_DEVICES'] = str(args.gpu)
type_list = ['cat', 'dog']
def vgg_16_net():
model = Sequential()
model.add(Conv2D(64, (3, 3), input_shape=(32, 32, 3), padding='same', activation='relu', name='conv1_block'))
model.add(Conv2D(64, (3, 3), activation='relu', padding='same', name='conv2_block'))
model.add(BatchNormalization())
model.add(MaxPooling2D(pool_size=(2, 2), strides=(2, 2)))
model.add(Conv2D(128, (3, 3), activation='relu', padding='same', name='conv3_block'))
model.add(Conv2D(128, (3, 3), activation='relu', padding='same', name='conv4_block'))
model.add(BatchNormalization())
model.add(MaxPooling2D(pool_size=(2, 2), strides=(2, 2)))
model.add(Conv2D(256, (3, 3), activation='relu', padding='same', name='conv5_block'))
model.add(Conv2D(256, (3, 3), activation='relu', padding='same', name='conv6_block'))
model.add(Conv2D(256, (1, 1), activation='relu', padding='same', name='conv7_block'))
model.add(BatchNormalization())
model.add(MaxPooling2D(pool_size=(2, 2), strides=(2, 2)))
model.add(Conv2D(512, (3, 3), activation='relu', padding='same', name='conv8_block'))
model.add(Conv2D(512, (3, 3), activation='relu', padding='same', name='conv9_block'))
model.add(Conv2D(512, (1, 1), activation='relu', padding='same', name='conv10_block'))
model.add(BatchNormalization())
model.add(MaxPooling2D(pool_size=(2, 2), strides=(2, 2)))
model.add(Conv2D(512, (3, 3), activation='relu', padding='same', name='conv11_block'))
model.add(Conv2D(512, (3, 3), activation='relu', padding='same', name='conv12_block'))
model.add(Conv2D(512, (1, 1), activation='relu', padding='same', name='conv13_block'))
model.add(BatchNormalization())
model.add(MaxPooling2D(pool_size=(2, 2), strides=(2, 2)))
model.add(Flatten())
model.add(Dense(2048, activation='relu'))
model.add(Dropout(0.5))
model.add(Dense(4096, activation='relu'))
model.add(Dropout(0.5))
model.add(Dense(10, activation='softmax'))
#model.add(Dense(1, activation='sigmoid'))
return model
def prepare_data():
file_dict1 = unpickle('F:/cifar10/cifar-10-batches-py/data_batch_1')
label = file_dict1[b'labels']
image = file_dict1[b'data']
print(type(image))
file_dict2 = unpickle('F:/cifar10/cifar-10-batches-py/data_batch_2')
label = label + file_dict2[b'labels']
image = np.vstack((image, file_dict2[b'data']))
file_dict3 = unpickle('F:/cifar10/cifar-10-batches-py/data_batch_3')
label = label + file_dict3[b'labels']
image = np.vstack((image, file_dict3[b'data']))
file_dict4 = unpickle('F:/cifar10/cifar-10-batches-py/data_batch_4')
label = label + file_dict4[b'labels']
image = np.vstack((image, file_dict4[b'data']))
file_dict5 = unpickle('F:/cifar10/cifar-10-batches-py/data_batch_5')
label = label + file_dict5[b'labels']
image = np.vstack((image, file_dict5[b'data']))
image = np.reshape(image/255, (-1, 32, 32, 3))
label = keras.utils.to_categorical(label, 10)
#seed = 7
#np.random.seed(seed)
#train_data, test_data, train_label, test_label = train_test_split(image, label, test_size=0.2, random_state=0)
#train_num = int(len(label) * 0.8 )
#train_data, train_label, test_data, test_label = image[0:train_num], label[0:train_num], image[train_num:], label[train_num:]
# (X_train, y_train), (X_test, y_test) = cifar10.load_data()
# train_data = np.reshape(X_train/255, (-1, 32, 32, 3))
# train_label = keras.utils.to_categorical(y_train, 10)
# test_data = np.reshape(X_test/255, (-1, 32, 32, 3))
# test_label = keras.utils.to_categorical(y_test, 10)
# return train_data, train_label, test_data, test_label
return image, label
def unpickle(file):
with open(file, 'rb') as fo:
file_dict = pickle.load(fo, encoding='bytes')
return file_dict
def train():
kfold = StratifiedKFold(n_splits=10, shuffle=True, random_state=7)
data, label = prepare_data()
index = 1
for train, test in kfold.split(data, label.argmax(1)):
model = vgg_16_net()
sgd = SGD(lr=0.001, decay=1e-8, momentum=0.9, nesterov=True)
model.compile(optimizer=sgd, loss='categorical_crossentropy', metrics=['accuracy'])
model.fit(data[train], label[train], validation_data=(data[test], label[test]), epochs=20, batch_size=32, shuffle=True)
#train_data, train_label = prepare_data()
#model.fit(train_data, train_label, batch_size=64, epochs=20, shuffle=True, validation_split=0.2)
model.save_weights(args.log_dir + 'model_' + str(index) + '.h5')
index = index + 1
if __name__ == '__main__':
try:
train()
#model.load_weights(args.log_dir + '/model.h5')
#predict(model)
except Exception as err:
print(err)

最开始没有使用交叉验证，但是测试集与验证集的准确率一直维持在50%~60%，基本属于盲猜系列。原因大概是数据量太多，进行随机划分时，测试数据的分类不是很均匀。所以采用了交叉验证的方式，最终测试集与训练集的准确率能够达到99%，应该是有点过拟合了，结果还是非常满意的。

VGG16的10折交叉验证实现cifar10的分类（keras实现）相关推荐

R语言caret包构建xgboost模型实战：特征工程（连续数据离散化、因子化、无用特征删除）、配置模型参数（随机超参数寻优、10折交叉验证）并训练模型
R语言caret包构建xgboost模型实战:特征工程(连续数据离散化.因子化.无用特征删除).配置模型参数(随机超参数寻优.10折交叉验证)并训练模型目录
matlab.10折交叉验证
clc clear all % 导入数据 data = load('F:\work_matlab\Matlab\wdbc.txt'); [data_r, data_c] = size(data); % ...
机器学习 - 随机森林手动10 折交叉验证
随机森林的 10 折交叉验证再回到之前的随机森林(希望还没忘记,机器学习算法-随机森林初探(1)) library(randomForest) set.seed(304) rf1000 <- ...
10折交叉验证（10-fold Cross Validation）与留一法（Leave-One-Out）、分层采样（Stratification）
10折交叉验证我们构建一个分类器,输入为运动员的身高.体重,输出为其从事的体育项目-体操.田径或篮球. 一旦构建了分类器,我们就可能有兴趣回答类似下述的问题: 1. 该分类器的精确率怎么样? 2. 该 ...
《写给程序员的数据挖掘实践指南》——5.2. 10折交叉验证的例子
本节书摘来自异步社区出版社<写给程序员的数据挖掘实践指南>一书中的第5章,第5.2节,作者:[美]Ron Zacharski(扎哈尔斯基),更多章节内容可以访问云栖社区"异步社区 ...
《机器学习》课后习题 3.4 选择两个 UCI 数据集，比较 10 折交叉验证法和留法所估计出的对率回归的错误率.
参考了han同学的答案,数据集也可在han同学的github上下载. 3.4 选择两个 UCI 数据集,比较 10 折交叉验证法和留法所估计出的对率回归的错误率. import numpy as n ...
10折交叉验证（10-fold Cross Validation）与留一法（Leave-One-Out）、分层采样（Stratification）...
10折交叉验证我们构建一个分类器,输入为运动员的身高.体重,输出为其从事的体育项目-体操.田径或篮球. 一旦构建了分类器,我们就可能有兴趣回答类似下述的问题: 1. 该分类器的精确率怎么样? 2. ...
十折交叉验证10-fold cross validation, 数据集划分训练集验证集测试集
机器学习数据挖掘数据集划分训练集验证集测试集 Q:如何将数据集划分为测试数据集和训练数据集? A:three ways: 1.像sklearn一样,提供一个将数据集切分成训练集和测试集的函数 ...
k折交叉验证法python实现_Jason Brownlee专栏| 如何解决不平衡分类的k折交叉验证-不平衡分类系列教程(十)...
作者:Jason Brownlee 编译:Florence Wong – AICUG 本文系AICUG翻译原创,如需转载请联系(微信号:834436689)以获得授权在对不可见示例进行预测时,模型评 ...
机器学习代码实战——K折交叉验证（K Fold Cross Validation）
文章目录 1.实验目的 2.导入数据和必要模块 3.比较不同模型预测准确率 3.1.逻辑回归 3.2.决策树 3.3.支持向量机 3.4.随机森林 1.实验目的使用sklearn库中的鸢尾花数据集, ...

VGG16的10折交叉验证实现cifar10的分类（keras实现）

VGG16的10折交叉验证实现cifar10的分类（keras实现）相关推荐

最新文章

热门文章