(图片由AI科技大本营付费下载自视觉中国)

作者 | Pulkit Sharma
译者 | 王威力
来源 | 数据派THU(ID:DatapiTHU)

【导读】本文介绍了图像识别的深度学习模型的建立过程,通过陈述实际比赛的问题、介绍模型框架和展示解决方案代码,为初学者提供了解决图像识别问题的基础框架。

序言

“几分钟就可以建立一个深度学习模型?训练就要花几个小时好吗!我甚至没有一台足够好的机器。”我听过无数次有抱负的数据科学家这样说,他们害怕在自己的机器上构建深度学习模型。

其实,你不必在谷歌或其他大型科技公司工作,就可以训练深度学习数据集。你完全可以用几分钟的时间从头搭建起你自己的神经网络,而不需要租谷歌的服务器。Fast.ai的学生花了18分钟设计出了用于ImageNet数据集的一个模型,接下来我将在本文中展示类似的方法。

深度学习是一个广泛的领域,所以我们会缩小我们的关注点在图像分类问题上。而且,我们将使用一个非常简单的深度学习架构来达到一个很好的准确率。

你可以将本文中的Python代码作为构建图像分类模型的基础,一旦你对这些概念有了很好的理解,可以继续编程,参加比赛、登上排行榜。

如果你刚开始深入学习,并且对计算机视觉领域着迷(谁不是呢?!)一定要看一看Computer Vision using Deep Learning的课程,它对这个酷炫的领域进行了全面的介绍,将为你未来进入这个巨大的就业市场奠定基础。

课程链接:

https://trainings.analyticsvidhya.com/courses/course-v1:AnalyticsVidhya+CVDL101+CVDL101_T1/about?utm_source=imageclassarticle&utm_ medium=blog

目录

01 什么是图像分类以及它的应用案例

02 设置图像数据结构

03 分解模型建立过程

04 设置问题定义并认识数据

05 建立图像分类模型的步骤

06 其他挑战

01 什么是图像分类以及它的应用案例

观察以下图片:

你应该可以马上就认出它——是一俩豪华车。退一步来分析一下你是如何得到这个结论的——你被展示了一张图片,然后你将它划分为“车”这个类别(在这个例子中)。简单来说,这个过程就是图像分类。

很多时候,图像会有许多个类别。手动检查并分类图像是一个非常繁琐的过程。尤其当问题变为对10000张甚至1000000张图片的时候,这个任务几乎不可能完成。所以如果我们可以将这个过程自动化的实现并快速的标记图像类别,这该有多大的用处啊。

自动驾驶汽车是一个图像分类在现实世界应用的很好的例子。为了实现自动驾驶,我们可以建立一个图像分类模型来识别道路上的各种物体,如车辆、人、移动物体等。我们将在接下来的部分中看到更多的应用,甚至在我们的身边就有许多的应用。

既然我们已经掌握了主题,那么让我们来深入研究一下如何构建图像分类模型,它的先决条件是什么,以及如何在Python中实现它。

02 设置图像数据结构

我们的数据集需要特殊的结构来解决图像分类问题。我们将在几个部分中看到这一点,但在往下走之前,请记住这些建议。

你应该建立两个文件夹,一个放训练集,另一个放测试集。训练集的文件夹里放一个csv文件和一个图像文件夹:

  • csv文件存储所有训练图片的图片名和它们对应的真实标签
  • 图像文件夹存储所有的训练图片
测试集文件夹中的csv文件和训练集文件夹中的csv文件不同,测试集文件夹中的csv文件只包含测试图像的图片名,不包括它们的真实标签。因为我们要通过训练训练集中的图片来对测试集中的图片进行预测。
如果你的数据集不是这样的格式,你需要进行转换,否则的话预测结果可能有错误。

03 分解模型搭建的过程

在我们研究Python代码之前,让我们先理解图像分类模型通常是如何设计的。可以将过程分为4个部分。每个步骤需要一定时间来执行:
  • 第1步:加载和预处理数据——30%时间
  • 第2步:定义模型架构——10%时间
  • 第3步:训练模型——50%时间
  • 第4步:评价模型表现——10%时间
接下来我会更详细地解释一下上面的每一个步骤。这一部分非常重要,因为并非所有模型都是在第一步构建的。你需要在每次迭代之后返回,对步骤进行微调,然后再次运行它。对基础概念有一个扎实的理解,对于加速整个过程将有很大的帮助。
1. 加载和预处理数据,所需时间:大约2-3分钟
就深度学习模型而言,数据非常关键。如果训练集中有大量的图像,你的图像分类模型也会有更大的可能实现更好的分类效果。此外,根据所用的框架不同,数据的维度不同,效果也不一样。
因此,对于关键的数据预处理这一步,我推荐大家浏览下面这篇文章,来对图像数据的预处理有一个更好的理解:

Basics of Image Processing in Python

https://www.analyticsvidhya.com/blog/2014/12/image-processing-python-basics/

但我们还没完全到数据预处理这一步,为了了解我们的数据在新的之前没见过的数据集中的表现(在预测测试集之前),我们需要先从训练集中划分出一部分为验证集。
简而言之,我们在训练集上训练模型然后在验证集上进行验证。如果我们对在验证集上的结果满意,就可以用来预测测试集的数据。
2. 建立模型框架,所需时间:大约1分钟定义这个框架
这是深度学习模型建立过程中的另一个重要的步骤。在这个过程中,需要思考这样几个问题:
  • 需要多少个卷积层?
  • 每一层的激活函数是什么?
  • 每一层有多少隐藏单元?
还有其他一些问题。但这些基本上是模型的超参数,它们对预测结果起着重要作用。
如何确定这些超参的值?好问题!一个方法是根据现有的研究选择这些值。另一个想法是不断尝试这些值,直到找到最好的,但这可能是一个非常耗时的过程。
3. 训练模型,所需时间:大概5分钟,来进行模型的结构的学习
对模型训练,我们需要:
  • 训练图像和它们的真实标签。
  • 验证集图像和其真实标签。(我们只用验证集的标签进行模型评估,不用于训练)
我们还需要定义迭代次数(epoch)。开始阶段,我们训练10次(你可以再更改)。
4. 评估模型表现,所需时间:1分钟
最后,我们加载测试数据(图像)并完成预处理步骤。然后我们使用训练模型预测这些图像的类别。

04 设置问题定义并认识数据

我们将尝试一个非常酷的挑战来理解图像分类。我们需要建立一个模型,可以对给定的图像进行分类(衬衫、裤子、鞋子、袜子等)。这实际上是许多电子商务零售商面临的一个问题,这使得它成为一个更有趣的计算机视觉问题。
这个挑战被称为“识别服装”,是我们在数据黑客平台上遇到的实践问题之一。你必须注册并从上面的链接下载数据集。

“识别服装”比赛链接:

https://datahack.analyticsvidhya.com/contest/practice-problem-identify-the-apparels/

数据黑客平台:

https://datahack.analyticsvidhya.com/

一共有70000图像(28x28维),其中60000来自训练集,10000来自测试集。训练图像已经预先被打上了衣服类别的标签,一共10个类别。测试集没有标签。这个比赛是对测试集的图像进行识别。
我们将在Google Colab搭建模型,因为它提供免费的GPU。

Google Colab:

https://colab.research.google.com/

05 建立图像分类模型的步骤

接下来是时候展示你的Python技巧啦,最终我们到了执行阶段!
主要步骤如下:
  • 第1步:设置Google Colab
  • 第2步:导入库
  • 第3步:导入数据预处理数据(3分钟)
  • 第4步:设置验证集
  • 第5步:定义模型结构(1分钟)
  • 第6步:训练模型(5分钟)
  • 第7步:预测(1分钟)
下面详细介绍以上步骤。
1. 设置Google Colab
因为我们将从Google Drive link导入数据,我们需要在Google Colab notebook上增加几条代码。新建Python3 notebook,写下下面的代码:

!pip install PyDrive

这一步是安装PyDrive。下面导入需要的库:

import os
from pydrive.auth import GoogleAuth
from pydrive.drive import GoogleDrive
from google.colab import auth
from oauth2client.client import GoogleCredentials

下面创建drive变量访问Google Drive:

auth.authenticate_user()
gauth = GoogleAuth()
gauth.credentials = GoogleCredentials.get_application_default()
drive = GoogleDrive(gauth)

需要用Google Drive上传文件的ID来下载数据集:

download = drive.CreateFile({'id': '1BZOv422XJvxFUnGh-0xVeSvgFgqVY45q'})

把id的部分替换为你的文件夹的ID。接下来将下载文件夹并解压。

download.GetContentFile('train_LbELtWX.zip')
!unzip train_LbELtWX.zip

每次启动notebook都需要运行以上代码。
2. 导入模型所需的库

import keras
from keras.models import Sequential
from keras.layers import Dense, Dropout, Flatten
from keras.layers import Conv2D, MaxPooling2D
from keras.utils import to_categorical
from keras.preprocessing import image
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
from sklearn.model_selection import train_test_split
from keras.utils import to_categorical
from tqdm import tqdm

3. 接下来是数据导入和数据预处理

train = pd.read_csv('train.csv')

接下来,我们将读入训练集,存储为list,最终转换为numpy array。

# We have grayscale images, so while loading the images we will keep grayscale=True, if you have RGB images, you should set grayscale as False
train_image = []
for i in tqdm(range(train.shape[0])):
    img = image.load_img('train/'+train['id'][i].astype('str')+'.png', target_size=(28,28,1), grayscale=True)
    img = image.img_to_array(img)
    img = img/255
    train_image.append(img)
X = np.array(train_image)

这是一个多分类问题(10个类别),需要对标签变量进行one-hot编码。

y=train['label'].values
y = to_categorical(y)

4. 从训练集中划分验证集

X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=42, test_size=0.2)

5. 定义模型结构
我们将建立一个简单的结构,有2个卷积层,一个隐藏层一个输出层。

model = Sequential()
model.add(Conv2D(32, kernel_size=(3, 3),activation='relu',input_shape=(28,28,1)))
model.add(Conv2D(64, (3, 3), activation='relu'))
model.add(MaxPooling2D(pool_size=(2, 2)))
model.add(Dropout(0.25))
model.add(Flatten())
model.add(Dense(128, activation='relu'))
model.add(Dropout(0.5))
model.add(Dense(10, activation='softmax'))

接下来编译模型。

model.compile(loss='categorical_crossentropy',optimizer='Adam',metrics=['accuracy'])

6. 训练模型
在这一步,我们将训练训练集的数据,在验证集上进行验证。

model.fit(X_train, y_train, epochs=10, validation_data=(X_test, y_test))

7. 预测
我们将首先遵循处理训练数据集时执行的步骤。加载测试图像并预测分类结果,用model.predict_classes()函数预测它们的类。

download = drive.CreateFile({'id': '1KuyWGFEpj7Fr2DgBsW8qsWvjqEzfoJBY'})
download.GetContentFile('test_ScVgIM0.zip')
!unzip test_ScVgIM0.zip

首先导入测试集:

test = pd.read_csv('test.csv')

接下来,读于数据并存储测试集:

test_image = []
for i in tqdm(range(test.shape[0])):
    img = image.load_img('test/'+test['id'][i].astype('str')+'.png', target_size=(28,28,1), grayscale=True)
    img = image.img_to_array(img)
    img = img/255
    test_image.append(img)
test = np.array(test_image)

# making predictions
prediction = model.predict_classes(test)

还需要新建一个提交文件夹,用来上传DataHack平台。

download = drive.CreateFile({'id': '1z4QXy7WravpSj-S4Cs9Fk8ZNaX-qh5HF'})
download.GetContentFile('sample_submission_I5njJSF.csv')

# creating submission file
sample = pd.read_csv('sample_submission_I5njJSF.csv')
sample['label'] = prediction
sample.to_csv('sample_cnn.csv', header=True, index=False)

下载sample_cnn.csv文件并上传到比赛的页面,生成你的排名。这提供了一个帮助你开始解决图像分类问题的基础方案。
你可以尝试调整超参数和正则化来提高模型效果。也可以通过阅读下面这篇文章来理解调参的细节。
A Comprehensive Tutorial to learn Convolutional Neural Networks from Scratch
https://www.analyticsvidhya.com/blog/2018/12/guide-convolutional-neural-network-cnn/

06 开启一个新的挑战

让我们尝试在其他的数据集进行测试。这部分,我们将解决Identify the Digits上的这个问题。

Identify the Digits比赛链接:

https://datahack.analyticsvidhya.com/contest/practice-problem-identify-the-digits/

在你往下看之前,请尝试自己来解决这个挑战。你已经收获了解决问题的工具,只需要使用它们。当你遇到困难的时候可以再回来检查你的过程和结果。
在这个挑战中,我们需要识别给定图像中的数字。一共有70000张图片,49000张训练图像有标签,剩下的21000张为测试图片无标签。
准备好了吗?好!打开新的Python3 notebook,运行下面的代码:

# Setting up Colab
!pip install PyDrive

import os
from pydrive.auth import GoogleAuth
from pydrive.drive import GoogleDrive
from google.colab import auth
from oauth2client.client import GoogleCredentials

auth.authenticate_user()
gauth = GoogleAuth()
gauth.credentials = GoogleCredentials.get_application_default()
drive = GoogleDrive(gauth)

# Replace the id and filename in the below codes
download = drive.CreateFile({'id': '1ZCzHDAfwgLdQke_GNnHp_4OheRRtNPs-'})
download.GetContentFile('Train_UQcUa52.zip')
!unzip Train_UQcUa52.zip

# Importing libraries
import keras
from keras.models import Sequential
from keras.layers import Dense, Dropout, Flatten
from keras.layers import Conv2D, MaxPooling2D
from keras.utils import to_categorical
from keras.preprocessing import image
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
from sklearn.model_selection import train_test_split
from keras.utils import to_categorical
from tqdm import tqdm

train = pd.read_csv('train.csv')

# Reading the training images
train_image = []
for i in tqdm(range(train.shape[0])):
    img = image.load_img('Images/train/'+train['filename'][i], target_size=(28,28,1), grayscale=True)
    img = image.img_to_array(img)
    img = img/255
    train_image.append(img)
X = np.array(train_image)

# Creating the target variable
y=train['label'].values
y = to_categorical(y)

# Creating validation set
X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=42, test_size=0.2)

# Define the model structure
model = Sequential()
model.add(Conv2D(32, kernel_size=(3, 3),activation='relu',input_shape=(28,28,1)))
model.add(Conv2D(64, (3, 3), activation='relu'))
model.add(MaxPooling2D(pool_size=(2, 2)))
model.add(Dropout(0.25))
model.add(Flatten())
model.add(Dense(128, activation='relu'))
model.add(Dropout(0.5))
model.add(Dense(10, activation='softmax'))

# Compile the model
model.compile(loss='categorical_crossentropy',optimizer='Adam',metrics=['accuracy'])

# Training the model
model.fit(X_train, y_train, epochs=10, validation_data=(X_test, y_test))

download = drive.CreateFile({'id': '1zHJR6yiI06ao-UAh_LXZQRIOzBO3sNDq'})
download.GetContentFile('Test_fCbTej3.csv')

test_image = []
for i in tqdm(range(test_file.shape[0])):
    img = image.load_img('Images/test/'+test_file['filename'][i], target_size=(28,28,1), grayscale=True)
    img = image.img_to_array(img)
    img = img/255
    test_image.append(img)
test = np.array(test_image)

prediction = model.predict_classes(test)

download = drive.CreateFile({'id': '1nRz5bD7ReGrdinpdFcHVIEyjqtPGPyHx'})
download.GetContentFile('Sample_Submission_lxuyBuB.csv')

sample = pd.read_csv('Sample_Submission_lxuyBuB.csv')
sample['filename'] = test_file['filename']
sample['label'] = prediction
sample.to_csv('sample.csv', header=True, index=False)

在练习题页面上提交这个文件,你会得到一个相当不错的准确率。这是一个好的开端,但总有改进的余地。继续肝,看看你是否可以改进我们的基本模型。
尾声
谁说深度学习模型需要数小时或数天的训练。我的目的是展示你可以在双倍快速的时间内想出一个相当不错的深度学习模式。你应该接受类似的挑战,并尝试从你的终端编码它们。什么都比不上通过实践来学习!
顶尖的数据科学家和分析师甚至在黑客比赛开始之前就已经准备好了这些代码。他们使用这些代码在深入详细分析之前提前提交。先给出基准解决方案,然后使用不同的技术改进模型。

原文标题:

Build your First Image Classification Model in just 10 Minutes!

原文链接:

https://www.analyticsvidhya.com/blog/2019/01/build-image-classification-model-10-minutes/

译者:王威力,求职狗,在香港科技大学学习大数据科技。感觉数据科学很有难度,也很有意思,还在学(tu)习(tou)中。一个人肝不动的文献,follow大佬一起肝。

你觉得这篇文章有用吗?欢迎给编辑们留言,以提供给大家更优质的内容。
(*本文为 AI科技大本营转载文章,转载请联系作者)

精彩推荐

2019 中国大数据技术大会(BDTC)历经十一载,再度火热来袭!豪华主席阵容及百位技术专家齐聚,15 场精选专题技术和行业论坛,超强干货+技术剖析+行业实践立体解读,深入解析热门技术在行业中的实践落地。【早鸟票】【特惠学生票】限时抢购,扫码了解详情!

推荐阅读

  • 阿里飞天大数据&飞天AI平台“双生”系统正式发布,9大全新数据产品集中亮相

  • 阿里披露AI完整布局,飞天AI平台首次亮相

  • 解决掉这些痛点和难点,让知识图谱不再是“噱头”

  • 程序员因接外包坐牢 456 天!两万字揭露心酸经历

  • 11月4日,上海开源基础设施峰会,不见不散!

  • 限时早鸟票 | 2019 中国大数据技术大会(BDTC)超豪华盛宴抢先看!

  • Pandas中第二好用的函数 | 优雅的Apply

  • 阿里开源物联网操作系统 AliOS Things 3.0 发布,集成平头哥 AI 芯片架构!

  • 雷声大雨点小:Bakkt「见光死」了吗?

你点的每个“在看”,我都认真当成了喜欢

10分钟搭建你的第一个图像识别模型 | 附完整代码相关推荐

  1. 10分钟搭建你的第一个图像识别模型(附步骤、代码)

    作者:Pulkit Sharma 翻译:王威力 校对:丁楠雅 本文约3400字,建议阅读10分钟. 本文介绍了图像识别的深度学习模型的建立过程,通过陈述实际比赛的问题.介绍模型框架和展示解决方案代码, ...

  2. 10分钟搭建服务器集群——Windows7系统中nginx与IIS服务器搭建集群实现负载均衡...

    10分钟搭建服务器集群--Windows7系统中nginx与IIS服务器搭建集群实现负载均衡 原文:10分钟搭建服务器集群--Windows7系统中nginx与IIS服务器搭建集群实现负载均衡 分布式 ...

  3. 音视频开发(23)---音视频直播技术--10分钟搭建好直播平台

    音视频直播技术--10分钟搭建好直播平台 前言 今天给大家讲一下如何搭建最简单的音视频直播平台.在之前的文章中我已经给大家介绍过音视频直播技术架构,没看过的同学可以看一下.了解了直播的技术架构,我们就 ...

  4. pythonhelloworld项目,10分钟搭建一个小型网页(python django)(hello world!)

    10分钟搭建一个小型网页(python django)(hello world!) 1.安装django pip install django 安装成功后,在Scripts目录下存在django-ad ...

  5. AliOS Things+阿里云 10分钟搭建智慧农业解决方案

    AliOS Things+阿里云 10分钟搭建智慧农业解决方案 1.1 样品介绍 在工业.农业物联网布线场景中以MODBUS类型为主,样品提供MODBUS类型传感器硬件和软件快速接入方案,并将传感器数 ...

  6. 使用和风天气 API 10分钟搭建天气预报数据看板

    本文首发:<使用和风天气 API 10分钟搭建天气预报数据看板)> 使用和风天气 API 10分钟搭建天气预报数据看板 第 1 步:注册和风天气 API 及卡拉云 (1)注册和风天气 AP ...

  7. 10分钟搭建树莓派NAS私有云和KODI影音播放系统 (1)---树莓派4B重大提升,脱胎换骨

    在这之前,我们先来了解下树莓派4b有哪些提升,对于接下来的使用来说有哪些意义. 什么是树莓派呢?这个我就不在这里累述了,不清楚的小伙伴可以搜索了解下.我们重点介绍下树莓派4B,很多小伙伴其实并不太了解 ...

  8. 计算两时间段的重合天/小时/分钟/秒数(末尾附完整代码)

    说明: 有时候我们在计算时间时,有让获取两时间段重合的天数这种需求,小编也是遇到了这样的需求,就封装了一个工具类,希望能帮助到大家. 我们先进行分析 求两个时间段重合的天数,例如求(2022-05-0 ...

  9. 基于pytorch搭建多特征CNN-LSTM时间序列预测代码详细解读(附完整代码)

    系列文章目录 lstm系列文章目录 1.基于pytorch搭建多特征LSTM时间序列预测代码详细解读(附完整代码) 2.基于pytorch搭建多特征CNN-LSTM时间序列预测代码详细解读(附完整代码 ...

最新文章

  1. 5G NGC — AF 与 NEF 网络能力开放
  2. 第二部分:IDEA 常用设置
  3. 旋转目标检测rotation-yolov5笔记
  4. 开发日记-20190815 关键词 读书笔记《Linux 系统管理技术手册(第二版)》DAY 23
  5. 精通Android自定义View(九)绘制篇Canvas分析之绘制图片
  6. 一文读懂Python web框架和web服务器之间的关系
  7. 【转载】Ogre的内存分配策略
  8. 201712-2-游戏
  9. quartus仿真21:JK触发器和D触发器实现110序列探测器
  10. 华为交换机路由器最新默认密码大全
  11. python科学计算-python科学计算
  12. 软件测试电商web项目如何描述,测试web项目实战
  13. IOS 10.3.3 越狱
  14. View的测量宽高和最终宽高有什么区别?
  15. 利用 MAC 自带的 mount_ntfs 工具加载ntfs移动硬盘进行数据读写
  16. this的三种用法 详解
  17. 如何让USB-C手机,电脑投屏到VR眼镜方案?还能同时实现充电?乐得瑞LDR6282 转接器方案
  18. 使用vsftpd 搭建ftp 服务器
  19. ffmpeg截取视频片段
  20. 编程修养-C语言篇(下)(转)

热门文章

  1. Objective-C非正式协议与正式协议
  2. Citrix Avalon安装实验手册之一----Avalon概述及实验环境准备
  3. Google Objective-C Style Guide
  4. 最新 30 道 Dubbo 面试题及答案
  5. 计算机专业术语lcd,LCD的专业术语.pdf
  6. linux差分备份,完全和差分备份的自动化模型
  7. Python实现获得SQLServer数据库中的表插入到Oracle数据库
  8. TokuDB vs Innodb 基准测试对比
  9. “cyl projection cannot cross pole” 解决方法
  10. 洛谷 P2126 Mzc家中的男家丁