一、CNN简介

1. 神经网络基础

输入层(Input layer),众多神经元(Neuron)接受大量非线形输入讯息。输入的讯息称为输入向量。
输出层(Output layer),讯息在神经元链接中传输、分析、权衡,形成输出结果。输出的讯息称为输出向量。
隐藏层(Hidden layer),简称“隐层”,是输入层和输出层之间众多神经元和链接组成的各个层面。如果有多个隐藏层,则意味着多个激活函数。

2. 卷积一下哦

卷积神经网络(Convolutional Neural Network,CNN)针对全连接网络的局限做出了修正,加入了卷积层(Convolution层)和池化层(Pooling层)。通常情况下,卷积神经网络由若干个卷积层(Convolutional Layer)、激活层(Activation Layer)、池化层(Pooling Layer)及全连接层(Fully Connected Layer)组成。

下面看怎么卷积的

1.如图,可以看到:

(1)两个神经元,即depth=2,意味着有两个滤波器。
(2)数据窗口每次移动两个步长取3*3的局部数据,即stride=2。
(3)边缘填充,zero-padding=1,主要为了防止遗漏边缘的像素信息。
    然后分别以两个滤波器filter为轴滑动数组进行卷积计算,得到两组不同的结果。

2.如果初看上图,可能不一定能立马理解啥意思,但结合上文的内容后,理解这个动图已经不是很困难的事情:

(1)左边是输入(7*7*3中,7*7代表图像的像素/长宽,3代表R、G、B 三个颜色通道)
(2)中间部分是两个不同的滤波器Filter w0、Filter w1
(3)最右边则是两个不同的输出
(4)随着左边数据窗口的平移滑动,滤波器Filter w0 / Filter w1对不同的局部数据进行卷积计算。

局部感知:左边数据在变化,每次滤波器都是针对某一局部的数据窗口进行卷积,这就是所谓的CNN中的局部感知机制。打个比方,滤波器就像一双眼睛,人类视角有限,一眼望去,只能看到这世界的局部。如果一眼就看到全世界,你会累死,而且一下子接受全世界所有信息,你大脑接收不过来。当然,即便是看局部,针对局部里的信息人类双眼也是有偏重、偏好的。比如看美女,对脸、胸、腿是重点关注,所以这3个输入的权重相对较大。
参数共享:数据窗口滑动,导致输入在变化,但中间滤波器Filter w0的权重(即每个神经元连接数据窗口的权重)是固定不变的,这个权重不变即所谓的CNN中的参数(权重)共享机制。

3卷积计算:

图中最左边的三个输入矩阵就是我们的相当于输入d=3时有三个通道图,每个通道图都有一个属于自己通道的卷积核,我们可以看到输出(output)的只有两个特征图意味着我们设置的输出的d=2,有几个输出通道就有几层卷积核(比如图中就有FilterW0和FilterW1),这意味着我们的卷积核数量就是输入d的个数乘以输出d的个数(图中就是2*3=6个),其中每一层通道图的计算与上文中提到的一层计算相同,再把每一个通道输出的输出再加起来就是绿色的输出数字啦!
举例:

绿色输出的第一个特征图的第一个值:

1通道x[ : :0] 1*1+1*0 = 1 (0像素点省略)

2通道x[ : :1] 1*0+1*(-1)+2*0 = -1

3通道x[ : :2] 2*0 = 0

b = 1

输出:1+(-1)+ 0 + 1(这个是b)= 1 

绿色输出的第二个特征图的第一个值:

1通道x[ : :0] 1*0+1*0 = 0 (0像素点省略)

2通道x[ : :1] 1*0+1*(-1)+2*0 = -1

3通道x[ : :2] 2*0 = 0

b = 0

输出:0+(-1)+ 0 + 1(这个是b)= 0

二、CNN实例代码:

import torch
import torch.nn as nn
from torch.autograd import Variable
import torch.utils.data as Data
import torchvision
import matplotlib.pyplot as plt

模型训练超参数设置,构建训练数据:如果你没有源数据,那么DOWNLOAD_MNIST=True

#Hyper prameters
EPOCH = 2
BATCH_SIZE = 50
LR = 0.001
DOWNLOAD_MNIST = Truetrain_data = torchvision.datasets.MNIST(root ='./mnist',train = True,download = DOWNLOAD_MNIST
)

数据下载后是不可以直接看的,查看第一张图片数据:

print(train_data.data.size())
print(train_data.targets.size())
print(train_data.data[0])

结果:60000张图片数据,维度都是28*28,单通道

画一个图片显示出来

# 画一个图片显示出来
plt.imshow(train_data.data[0].numpy(),cmap='gray')
plt.title('%i'%train_data.targets[0])
plt.show()

结果:

训练和测试数据准备,数据导入:

#训练和测试数据准备
train_loader=Data.DataLoader(dataset=train_data, batch_size=BATCH_SIZE, shuffle=True)test_data=torchvision.datasets.MNIST(root='./mnist',train=False,
)#这里只取前3千个数据吧,差不多已经够用了,然后将其归一化。
with torch.no_grad():test_x=Variable(torch.unsqueeze(test_data.data, dim=1)).type(torch.FloatTensor)[:3000]/255   test_y=test_data.targets[:3000]

注意:这里的归一化在此模型中区别不大

构建CNN模型:

'''开始建立CNN网络'''
class CNN(nn.Module):def __init__(self):super(CNN,self).__init__()'''一般来说,卷积网络包括以下内容:1.卷积层2.神经网络3.池化层'''self.conv1=nn.Sequential(nn.Conv2d(              #--> (1,28,28)in_channels=1,      #传入的图片是几层的,灰色为1层,RGB为三层out_channels=16,    #输出的图片是几层kernel_size=5,      #代表扫描的区域点为5*5stride=1,           #就是每隔多少步跳一下padding=2,          #边框补全,其计算公式=(kernel_size-1)/2=(5-1)/2=2),    # 2d代表二维卷积           --> (16,28,28)nn.ReLU(),              #非线性激活层nn.MaxPool2d(kernel_size=2),    #设定这里的扫描区域为2*2,且取出该2*2中的最大值          --> (16,14,14))self.conv2=nn.Sequential(nn.Conv2d(              #       --> (16,14,14)in_channels=16,     #这里的输入是上层的输出为16层out_channels=32,    #在这里我们需要将其输出为32层kernel_size=5,      #代表扫描的区域点为5*5stride=1,           #就是每隔多少步跳一下padding=2,          #边框补全,其计算公式=(kernel_size-1)/2=(5-1)/2=),                      #   --> (32,14,14)nn.ReLU(),nn.MaxPool2d(kernel_size=2),    #设定这里的扫描区域为2*2,且取出该2*2中的最大值     --> (32,7,7),这里是三维数据)self.out=nn.Linear(32*7*7,10)       #注意一下这里的数据是二维的数据def forward(self,x):x=self.conv1(x)x=self.conv2(x)     #(batch,32,7,7)#然后接下来进行一下扩展展平的操作,将三维数据转为二维的数据x=x.view(x.size(0),-1)    #(batch ,32 * 7 * 7)output=self.out(x)return output

把模型实例化打印一下:

cnn=CNN()
print(cnn)

结果:

开始训练:

# 添加优化方法
optimizer=torch.optim.Adam(cnn.parameters(),lr=LR)
# 指定损失函数使用交叉信息熵
loss_fn=nn.CrossEntropyLoss()'''
开始训练我们的模型哦
'''
step=0
for epoch in range(EPOCH):#加载训练数据for step,data in enumerate(train_loader):x,y=data#分别得到训练数据的x和y的取值b_x=Variable(x)b_y=Variable(y)output=cnn(b_x)         #调用模型预测loss=loss_fn(output,b_y)#计算损失值optimizer.zero_grad()   #每一次循环之前,将梯度清零loss.backward()         #反向传播optimizer.step()        #梯度下降#每执行50次,输出一下当前epoch、loss、accuracyif (step%50==0):#计算一下模型预测正确率test_output=cnn(test_x)y_pred=torch.max(test_output,1)[1].data.squeeze()accuracy=sum(y_pred==test_y).item()/test_y.size(0)print('now epoch :  ', epoch, '   |  loss : %.4f ' % loss.item(), '     |   accuracy :   ' , accuracy)'''
打印十个测试集的结果
'''
test_output=cnn(test_x[:10])
y_pred=torch.max(test_output,1)[1].data.squeeze()       #选取最大可能的数值所在的位置
print(y_pred.tolist(),'predecton Result')
print(test_y[:10].tolist(),'Real Result')

结果:

卷积层维度变化:

(1)输入1*28*28,即1通道,28*28维;

(2)卷积层-01:16*28*28,即16个卷积核,卷积核维度5*5,步长1,边缘填充2,维度计算公式B = (A + 2*P - K) / S + 1,即(28+2*2-5)/1 +1 = 28

(3)池化层:池化层为2*2,所以输出为16*14*14

(4)卷积层-02:32*14*14,即32卷积核,其它同卷积层-01

(5)池化层:池化层为2*2,所以输出为32*7*7;

(6)fc层:由于输出为1*10,即10个类别的概率,那么首先对最后的池化层进行压缩为二维(1,32*7*7),然后全连接层维度(32*7*7,10),最后(1,32*7*7)*(32*7*7,10)

Python CNN卷积神经网络实例讲解,CNN实战,CNN代码实例,超实用相关推荐

  1. CNN卷积神经网络原理与公式讲解

    CNN卷积神经网络原理讲解+图片识别应用(两层) https://blog.csdn.net/kun1280437633/article/details/80817129 写给初学者的深度学习教程之 ...

  2. 深度学习之CNN卷积神经网络

    详解卷积神经网络(CNN) 卷积神经网络(Convolutional Neural Network, CNN)是一种前馈神经网络,它的人工神经元可以响应一部分覆盖范围内的周围单元,对于大型图像处理有出 ...

  3. CNN卷积神经网络介绍

    CNN卷积神经网络介绍 1.ANN/CNN/RNN是什么? 2.CNN(卷积神经网络)简介 2.1输入层 2.2隐含层 2.2.1卷积层 2.2.2 激活层(ReLU) 2.2.3池化层 (Pooli ...

  4. cnn(卷积神经网络)比较系统的讲解

    本文整理了网上几位大牛的博客,详细地讲解了CNN的基础结构与核心思想,欢迎交流. [1]Deep learning简介 [2]Deep Learning训练过程 [3]Deep Learning模型之 ...

  5. 人工智能:深度学习算法及应用——简单理解CNN卷积神经网络并python实现(带源码)

    深度学习算法及应用 一. 实验目的 二. 实验要求 三. 实验的硬件.软件平台 四. 实验原理 1.1. 深度学习概述 1.2. 深度学习的常见结构 1.3. 卷积神经网络(CNN) **卷积** * ...

  6. CNN卷积神经网络案例程序源代码合集matlab/Python等

    CNN卷积神经网络案例程序源代码合集matlab/Python等 1.深入理解CNN(包括CNN的过程显示和前向后向推倒,以及CNN的应用举例.) 2.kerasttensorflowCNN(CNN_ ...

  7. CNN卷积神经网络实例(基于pytorch)

    CNN卷积神经网络 1.关于卷积神经网络 2.卷积神经网络实例(手写字母识别) 2.1 代码示例 2.2 运行过程及结果 2.3 测试结果 3.参考与致谢 1.关于卷积神经网络 卷积神经网络(Conv ...

  8. 【深度学习】越来越卷,教你使用Python实现卷积神经网络(CNN)

    @Author:Runsen https://blog.csdn.net/weixin_44510615/article/details/117409037 卷积神经网络 Yann LeCun 和Yo ...

  9. python神经网络案例——CNN卷积神经网络实现mnist手写体识别

    分享一个朋友的人工智能教程.零基础!通俗易懂!风趣幽默!还带黄段子!大家可以看看是否对自己有帮助:点击打开 全栈工程师开发手册 (作者:栾鹏) python教程全解 CNN卷积神经网络的理论教程参考 ...

  10. 越来越卷,教你使用Python实现卷积神经网络(CNN)

    @Author:Runsen 文章目录 卷积神经网络 网络架构 卷积 卷积层 在Keras中构建卷积层 池化层 全连接层 Python实现卷积神经网络 总结 卷积神经网络 Yann LeCun 和Yo ...

最新文章

  1. dump java崩溃自动 不生成_GitHub 自动生成 .gitignore,只想写代码不重要的事情别烦我...
  2. 寻找丢失的数字(二)
  3. android studio设置JDK路径
  4. hyperstudy联合matlab,HyperStudy对后处理排气管道参数的灵敏度分析及优化设计
  5. 展讯康一:2020年推出5G芯片 第一桶金含金量最高
  6. .Net Core应用搭建的分布式邮件系统设计
  7. C语言 回调函数 produce(arr,len,getRand)
  8. 彻底理解MapReduce shuffle过程原理
  9. 马云:创业成功者没有固定模式
  10. Wmware安装Centos7教程
  11. iOS开发-当APP涉及到用户敏感信息适配Xcode9及(ios11)
  12. android动画的实现过程
  13. 实现异步加载js文件及加载完成后回调
  14. SSM整合开发实战-poi导入导出excel-前言
  15. ODOO13 有同志留言,想看看QWEB渲染widget实现自定义按钮。今天,他来撩
  16. 华为关闭系统更新EMUI9.0禁止更新mate10降级EMUI9
  17. java简单的增删改查项目 ATM机
  18. centos memcache
  19. 《计算机网络:自顶向下方法》学习笔记——第一章:计算机网络和因特网
  20. 2020-4-20训练赛

热门文章

  1. H5+ 调用Barcode 实现二维码扫一扫
  2. 奥克兰大学计算机科学硕士,奥克兰大学计算机硕士解析
  3. java long型时间_long类型转换成日期
  4. SpringCloud( H版 alibaba )框架开发教程(中级)
  5. 【阅读论文】第七章--多图重建的黄斑肿大检测--博-自动化眼底图像分析技术可筛查糖尿病患者的视网膜疾病
  6. mc服务器小地图不显示玩家,我的世界旅行地图小地图不显示只显示地形 | 手游网游页游攻略大全...
  7. 十分钟轻松掌握索引的数据结构
  8. 检查DNT.config中Dbtype节点数据库类型是否正确,例如:SqlServer、Access、MySql
  9. 2021年2月16日 星期二 农历初五 晴 天津
  10. PostgreSQL多维空间对象——cube插件