猪猪的机器学习（十九）卷积神经网络

卷积神经网络

作者：樱花猪

摘要：

本文为七月算法（julyedu.com）12月机器学习第十九次课在线笔记。卷积神经网络（Convolutional Neural Network,CNN）是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。

引言：

第十九和二十课进入了目前比较新又非常热门的深度学习中。在传统的机器学习中，通常是我们自己来寻找特征，而深度学习中我们通过神经网络来自主的学习特诊。在大量数据的前提下，深度学习往往能够比传统机器学习方法效果更好。

卷积神经网络（Convolutional Neural Network,CNN）是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。

课程比较注重实践的讲解，通过课程能快速的搭建一个自己的神经网络。

一、卷积神经网络：

首先将输入数据堪称三维的张量（Tensor）

引入Convolution（卷积）操作，单元变成卷积核，部分连接共享权重。

引入Pooling（采样）操作，降低输入张量的平面尺寸

卷积神经网络的最大优点：拥有某种特征学习的能力

二、网络结构

1、三维张量

一幅图我们认为有三维张量分为长、宽、和深度。这里深度在彩色图像中可以设置为3，R,G,B。

2、卷积

卷积的概念来自型号处理，我们在图像计算中也非常的常用。具体过程可以参见传统卷积方案。在卷积升级网络中，模板我们成为核Kernel。

3、三维张量卷积

这里，卷积核的深度和输入图像是一致的。每个卷积核都带有一个Bias。

4、激活函数

卷积以后会产生一个激活函数，这个激活函数跟人工神经网络类似。

5、Pooling操作（采样）

采样操作改变图像的尺寸，通过Pooling操作能够逐层吧图像尺寸降下来，减少维度。

三、卷积网络的设计

1、设计方式：

尽量使用3×3的卷积核，甚至更小，滑动因子取1。

使用Pooling(2x2)对网络进行1/4下采样

采用多层次架构，采用残差结构实现更深的网络。

2、残擦网络结构

3、复杂网络的BP计算

同传统人工神经网络一样，核心依然是链式法则，利用框架搭建网络并对自己实现的结构，严格用数值计算验证。

4、基于层次的特征学习

层次越高越模糊。

四、CNN实验（参照课堂讲解）

参考文献：

http://blog.csdn.net/zouxy09/article/details/9993371

http://www.36dsj.com/archives/24006

来自为知笔记(Wiz)

转载于:https://www.cnblogs.com/Dr-XLJ/p/5466394.html

猪猪的机器学习（十九）卷积神经网络相关推荐

花书+吴恩达深度学习（十）卷积神经网络 CNN 之卷积层
目录 0. 前言 1. 2D 图像卷积 2. 3D 图像卷积 3. 过滤器(核函数) 4. 过滤器应用于边缘检测 5. padding 填充 6. stride 步长 7. 使用卷积的动机 8. 1乘 ...
【深度学习】基于Torch的Python开源机器学习库PyTorch卷积神经网络
[深度学习]基于Torch的Python开源机器学习库PyTorch卷积神经网络文章目录 1 CNN概述 2 PyTorch实现步骤2.1 加载数据2.2 CNN模型2.3 训练2.4 可视化训练 ...
第五章：Tensorflow 2.0 利用十三层卷积神经网络实现cifar 100训练（理论+实战）
版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明. 本文链接:https://blog.csdn.net/LQ_qing/article/deta ...
机器学习笔记三—卷积神经网络与循环神经网络
系列文章目录机器学习笔记一-机器学习基本知识机器学习笔记二-梯度下降和反向传播机器学习笔记三-卷积神经网络与循环神经网络机器学习笔记四-机器学习可解释性机器学习笔记五-机器学习攻击与防御机 ...
深度学习入门（三十）卷积神经网络——NiN
深度学习入门(三十)卷积神经网络--NiN 前言卷积神经网络--NiN 课件网络中的网络NiN 全连接层的问题 NiN块 NiN架构 NiN Networks 总结教材 1 NiN块 2 NiN ...
李宏毅机器学习课程10~~~卷积神经网络
卷积的意义数字图像是一个二维的离散信号,对数字图像做卷积操作其实就是利用卷积核(卷积模板)在图像上滑动,将图像点上的像素灰度值与对应的卷积核上的数值相乘,然后将所有相乘后的值相加作为卷积核中间像素对 ...
【theano-windows】学习笔记十二——卷积神经网络
前言按照进度, 学习theano中的卷积操作国际惯例, 来一波参考网址 Convolutional Neural Networks (LeNet) 卷积神经网络如何应用在彩色图像上? 卷积小知识 ...
机器学习：利用卷积神经网络实现图像风格迁移 (一)
相信很多人都对之前大名鼎鼎的 Prisma 早有耳闻,Prisma 能够将一张普通的图像转换成各种艺术风格的图像,今天,我们将要介绍一下Prisma 这款软件背后的算法原理.就是发表于 2016 CV ...
AI学习笔记（十）卷积神经网络
AI学习笔记之卷积神经网络卷积神经网络简介卷积层池化层卷积神经网络卷积核填充padding 常见的卷积神经网络 cifar-10预测实例数据预处理--图像增强图像增强常用方法 Alex ...
cnn风格迁移_机器学习：利用卷积神经网络实现图像风格迁移 (一)
相信很多人都对之前大名鼎鼎的 Prisma 早有耳闻,Prisma 能够将一张普通的图像转换成各种艺术风格的图像,今天,我们将要介绍一下Prisma 这款软件背后的算法原理.就是发表于 2016 CV ...

猪猪的机器学习（十九）卷积神经网络

卷积神经网络

猪猪的机器学习（十九）卷积神经网络相关推荐

最新文章

热门文章