经过了第一节关于什么是卷积的介绍,这里结合相关的网络结构来回顾下什么是卷积神经网络:

首先回顾一下我们2D的卷积的局部感受野的概念,即对输入图像的一部分聚焦进行观察,其余部分不管,通过移动窗口遍历整个输入图像的股过程。

那么一个新的概念需要了解下,就是卷积核的大小(kernel size),以RGB三通道的图像为例,这里选取的卷积核大小为3*3的矩阵,我们三个通道分别得到三个卷积操作后的计算结果,而最终的output是三个通道的卷积操作结果的线性相加如下图所示:

回收第一张图,这里可以更直观的理解局部感受野和三个通道叠加的过程

除此之外呢我们还需要理解两个概念,也就是padding和stride顾名思义,第一个单词有补丁的意思,其操作类似打补丁的一个过程,如下图,我们知道因为卷积核大小不同,我们最终输出的结果会是和我们卷积核大小相同甚至是更小的一个矩阵,这样原来的输入矩阵是不是就降维了,维数变少了,但是有的时候我们不希望维数变少,咋办呢,打补丁,给原来的输入矩阵在x和y方向分别拓展n个纬度,也就是类似一个打补丁的过程,这样我们可以看到原来我们对边缘图像只处理一次,但是通过padding操作我们能够更充分的处理边缘要素,而且解决了图像尺寸越来越小的问题。

stride可以理解为步长,就是我们每次移动窗口的距离,这个移动包括x方向的也包括y方向的

这里我们结合到具体的网络参数设定,以这个[4,3,5,5]为例,第一个是batch代表输入有多少个图像,很明显这里input是4,第二个参数3代表的是channels通道数,因为我们是RGB三个通道,后边两个就是我们卷积核的长和宽的纬度参数了。再举个具体的例子:

这里x是输入层的信息,b是batchsize即图片张数,28*28是图像的像素,其构成对应矩阵的维数,最后一个3是通道数RGB三个通道。第二个One K代表的是一个卷积核,[3,3,3]对应的是三个通道和卷积核大小为3*3,multi-k顾名思义多个卷积核,这里具体有几个了,第一个参数告诉我们呢,16个,之后的参数就很尝龟了,步长为stride=1,padding操作是给长宽两个维度各自适应补全使得输出的图像尺寸与输入的不发生改变,bias是偏置,因为是16个卷积操作,自然会有16个卷积output注意这里不是最终output,然后对应每个卷积有一个偏置从而会有16个。最后output结果就是前面删和输入一样,只是这里通道数增加了由3变成了16,这样对应一个升维的过程,将原来的输入映射到更高的维度进行观察其中的高维特征。这是卷积操作发挥效力的奥妙。

后边这个图是LeNet-5卷积网络的结构,之前有见过。具体的代码实现如下

最后不要落下了,之前这些都是前馈传递过程,那么梯度下降呢,这里还是得提下:

梯度我们知道是对Loss函数对其中某一层的一个w进行求偏导的过程,我们列写一下输出output的计算公式如下:

根据链式法则,我们知道最终的偏导计算结果就是输入的矩阵上面的对应元素值再乘以Loss函数与输出值求得的偏导。

Tensorflow 卷积神经网络 (二)相关推荐

  1. TensorFlow 卷积神经网络之猫狗识别(二)

    本文是TensorFlow 卷积神经网络之猫狗识别 的姊妹篇,是加载上一篇博客训练好的模型,进行猫狗识别 本文逻辑: 我从网上下载了十几张猫和狗的图片,用于检验我们训练好的模型. 处理我们下载的图片 ...

  2. TensorFlow 卷积神经网络实用指南 | iBooker·ApacheCN

    原文:Hands-On Convolutional Neural Networks with TensorFlow 协议:CC BY-NC-SA 4.0 自豪地采用谷歌翻译 不要担心自己的形象,只关心 ...

  3. 基于Tensorflow卷积神经网络天气图像识别系统设计

    开发软件: Pycharm + Navicat 12 开发技术:Django + sqlite + Tensorflow卷积神经网络 1.这是一个天气图像识别项目,基于tensorflow,使用卷积神 ...

  4. 基于Tensorflow卷积神经网络(CNN)的人脸年龄和性别检测系统

    文件大小:150M 开发环境:Python3.7.OpenCV4.0.1.24.Tensorflow1.13.1.PyCharm2020 点击下载:点击下载 简要概述:基于Tensorflow卷积神经 ...

  5. Tensorflow卷积神经网络识别MINST手写数字

    开发环境: Ubuntu16.04+Tensorflow1.5.0-GPU+CUDN9.0+CUDNN7.0 如果是Debian系列的系统,请参考这篇博客进行安装. 所有完整代码的github地址为: ...

  6. tensorflow卷积神经网络实战:Fashion Mnist 图像分类与人马分类

    卷积神经网络实战:Fashion Mnist 图像分类与人马分类 一.FashionMnist的卷积神经网络模型 1.卷积VS全连接 2.卷积网络结构 3.卷积模型结构 1)Output Shape ...

  7. 基于TensorFlow卷积神经网络的手写体数字识别

    一.卷积神经网络(CNN) 二.LeNet 三.代码 1.Mnist手写体训练并测试 2.可视化 四.数据集分析 五.结果分析 1.准确率 2.可视化测试 一.卷积神经网络(CNN) 参考:https ...

  8. TensorFlow 卷积神经网络实用指南:1~5

    原文:Hands-On Convolutional Neural Networks with TensorFlow 协议:CC BY-NC-SA 4.0 译者:飞龙 本文来自[ApacheCN 深度学 ...

  9. 优达学城深度学习之六——TensorFlow卷积神经网络

    TensorFlow卷积层 TensorFlow 提供了 tf.nn.conv2d() 和 tf.nn.bias_add() 函数来创建你自己的卷积层. # Output depth k_output ...

最新文章

  1. 关于R语言plyr包的安装问题
  2. UVA1146 / LA3211(ACM-ICPC 2004 Europe - Southwestern) Now or later(2-SAT问题 + 二分答案)
  3. 读过的好书[技术类]
  4. mysql 乘法拼接字符串_【原创】利用MySQL 的GROUP_CONCAT函数实现聚合乘法
  5. mysql备份到远程服务器脚本
  6. Windows系统上3种连接Docker虚拟机的方法
  7. 3123称重显示控制器说明书_失重秤在自动化配料系统中的应用 - 工业自动化称重仪表...
  8. Linux常用指令---快捷键
  9. gulp自己主动化任务脚本在HybridApp开发中的使用
  10. 关于区块链的解读和简单Python实现
  11. 爱奇艺发布年报:四季度运营大幅减亏,今年提质增效追盈利
  12. 解决 login.live.com onedrive.live.com 等微软国外网站打不开问题
  13. 腾讯笔试——安排机器 【 题目描述】小 Q 的公司最近接到 m 个任务, 第 i 个任务需要 xi 的时间去完成, 难度等级为 yi。 小 Q 拥有 n 台机器, 每台机器最长工作时间 zi, 机器等
  14. h5 微信公众号获取当前位置
  15. Rxjava操作符之过滤操作
  16. Win10开启telnet功能
  17. 2020中南大学研究生招生夏令营机试题
  18. 基于PaddleSeg实现眼底血管分割——助力医疗人员更高效检测视网膜疾病
  19. Kubernetes Deployment控制器(二十)
  20. 申请计算机专业有关个人陈述吗,美国计算机博士申请个人陈述范文

热门文章

  1. 一个关于从1到100的加法算法
  2. 迭代DOM集合的几种方法
  3. PL/SQL程序设计(七)—— 触发器
  4. ASp.net常用服务
  5. js 改变this指向的几种方法(个人学习笔记)
  6. java8 Stream2
  7. CentOS6.7 mysql5.6.33修改数据文件位置
  8. javase基础复习攻略《六》
  9. Python少打字小技巧
  10. 不是计算机专业,哪个专业更适合学习web前端