卷积神经网络CNN

  • 卷积神经网络
    • 前言
      • 卷积神经网络
      • 卷积的填充方式
      • 卷积原理展示
      • 卷积计算量公式
      • 卷积核输出的大小计算
      • 感受野
      • 池化
      • 自适应均值化
      • 空洞卷积
      • 经典卷积神经网络
      • 参考

卷积神经网络

前言

  • 为什么要使用卷积神经网络呢?

    • 首先传统的MLP的有什么问题呢? -
      传统过的全连接网络,每一层的输出就是下一层的输入。在一个模型拟合任务中,并不是所有的参数特征都占据很大。因此,有些特征依然会存在冗余的情况。
      总结:并不是所有的权重都会发生作用,依然会有很多不必要的参数。
      全连接存在的问题就是,这一层的输入也许我并不是全部需要,也许本身也不需要。参数过多也会造成计算的增加,浪费时间。
      参数过多,计算冗余

卷积神经网络

  • 卷积神经网络也是一种前馈神经网络,是受到生物学上感受野(感受野主要是指听觉系统、本体感觉系统和视觉系统中神经元的一些性质)的机制而提出的(在视觉神经系统中,一个神经元的感受野是指视网膜上的特定区域,只有这个区域内的刺激才能够激活该神经元)。

卷积:(f**g*)(n)成为 ff 和 gg 的卷积,连续卷积和离散卷积可以表达为如下形式:

卷积有很多应用,经常用于处理一个输入,通过系统产生一个适应需求的输出。
统计学中加权平均法
概率论中两个独立变量之和概率密度的计算
信号处理中的线性系统
物理学的线性系统
图像处理中的应用(卷积神经网络)
卷积经常用在信号处理中,用于计算信号的延迟累积。

卷积的填充方式

卷积原理展示


卷积核在很大程度上可以看成滤波器。至少作用上具有很大相似性。

卷积原理示意图

卷积运算:通过学习得来的卷积核,获得特征图

卷积计算量公式

卷积核输出的大小计算

感受野

  • 感受野:类似于余光感受的视野,有时候关键信息分布很分散,需要足够的感受野捕捉足够的信息,这样足够的参考信息利于提高精确度(网络层次不够时,感受野可以辅助处理问题)


    因此,小的特征图往往也能看到很多全局的特征、

池化


  • 具有平移不变形和移动不变性
  • 备注:池化类似于卷积的过滤,池化会丢失信息(无用信息或者 重要信息)

自适应均值化

空洞卷积

  • 空洞卷积
  • 红点参与计算,没有空洞时空洞值为1,多一个空洞,空洞值+1

经典卷积神经网络

以上类别,以后分开介绍吧…

参考

链接: Datawhale.

深度学习从入门到实战——卷积神经网络原理解析及其应用相关推荐

  1. 【深度学习】5:CNN卷积神经网络原理

    前言:先坦白的说,深度神经网络的学习在一开始对我造成的困扰还是很大的,我也是通过不断地看相关的视频资料.文献讲解尝试去理解记忆.毕竟这些内容大多都是不可查的,我们看到的都只是输入输出的东西,里面的内部 ...

  2. 【深度学习】基于Pytorch的卷积神经网络概念解析和API妙用(一)

    [深度学习]基于Pytorch的卷积神经网络API妙用(一) 文章目录 1 不变性 2 卷积的数学分析 3 通道 4 互相关运算 5 图像中目标的边缘检测 6 基于Pytorch的卷积核 7 特征映射 ...

  3. 【深度学习】基于Pytorch的卷积神经网络概念解析和API妙用(二)

    [深度学习]基于Pytorch的卷积神经网络API妙用(二) 文章目录1 Padding和Stride 2 多输入多输出Channel 3 1*1 Conv(笔者在看教程时,理解为降维和升维) 4 池 ...

  4. 深度学习多变量时间序列预测:卷积神经网络(CNN)算法构建时间序列多变量模型预测交通流量+代码实战

    深度学习多变量时间序列预测:卷积神经网络(CNN)算法构建时间序列多变量模型预测交通流量+代码实战 卷积神经网络,听起来像是计算机科学.生物学和数学的诡异组合,但它们已经成为计算机视觉领域中最具影响力 ...

  5. 《Keras深度学习:入门、实战与进阶》之印第安人糖尿病诊断

    本文摘自<Keras深度学习:入门.实战与进阶>. 1.数据理解 本节使用Pima Indians糖尿病发病情况数据集.该数据集最初来自国家糖尿病/消化/肾脏疾病研究所.数据集的目标是基于 ...

  6. 深度学习笔记(26) 卷积神经网络

    深度学习笔记(26) 卷积神经网络 1. CONV 2. POOL 3. Layer 4. FC 5. 卷积的优势 1. CONV 假设,有一张大小为32×32×3的输入图片,这是一张RGB模式的图片 ...

  7. 花书+吴恩达深度学习(十四)卷积神经网络 CNN 之经典案例(LetNet-5, AlexNet, VGG-16, ResNet, Inception Network)

    目录 0. 前言 1. LeNet-5 2. AlexNet 3. VGG-16 4. ResNet 残差网络 5. Inception Network 如果这篇文章对你有一点小小的帮助,请给个关注, ...

  8. 花书+吴恩达深度学习(十二)卷积神经网络 CNN 之全连接层

    目录 0. 前言 1. 全连接层(fully connected layer) 如果这篇文章对你有一点小小的帮助,请给个关注,点个赞喔~我会非常开心的~ 花书+吴恩达深度学习(十)卷积神经网络 CNN ...

  9. 基于深度学习的图像分类:使用卷积神经网络实现猫狗分类器

    摘要: 深度学习在计算机视觉领域中具有广泛的应用.本文将介绍如何使用卷积神经网络(CNN)实现一个猫狗分类器.我们将使用Python和TensorFlow框架搭建一个简单的卷积神经网络模型,并利用猫狗 ...

  10. 深度学习笔记其六:现代卷积神经网络和PYTORCH

    深度学习笔记其六:现代卷积神经网络和PYTORCH 1. 深度卷积神经网络(AlexNet) 1.1 学习表征 1.1 缺少的成分:数据 1.2 缺少的成分:硬件 1.2 AlexNet 1.2.1 ...

最新文章

  1. 【通俗理解线性代数】 -- 特殊的矩阵
  2. R语言两个dataframe纵向合并或者为dataframe添加数据行实战
  3. 简单文件的上传与保存
  4. TO B 产品经理:如何推动产品商业化?
  5. 拳王虚拟项目公社:网上做什么兼职副业比较容易挣到钱?虚拟资源项目是赚钱的最佳选择
  6. ML.NET 1.0 发布,单击右键即可添加机器学习模型
  7. JS一个根据时区输出时区时间的函数
  8. ubuntu 安装指定版本golang
  9. 01.ZooKeeper安装和介绍
  10. mysql 数据恢复 binlog
  11. 小白神器 - Django - 起步
  12. 第129章 SQL函数 %SQLUPPER
  13. Windows和Xyplorer的完美结合
  14. 解决 win10 商店无法登录, win10 账号问题
  15. excel中精度损失导致太长的数字后面全变成了零的解放方法
  16. 斐讯路由器设置linux,斐讯N1盒子如何做主路由器的详细教程
  17. Qt实现中国象棋:(七)悔棋
  18. 字符串左旋右旋——三步旋转法和移相法
  19. HotSpot(三):PV值计算
  20. 匹配中文汉字日文韩文等多国语言的正则表达式(转)

热门文章

  1. 试验设计——正交试验设计
  2. 神经网络模型学习笔记(ANN,BPNN)
  3. 谷歌浏览器插件迁移到火狐浏览器
  4. 国密算法 ZUC流密码 祖冲之密码 python代码完整实现
  5. matlab传递函数带符号变量,符号传递函数matlab
  6. txt文本保存操作(新建文件夹以及保存txt文本)
  7. java实现供应链_基于jsp的企业物流供应链-JavaEE实现企业物流供应链 - java项目源码...
  8. 利用kali自带的msfvenom工具生成远程控制软件(木马)
  9. 【参考】MTK线刷工具错误代码大全及解决方法
  10. 串灯控制盒去掉怎么接_彩灯控制器坏了怎么办