感受野大小计算、卷积参数量与计算量、空洞卷积计算量与参数量

卷积计算,反卷积计算,特征图大小计算,空洞卷积计算

转自:https://www.jianshu.com/p/09ea4df7a788?utm_source=oschina-app

  • 卷积计算过程(单/RGB多通道)
  • 特征图大小计算公式
  • 转置卷积(反卷积)计算过程
  • 空洞卷积计算过程

卷积计算过程(单/RGB多通道)

假设输入层的大小为 5 x 5,局部感受野(或称卷积核)的大小为 3 x 3,那么输出层一个神经元所对应的计算过程(下文简称「卷积计算过程」)如下:

每个卷积核对应的权重 W 在计算卷积过程中,值是固定的,我们称为权重共享

如果将输入层想像成黑板,局部感受野就像是黑板擦,他会从左往右,从上至下的滑动,每次滑动 1 个步长(Stride)并且每次滑动都重复上述的计算过程,我们就可以得到输出的特征图(feature map),如下图:

有时候,按照规定步数滑动到黑板边缘时,黑板擦一部分会露出在黑板外,这个时候就 不能够顺利执行卷积过程了,解决的方法是填充,常见的有两种填充(Padding)方法,第一种方法为 Valid,第二种方法为 Same,如下图所示:

Valid 是丢弃的方法,比如上述的 input_width = 7,kernel_width = 5,stride = 3,只允许滑动 1 次,多余的元素则丢掉。

Same 是补全的方法,对于上述的情况,允许滑动 3 次,但是需要补 4 个元素,左边补 2 个 0,右边补 2 个 0,这种方法则不会抛弃边缘的信息,关于如何计算填充数量会在下小节中讲到。

在实际应用中,输入的都为彩色图像(RGB 三通道),也就是说输入的维度是 [图片数,图片高,图片宽,通道数],这个时候,执行卷积的过程如下:

特征图大小的计算公式

我们在设计和调整网络结构的时候,还需要快速知道调整了卷积核后,输出特征图的大小,假定:

  • 输入图片 i(只考虑输入宽高相等)
  • 卷积核大小 f
  • 步长 s
  • 填充的像素数 p

那么输出的特征图大小 o 的计算公式则如下:

  • 当填充方式为 VALID 时,p 值等于 0,代入相应的 i,f,p,s 就可以相应的计算出 o 值了。

  • 当填充方式为 SAME 时,步长 s 为 1 时,输出的 o == i,我们则可以计算出相应的 P 值为 p = (f-1) / 2

转置卷积(反卷积,逆卷积)的计算过程

O=(i-1)*s + k

空洞卷积的计算过程

空洞卷积(Dilated convolutions)在卷积的时候,会在卷积核元素之间塞入空格,如下图所示:

这里引入了一个新的超参数 d,(d - 1) 的值则为塞入的空格数,假定原来的卷积核大小为 k,那么塞入了 (d - 1) 个空格后的卷积核大小 n 为:

进而,假定输入空洞卷积的大小为 i,步长 为 s ,空洞卷积后特征图大小 o 的计算公式为:

卷积计算,反卷积计算,特征图大小计算,空洞卷积计算相关推荐

  1. 卷积神经网络系列之卷积/池化后特征图大小怎么计算??

    1.卷积后的大小: W:矩阵宽,H:矩阵高,F:卷积核宽和高,P:padding(需要填充的0的个数),N:卷积核的个数,S:步长 width:卷积后输出矩阵的宽,height:卷积后输出矩阵的高 w ...

  2. group convolution (分组卷积)的计算量详解、卷积计算量特征图大小,池化特征图大小、深度通道deep-wise 卷积

    group convolution (分组卷积)的计算量详解.卷积计算量特征图大小,池化特征图大小.深度通道deep-wise 卷积 提示:最近忙着各种提前批的笔试面试,所以没太多空刷题了都,先复盘一 ...

  3. 【卷积神经网络--卷积/池化后特征图大小计算公式】

    [卷积神经网络–卷积/池化后特征图大小计算公式] 参考链接: 卷积神经网络系列之卷积/池化后特征图大小怎么计算?? torch中的Conv2d卷积的输入的Tensor张量是:[batch, chann ...

  4. 卷积神经网络中特征图大小计算公式总结

    W:输入特征图的宽,H:输入特征图的高 K:kernel size卷积核宽和高,P:padding(特征图需要填充的0的个数),S:stride步长 width_out:卷积后输出特征图的宽,heig ...

  5. 特征图注意力_CBAM:卷积块注意力模块

    此篇文章内容源自 CBAM: Convolutional Block Attention Module,若侵犯版权,请告知本人删帖. 原论文下载地址: https://arxiv.org/pdf/18 ...

  6. 解决U-net上采样过程后,结合下采样信息时特征图大小不匹配问题

    在U-net下采样后时,通过polling层,可能会出现这种情况,37*37feature maps 压缩成18*18大小,但在上采样过程中,利用 nn.ConvTranspose2d()通常变为36 ...

  7. 特征图大小_新手向快速了解图神经网络

    这两天稍微看了点图神经网络的东西,稍微做个记录,第一次接触这个名词的推荐可以看一下知乎上一个视频 简单粗暴带你快速理解图神经网络GNN 图神经网络处理的数据一般就是个图,图网络具有节点特征和结构特征, ...

  8. 简明易懂——卷积神经网络的输入输出特征图大小计算

  9. 卷积核输出特征图大小的计算 深度学习

    20201218

最新文章

  1. 乘风破浪的Seq2Seq模型:在事件抽取上的应用
  2. Visual Translation Embedding Network for Visual Relation Detection论文中的术语以及对论文的理解笔记...
  3. 写一个函数,输入int型,返回整数逆序后的字符串
  4. sqlite换成mysql_从SQLITE的数据转到MYSQL
  5. [转载] python迭代器、生成器和装饰器
  6. IPerf——网络测试工具介绍与源码解析(3)
  7. [置顶]Win2012R2的一个Bug安装群集后可能引发的软件崩溃问题及相应补丁
  8. python修改文件后缀_Python批量修改文件后缀的方法
  9. java分析dump文件_干货分享丨jvm系列:dump文件深度分析
  10. 陕西计算机在职研究生院校排名,陕西在职研究生哪个学校好上
  11. 报错:Web server failed to start. Port 8080 was already in use
  12. 《后端成长路线》系列 导航篇
  13. python日常实用技能:使用python将大量数据导出到Excel中的
  14. 【渗透测试】靶机渗透Vulnhub-bulldog
  15. 管程法解决生产者消费者问题
  16. Java数组实现冒泡排序
  17. 三分钟理解辗转相除法
  18. 远距离WiFi模块,无人机传输技术,无线通信视频传输技术
  19. Python自学难吗?Python课程主要学些什么内容?
  20. 为《理解C#中的System.In32和int:并非鸡和鸡蛋 》做个续

热门文章

  1. mysql的文件操作函数_MySQL-操作符及常用函数
  2. 突发!泽宝原创始人被母公司星徽精密追讨10亿元-跨境知道
  3. python+openCV一键换底色,不同底色自动判断
  4. 使用SVM+Word2Vec 解决外卖的好评坏评分类问题
  5. 如何看日志报错 journalctl -xe
  6. 使用element ui select下拉框多选,编辑状态下回显数据
  7. 简单解释什么是Rest接口
  8. 从精致穷到消费降级,第四消费时代还有多远?
  9. 【转】iOS-Core-Animation-Advanced-Techniques(一)
  10. 如何提高学生对计算机英语的兴趣论文,英语教学计算机专业论文