如何将卷积神经网络中的全连接层变成卷积层

卷积由feature map到全连接层的设置节点个数也为一个超参数，可以进行设置；同时，这个过程也可以看作是一个卷积的过程。

全连接层实际就是卷积核大小为上层特征大小的卷积运算，一个卷积核卷积后的结果为一个节点，就对应全连接层的一个神经元。
假设：最后一个卷积层的输出为7×7×512，连接此卷积层的全连接层为1×1×4096(相当于全连接网络有4096个神经元)。
相当于一个全链接网络的输入层有7×7×512个输入神经元，下一层有4096个神经元。
如果将这个全连接层转化为卷积层：
1.共需要4096组滤波器
2.每组滤波器含有512个卷积核
3.每个卷积核的大小为7×7
4.则输出为1×1×4096

由于每个滤波核的大小和上一层的feature map大小一样，所有feature map上的cell不共享权重，而全连接网络就不是共享权重的，保证了转换后的卷积层的运算结果和全连接层是一样的。
如果：后面再连接一个1×1×2048的全连接层(相当于全连接网络有4096个神经元)。
则其对应的转换后的卷积层的参数为：
1.共有2048组滤波器
2.每组滤波器含有4096个卷积核
3.每个卷积核的大小为1×1
4.则输出为1×1×2048
拓展：
全连接层的坏处就在于其会破坏图像的空间结构，因此人们便开始用卷积层来“代替”全连接层，通常采用1×1的卷积核，这种不包含全连接的CNN成为全卷积神经网络（FCN），FCN最初是用于图像分割任务，之后开始在计算机视觉领域的各种问题上得到应用，事实上，Faster R-CNN中用来生成候选窗口的CNN就是一个FCN。FCN的特点就在于输入和输出都是二维的图像，并且输入和输出具有相对应的空间结构，在这种情况下，我们可以将FCN的输出看作是一张热度图，用热度来指示待检测的目标的位置和覆盖的区域。在目标所处的区域内显示较高的热度，而在背景区域显示较低的热度，这也可以看成是对图像上的每一个像素点都进行了分类，这个点是否位于待检测的目标上。

转载于:https://www.cnblogs.com/ChenKe-cheng/p/10769198.html

如何将卷积神经网络中的全连接层变成卷积层相关推荐

卷积神经网络中的全连接层
卷积神经网络(CNN)由输入层.卷积层.激活函数.池化层.全连接层组成,即INPUT(输入层)-CONV(卷积层)-RELU(激活函数)-POOL(池化层)-FC(全连接层) 在上一篇博客中(http ...
卷积神经网络中的 “全连接层”
文章目录一.什么是"全连接层" 二.详解一.什么是"全连接层" 对 n-1 层和 n 层而言,n-1 层的任意一个节点,都和第 n 层所有节点有连接(即第n ...
花书+吴恩达深度学习（十二）卷积神经网络 CNN 之全连接层
目录 0. 前言 1. 全连接层(fully connected layer) 如果这篇文章对你有一点小小的帮助,请给个关注,点个赞喔~我会非常开心的~ 花书+吴恩达深度学习(十)卷积神经网络 CNN ...
基于卷积神经网络CNN的水果分类预测，卷积神经网络水果等级识别
目录背影卷积神经网络CNN的原理卷积神经网络CNN的定义卷积神经网络CNN的神经元卷积神经网络CNN的激活函数卷积神经网络CNN的传递函数卷积神经网络CNN水果分类预测基本结构主要参 ...
一、深度卷积神经网络中图像语义分割研究总结
时间:20220410 内容:语义分割研究进程总结参考:深度卷积神经网络图像语义分割研究进展 http://www.cjig.cn/html/jig/2020/6/20200601.htm 语义分割 ...
卷积层和全连接层的区别_卷积神经网络中全连接层作用理解总结
前言一般来说,卷积神经网络会有三种类型的隐藏层--卷积层.池化层.全连接层.卷积层和池化层比较好理解,主要很多教程也会解释. • 卷积层(Convolutional layer)主要是用一个采样器 ...
【深度学习】深度神经网络后处理之全连接CRFs（DenseCRF）
[深度学习]深度神经网络后处理之全连接CRFs(DenseCRF) 文章目录 1 概述 2 条件随机场2.1 什么样的问题需要CRF模型2.2 随机场到马尔科夫随机场2.3 从马尔科夫随机场到条件随机 ...
2020-12-09 深度学习卷积神经网络中感受野的详细介绍
卷积神经网络中感受野的详细介绍 1. 感受野的概念在卷积神经网络中,感受野(Receptive Field)的定义是卷积神经网络每一层输出的特征图(feature map)上的像素点在输入图片上映射 ...
xml文件卷积神经网络_理解卷积神经网络中的输入与输出形状(Keras实现)
即使我们从理论上理解了卷积神经网络,在实际进行将数据拟合到网络时,很多人仍然对其网络的输入和输出形状(shape)感到困惑.本文章将帮助你理解卷积神经网络的输入和输出形状. 让我们看看一个例子.CNN ...

如何将卷积神经网络中的全连接层变成卷积层

如何将卷积神经网络中的全连接层变成卷积层相关推荐

最新文章

热门文章