CNN 常用网络结构解析 1x1 卷积运算示意图

AlexNet 网络结构：

VGG ：
conv3x3、conv5x5、conv7x7、conv9x9和conv11x11，在224x224x3的RGB图上（设置pad=1，stride=4，output_channel=96）做卷积，卷积层的参数规模和得到的feature map的大小如下：

卷积神经网络基本计算原理
http://m.elecfans.com/article/691826.html

大卷积核带来的特征图和卷积核的参数量并不大，无论大的卷积核还是小的，对参数量来说影响不大甚至持平；增大的反而是卷积的计算量。同样stride下，不同卷积核大小的特征图和卷积参数差别不大；越大的卷积核计算量越大。

2个3x3的卷积堆叠获得的感受野大小，相当1层5x5的卷积；而3层的3x3卷积堆叠获取到的感受野相当于一个7x7的卷积

小卷积核比用大卷积核的三点优势：更多的激活函数、更丰富的特征，更强的辨别能力,卷积后都伴有激活函数，更多的卷积核的使用可使决策函数更加具有辨别能力，此外就卷积本身的作用而言，3x3比7x7就足以捕获特征的变化：3x3的9个格子，最中间的格子是一个感受野中心，可以捕获上下左右以及斜对角的特征变化。主要在于3个堆叠起来后，三个3x3近似一个7x7，网络深了两层且多出了两个非线性ReLU函数，（特征多样性和参数参数量的增大）使得网络容量更大（关于model capacity，AlexNet的作者认为可以用模型的深度和宽度来控制capacity），对于不同类别的区分能力更强（此外，从模型压缩角度也是要摒弃7x7，用更少的参数获得更深更宽的网络，也一定程度代表着模型容量，后人也认为更深更宽比矮胖的网络好）；

内核大小为1x1的卷积

上面是一个 1x1 卷积核的输出示意图，如果是 K 个1x1 卷积核，那么结果就是将通道数由 D 变为 K 降维或升维

特征通道数变化： 256 —> 64 —> 256

VGG比较神奇的一个特点就是“全连接转卷积”

CNN 常用网络结构解析 1x1 卷积运算示意图相关推荐

机器学习入门（15）— 全连接层与卷积层的区别、卷积神经网络结构、卷积运算、填充、卷积步幅、三维数据卷积、多维卷积核运算以及批处理
卷积神经网络(Convolutional Neural Network,CNN)CNN 被用于图像识别.语音识别等各种场合,在图像识别的比赛中,基于深度学习的方法几乎都以 CNN 为基础. 1. 全连 ...
深度学习之卷积神经网络CNN 常用的几个模型
LeNet5 论文:http://yann.lecun.com/exdb/publis/pdf/lecun-01a.pdf LeNet-5:是Yann LeCun在1998年设计的用于手写数字识别的卷 ...
卷积神经网络（CNN）网络结构及模型原理介绍
概述本篇内容仅介绍卷积层,池化层等网络结构部分和构建原理,以及卷积的一些前提知识.全连接层的内容和分类模型及损失函数的构建优化和全连接神经网络相同,这里不再讲解. 神经网络模型构建及算法介绍:htt ...
3d卷积和2d卷积1d卷积运算-CNN卷积核与通道讲解
全网最全的卷积运算过程:https://blog.csdn.net/Lucinda6/article/details/115575534?spm=1001.2101.3001.6661.1&u ...
卷积神经网络CNN 常用模型
一.CNN 简介 CNN的精华是:三概念两核心,这里做个简要的概要性介绍. 1.CNN 两核心--卷积和池化 (1)卷积主要起到作用是抽取特征,使网络具有一定转移不变性,也有一定降维的作用.概述:设 ...
CNN的卷积运算为何使用互相关而不是卷积
CNN的卷积运算并非数学定义的卷积也就是说,CNN中的运算是不需要翻转卷积核的. 也就是说,CNN在处理图像时的卷积核是不需要翻转180°的我们来用代码看下为什么? #-*- coding:utf ...
CNN常用卷积方法一览
这篇文章的主题是卷积(Convlution).想必熟悉CNN的你一定对卷积很熟悉了,或许也听过用过深度学习可分离卷积.转置卷积等概念和方法.那么目前为止,深度学习中都有哪些典型的卷积方式?本篇笔者就和 ...
python 图像卷积_[卷积神经网络(CNN)中的卷积核到底是如何提取图像特征的（python实现图像卷积运算）]...
1.前言我们知道,卷积核(也叫滤波器矩阵)在卷积神经网络中具有非常重要的作用.说白了,CNN主要作用在于提取图像的各种特征图(feature maps). CNN主要是通过卷积运算来完成特征提取的. ...
卷积运算(CNN卷积神经网络)
文章目录图像卷积互相关运算卷积层图像中目标的边缘检测学习卷积核小结图像卷积最近学习到了卷积深度网络,有些本质概念太深暂时还没有理解透彻,现在主要记录下卷积神经网络中的一些计算. 以下介 ...

CNN 常用网络结构解析 1x1 卷积运算示意图

CNN 常用网络结构解析 1x1 卷积运算示意图相关推荐

最新文章

热门文章

CNN 常用网络结构解析 1x1 卷积运算 示意图

CNN 常用网络结构解析 1x1 卷积运算 示意图相关推荐

最新文章

热门文章

CNN 常用网络结构解析 1x1 卷积运算示意图

CNN 常用网络结构解析 1x1 卷积运算示意图相关推荐