[深度学习]CNN--卷积神经网络中用1*1 卷积有什么作用

2024-06-07 23:48:10

1*1卷积过滤器 和正常的过滤器一样，唯一不同的是它的大小是1*1，没有考虑在前一层局部信息之间的关系。最早出现在 Network In Network的论文中，使用1*1卷积是想加深加宽网络结构，在Inception网络（ Going Deeper with Convolutions ）中用来降维.

由于3*3卷积或者5*5卷积在几百个filter的卷积层上做卷积操作时相当耗时，所以1*1卷积在3*3卷积或者5*5卷积计算之前先降低维度。

那么，1*1卷积的主要作用有以下几点：

1、降维（ dimension reductionality ）

某次卷积之后的结果是W*H*100的特征，现在需要用1*1的卷积核将其降维成W*H*10，即100个通道变成10个通道：
通过一次卷积操作，W*H*100将变为W*H*1，这样的话，使用10个1*1的卷积核，显然可以卷积出10个W*H*1，再做通道的串接操作，就实现了W*H*5。

2. 升维

比如某次卷积之后的结果是W*H*6的特征，现在需要用1*1的卷积核将其降维成W*H*7，即6个通道变成7个通道：
通过一次卷积操作，W*H*6将变成W*H*1，这样的话，使用7个1*1的卷积核，显然可以卷积出7个W*H*1，再做铜套串接操作，就实现了W*H*7。

3、加入非线性。卷积层之后经过激励层，1*1的卷积在前一层的学习表示上添加了非线性激励（ non-linear activation ），提升网络的表达能力；

[深度学习]CNN--卷积神经网络中用1*1 卷积有什么作用相关推荐

收藏 | 卷积神经网络中用1*1 卷积有什么作用或者好处呢？
点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达仅作学术分享,不代表本公众号立场,侵权联系删除转载于:来自 | ...
卷积神经网络中用1*1 卷积有什么作用或者好处呢？
点击上方"视学算法",选择加"星标"或"置顶" 重磅干货,第一时间送达来自 | 知乎作者 | 陈运锦地址 | https://www. ...
深度学习 CNN卷积神经网络 LeNet-5详解
卷积神经网络( Convolutional Neural Network, CNN): 是一种常见的深度学习架构,受生物自然视觉认知机制(动物视觉皮层细胞负责检测光学信号)启发而来,是一种特殊的多层前 ...
TensorFlow：实战Google深度学习框架（五）图像识别与卷积神经网络
第6章图像识别与卷积神经网络 6.1 图像识别问题简介及经典数据集 6.2 卷积神经网络简介 6.3 卷积神经网络常用结构 6.3.1 卷积层 6.3.2 池化层 6.4 经典卷积神经网络模型 6. ...
【三】零基础入门深度学习：卷积神经网络基础之初识卷积
(给机器学习算法与Python学习加星标,提升AI技能) 作者 | 孙高峰百度深度学习技术平台部资深研发工程师内容来源 | 百度飞桨深度学习集训营本文转自飞桨PaddlePaddle 导读百度 ...
吴恩达深度学习课程笔记（四）：卷积神经网络2 实例探究
吴恩达深度学习课程笔记(四):卷积神经网络2 实例探究吴恩达深度学习课程笔记(四):卷积神经网络2 实例探究 2.1 为什么要进行实例探究 2.2 经典网络 LeNet-5 AlexNet VGG- ...
神经网络及深度学习CNN
神经网络及深度学习CNN 一.传统人工神经网络(ANN) 二.CNN 1.CNN层次 1.1 输入层 1.2 卷积层 1.3 激励层 1.4 池化层 1.4 全连接层 1.5 归一化层 2.CNN的应 ...
深度学习实验六卷积神经网络（1）卷积 torch.nn
目录第5章卷积神经网络 5.1 卷积 5.1.1 二维卷积运算 5.1.2 二维卷积算子 5.1.3 二维卷积的参数量和计算量 5.1.4 感受野 5.1.5 卷积的变种 5.1.5.1 步长(S ...
【深度学习】深入浅出神经网络框架的模型元件（池化、正则化和反卷积层）
[深度学习]深入浅出神经网络框架的模型元件(池化.正则化和反卷积层) 文章目录 1 池化层 1.1 MaxPooling2D 1.2 MaxPooling1D: 1.3 AveragePooling2 ...

最新文章

热门文章