SEnet 通道注意力机制

2024-06-09 14:13:42

SENet 在于通过网络根据loss去学习特征权重，获取到每个feature map的重要程度，然后用这个重要程度去给每一个特征通道赋予一个权重值，从而让神经网络去重点关注某些feature map ，使得有效的feature map权重大，无效或效果小的feature map权重小，使模型达到更好的效果，同时也不可避免的增加了一些参数和计算量。

2.SENet注意力机制结构

输入input是一个H x W x C 的特征，共C个通道，然后进行一个空间的全局平均池化，每个通道得到一个标量，输出为 1 x 1 x C ，然后再送入两层的全连接神经网络，同时保持size不变，然后再通过一个Sigmoid函数得到C个0~1之间的权重Mc，格式为1 x 1 x C,作为C个通道各自的权重，然后Mc x input得到输出feature map（对应通道的每个元素与权重分别相乘）。

2.1 squeeze：

在空间维度上进行特征压缩，得到1 x 1 x C 的通道描述，这个feature map具有全局的感受野，也就是说将一个通道上的整个空间信息压缩为一个全局特征，最后得到C个全局特征，采用global average pooling 实现。公式如下：

2.2 excitation：

squeeze得到1 x 1 x C的feature map 后，再通过FC -> Relu -> FC -> Sigmoid学习通道间的关系，第一个FC将1 x 1 x C 压缩为1 x 1 x C/r（r取16时效果最好） ,然后第二个FC再扩充为1 x 1 x C。

2.3 scale：

scale操作是将前面学习到的各个通道的权重系数Mc通过乘法与对应通道所有元素相乘，以便实现重要的特征增强，不重要的特征减弱，从而让提取的特征指向性更强。

3.code：

class SENet(nn.Module):def __init__(self , in_planes , ration = 16):super(SENet, self).__init__()'''AdaptiveAvgPool2d():自适应平均池化不需要自己设置kernelsize stride等只需给出输出尺寸即可'''self.avg_pool = nn.AdaptiveAvgPool2d(1) # 通道数不变，H*W变为1*1self.fc1 = nn.Conv2d(in_planes , in_planes // 16 , 1 , bias = False)self.relu1 = nn.ReLU()self.fc2 = nn.Conv2d(in_planes//16 , in_planes ,1, bias = False)self.sigmoid = nn.Sigmoid()def forward(self , x):avg_out = self.fc2(self.relu1(self.fc1(self.avg_pool(x))))return self.sigmoid(out)

SEnet 通道注意力机制相关推荐

《Squeeze-and-Excitation Networks》SE-Net通道注意力机制
前言在阅读了一系列Activation Funtion论文之后,其中Dynamic Relu的论文提到了基于注意力机制的网络,因此先来看看经典的SE-Net的原理 Introduction 对于CN ...
【深度学习】(8) CNN中的通道注意力机制（SEnet、ECAnet），附Tensorflow完整代码
各位同学好,今天和大家分享一下attention注意力机制在CNN卷积神经网络中的应用,重点介绍三种注意力机制,及其代码复现. 在我之前的神经网络专栏的文章中也使用到过注意力机制,比如在MobileN ...
通道注意力机制 cnn keras_【CV中的Attention机制】简单而有效的CBAM模块
前言: CBAM模块由于其使用的广泛性以及易于集成得到很多应用.目前cv领域中的attention机制也是在2019年论文中非常火.这篇cbam虽然是在2018年提出的,但是其影响力比较深远,在很多领 ...
空间注意力机制和通道注意力机制详解
Attention机制在近几年来在图像,自然语言处理等领域中都取得了重要的突破,被证明有益于提高模型的性能. Attention机制本身也是符合人脑和人眼的感知机制,这次我们主要以计算机视觉领域为例, ...
SEnet 通道注意力模块
SEnet 通道注意力模块开篇一张图: 变量和图片解释: 三个正方体:特征向量,比如说图像的特征,H表示图片高度.W表示图片宽.C表示通道(黑白1通道.彩色3通道) 字母: X表示输入特征: Ftr ...
【Transformer系列（2）】注意力机制、自注意力机制、多头注意力机制、通道注意力机制、空间注意力机制超详细讲解
前言注意力机制一直是一个比较热的话题,其实在很早之前就提出了,我们在学习图像分类时在SENet就见到过(直通车:经典神经网络论文超详细解读(七)--SENet(注意力机制)学习笔记(翻译+精读+代码 ...
通道注意力机制_即插即用，Triplet Attention机制让Channel和Spatial交互更加丰富（附开源代码）...
↑ 点击蓝字关注极市平台作者丨ChaucerG来源丨AI人工智能初学者编辑丨极市平台极市导读本文介绍了一种新的注意力机制--Triplet Attention,它通过使用Triplet Bran ...
通道注意力机制keras_在TensorFlow+Keras环境下使用RoI池化一步步实现注意力机制
项目地址:https://gist.github.com/Jsevillamol/0daac5a6001843942f91f2a3daea27a7 理解 RoI 池化 RoI 池化的概念由 Ross ...
浙大 | FcaNet：频域通道注意力机制（keras实现）
FcaNet: Frequency Channel Attention Networks paper:http://arxiv.org/abs/2012.11879 code:https://git ...

最新文章

热门文章