通道注意力与空间注意力模块
通道注意力模块
使用通道注意力模块的目的:为了让输入的图像更有意义,大概理解就是,通过网络计算出输入图像各个通道的重要性(权重),也就是哪些通道包含关键信息就多加关注,少关注没什么重要信息的通道,从而达到提高特征表示能力的目的。
简而言之:注意力机制可对特征进行校正,校正后的特征可保留有价值的特征,剔除没价值的特征。
通道注意力机制步骤:
挤压(Squeeze)输入图像
对输入特征图的空间维度进行压缩,这一步可以通过全局平均池化(GAP)和全局最大池化(GMP)(全局平均池化效果相对来说会比最大池化要好),通过这一步。HxWxC的输入图像被压缩成为1x1x``C的通道描述符。下方公式输入为SxSxB的feature map:
将全局空间信息压缩到通道描述符,既降低了网络参数,也能达到防止过拟合的作用。excitation通道描述符
这一步主要是将上一步得到的通道描述符送到两个全连接网络中,得到注意力权重矩阵,再与原图做乘法运算得到校准之后的注意力特征图。
空间注意力模块
使用通道注意力的目的:找到关键信息在map上哪个位置上最多,是对通道注意力的补充,简单来说,通道注意力是为了找到哪个通道上有重要信息,而空间注意力则是在这个基础上,基于通道的方向,找到哪一块位置信息聚集的最多。
空间注意力步骤:
沿着通道轴应用平均池化和最大池操作,然后将它们连接起来生成一个有效的特征描述符。
注意:池化操作是沿着通道轴进行的,即每次池化时对比的是不同通道之间的数值,而非同一个通道不同区域的数值。
将特征描述符送入一个卷积网络进行卷积,将得到的特征图通过激活函数得到最终的空间注意特征图。
具体来说,使用两个pooling操作聚合成一个feature map的通道信息,生成两个2D图: Fsavg大小为1×H×W,Fsmax大小为1×H×W。σ表示sigmoid函数,f7×7表示一个滤波器大小为7×7的卷积运算。
参考链接:
(1)https://blog.csdn.net/u011984148/article/details/109475440
(2)https://zhuanlan.zhihu.com/p/334349672
(3)https://zhuanlan.zhihu.com/p/101590167
349672
(3)https://zhuanlan.zhihu.com/p/101590167
通道注意力与空间注意力模块相关推荐
- 深度学习卷积神经网络重要结构之通道注意力和空间注意力模块
#主要原理 提出CBAM的作者主要对分类网络和目标检测网络进行了实验,证明了CBAM模块确实是有效的. 以ResNet为例,论文中提供了改造的示意图,如下图所示: #CMAB模块实现,依据上面原理 # ...
- 【深度学习】时间注意力模块与空间注意力模块
注意力模块 通道(时间)注意力模块 空间注意力模块 通道(时间)注意力模块 为了汇总空间特征,作者采用了全局平均池化和最大池化两种方式来分别利用不同的信息. 输入是一个 H×W×C 的特征 F, 我们 ...
- Attention机制理解笔记(空间注意力+通道注意力+CBAM+BAM)
Attention机制理解笔记 声明 Attention分类(主要SA和CA) spitial attention channel attention SA + CA(spitial attentio ...
- 空间注意力 通道注意力_注意力发生了什么变化?
空间注意力 通道注意力 "The addictive nature of web browsing can leave you with an attention span of nine ...
- 空间注意力机制和通道注意力机制详解
Attention机制在近几年来在图像,自然语言处理等领域中都取得了重要的突破,被证明有益于提高模型的性能. Attention机制本身也是符合人脑和人眼的感知机制,这次我们主要以计算机视觉领域为例, ...
- CVPR 2022 | 华南理工提出VISTA:双跨视角空间注意力机制实现3D目标检测SOTA,即插即用...
来源:机器之心 本文提出了 VISTA,一种新颖的即插即用多视角融合策略,用于准确的 3D 对象检测.为了使 VISTA 能够关注特定目标而不是一般点,研究者提出限制学习的注意力权重的方差.将分类和回 ...
- CVPR 2022 | 华南理工提出VISTA:双跨视角空间注意力机制实现3D目标检测SOTA
©作者 | 邓圣衡.梁智灏.孙林.贾奎 来源 | 机器之心 本文提出了 VISTA,一种新颖的即插即用多视角融合策略,用于准确的 3D 对象检测.为了使 VISTA 能够关注特定目标而不是一般点,研究 ...
- Detr空间注意力热图及语义注意力热图可视化
文章目录 前言 完整代码 GitHub链接 附录:可视化resnet50最后一层特征图 前言 之前一直比较好奇Conditional Detr中如何可视化各个头部的空间注意力热图的,于是,本人尝试在 ...
- 维度-空间注意力总结
近年来,注意力机制一直受到大家的追捧,本文总结下几篇显著性检测中的维度-空间注意力机制. BAM 图1. BAM的整体框架图 如图1所示,BAM分为并行的两部分:Channel Attention和S ...
最新文章
- 美国防部用AI消除“战争迷雾”,机器人、无人机全上阵
- 推荐系统算法_机器学习和推荐系统(二)推荐算法简介
- PHP的microtime
- hdu 5008 Boring String Problem(后缀数组+rmq)
- python numpy array转置_详解Numpy数组转置的三种方法T、transpose、swapaxes
- Centos7 使用Docker 部署Tomca+mysql+调试联通_02
- 如何快速解决腿抽筋?
- Jupyter notebook内使用(添加)虚拟环境
- 使用lex与yacc词法语法工具进行简单的SQL语义检查
- 【信息安全技术】期末复习考点汇总
- Linux | 如何通过Xshell上传文件到Linux
- 提升 10 倍!阿里云对象存储 OSS 可用性 SLA 技术揭秘
- windows xp 提示系统是盗版图标右下角有个五角星图标
- SpringCloud-11-解决[NACOS HTTP-GET] The maximum number of tolerable server reconnection errors has bee
- 关于ubuntu无法播放土豆视频的解决方法
- spring boot 2.1学习笔记【异常】lombok.javac.apt.LombokProcessor could not be initialized
- GIT使用—创建一个版本库
- java 对接 PayPal 或者 Stripe 支付,订阅
- 《大学》 九、释修身齐家章
- Struts2+Hibernate4开发学生信息管理功能--(二)Struts2和Hibernate整合