Attention机制理解笔记

声明
Attention分类(主要SA和CA)
- spitial attention
- channel attention
- SA + CA(spitial attention+channel attention)
- 加强SA+CA理解
空间注意力机制和通道注意力机制解释
- attention机制
- Attention模型架构
- - 1.空间注意力模型(spatial attention)
  - 2.通道注意力机制
  - 3.空间和通道注意力机制的融合
CBAM 和 BAM
- BLOG1的笔记
- - 重点及总结
- BLOG2
- - 重点看下这篇文章
- BAM 具体结构

声明

全文内容均来以下作者博客，我仅是在此基础上作笔记。

Attention分类(主要SA和CA)

来自 Mr DaYang 的 blog笔记

soft attention（包括空间注意力、通道注意力）软注意学习的目的是选择细粒度的重要像素点，它们是pixel级。
hard attention( local 注意力) 硬注意学习则致力于搜索粗糙的潜在判别区域，它们是region级。

来自 Mr DaYang 的 blog 里面的图片

spitial attention

一般来说对于同一像素点不同通道求均值(NxCxHxW---->Nx1xHxW),再经过一些卷积和上采样的运算得到spitial attention mask,空间特征每层的像素点就被赋予不同的权重(一句话来说这是针对 N C H W 的每个C 的 H W 的赋予权重，这就叫做spitial attention)

channel attention

一句话来说就是== 针对 N C H W 的每个 C 赋予权重，这就叫做 channel atteion== （N C H W----> N C 1 1）

SA + CA(spitial attention+channel attention)

SA + CA 的使用有 BAM CBAM 两种代码方式，简单来说，spitial attention 矩阵与 channel attention 矩阵相乘得到 SA+CA的效果。

加强SA+CA理解

来自 Mr DaYang 的 blog 里面的图片

空间注意力机制和通道注意力机制解释

来自vodka、的blog笔记

attention机制

Attention模型架构

1.空间注意力模型(spatial attention)

2.通道注意力机制

3.空间和通道注意力机制的融合

CBAM 和 BAM
CBAM 和 BAM

CBAM 和 BAM

参考知乎作者图像博士的橘猫上的CBAM 和 BAM

BLOG1的笔记

重点及总结

1.加入CBAM的额外开销忽略不计，这点我测试过。
2.通道注意力的模块放在空间注意力模块之前
3.如何还原经过通道CAM和SAM的特征图的，通过与原来特征图的相乘得到。

BLOG2

重点看下这篇文章

注意力机制BAM和CBAM详细解析（附代码）（提供了代码链接）

BAM 具体结构

空洞卷积

Attention机制理解笔记(空间注意力+通道注意力+CBAM+BAM)相关推荐

【SCA-CNN 解读】空间与通道注意力：Spatial and Channel-wise Attention
摘要视觉注意已经成功地应用于结构预测任务,如视觉字幕和问题回答.现有的视觉注意力模型一般是空间的,即注意力被建模为空间概率,该空间概率对编码输入图像的CNN的最后一个卷积层特征图进行重新加权. 然而 ...
空间注意力通道注意力_注意力发生了什么变化？
空间注意力通道注意力 "The addictive nature of web browsing can leave you with an attention span of nine ...
注意力机制学习（一）——通道注意力与pytorch案例
文章目录一.通道注意力机制简介二.通道注意力机制pytorch代码 1. 单独使用通道注意力机制的小案例 2. 使用通道注意力机制的小案例一.通道注意力机制简介下面的图形象的说明了通道注意力机 ...
空间注意力机制和通道注意力机制详解
Attention机制在近几年来在图像,自然语言处理等领域中都取得了重要的突破,被证明有益于提高模型的性能. Attention机制本身也是符合人脑和人眼的感知机制,这次我们主要以计算机视觉领域为例, ...
【文献阅读笔记】之基于注意力机制的深度学习路面裂缝检测
中文,计算机辅助设计与图形学学报,第 32 卷第 8 期,2020 年 8 月. DOI: 10.3724/SP.J.1089.2020.18059 摘要: 为实现自动准确地检测路面裂缝, 提升路面 ...
CBAM：融合通道和空间注意力的注意力模块
本文转载自AI公园. 作者:Sik-Ho Tsang 编译:ronghuaiyang 导读使用CBAM加持的MobileNetV1,ResNeXt&ResNet,WRN优于使用SENet的网 ...
论文笔记：基于并行注意力 UNet的裂缝检测方法
0 简介论文:基于并行注意力 UNet的裂缝检测方法(Parallel Attention Based UNet for Crack Detection): 发表:2021年发表在<计算机研究 ...
通道注意力新突破！从频域角度出发，浙大提出FcaNet：仅需修改一行代码，简洁又高效
该文是浙江大学提出一种的新颖的通道注意力机制,它将通道注意力机制与DCT进行了巧妙的结合,并在常规的通道注意力机制上进行了扩展得到了本文所提出的多谱通道注意力机制:FcaLayer.作者在图像分类.目 ...
CV中的Attention机制总结
CV中的Attention机制注意力机制 CV中的注意力机制卷积神经网络中常用的Attention 视觉注意力机制在分类网络中的应用 SE-Net(CVPR 2017) ECA-Net(CVPR ...

Attention机制理解笔记(空间注意力+通道注意力+CBAM+BAM)