Spatial Attention model
这个方法来自于论文：《Context Aware Query Image Representation for Particular Object Retrieval》
在描述待查询图像时，很多方法都利用到了region或者proposal的概念，旨在提高图中object的显著性。
在此文中，作者提出了一种Spatial Attention model，即空间注意力模型，来提高对图中object的注意力。
1. saliency map
假设卷积网络结构中，提取特征的layer产生的feature map大小为W*H*K。
其中所有K层相同位置的激活值进行相加求和，形成W*H大小。
之后进行归一化，使所有值介于[0,1]。
此时的W*H大小的map即为saliency map。
2. spatial attention model
实例检索任务中，输入待查询图像，其中真正检索的目标称为ROI (Region of Interest)。
将ROI的位置映射到feature map上，记为ROI’。映射方法可见之前的博客。
将属于ROI’的激活值置为1，其他激活值不动，依然为saliency map求出的值。
公式表示为：
对于W*H*K中的每一个W*H大小的feature map，最后的图像表示为：
其中， X表示第l卷积层的feature map 中第k个通道的像素p的值。
论文中langmeda1=0.5，langmeda2=0.4，a的指数为4。所以g（a）一定是一个小于1的值。
最后的结论实际上就是，卷积层的结果中，如果某个点位于region之内，其值不变。如果位于background，其值乘以一个小于1的值，以此提高region的显著性。
整个过程的示意图如图所示：
Spatial Attention model相关推荐
- 【NLP】Attention Model（注意力模型）学习总结
最近一直在研究深度语义匹配算法,搭建了个模型,跑起来效果并不是很理想,在分析原因的过程中,发现注意力模型在解决这个问题上还是很有帮助的,所以花了两天研究了一下. 此文大部分参考深度学习中的注意力机制( ...
- attention机制、self-attention、channel attention、spatial attention、multi-head attention、transformer
文章目录 attention sequence attention attention 与 self-attention channel attention 与 spatial attention m ...
- Spatial Attention
Attention 机制 所谓Attention机制,便是聚焦于局部信息的机制.当我们再看一样东西时,我们当前时刻关注的一定是我们当前正在看的东西的某一个地方.随着任务的变化,注意力区域往往会发生变化 ...
- SA-UNet: Spatial Attention U-Net for Retinal Vessel Segmentation
论文阅读:SA-UNet: Spatial Attention U-Net for Retinal Vessel Segmentation 用于视网膜血管分割的空间注意力U-Net 摘要:视网膜血管的 ...
- 2021-Twins: Revisiting the Design of Spatial Attention
文章目录 1. Title 2. Summary 3. Problem Statement 4. Method(s) 4.1 Twins-PCPVT 4.2 Twins-SVT 4.2.1 Local ...
- 论文解读：Ask, Attend and Answer: Exploring Question-Guided Spatial Attention for VQA
这是关于VQA问题的第五篇系列文章.本篇文章将介绍论文:主要思想:模型方法:主要贡献.有兴趣可以查看原文:Ask, Attend and Answer: Exploring Question-Guid ...
- 以Attention Model为例谈谈两种研究创新模式
在研读AttentionModel相关文献过程中,我再次深切感受到了科研中的两种创新模式:模型创新与应用创新.若干年前,也就是在我年轻不懂事的花样年华里,具体而言,就是在科学院读博士的后期,这种感受就 ...
- Attention Model（注意力模型）思想初探
1. Attention model简介 0x1:AM是什么 深度学习里的Attention model其实模拟的是人脑的注意力模型,举个例子来说,当我们观赏一幅画时,虽然我们可以看到整幅画的全貌,但 ...
- （转载）自然语言处理中的Attention Model：是什么及为什么
转载说明来源:http://blog.csdn.net/malefactor/article/details/50550211 author: 张俊林 原文写得非常好! 原文: 要是关注深度学习在自然 ...
最新文章
- 增加了一行代码，让我们提高了3000%的性能
- 散列表(Hash Table)
- Understand one Simple Factory Pattern
- github上面如何编辑README
- Python笔记-UiSelector中class定位
- ps制作20种特效文字_如何使用AE制作文字破碎动画？制作ae破碎文字特效教程分享...
- java 0xf0_用java做一个最小的操作系统内核
- SpringBoot(6) SpringBoot配置全局异常
- 理解函数：对象（this，arguments），方法（apply（），call（），bind（））。
- NETDOM的几个用法
- cad一键卸载工具叫什么_CAD卸载清理工具
- handsontable使用及遇到的坑-前言
- 不相交轮换的乘积怎么求_伽罗华理论基础_刘长安.pdf_(12)(123)(14)不相交的乘积,8.将10次置换表互不相交的循环置换的乘积,并且求出。的逆与。的阶-教育文档类资源...
- 系统突然访问变慢，如何排查和解决？
- 002. 顺应自然，人才会活的好
- 【redis问题】无限Waiting for the cluster to join......
- ubuntu百度云盘打不开
- hiredis从安装到实操，带 API 详解
- C语言_字符串拼接函数strcat使用及实现
- 视频插件—zy.media.js