SE结构由两个不同的步骤组成。第一个是“挤压”操作，通常由全局平均池（GAP）执行。此步骤的目标是生成对通道的全局空间上下文进行编码的通道描述符。第二步是“激励”操作，该操作生成每个通道的缩放因子集合，以重新校准输出.

问题提出：

虽然SE在计算方面效率很高，但它对GAP的依赖是有代价的，并且可能会阻止网络在某些AI加速器上高效运行。这是因为，与GPU/CPU不同，许多AI加速器具有高效的数据流管道设计，可以利用数据重用。

注意到，SE块在空间上下文编码（挤压）和通道注意（激发）之间有一个内置的分隔。

然而，SE中的间隙要求存储整个输入特征图。（ps : resnet 残差结构中不都是这种吗）

由于信道注意在网络中被多次使用（例如，在SENet中的每个剩余块中），因此会产生明显的延迟。因此，在挤压操作中使用较小的内核进行共享将减少操作所需的内存，在保持精度同时并为AI加速器上的深度学习部署提供一个优化的解决方案。

本文方法

由于我们感兴趣的是在不改变通道注意机制的情况下研究空间上下文编码的效果，因此我们保持excite操作不变。我们还希望避免向挤压操作添加参数。

同时 有限的空间上下文足以让网络为每个通道学习有意义的注意因素，并获得与原始操作相同的精度。这种洞察对于理解该操作至关重要，因为它表明不需要SENet中的差距所引入的全球空间背景。

tiled squeeze andexcite（TSE），它与SENet中使用的原始操作具有相似的结构，但在空间范围有限的tiles上工作。我们表明，有限的空间上下文足以让网络为每个通道学习有意义的注意因素，并获得与原始操作相同的精度。这种洞察对于理解该操作至关重要，因为它表明不需要SENet中的差距所引入的全球空间背景。

所提出的TSE解决方案与传统SE具有相同的“激励”结构，仅在“挤压”结构上有所不同。共享op的激励部分允许使用网络的原始权重（无需添加新参数），并能够快速适应新结构

该文方法

tile 超参数

如果每个图块中的局部空间上下文是对全局空间上下文的良好估计，那么这样的替换应导致最低性能降级。因此，我们将每个tile的平均值视为全局平均值的估计值。如下式

三种tile方式
使用7*W的tile方式进行后续实验

退化情况

分类实验

目标检测实验

分割 mobilenet

ref

https://hailo.ai/blog/edge-ml-deep-dive-why-you-should-use-tiles-in-squeeze-and-excite-operations/

https://github.com/yuranusduke/Tiled-Squeeze-and-Excitation

【特征提取】|TSE相关推荐

Attention is all your need 谷歌的超强特征提取网络——Transformer
过年放了七天假,每年第一件事就是立一个flag--希望今年除了能够将技术学扎实之外,还希望能够将所学能够用来造福社会,好像flag立得有点大了.没关系,套用一句电影台词为自己开脱一下--人没有梦想,和 ...
特征提取，转换和选择
特征提取,转换和选择 Extracting, transforming and selecting features This section covers algorithms for workin ...
深度学习数据特征提取：ICCV2019论文解析
深度学习数据特征提取:ICCV2019论文解析 Goal-Driven Sequential Data Abstraction 论文链接: http://openaccess.thecvf.com/c ...
yolov4源码_YOLOv4特征提取网络——CSPDarkNet结构解析及PyTorch实现
1 YOLOv4目标检测模型自从Redmon说他不在更新YOLO系列之后,我一度以为这么好用的框架就要慢慢淡入历史了,事实是我多虑了.YOLOv4在使用YOLO Loss的基础上,使用了新的back ...
机器学习（2）特征提取1 -- 字典特征提取
目录一.基础理论 1.特征工程 2.过程 3.API 二.特征提取转化为二维矩阵 0.获取数据集 1.实例化转换器类 2.提取特征值 3.显示三.特征值转化为稀疏矩阵 0.获取数据集 1.实例化转 ...
【目标检测】(8) ASPP改进加强特征提取模块，附Tensorflow完整代码
各位同学好,最近想改进一下YOLOV4的SPP加强特征提取模块,看到很多论文中都使用语义分割中的ASPP模块来改进,今天用Tensorflow复现一下代码. YOLOV4的主干网络代码可见我上一篇文章 ...
【YOLOV4】(7) 特征提取网络代码复现（CSPDarknet53+SPP+PANet+Head），附Tensorflow完整代码
各位同学好,今天和大家分享一下如何使用 TensorFlow 构建YOLOV4目标检测算法的特征提取网络. 完整代码在我的Gitee中,有需要的自取:https://gitee.com/dgvv4/y ...
【yolo目标检测】(1) yolov3，网络结构Darknet53，特征提取
各位同学好,今天和大家分享一下使用Tensorflow2.0进行yolov3目标检测,如何构建Darknet53整体网络结构,如何使用特征金字塔强化特征提取. 1. 网络简介 yolov3借鉴了res ...
小波矩特征提取matlab代码
这是我上研究生时写的小波矩特征提取代码: %新归一化方法小波矩特征提取---------------------------------------------------------- F=imre ...
SIFT特征提取算法总结
转自:http://www.jellon.cn/index.php/archives/374 一.综述 Scale-invariant feature transform(简称SIFT)是一种图像特征 ...

【特征提取】|TSE

问题提出：

本文方法

该文方法

tile 超参数

【特征提取】|TSE相关推荐

最新文章

热门文章