论文笔记：Attention U-Net: Learning Where to Look for the Pancreas

2024-04-11 23:18:39

Abstract

我们提出了一种用于医学成像的新型注意门（AG）模型，该模型自动学习聚焦于不同形状和大小的目标结构。用AG训练的模型隐含地学习抑制输入图像中的不相关区域，同时突出显示对特定任务有用的显着特征。这使我们能够消除使用级联卷积神经网络（CNN）的显式外部组织/器官定位模块的必要性。 AG可以很容易地集成到标准CNN架构中，例如U-Net模型，具有最小的计算开销，同时提高模型灵敏度和预测精度。提出的Attention U Net架构在两个大型CT腹部数据集上进行评估，用于多类图像分割。实验结果表明，AG在不同数据集和训练大小的同时，不断提高U-Net的预测性能，同时保持计算效率。提出的结构的源代码是公开的。

为什么加AG?

U-net中特征融合部分使用的是特征拼接(concat)。
我们知道，浅层特征中的位置信息比较多，或者说位置信息比较好，但是学到的特征没有深层的高级。
Attention Unet的作者改进了网络的解码部分，使用了注意力机制，即对编码过程中产生的特征图根据深层特征图进行修正，这样做不仅保留位置信息，又抑制了不相关背景区域中的特征响应，突出对特定任务有用的显着特征

拿一个肾脏分割的例子

原数据集：

U-Net

下图是红框中白色部分（对应左边解码器）输出的激活图：

Attention unet

红框中输出的激活图：

绿框中输出的激活图：
输出的权重图α：

参考
论文翻译：Attention U-Net: Learning Where to Look for the Pancreas-代码天地

论文笔记：Attention U-Net: Learning Where to Look for the Pancreas相关推荐

论文笔记 | 谷歌 Soft Prompt Learning ，Prefix-Tuning的 -＞ soft promt -＞ p tuning v2
论文笔记 | 谷歌 Soft Prompt Learning ptuning -> Prefix-Tuning -> soft promt -> p tuning v2 " ...
【论文笔记】 LSTM-BASED DEEP LEARNING MODELS FOR NONFACTOID ANSWER SELECTION
一.简介这篇论文由IBM Watson发表在2016 ICLR,目前引用量92.这篇论文的研究主题是answer selection,作者在这篇论文基础上[Applying Deep Learnin ...
论文笔记：CLIP：Learning Transferable Visual Models From Natural Language Supervision详解
paper:https://arxiv.org/abs/2103.00020 代码:GitHub - openai/CLIP: Contrastive Language-Image Pretraini ...
2021-06-03 【论文笔记】Cross-domain Correspondence Learning for Exemplar-based Image Translation
论文题目:Cross-domain Correspondence Learning for Exemplar-based Image Translation 论文主页:https://panzhang ...
【论文笔记】SpotTune: Transfer Learning through Adaptive Fine-tuning
[CVPR2019]SpotTune: Transfer Learning through Adaptive Fine-tuning 论文链接:SpotTune: Transfer Learning ...
【论文笔记】Multi-task deep learning based CT imaging analysis for COVID-19 pneumonia: Classification and
声明不定期更新自己精度论文,通俗易懂,初级小白也可以理解涉及范围:深度学习方向,包括 CV.NLP.Data Fusion.Digital Twin 论文标题:Multi-task deep le ...
论文笔记：Deep Residual Learning
之前提到,深度神经网络在训练中容易遇到梯度消失/爆炸的问题,这个问题产生的根源详见之前的读书笔记.在 Batch Normalization 中,我们将输入数据由激活函数的收敛区调整到梯度较大的区域, ...
论文笔记+模型实现TransNets: Learning to Transform for Recommendation
文章目录摘要 1. 介绍 2. 提出的方法 2.1 CNN处理文本 & 2.2 DeepCoNN模型 2.3 DeepCoNN的一下局限性 2.4 TransNets模型 2.5 Trans ...
【论文笔记】Adaptive Reinforcement Learning Neural Network Control for Uncertain Nonlinear System
Adaptive Reinforcement Learning Neural Network Control for Uncertain Nonlinear System With Input Sat ...
【论文笔记】Heterogeneous Transfer Learning for HSIC Based on CNN
X. He, Y. Chen and P. Ghamisi, "Heterogeneous Transfer Learning for Hyperspectral Image Classif ...

最新文章

热门文章