CCNet: Criss-Cross Attention for Semantic Segmentation
简述:
目前,语义分割的主流方法多为以FCN为基础的网络,它们天生局限于局部接受域和短期上下文信息。由于语境信息的不足,这些限制对基于模糊语言的方法产生了很大的负面影响。随后的带有金字塔池模块的PSPNet来捕获上下文信息同样没有达到预期的效果。本文提出CCNet,利用当前的两个交叉关注模块,实现领先性能的分段基准,包括Cityscapes, ADE20K和MSCOCO。

问题or相关工作:
CCNet有明显的两个优势:1是计算量小,仅(H+W-1)元素
2递归方式用CCNet,对一个像素捕捉到全局的contextual information
模型:
CCNet框架解读:照片输入进网络后,先选用ResNet-101作为backbone,backbone最后两个stage的stride改为1,同时用洞卷积扩大感受野,得到的特征图X是原图的1/8;随后经过1×1卷积降维,得到H;H经过一个criss-cross attention module得到H’,此时H’中的每个位置捕捉到和u在同一行或同一列的context information;H`经过一个相同结构,相同参数的CC module,得到H’’,在H’’中的每个位置,捕捉的是全局性的context information;最后将X与H’’级联,经过分割层得出结果。

其中criss-cross module结构如下:

其中分为两个主要的部分,一个是Affinity,一个是Aggregation
其中,Affinity的表达式及其具体具体操作如下:


Aggregation的表达式及其具体具体操作如下:


经过一个criss-cross module,结果sparse(稀疏)。但连续经过两个criss-cross module,结果dense,下图中由左上点到右下点需要两步,就解释了其原理。

实验:
用不同的模型在COCO等数据集上进行测试,可以看出CCNet有明显的优势。


下图的实例分析中,白色圆圈来表示那些容易被错误分类的具有挑战性的区域。

下图中间两幅是RCCA中R = 1、R = 2时的像素级注意图(pixel-wise attention maps)

2018 CVPR之语义分割:CCNet: Criss-Cross Attention for Semantic Segmentation相关推荐

  1. 【语义分割】CVPR2021_Rethinking BiSeNet For Real-time Semantic Segmentation

    文章目录 一.背景 二.动机 三.方法 3.1 Design of Encoding Network 3.2 Decoder 四.实验 4.1 消融实验 4.2 和 SOTA 方法对比 Paper: ...

  2. ECCV2020语义分割——Self-Prediction for Joint Instance and Semantic Segmentation of Point Clouds

    Self-Prediction for Joint Instance and Semantic Segmentation of Point Clouds Abstract (一) Introducti ...

  3. 语义分割--Label Refinement Network for Coarse-to-Fine Semantic Segmentation

    Label Refinement Network for Coarse-to-Fine Semantic Segmentation https://www.arxiv.org/abs/1703.005 ...

  4. 【语义分割】Fully Attentional Network for Semantic Segmentation

    文章目录 一.背景和动机 二.方法 三.效果 本文收录于 AAAI2022 一.背景和动机 语义分割中,non-local (NL)的方法起到了很好了捕捉 long-range 信息的作用,大致可分为 ...

  5. 【语义分割】DUC -- Understand Convolution for Semantic Segmentation

    参考:Understand Convolution for Semantic Segmentation

  6. 多篇开源CVPR 2020 语义分割论文

    多篇开源CVPR 2020 语义分割论文 前言 DynamicRouting:针对语义分割的动态路径选择网络 Learning Dynamic Routing for Semantic Segment ...

  7. CCNet: Criss-Cross Attention for Semantic Segmentation论文读书笔记

    CCNet: Criss-Cross Attention for Semantic Segmentation读书笔记 Criss-Cross Network(CCNet): 作用: 用来获得上下文信息 ...

  8. enet分割_论文阅读 | CVPR 2016 | 语义分割论文: ENet

    论文源址:https://arxiv.org/abs/1606.02147 tensorflow github: https://github.com/kwotsin/TensorFlow-ENet ...

  9. 【语义分割】DANet Dual Attention Network for Scene Segmentation

    DANet(Dual Attention Network for Scene Segmentation)在语义分割领域多个数据集上取得了STOA的结果,值得大家关注. [废话两段] 由于之前没跑过语义 ...

  10. 语义分割--Efficient Deep Models for Monocular Road Segmentation

    Efficient Deep Models for Monocular Road Segmentation code: https://lmb.informatik.uni-freiburg.de/P ...

最新文章

  1. perl编程(基本语法 数据 类型)
  2. 信息增益有负值吗_一个自动化设备的信息化改造项目,谈谈自动化工程师转型之路—IT融合OT...
  3. 使用命令将单个java文件打包为jar
  4. IBM向客户发放了一批“染毒”的U盘,现紧急建议物理销毁
  5. web.config 中SessionState的配置 [转]
  6. 3.C#基础之基本概念(完成)
  7. 清除Pycharm设置的方法
  8. css scale 元素不放大,列元素上的CSS 3动画“transform:scale”对chrome不起作用
  9. 32位、64汇编区别
  10. 和get redis_Springboot2连接redis哨兵模式
  11. 深度学习花书- 4.3 基于梯度的优化方法
  12. 人工智能 之 机器学习常用算法总结 及 各个常用分类算法精确率对比
  13. matlab仿真光学拍,用matlab研究光学拍
  14. freyja对分库分表设计绝对是最强大的
  15. 水调歌头.明月几时有 小儿拼音版
  16. c语言tc2.0编译器下载,c语言编译器|c语言编译器(wintc)_绿茶手机网
  17. 关于Win10资源管理器总是崩溃的问题解决方案
  18. java 扫描仪_Java调用扫描仪2
  19. 网络运维网管解决方案
  20. 如何在Word中的项目符号列表中自定义项目符号

热门文章

  1. 1、Swing简介:Swing是什么?
  2. Python numpy.ones函数方法的使用
  3. 怎么看计算机内存和独显,怎么看电脑是集成显卡还是独立显卡
  4. windows Git Gui 汉化
  5. tungsten replicator oracle,Tungsten Replicator 实验
  6. 大学竞赛经历分享之微信小程序应用开发赛(1)
  7. Print Label with Barcode Using ZPLII
  8. RFID资产管理系统解决方案之电动自行车防盗管理-新导智能
  9. k8s core-dns 解析域名异常
  10. 敏捷开发scrum详解 敏捷项目管理流程