Heterogeneous Local Graph Attention Networks

1. 摘要
2. 主要贡献
3. 提出的模型
- 3.1 关系的定义
- 3.2 模型结构
4.实验
- 4.1 消融实验
- 4.2 参数分析
- 4.3 State-of-the-Art 的实验结果
参考文献

文章题目为基于异构局部图注意网络的再识别，提出了HLGAT，在一个统一的人Re-ID框架中建模局部间关系和局部内关系。将图卷积网络与注意力机制相结合，实现对行人重识别问题的研究。

1. 摘要

现状：最近，一些研究者通过研究行人图片各部分的局部关系来研究行人重识别。
然而，现在的研究仅研究了单张行人图片中的各部分的内在局部关系，而忽略了不同图片各部分相互对应的局部关系。这是不完整的局部关系信息。

解决办法： 提出了异构局部图注意网络 (HLGAT) 。在完整的局部图中，同时建模图片内部各部分的局部关系（局部内关系）和图片间相互对应各部分的局部关系（局部间关系）。

具体实现： 使用局部特征构建完整的局部图，在学习局部内关系 和 局部间关系的过程中，使用注意力机制来突出不同局部特征的重要程度。为了更精确地描述 局部间关系，提出 注意力正则化损失 来限制局部特征的权重。对于局部内关系，考虑到结构信息，提出向注意力权重中加入上下文信息。

解决效果： 在Market-1501、CUHK03、DukeMTMC-reID和MSMT17上的大量实验表明，提出的HLGAT方法是最先进的方法。

2. 主要贡献

提出了HLGAT，在一个统一的 Re-ID 框架中建模局部间关系和局部内关系。
具体地说，将局部特征作为节点来构建完整的局部图，在此图中同时从不同行人图像中学习到相应和相邻部分之间的局部关系，以及从同一行人图像中学习到不同部分之间的局部关系。
为了准确地建模局部关系，我们提出了注意正则化损失来约束局部间关系的注意权值，并提出在局部内关系的注意权值中注入上下文信息。
在四个公开可用的person Re-ID数据集上的实验结果证明，所提出的HLGAT方法以压倒性的优势超越了目前最先进的方法。

3. 提出的模型

3.1 关系的定义

局部内关系：同一张行人图片中，各部分间的关系，如虚线所示
局部间关系：不同行人图片中，相应部分间的关系和相邻部分间的关系，如实线所示

下面举个具体例子分析下：
以绿色三角为研究对象，其他绿色的图形都是局部内关系，之间用虚线连接，用 Nsi 表示。
绿色三角和黄色三角是相应部分间关系，用 Nsp 表示。
绿色三角和黄色圆以及黄色正方形是相邻部分间关系，用 Nap 表示。

3.2 模型结构

主要包括三个部分：特征提取器，图注意力子网，嵌入子网。

特征提取器：使用 CNN 将行人图片变为特征图，调整分割策略将特征图分为几个水平的栅格，用全局池化的操作提取局部特征。
图注意力子网：将局部特征作为节点来构造完成的局部图，同时学习局部间关系和局部内关系。这些节点由局部间边和局部内边连接。对于图中的每个节点，我们用注意权值对其所有邻居节点进行加权，然后对它们进行聚合，得到两种关系。同时，利用注意正则化损失约束局部间边缘的注意权值，以准确描述局部间关系，并在局部间边缘中加入上下文信息。
嵌入子网：使用全连接网络减少图注意力子网提取出特征的维度，并将减少维度后的特征作为预测输出。

4.实验

在 4 个大规模行人重识别数据集 Market-1501 [50], CUHK03 [20], DukeMTMC-reID [28]
and MSMT17 [38] 上进行了实验。

4.1 消融实验

对局部间关系(记NSP和NAP)、注意正则化损失(记Lar)和局部内关系(记NSI) 等组件进行了消融实验。消融结果如下图所示：

分别从HLGAT中去除局部间关系(记为NSP和NAP)、注意正则化损失(记为Lar)和局部内关系(记为NSI)完成消融实验。

通过从不同行人图像的对应部分聚合局部特征来考虑局部间关系NSP。
通过整合不同行人图像相邻部分的局部信息，进一步考虑局部间关系NAP。
通过除去注意正规化损失Lar，完成消融实验。
通过去除局部内关系NSI，完成消融实验。
通过验证上下文信息的有效性NSI*，完成消融实验。

4.2 参数分析

对关键超参数：均匀水平网格数P、调节系数K的影响、平衡系数λ的影响，进行了分析。

均匀水平网格数P（P = 8 最优，mAP 和 Rank-1）

调节系数K的影响（ KSP = 1 和 KAP = 0.1最优）
对于局部间关系，当节点属于邻居节点集NSP时用KSP表示，当节点属于邻居节点集NAP时用KAP表示。

对于局部内关系，调节系数s可以控制调节系数K，s = 10 时结果最优。

平衡系数λ控制交叉熵损失和注意正则化损失的重要性，λ 为 0.01 时最优。

4.3 State-of-the-Art 的实验结果

在4个数据集上，将 HLGAT与最先进的方法进行了比较。比较结果验证了 HLGAT 方法的优越性。

参考文献

Person Re-identification using Heterogeneous Local Graph Attention Networks

论文阅读之 Person Re-identification using Heterogeneous Local Graph Attention Networks相关推荐

《论文阅读》Commonsense Knowledge Aware Conversation Generation with Graph Attention
<论文阅读>Commonsense Knowledge Aware Conversation Generation with Graph Attention 简介论文试图解决什么问题? ...
【图神经网络论文整理】（二）—— HOW ATTENTIVE ARE GRAPH ATTENTION NETWORKS?：GATv2
ICLR 2022 Shaked Brody(Technion), Eran Yahav(Technion)Uri Alon(Language Technologies InstituteCarneg ...
论文阅读笔记《SuperGlue:Learning Feature Matching with Graph Neural Networks》
核心思想本文提出一种基于图神经网络的特征点匹配方法,把图像中的特征点看作图的节点,通过注意力机制聚合特征信息,得到用于匹配的特征向量.然后把匹配问题看作一个可微的最优运输问题(different ...
图神经网络论文阅读(九) Break the Ceiling: Stronger Multi-scale Deep Graph Convolutional Networks，NeurIPS2019
目录 1.Krylov subspace 2.Why Deep GCN Does Not Work Well? 3. Spectral Graph Convolution and Block Kryl ...
[论文阅读笔记] Are Meta-Paths Necessary, Revisiting Heterogeneous Graph Embeddings
[论文阅读笔记] Are Meta-Paths Necessary? Revisiting Heterogeneous Graph Embeddings 购物返利 www.cpa5.cn 本文结构解 ...
论文阅读ICLR2020《ADAPTIVE STRUCTURAL FINGERPRINTS FOR GRAPH ATTENTION NETWORKS》
论文阅读ICLR2020<ADAPTIVE STRUCTURAL FINGERPRINTS FOR GRAPH ATTENTION NETWORKS> 摘要确定节点相似性时图的结构 Ad ...
论文阅读笔记 1.《Open Flow: Enabling Innovation in Campus Networks》（2022.12.22）
论文阅读笔记 1.<Open Flow: Enabling Innovation in Campus Networks>(2022.12.22) 一.论文主要内容二.对 OpenFlow ...
论文阅读06——《CaEGCN: Cross-Attention Fusion based Enhanced Graph Convolutional Network for Clustering》
欢迎到我的个人博客看原文论文阅读06--<CaEGCN: Cross-Attention Fusion based Enhanced Graph Convolutional Network f ...
论文阅读11——《Mutual Boost Network for Attributed Graph Clustering》
是聚类让我们"聚类",我整理了部分深度图聚类代码,希望大家多多支持(GitHub代码):A-Unified-Framework-for-Deep-Attribute-Graph-C ...
论文阅读和分析： “How Attentive are Graph Attention Networks?”
下面所有博客是个人对EEG脑电的探索,项目代码是早期版本不完整,需要完整项目代码和资料请私聊. 数据集 1.脑电项目探索和实现(EEG) (上):研究数据集选取和介绍SEED 相关论文阅读分析: 1. ...

论文阅读之 Person Re-identification using Heterogeneous Local Graph Attention Networks