Graph Attention Networks
GAT研究意义:
1、图卷积神经网络常用的几个模型之一(GCN、GAT、GraphSAGE)
2、将Attention机制引入到图神经网络中
3、支持归纳式学习和直推式学习
4、模型具有一定的可解释性
本文主要结构如下所示:
一、摘要Abstract
背景介绍及提出GAT模型、图卷积神经网络模型、在节点特征从邻居汇聚的时候考虑权重,适用于直推式和归纳式学习
1、在图结构上使用注意力机制,并提出图注意力网络GAT
2、为每一个中心节点的不同邻居指定不同的权重,计算效率高
3、适用于直推式学习和归纳式学习
4、在多个数据集上达到最优效果
二、Introduction
介绍图的广泛应用,以及如何将卷积操作应用到图上,介绍空域和频域的两类方法,以及注意力机制并引出本文的模型(GAT)
三、Gat Architecture
介绍GAT模型的结构并于之前的模型做对比
四、Evalution
实验部分,主要针对数据集介绍、baseline选取、直推式和归纳式两种实验方式以及图的节点分类效果对比
五、Conclusion
总结提出了GAT模型使用了注意力机制,邻居汇聚时考虑不同的权重,同时具有归纳式学习的能力,并讨论几种未来方向,如模型的可解释性和图的分类
关键点: 1、消息传递机制 2、模型改进和区别 3、GAT模型结构和分析
创新点: 1、Attention机制 2、Multi-head技术 3、直推式 和 归纳式 学习
启发点: 1、深度学习技术应用到图领域中
2、Attention机制的引入衡量邻居的不同权重,有更好的解释性
3、直推式和归纳式学习讨论,图的设定上启发不同的工作
4、GAT广泛应用到各种应用问题
5、GCN、GAT、GraphSAGE非常重要的模型,也是经典的baselines
6、模型学习要总结出共性、统一的框架
Graph Attention Networks相关推荐
- 论文笔记之:Graph Attention Networks
Graph Attention Networks 2018-02-06 16:52:49 Abstract: 本文提出一种新颖的 graph attention networks (GATs), 可 ...
- 论文阅读ICLR2020《ADAPTIVE STRUCTURAL FINGERPRINTS FOR GRAPH ATTENTION NETWORKS》
论文阅读ICLR2020<ADAPTIVE STRUCTURAL FINGERPRINTS FOR GRAPH ATTENTION NETWORKS> 摘要 确定节点相似性时图的结构 Ad ...
- 2019_WWW_Dual graph attention networks for deep latent representation of multifaceted social effect
[论文阅读笔记]2019_WWW_Dual graph attention networks for deep latent representation of multifaceted social ...
- Dual Graph Attention Networks for Deep Latent Representation of Multifaceted Social...》论文学习笔记
Dual Graph Attention Networks for Deep Latent Representation of Multifaceted Social Effects in Recom ...
- 图注意力网络——Graph attention networks (GAT)
文章目录 摘要 引言 GAT结构 数据集与评估结果 未来改进方向 参考文献 摘要 图注意力网络,一种基于图结构数据的新型神经网络架构,利用隐藏的自我注意层来解决之前基于图卷积或其近似的方法的不足. ...
- 异构图神经网络(1)Heterogenous Graph Attention Networks
Heterogenous Graph Attention Networks 这篇文章发表在WWW 2019会议上,主要是用了注意力机制来进行节点级别聚合和语义级别的聚合,从而提出了HAN模型. Mot ...
- 【ICLR 2018图神经网络论文解读】Graph Attention Networks (GAT) 图注意力模型
论文题目:Graph Attention Networks 论文地址:https://arxiv.org/pdf/1710.10903.pdf 论文代码:https://github.com/Peta ...
- GCN论文笔记——HopGAT: Hop-aware Supervision Graph Attention Networks for Sparsely Labeled Graphs
[论文笔记]HopGAT: Hop-aware Supervision Graph Attention Networks for Sparsely Labeled Graphs 作者:纪超杰,王如心等 ...
- 关联性图注意力网络:Relational Graph Attention Networks(ICLR2019)
Relational Graph Attention Networks(ICLR2019)关联性图注意力网络 论文地址:https://openreview.net/forum?id=Bklzkh0q ...
- 论文阅读和分析: “How Attentive are Graph Attention Networks?”
下面所有博客是个人对EEG脑电的探索,项目代码是早期版本不完整,需要完整项目代码和资料请私聊. 数据集 1.脑电项目探索和实现(EEG) (上):研究数据集选取和介绍SEED 相关论文阅读分析: 1. ...
最新文章
- 11 Java程序员面试宝典视频课程之网络编程
- php 根据权重随机数,PHP根据概率产生随机数
- python3精要(50)-类
- Java PECS
- 这个公式竟然堪称数学界的画家......
- Pandas知识点-添加操作append
- mysql数据库咋还原_mysql数据库备份和还原
- java自学难点_学习JAVA遇到的难点总结
- java邮件抄送_JAVA实现邮件抄送,密送,多个附件发送
- JavaScript如何打开和使用JavaScript控制台
- Android 蓝牙 inquiry、inquiry scan、page、page scan等概念解析
- 计算指定位数的圆周率
- 迷时师度 悟了自度
- 三维城市建筑模型生产工具《geobuilding1.0》2022.03.25
- windows自动卸载程序
- python识别魔方色块_解魔方的机器人攻略23 – 识别颜色(上)
- Qmail+Mini Howto
- php文件格式还原,硬盘raw格式还原ntfs
- 一个前端的MONGO救赎--1
- [CortexM--CMSIS]详细的说明