基本信息

作者

Seongjun Yun, Seoyoon Kim, Junhyun Lee, Jaewoo Kang∗ , Hyunwoo J. Kim∗（Korea大学计算机科学与工程系）

论文等级

NeurIPS 2021

论文解读

摘要

现状： 图神经网络(GNNs)已广泛应用于图结构数据学习的各个领域。在节点分类和图分类等各种任务中，它们比传统的启发式方法有了显著的改进。
问题： GNNs严重依赖平滑的节点特征而不是图结构，导致在链接预测中往往比简单的启发式方法表现出较差的性能。
方法： 邻域重叠法

实验

选定数据集——进行实验测定（12个实验方法，4个数据集）——分析实验结果

实验目标

目标：从邻接矩阵中学习有用的结构特征，并估计重叠邻域以进行链接预测。

补充知识：

实验过程

数据集：开放图基准数据集 (OGB) : OGB-PPA, OGB-Collab, OGB-DDI, OGB-Citation2
实验方法（对比实验）

Neo-GNNs（邻域重叠感知神经网络）：所有MLP模型:由2个完全连接的层组成；
3个启发式链接预测方法：Common Neighbors, Adamic Adar, and Resource Allocation；
3个基于嵌入式方法：Matrix Factorization, Node2Vec, and Multi-Layer Perceptron (MLP)；
5个以图神经网络为基础的方法：GCN, GraphSAGE, JK-Net, GAT,SEAL

具体实现步骤：

Neo-GNNs：(a) 首先使用结构特征生成器从邻接矩阵生成结构特征向量；(b) 然后，为了只考虑节点间重叠邻居的特征，构造对角矩阵；（c）接着通过乘以邻接矩阵的幂的和聚合多跳邻居的特征；(d)最后，使用来自Neo-GNNs和基于特征的GNN的两个节点表示Z和H 计算相似度得分，并与可学习参数α自适应结合。
基于邻域重叠的启发式方法：（1）Common Neighbors：通过计算节点u和v之间的共同邻居数来度量链接(u, v)的得分；（2） Resource Allocation：通过计算节点u和v之间的共同邻居的逆度来度量链接(u, v)的得分；（3）Adamic Adar算法：通过计算节点u和v之间的共同相邻度的倒数的对数来度量链接(u, v)的得分。
GNN为基础的方法：（1）GCN, GraphSAGE, JK-Net, GAT：计算每个节点的表示形式，并通过测量目标链路的源节点和目标节点之间的相似度评分来预测目标链路；（2）SEAL：提取目标链接周围的封闭子图，并根据封闭子图的表示形式作为图分类对目标链接进行预测。【注】所有的方法中都将层数设置为3，潜在维度设置为256，基础模型为GCN；在OGB-PPA和OGB-DDI数据集上采用预训练的GCN来处理。在OGB-Citation2中，由于内存问题，我们将fθ边固定为恒等函数。

【注】链接预测的评估标准是基于正测试边对负测试边的排序性能。具体来说，在OGB-PPA、OGB-Collab、OGB-DDI中，每个模型都将正测试边与随机抽样的负边进行排序，并计算排在第k位及以上的正测试边的比例。在OGB-Citation2中，评估指标是平均倒数秩，其中为每个源节点计算负候选节点之间的真实链接的倒数秩，然后对所有源节点取平均值。

实验结论

Neo-GNNs在所有数据集上一致地实现了最先进的性能。

Ablation Study(消融研究)

用于检测深度学习/机器学习模型中各部分构件对于整体的重要性。

Neo-GNNs without GCN：说明利用重叠邻居的关键结构信息对链路预测是至关重要的。
参数α：α对每个数据集都是不同的，这说明α对每个数据集的结构信息和特征的权重进行了适当的调整。
多跳重叠邻域：增强了neo - gnn的链路预测性能。

总结

收获：Neo-GNNs可以从邻接矩阵中学习有用的结构特征，并自适应地和基于特征的GNN结合起来，在链接预测中估计重叠邻域。与启发式方法相比，性能更优。Neo-GNNs还推广了几种基于邻域重叠的启发式方法，并处理重叠的多跳邻域。

结果：在四个开放图基准(OGB)数据集上的链接预测中，Neo-GNNs始终能达到最先进的性能。

展望：进一步开发Neo-GNNs，以推广更多基于链接预测的启发式方法，并通过高效的稀疏矩阵计算提高可扩展性。

原文： Neo-GNNs: Neighborhood Overlap-aware Graph Neural Networks for Link Prediction

用于链接预测的邻域重叠感知图神经网络相关推荐

ACL 2020 | 用于链接预测的开放知识图谱嵌入
©PaperWeekly 原创 · 作者|舒意恒学校|南京大学硕士生研究方向|知识图谱当前大量的知识图谱都是通过文本直接构建的.由于当前的知识图谱构建方法的局限性,其中难免包含对同一实体或关系的 ...
论文浅尝 - ACL2020 | 用于链接预测的开放知识图谱嵌入
本文转载自公众号:PaperWeekly. 作者:舒意恒,南京大学硕士,研究方向:知识图谱. 当前大量的知识图谱都是通过文本直接构建的.由于当前的知识图谱构建方法的局限性,其中难免包含对同一实体或关系 ...
计算机鹅点云,CVPR 2020 | 用于点云中3D对象检测的图神经网络
论文原文:Point-GNN: Graph Neural Network for 3D Object Detection in a Point Cloud 论文地址:https://www.amine ...
【第51篇】用于交通预测的时空交互动态图卷积网络
摘要 https://arxiv.org/abs/2205.08689 精确的交通预测对于城市交通控制.路线规划和流量检测都是至关重要的.虽然目前提出了许多时空分析方法,但在同步捕捉交通数据的时空依赖 ...
【时序】M4竞赛冠军方案：一种用于时间序列预测的指数平滑和递归神经网络的混合方法
论文名称:A hybrid method of exponential smoothing and recurrent neural networks for time series forecast ...
收藏｜图神经网络综述
来源:人工智能AI技术本文约12000字,建议阅读10+分钟本文为你简述图计算.图数据库.知识图谱.图神经网络等图技术领域的相关历史及不同类型的图结构. 在科学研究中,从方法论上来讲,都应&quo ...
【综述专栏】图神经网络综述
来源:图灵人工智能作者:王健宗等 https://wwwihcm/people/euu-lin-jun-7 原文链接: https://kns.cnki.net/kcms/detail/31.128 ...
Paper：《Graph Neural Networks: A Review of Methods and Applications—图神经网络:方法与应用综述》翻译与解读
Paper:<Graph Neural Networks: A Review of Methods and Applications-图神经网络:方法与应用综述>翻译与解读目录 < ...
图神经网络用于RNA-蛋白质相互作用的新预测
<De novo p rediction of RNA-protein interactions with Graph Neural Networks> 时间:2021年9月28日作者: ...

用于链接预测的邻域重叠感知图神经网络

解读Neo-GNNs