论文链接：https://arxiv.org/pdf/1812.08434.pdf

GNN相关论文列表链接：https://github.com/thunlp/GNNPapers

近日，清华刘知远老师组在arXiv上发表了一篇关于图神经网络的综述，本次论文浅尝在分享这篇论文的基础上，对图神经网络的相关方法及应用作一次梳理。

一、前言

图神经网络(GraphNeural Networks, GNNs)，主要针对非欧几里得空间结构（图结构）的数据进行处理。具有以下特点：

• 忽略节点的输入顺序；

• 在计算过程中，节点的表示受其周围邻居节点的影响，而图本身连接不变；

• 图结构的表示，使得可以进行基于图的推理。

二、图神经网络模型

通常，图神经网络由两个模块组成：传播模块(PropagationModule)和输出模块(Output Module)，具体地：

（1）Propagation Module：图中节点之间传递信息并更新状态；

• aggregator: 对于一个节点v, 通过聚合其周围节点的信息，学习其潜在表示h_v (state embedding)。

其中，x_v为节点v的features，x_co[v]为其周围边的features，h_ne[v]表示节点v周围邻居节点的state embedding，x_ne[v]表示周围节点的features。

• updater: 更新节点的stateembedding。

（2）Output Module：基于节点和边的向量表示根据不同的任务定义目标函数

在监督学习场景中，对于一个特定的节点，其监督信号表示为：t_v，lossfunction定义为：

常见的图神经网络有：图卷积神经网络(GraphConvolutional Networks, GCNs)，门控图神经网络(Gated Graph Neural Networks,GGNNs)以及基于Attention机制的GraphAttention Networks(GAT)，下面详细介绍这三种网络：

1、图卷积神经网络（GCN）

（1）基于谱方法(Spectral Methods):

相关论文：<ICLR-17> Kipf T N, Welling M.Semi-supervised classification with graph convolutional networks.

通过计算图拉普拉斯算子(Graph Laplacian)的特征分解，在Fourier域定义卷积计算。对于输入信号x和卷积核?_?=????(?):

其中，表示图结构的Graph Laplacian矩阵可分解为：

上式的计算将卷积核近似为切比雪夫多项式，并进行化简：

最终得到GCN网络中的表示：

• aggregator:

• updater:

但是以上方法有几点不足，卷积核的学习依赖图拉普拉斯矩阵的特征分解，对于图结构有一定的要求，在固定结构上学习的模型，无法迁移到其他结构的模型上。

（2）基于非谱方法(Non-spectral Methods):

在图上直接定义卷积计算，将不同size的邻居节点考虑在内，同时保持像CNN一样的局部卷积不变性。

• DCNNs：基于扩散卷积的思想的网络；

• GraphSAGE：采样固定size的邻居节点，同时通过mean,LSTM, pooling等方式聚合周围节点的信息。

2、门控图神经网络（GGNN）

相关论文：<ICLR-16> Li Y, Tarlow D, Brockschmidt M,et al. Gated graph sequence neural networks.

• 提高图结构信息的long-term传播能力

• 将图中的edge信息考虑在内

将图矩阵作如下表示，不同类型的边采用不同类型的传播矩阵，同时，用 A^(out)和 A^(in) 分别表示节点的入度信息和出度信息。

计算图传播信息：

（1）Propagation module

• initialization step

  

• pass information：矩阵A中包含了当前节点与其他节点的交互信息

  

节点的state embedding h_{v^(t-1)}，与其他节点的交互信息a_{v^(t)}通过GRU单元进行融合：

• update gate

  

• reset gate

  

• activate

（2）Output module

• node-level

  

• graph-level

  

其中，i,j表示两个全连接神经网络。

3、注意力图神经网络（GAT）

相关论文：<ICLR-18> Velickovic, Petar, et al. Graphattention networks.

• 为节点的不同的邻居节点指定不同权重

• 节点-邻居节点对的计算可并行化，相比于GCN等网络，速度较快

  

节点权重的计算：

节点信息的更新：

由“Attentionis all you need”一文中提出的head attention，GAT网络中也使用了headattention：

三、图神经网络应用

1、Structural Scenarios

主要应用于其数据结构为图结构的场景，如蛋白质分子结构图、KnowledgeGraph等。

以KnowledgeGraph中应用GNN为例：

相关论文：<IJCAI-17> Hamaguchi T, et al. Knowledgetransfer for out-of-knowledge-base entities: a graph neural network approach.

论文主要针对KG中的out-of-knowledge-base(OOKB)实体，进行知识库补全等任务。

a、OOKB实体定义：

在训练过程中未被训练到的实体，无法得到其embedding表示，从而无法预测其与知识库中其他实体之间的关系。如下图中在测试期间新出现的实体“Blade-Runner”，或者说新出现的三元组“(Blade-Runner,based-on, Do-Androids-Dream-of-Electric-Sheep?)”（图中红线所示部分）。

我们的任务则定义为：基于知识库中已存在的三元组（2）和当前新出现的三元组（1），预测当前新实体与知识库中其他实体之间的关系（即三元组3）。

同时，OOKB实体即哪些与知识库中已存在的实体直接相连的实体，基于此，可以通过知识库中现有的实体表示得到OOKB实体表示。

b、这篇文章利用GNN中节点表示的方式，对OOKB实体进行表示：

其中，T_head表示以OOKB实体为尾实体的三元组集合，T_tail表示以OOKB实体为头实体的三元组集合，通过其周围邻居的头尾实体对当前实体进行表示。

T_head, T_tail分别表示聚合三元组信息的函数，论文中为batchnormalization function。

经GNN传播的节点状态表示为：

c、模型的输出模块利用TransE等经典模型，进行知识库补全任务。

2、Non-structural Scenarios

主要应用于其数据结构为非图结构的场景，如图片、文本等。在此类场景中，应用GNN通常有两种方式：

• 利用具有图结构信息的外部资源，如KnowledgeGraph等；

• 探索此类数据中隐含的图结构，如文本的句法数结构。

（1）图片相关任务：

• Image Classification, i.e., zero-shot, few-shot

• Visual Reasoning, i.e., VQA

• Semantic Segmentation

其中，图片分类任务零样本学习和少样本学习的相关论文有：

• Zero-shot recognition via semantic embeddings and knowledge graphs

• Rethinking knowledge graph propagation for zero-shot learning

• Multi-label zero-shot learning with structured knowledge graphs

• The more you know: Using knowledge graphs forimage classification

• Few-shot learning with graph neural networks

（2）NLP相关任务：

• Text Classification

• Sequence Labeling

• Neural machine translation

• Relation Extraction

• Event Extraction

以机器翻译的一篇论文为例，通过将sourcelanguage的句法结构图输 GNN 进行 encode，继而附加 Attention layer 和 decoder 层，输出 target language 序列。

相关论文：<ACL-18> Beck D, Haffari G, Cohn T.Graph-to-sequence learning using gated graph neural networks.

这篇文章以“Graph tosequence”为要点，实验部分包括两个任务，其中一个是AMR图输出序列，另一个做syntax-aware的机器翻译任务。

其中，AMR Graph为从句子的句法表示中抽象出来的语义表示语言，具体相似语义的句子有相同的AMR Graph。如下图左所示。

模型在Seq2seq模型的基础上，以AMR graph为输入，通过GGNN网络进行encode，经过Attention层和RNNdecoder输出序列。GGNN encoder部分表示为：

其中， 表示当前节点与周围节点相连边的参数，l_e 表示不同边的类型。

但随着Graph中边类型的增多，很容易引起参数爆炸的问题，因此，本文提出了一种融合Graph中edge信息的方式，即将edge转化为附加的节点(no labelled edges)。具体地，通过将Graph转化为对应的二分图。上图中的句法结构图对应的二分图如下所示：

由此，graph中的边的类型只有一种。

四、Open problems

图神经网络目前虽被广泛利用，但存在不少问题亟待解决：

（1）Shallowstructure：多层的图神经网络，可能会导致over-smoothing的问题，如GCN等网络，一些论文中也尝试用Skip connection的方式加以解决；

（2）Dynamicgraphs：GNN目前仅能处理一些静态图，对于实时增加/减少的节点和边则无法很好地处理；

（3）Non-structuralscenarios：在处理非图结构的数据时，希望利用其中内在的结构，而目前从raw data中生成graph的方法仍需改善；

（4）Scalability

五、总结

本文中总结了近年来常用的几种图神经网络模型，并就其应用场景进行了进一步的探讨。总的来说，图神经网络强大的计算能力，对图结构数据的友好处理，深受研究者们的喜爱，但其仍存在很多需要解决的问题，也是我们可以进一步研究的方向。

笔记整理：耿玉霞，浙江大学直博生。研究方向：知识图谱，零样本学习，自然语言处理等。

---

OpenKG.CN

中文开放知识图谱（简称OpenKG.CN）旨在促进中文知识图谱数据的开放与互联，促进知识图谱和语义技术的普及和广泛应用。

点击阅读原文，进入 OpenKG 博客。