图神经网络与图注意力网络相关知识概述

#图神经网络# #图注意力网络#

随着计算机行业和互联网时代的不断发展与进步，图神经网络已经成为人工智能和大数据的重要研究领域。图神经网络是对相邻节点间信息的传播和聚合的重要技术，可以有效地将深度学习的理念应用于非欧几里德空间的数据上。本期推送围绕图神经网络与图注意力网络相关知识进行概述。

1.什么是图

1.1 定义

图表示的是一系列实体（节点）之间的关系（边）。

V：节点信息（节点标识、节点邻居数）
E：边信息（边标识、边权重）
U：全局信息（节点数、最长路径）

1.2 embedding

为了深入表示每个节点、边和整个图，可以使用如下存储方式：

把节点信息、边信息和全局信息做embedding，通俗说即把这些信息存储为向量的形式。例如上图用向量来表示节点，形成一个长度为6的向量，表示节点的6个信息，高矮代表了值的大小。

1.3 将多种类型的数据表示成图

（1）images as graphs（将图片表示为图）

把每个像素作为一个点，存在邻接关系则形成一条边

（2）text as graphs（将文本表示为图）

把词表示为顶点，词与词存在有向边

（3）将现实生活中的关系表示成图

分子结构（原子之间的关系）、社交网络（人物交互图）、引用（文章引用关系）
例如下图为话剧《奥赛罗》中的人物交互图，通过将同时出现在一个场景里的人物连上一条边，将人物关系表示成图。

1.4 在图上面可以定义哪些类型的问题

（1）图层面的任务

比如，给定一张图，对该图进行分类。

如上图，预测出哪些分子是具有两个环的。这个例子比较简单，可以用图的遍历来完成，当图非常复杂的时候，图神经网络可以发挥巨大作用。

（2）节点层面的任务

比如，将节点分类到不同的阵营。

上图是空手道俱乐部数据集，将学员分类到两个老师的队伍中。

（3）边层面的任务

比如，已知节点，学习节点之间的边的信息。

在这个例子中，边的预测是通过语义分割把人物、背景拿出来，然后分析实体间的关系。也就是给出节点之间的图，对边上的属性进行预测。比如黄衣服的人在踢绿衣服的人，他们都站在地毯上。

1.5 在图上使用神经网络的挑战是什么

图上有节点属性、边的属性、全局信息、连接性四种类型的信息。

前面三个比较容易与神经网络兼容，因为其可以表示成向量的形式。在利用连接性这种类型的信息时，通常会使用邻接矩阵——但是存在图太大无法存储、交换行列本质不变但矩阵变化的情况。于是很多情况下会使用邻接列表表示图上的连接性关系。

如上图，这张图有8个顶点，7条边。邻接列表的长度与边数相同，第i项表示第i条边连接的哪两个节点。

2.图神经网络

图神经网络的基本思想就是：

基于节点的局部邻居信息对节点进行embedding。直观来讲，就是通过神经网络来聚合每个节点及其周围节点的信息。

对于这个图来说，要计算节点A的Embedding，有以下的两条想法：

节点A的Embedding，是它的邻接节点B、C、D的Embedding传播的结果
而节点B、C、D的Embedding，又是由它们各自的邻接节点的Embedding传播的结果。

为了避免无穷无尽，以下图为例，做两层，可以构造该图的传播关系。

第0层即输入层，为每个节点的初始向量，称为初始Embedding。

第1层：

节点B的Embedding来自它的邻接点A、C的Embedding的传播。
节点C的Embedding来自它的邻接点A、B、E、F的Embedding的传播。
节点D的Embedding来自它的邻接点A的Embedding的传播。

第2层：

节点A的Embedding来自它的邻接点B、C、D的Embedding的传播。

但是，目前我们还不知道传播到底是什么，图中的小方块在做什么，下面就对传播机制进行介绍。

小方块主要就做了两件事情：

收集（Aggregation）
对上一层的所有邻接节点的Embedding，如何进行汇总，获得一个Embedding，供本层进行更新。
更新（Update）
对本层已“收集完毕”的邻接点数据，是否添加自身节点的上一层Embedding，如果是，如何添加、如何激活等等，最终输出本层的Embedding。

下面使用公式介绍一个具体例子：

符号解释： $h$ 表示节点的 $e mb e dd in g$ ，下标 $v$ 或 $u$ 表示节点的索引，上标 $k$ 表示第几层， $σ$ 表示激活函数， $W_k$ 或 $B_k$ 表示矩阵， $N (v)$ 表示节点 $v$ 的邻接点集合。

公式解释：使用节点的输入特征向量来初始化第 $0$ 层节点的 $e mb e dd in g$ 。为了计算第 $k$ 层节点 $v$ 的 $e mb e dd in g$ ，需要用到上一层中节点 $v$ 本身的 $e mb e dd in g$ 、节点 $v$ 的邻居节点在 $k$ -1层中的 $e mb e dd in g$ 平均值。

操作步骤：

收集——对上一层邻居节点的Embedding求平均。
更新——收集完毕的Embedding与本节点上一层的Embedding进行加权和，然后再激活。

3.图注意力网络

3.1 基本思想

根据每个节点在其邻节点上的attention，来对节点表示进行更新。

3.2 改进

GCN无法允许为邻居中的不同节点指定不同的权重，GAT和GCN的核心区别在于如何收集并累和距离为1的邻居节点的特征表示。
图注意力网络GAT用注意力机制替代了GCN中固定的标准化操作。

3.3 优点

在GAT中，图中的每个节点可以根据邻节点的特征，为其分配不同的权值。
引入注意力机制之后，只与相邻节点有关，即共享边的节点有关，无需得到整张图的信息。

3.4 GAT架构

图注意力层的输入： $N$ 个节点特征的集合 $h$

$h=\{\overrightarrow{h}_1,\overrightarrow{h}_2,...,\overrightarrow{h}_N\},\overrightarrow{h}_i\in\mathbb{R}^F$

1,h

2,...,h

N},h

i∈RF

图注意力层的输出：经过学习之后的 $N$ 个节点的特征向量 $h^{'}$

$h'=\{\overrightarrow{h}^{'}_1,\overrightarrow{h}^{'}_2,...,\overrightarrow{h}^{'}_N\},\overrightarrow{h}^{'}_i\in\mathbb{R}^{F'}$

1′,h

2′,...,h

N′},h

i′∈RF′

特征增强：为了使得节点特征表达得更清晰，首先对每一个节点进行一个线性变换，即乘上一个权重向量。【 $W$ 维度为