Heterogeneous Graphs（异质图）——有多种类型的边

我们之前提到处理的图，都是只有一种边的类型，但是实际上图是可以有很多类型的边，当然节点可以有很多不同的类型。那么这种图我们称之为异质图。在这里，我们把不同类型的边称之为不同的关系。

下面展示一些异质图（感觉跟数据的关系图有点像）：

relational GCN

下面我们将拓展GCN，得到relational GCN，用它来处理有多种边（关系）的异质图。

一种关系的有向图

首先，我们先看看，只有一种关系的有向图应该怎么处理。其实非常的简单，只要信息传递的时候沿着有向边就行，其他的和普通的GCN一样。同样有计算图。也就是是说，此时这个图对应的邻接矩阵就不再像无向图一样是对称矩阵了。

有多种关系的有向图

那有多种关系的有向图我们怎么处理呢？？对于不同类型的关系类型，我们用不同的NN权重。也就是说，在信息传递时，通过不同类型的边传递消息，我们采取不同的处理方式。

计算图的结构也没有变化，只是各个NN的权重不是完全相同了。

relational GCN的公式如下：

RGCN公式比较简单，和普通的GCN差不多，除了Wr有一些变化。

RGCN中的权重矩阵数量是普通GCN的R倍（R表示关系种类数目），可能造成过拟合。

下面给出两种方法去改善权重Wr，一种是使用块对角矩阵（使得每个W的参数变少），第二种是在不同关系中使用共享的权重

方法一：块对角矩阵

思路非常的清晰简单，他这个维度的变化我没看懂。然后呢，这样做也会随之带来一个问题，因为是这种块对角矩阵，在算HW时(H的维度为Nxd N个节点，每个节点d维），每个节点的d维并不能同时与W中的参数相乘，就只有块里面的对应的位置的对应维度才能有相互作用。可能需要多进行几遍这种变换才能使得d维都参与。

方法二：共享矩阵

这个思路就像是，共享矩阵为基，不同的权重矩阵通过基，用不同的坐标表示。这样学习的参数就只有共享矩阵和一些系数，学习的参数极大地缩减。

总结

RGCN可以很好的应用于异质图上，并且这种思路是可以拓展到其他类型的GNN上。（RGraphSAGE，RGAT等等）

图神经网络（10）- relational GCN相关推荐

PGL图学习之图神经网络GNN模型GCN、GAT
在4922份提交内容中,主要涉及13个研究方向,具体有: 1.AI应用应用,例如:语音处理.计算机视觉.自然语言处理等 2.深度学习和表示学习 3.通用机器学习 4.生成模型 5.基础设施,例如:数据 ...
图神经网络学习(一)-GCN及其应用
内容提要:GCN背景简介+torch_geometric库安装+GCN处理Cora数据集 1.图神经网络 1.1 概念原有的卷积神经网络主要用来解决欧式空间中的数据(数据规整,形状固定),例如图像数 ...
【图神经网络DGL】GCN在Karate Club上的实战（消息传递范式 | 生成训练可视化动图）
学习总结回顾[图神经网络DGL]数据封装和消息传递机制的数据封装,在做异构图神经网络时,DGL比PyG方便很多(尽管PyG已经支持了异构图Aminer和栗子,但对图结构数据做批处理还是需要自己实现 ...
图神经网络三剑客：GCN、GAT与GraphSAGE
©PaperWeekly 原创 · 作者|桑运鑫学校|上海交通大学研究方向|图神经网络在金融领域的应用 2019 年号称图神经网络元年,在各个领域关于图神经网络的研究爆发式增长.本文主要介绍一下三 ...
图神经网络入门 (GNN, GCN)
目录 Graphs and where to find them Attributes of graphs Images as graphs Text as graphs Graph-valued d ...
【图神经网络】简化 GCN（SGC）
本文为图神经网络学习笔记,讲解 SGC.欢迎在评论区与我交流
基于图神经网络的节点表征学习
我们使用图神经网络来生成节点表征,并通过基于监督学习的对图神经网络的训练,使得图神经网络学会产生高质量的节点表征.高质量的节点表征能够用于衡量节点的相似性,同时高质量的节点表征也是准确分类节点的前提. ...
图神经网络基础--基于图神经网络的节点表征学习
图神经网络基础–基于图神经网络的节点表征学习引言在图节点预测或边预测任务中,首先需要生成节点表征(Node Representation).我们使用图神经网络来生成节点表征,并通过基于监督学习的对 ...
【推荐系统-＞论文阅读】Dynamic Graph Neural Networks for Sequential Recommendation（用于序列推荐的动态图神经网络）
Dynamic Graph Neural Networks for Sequential Recommendation(用于序列推荐的动态图神经网络) Mengqi Zhang, Shu Wu,Mem ...
bp神经网络应用实例_自监督图神经网络
近年来,深度学习在视觉以及自然语言处理等领域取得了革命性的进步,但是诸如图像与自然语言之类的数据往往是高度结构与顺序化的.然而实际中大多数数据并无此特性,例如人际关系.社交网络.蛋白质分子结构等等,这 ...

图神经网络（10）- relational GCN

Heterogeneous Graphs（异质图）——有多种类型的边

relational GCN

一种关系的有向图

有多种关系的有向图

总结

图神经网络（10）- relational GCN相关推荐

最新文章

热门文章