网络分析

在社会网络分析领域,引文网络是最为常见的数据,即节点为论文,连边关系为引用关系,常见的数据集包括 Cora, DBLP, Citeseer 等。一个典型的分类任务是给定每篇文章的内容信息和文章之间的引用关系,将每篇文章分类到对应的领域中。
例如,在节点的半监督分类场景下,已知节点的属性信息包括文章的标题或摘要信息,以及节点之间的引用关系构成的网络信息,给定少量的数据标签,通过机器学习的方式,对网络中的每个节点的所属领域进行划分。在该任务中,图卷积神经网络将节点文本属性和引用网络结构有效的建模,取得了巨大的成功。

推荐系统

人们通过将其视为矩阵补全或者链接预测的方式,能够有效的建模商品和用户之间的联系。图卷积神经网络被认为能够很好的建模图的结构属性和节点特征信息,而推荐系统既可以被视为一个矩阵补全问题,也可以被是因为是二部图(用户和商品)的链接预测问题。相比传统的方法,图卷积神经网络能够更好的利用在推荐系统中普遍存在的用户属性和商品属性信息,这也是图卷积神经网络能够在推荐系统任务上引起人们广泛关注的原因。
Monti 等将多图卷积神经网络和循环神经网络相结合,其中多图卷积神经网络被用来提取局部静止的特征,而循环神经网络能够扩散分数值,重建矩阵。Berg 等将推荐系统建模为图上的链接预测问题,提出基于不同消息传播的图自编码框架对推荐系统的二部图进行建模,在包含社交网络的数据上取得了最好的结果。 Leskovec 等将卷积神经网络应用到推荐系统中,其提出一个数据高效的图卷积神经网络算法 PinSage,对商品节点产生嵌入表达。这些表达包含了图结构和节点特征信息,相比传统的图卷积方式,其提出了一个高效的随机游走策略建模卷积,设计了一个新的训练策略,成功的将图卷积神经网络应用到节点数为 10 亿级的超大规模推荐系统中。Wang 等提出 RippleNet 框架,引入知识图谱信息,提高了推荐系统的性能。Fan 等提出 GraphRec 框架,包括用户建模,商品建模和打分预测 3 个部分,使用注意力机制,有效的建模了用户的交互信息和用户的社交网络信息。

交通预测

交通预测问题也是图卷积神经网络得到广泛应用的任务之一。其目的是在给定历史交通速度和路线图的情况下,预测未来的交通的速率。在交通预测问题中,节点表示在道路中放置的传感器,而边则表示节点对的物理距离。每个节点包含一个时序的特征。相比于传统的图分析问题。交通预测问题中包括时间和空间两个方面的建模,而如何利用图卷积神经网络更好的建模交通中的路网带来了机遇和挑战。在交通预测相关的场景下,如何解决时空依赖是重要的研究方向,由于图卷积神经网络提供了一种解决图数据问题建模的方案,其通过和循环神经网络等时序模型的结合,给出了一个建模交通预测问题的良好的解决思路。而如何进一步更细粒度考虑时空数据建模依然是未来研究的热点。
Li 等提出扩散卷积循环神经网络(DCRNN) 建模交通预测。在该模型中,其将交通流量视为一个有向图上的扩散问题,提出通过使用扩散卷积的方式来建模图结构化数据。使用循环神经网络来建模时间依赖。在两个大规模道路网络交通数据集上取得了 12%-15%的提升。Cui 等提出一个交通图卷积长短时记忆网络(TGC-LSTM)学习道路网络和时变的交通模式。其定义图卷积神经网络在物理的路网拓扑结构上。实验结果表明该方法能够捕获有效存在于车辆交通网络中的复杂的时空依赖。Zhang 等提出图门递归单元(GGRU)解决交通流量预测问题,其将图门递归单元应用于循环神经网络的编码解码模型,应用在洛杉矶高数公路数据集上。Yu 等提出一个新的深度学习框架,空间时间图卷积神经网络(STGCN),解决在交通领域时序 预测问题。在该框架中,其首先形式化问题到图上使用卷积结构进行建模,由于更好的利用了拓扑结构,其在短期和中长期交通预测上取得了相比传统机器学习方法显著的提升。

生物化学

除了传统的图数据的建模外,图卷积神经网络在生物化学等领域也受到了研究人员的大量关注。相比传统的图数据的研究,在生物化学领域,人们通常将一个化学结构或一个蛋白质视为一个图,图中的节点是更小的分子,边代表键或者相互作用。生物化学领域主要集中于对于分子拓扑结构的建模,这些问题中,许多的化学结构和性质体现在图本身的结构特性上。使用图卷积神经网络对这些分子结构的刻画能够显著地帮助到包括新药发现、药物分类等任务。
Duvenaud等人直接在图上定义卷积神经网络。该神经网络模型输入为任意大小或形状的分子,通过端到端地学习分子指纹。该模型能够更好地帮助实现特定功能的分子设计。Kearnes等人使用图卷积神经网络对原子、键和距离进行编码,能够更好地利用图结构中的信息。其提供了新的基于配体的虚拟筛选的范式。Gilmer等人提出消息传播模型 MPNNs预测给定分子的化学性质。Lee等人提出图注意力模型(GAM),自适应地选择一些“信息节点”进而收集整个图的信息,用于图分类问题。
Such等人直接将滤波器定义为图邻接矩阵的函数的多项式,提出Graph-CNNs模型,能够处理异构和同质的图数据。在分子分类问题上,表现出了最好的实验结果。Zitnik等人使用图卷积神经网络建模多种药物副作用。其首先构建蛋白质-蛋白质交互,药物-蛋白质靶标相互作用和多种药物相互作用的多模态图。在图中,每种副作用被视为一个不同类型的边缘。进而将对与药物副作用的建模转化为一个链接预测问题,为进一步研究药理学提供了新的研究思路。Fout等人提出将图卷积神经网络应用到蛋白质交互预测中。在该任务中,蛋白质是氨基酸残基链,折叠成三维结构,赋予它们生化功能。蛋白质通过与其他蛋白质相互作用的复杂网络发挥其功能。Cao等人提出 MolGAN,该模型通过生成对抗网络结合图卷积神经网络,设计出包含特定化学性质的分子结构。You等人提出图卷积策略网络(GCPN),一个基于通用图卷积和强化学习来生成目标图的模型。该模型通过消息传播的方式令隐藏状态为节点表达,然后产生策略π。通过采样的方式选择策略a,然后环境给出化学检测的状态和奖励rt。实验表明该方法相比基线方法,在化学性质优化上有61%的提升。

计算机视觉(CV)

在计算机视觉中,图卷积神经网络的应用主要集中于少样本学习(Few-ShotLearning)、零样本学习(Zero-ShotLearning)、点云建模(PointClouds)、场景图(Sencegraph)等。总的来说,在计算机视觉领域,人们在完成了包括物体识别,图片分类,语义分割后,计算机视觉更关注物体在少量样本,复杂语义情况下的建模和学习。在这些场景下,图是重要的数据结构,而图卷积神经网络是建模该图数据有效的方法。
其中,少样本学习旨在使用较少的样本训练能够识别出一个全新的样本。其通常包含两个阶段:元训练和元测试。在任务中,数据集包括:训练集,支持集和测试集。支持集和测试集共享相同的标签空间,但训练集有单独的标签空间,且与支持/测试集不相交。如果支持集包含每个类包含K个标签样 本,C个类别,则该问题被称为C-wayK-shot问题。常见的数据集包括:Omninglot和miniImageNet。其中Omninglot包含Omninglot数据集包含来自50个不同字母的1623个不同手写字符。miniImageNet则包含100个不同类别,每个类别600样本的84×84的RGB 图片。少样本学习由于存在较少的训练样本,因此需要进一步刻画出不同的物体或者概念之间的语义关系,常见的方法包括引入知识图谱,构建图片之间的全链接图等方式。
Garcia等人定义一个全连接的图,其中节点是图片,连边是图片和图片之间的相似度,他们使用图神经网络对节点进行编码,使用神经消息传播模型能够更好地利用图片之间的关联结构信息,其在少样本、半监督和主动学习等任务上取得了较好的实验结果。Marino等人将知识图谱引入到图片分类任务中,其使用图卷积神经网络更好地利用在知识图谱中的先验知识。在COC数据集的多标签分类任务上取得了提升。Lee等人同样将知识图谱引入到零样本学习任务中,在多标签分类任务中取得了提升。Kampffmeyer等人在使用知识图谱时,定义先祖和后继传播两种方式,能够更好地利用图谱中的语义信息。
点云图是指3D扫描器产生的,某个坐标系下的点的集合,其包含了3D的坐标信息、颜色等相比2D图片更多的几何信息。Qi等人使用图神经网络实现了RGBD图片的语义分割务。Wang等人在点云上使用图卷积神经网络,提出通过边卷积的方式收集边的特征,既包含了局部领域的信息,也通过堆叠或循环的方式学习到全局的几何属性。该模型在形状分类(ShapeClassification)和局部分割(PartSegmentation)任务上取得了不错的结果。Landrieu等人使用消息传播机制在点云图上进行建模。
场景图是另一类在计算机视觉领域较为常见的图结构数据,其节点是物体,边的特征代表其空间关系。相比传统描述的句子线性结构,图结构包含了更多有价值的语义信息。如何使用图卷积神经网络建模场景图受到了大量的关注。Teney等人通过场景图和句子依存句法图的建模,在视觉问答上得到了有效的应用。Chen等人[85]则提出3个图模块:知识图谱、图片区域空间关联图和区域类别分布图,在可视化回答上进行了有效地建模。

自然语言处理(NLP)

图卷积神经网络在自然语言处理领域有大量的应用。在该领域中,较为常见的图数据为知识图谱、句法依赖图和抽象含义表达图、词共现图以及其他方式 构 建 的 图。抽 象 含 义 表 达 AbstractMeaning Representation(AMR)是一种将一个句子的含义编码为有根有向图。大量的研究表明,在使用图卷积神经网络模型后,各项自然语言处理任务的结果都出现了一定的提升。图结构的使用,使得对象之间的复杂的语义关系得到了有效地挖掘。相比传统的对于自然语言处理的序列化建模,使用图卷积神经网络能够挖掘出非线性的复杂语义关系。
Bastings等人将图卷积神经网络作用于依存句法树上,应用在英语和德语、英语和捷克语的机器翻译任务。Beck等人使用门限图神经网络(GGNN)在抽象含义图上,作用于基于语法的机器翻译任务。
依存句法图或树,节点是单词,连边是语义关系。Liu等人和Nguyen等人使用图卷积神经网络应用于事件提取,这里使用的图是依存句法树。Song等人将图卷积神经网络作用于阅读理解、抽象含义图到文本的生成任务和关系提取等任务上。语义角色标注SemanticRoleLabeling(SRL)的任务是给定一个句子,识别出句子中的谓语和对应的对象。Marcheggiani等人提出使用图卷积神经网络作用于句法依赖图,并且和长短时记忆网络叠加使用,应用于语义角色标注上。
除了上述的图谱外,词共现网络也被应用于文本分类任务上。其中节点是非停用词,连边是在给定窗口下的词共现关系。Defferrard等人提出了一个在图谱理论上定义的卷积神经网络,它提供了必要的数学背景和有效的数值方案来设计图上的快速局部卷积滤波器。Henaff等人使用图卷积神经网络在Reuter数据集上的文本分类任务。Yao等人通过构建共词网络和文档关系网络,将图卷积神经网络应用到文本分类任务上,在不使用外部知识和单词表达的情况下,取得了最好的结果。Peng等人从原始文本基于词共现网络和一个给定的窗口大小,构建了一个图。然后使用图卷积操作进而实现对于文本的分类任务。

其他

在除了上述的应用领域外,包括程序推断、优化求解等任务上,图卷积神经网络都开始被人们使用。由于其可以建模在现实生活中常见的图数据,并且通过卷积、注意力或消息传播等机制,能够将网络的拓扑结构和节点属性等信息以神经网络进行捕获和建模,因此图卷积神经网络有广泛的应用前景。

参考文献:徐冰冰,岑科廷,黄俊杰,等. 图卷积神经网
络综述[J]. 计算机学报,2020,43(5):755-780.
没毛病:大自然的搬运工仅此而已!!!

图卷积神经网络(GCN)相关应用相关推荐

  1. (21) 出行需求预测新视角---基于图卷积神经网络GCN的出租车OD需求预测

    交通预见未来(21): 出行需求预测新视角---基于图卷积神经网络GCN的出租车OD需求预测 1.文章信息 <Origin-Destination Matrix Prediction via G ...

  2. 图卷积神经网络(GCN)综述与实现(PyTorch版)

    图卷积神经网络(GCN)综述与实现(PyTorch版) 本文的实验环境为PyTorch = 1.11.0 + cu113,PyG = 2.0.4,相关依赖库和数据集的下载请见链接. 一.图卷积神经网络 ...

  3. 图卷积神经网络GCN大白话解读!

    何时能懂你的心--图卷积神经网络(GCN) https://zhuanlan.zhihu.com/p/71200936 蝈蝈 把知道的讲清楚.公众号SimpleAI,欢迎来逛逛. 已关注 天雨粟 . ...

  4. 深入理解图卷积神经网络(GCN)原理

    深入理解图卷积神经网络(GCN)原理 文章目录 深入理解图卷积神经网络(GCN)原理 前言 一.为什么需要GCN 二.GCN的原理 1.图的定义 2.GCN来了 2.1 矩阵计算公式 2.2 以小规模 ...

  5. DeepLearning | 图卷积神经网络(GCN)解析(论文、算法、代码)

    本篇博客主要讲述三种图卷积网络(Graph Convolutional Network, GCN)的算法原理及python实现,全文阅读时间约10分钟. 博主关于图神经网络的文章 DeepLearni ...

  6. tensorflow lstm 预测_图卷积神经网络GCN与递归结构RNN相结合的时间序列预测

    时间序列预测任务可以按照不同的方法执行.最经典的是基于统计和自回归的方法.更准确的是基于增强和集成的算法,我们必须使用滚动周期生成大量有用的手工特性.另一方面,我们可以使用在开发过程中提供更多自由的神 ...

  7. 图卷积神经网络(GCN)理解与tensorflow2.0代码实现

    图(Graph),一般用 G=(V,E)G=(V,E)G=(V,E) 表示,这里的VVV是图中节点的集合,EEE 为边的集合,节点的个数用NNN表示.在一个图中,有三个比较重要的矩阵: 特征矩阵XXX ...

  8. 图卷积神经网络(GCN)入门

    GCN是从CNN来的 CNN成功在欧式数据上:图像,文本,音频,视频 图像分类,对象检测,机器翻译 CNN基本能力:能学到一些局部的.稳定的结构,通过局部化的卷积核,再通过层级堆叠,将这些局部的结构变 ...

  9. 【深度学习理论】(5) 图卷积神经网络 GCN

    尽管在过去的几年中,神经网络的兴起与成功应用使得许多目标检测.自然语言处理.语音识别等领域都有了飞跃发展,但是将 RNN 或者GCN这样的深度学习模型拓展到任意结构的图上是一个有挑战性的问题.受限于传 ...

  10. 图卷积神经网络GCN中的关键公式推导---干货

    GCN推导(比较关键的部分) GCN公式推导的时候,需要用到线性代数和傅里叶变换的一些定理, 比如拉普拉斯矩阵是实对称矩阵,其标准化都的数值分布在[0,2]之间 比如傅里叶变换的原理就是多个正弦余弦函 ...

最新文章

  1. PL/SQL 操作数据库常见脚本
  2. Array,Vector,List,Deque的区别与联系【转+改】
  3. linux 设置 ls -l 快捷键为 ll 别名
  4. .NET Remoting构建分布式数据库查询
  5. 【递归】【线段树】【堆】AtCoder Regular Contest 080 E - Young Maids
  6. 注解版poi操作工具
  7. redis应用场景java实例_redis使用场景和java测试案例
  8. IDEA中识别Git上新加的分支
  9. htc a620d 刷android,续航以及最后的总结_HTC A620d - CNMO
  10. 关闭计算机主机还亮着,Win10系统电脑关机后主机电源灯依然亮着的解决方法
  11. LM317 电阻表格 电阻计算
  12. vba操作word删除某些页面
  13. 360显示服务器拒绝访问,Tecplot 360 2011安装方法 对于“目标文件夹拒绝访问”的解决...
  14. 静态市盈率和动态市盈率
  15. 如何设置正确的dns服务器地址,dns服务器地址如何设置
  16. adb shell dumpsys activity activities调用信息分析
  17. 嵌入式:ARM系列处理器详解与性能对比
  18. 怎么辨别一个公司是不是外包?
  19. docker搭建并使用AB(apache bench)测试工具压力测试
  20. mimikazi教程

热门文章

  1. matlab最小二乘法解超定方程,[转载]matlab 超定方程 最小二乘解
  2. matlab中欠定方程组超定方程组_大规模线性方程组解法简介
  3. 毕业季音乐计算机简谱,毕业季简谱(歌词)-贺敬轩演唱-桃李醉春风记谱
  4. FPGA简单实现数据过采样
  5. 运算放大器仿真 matlab,利用Matlab分析运算放大器电路.doc
  6. 单片机音频信号分析仪
  7. 【电赛训练】红外光通信装置 2013年电赛真题
  8. 神州十三号即将发射!翟志刚担任指令长,女航员竟是她?
  9. 计算机及网络信息安全管理制度,计算机、网络管理及信息安全管理制度
  10. Unity3D应用防外挂与防破解