图神经网络的图网络学习(下)
原文:Learning the Network of Graphs for Graph Neural Networks
1. 文章信息
作者
Yixiang Shan, Jielong Yang, Xing Liu, Yixing Gao, Hechang Chen, & Shuzhi Sam Ge (2022)
单位
期刊或会议
题目
Yixiang Shan et al. “Learning the Network of Graphs for Graph Neural Networks” (2022).
2. BGC
背景
图神经网络 (GNN) 在许多使用图结构数据的场景中取得了巨大成功。然而,在许多实际应用中,在应用 GNN 时存在三个问题:图未知、节点具有噪声特征以及图包含噪声连接。
目的
为了解决这些问题,我们提出了一种新的图神经网络,称为 GL-GNN。我们的模型包括多个子模块,每个子模块选择重要的数据特征,并在图未知时学习数据样本对应的关键关系图。 GL-GNN 通过学习子模块的网络进一步得到图的网络。使用图网络上的聚合方法进一步融合学习到的图。我们的模型通过同时学习多个数据样本的关系图以及图的关系网络来解决第一个问题,并通过选择重要的数据特征以及重要的数据样本关系来解决第二个和第三个问题。
结论
我们将我们的方法与图未知时在七个数据集上的 14 种基线方法和在图已知时在两个数据集上的 11 种基线方法进行比较。结果表明,我们的方法比基线方法具有更好的准确性,并且能够从数据集中选择重要的特征和图形边缘。
3. 创新点
方法
我们方法的整体结构如图1所示。数据样本被输入到M个子模块中,以独立学习M个样本关系图。 M个图以及M个学习到的特征被进一步输入到图网络学习模块中,学习一个图网络,然后用于图聚合模块生成图和分类结果。每个子模块的整体结构如图2所示。
具体查看图片一栏
理论
具体理论可以看图神经网络的图网络学习(上)
应用
在本文中,我们提出了一种图形神经网络方法GL-GNN,它可以同时处理已知图和未知图的情况。该方法使用多个子模块学习重要特征和重要图边,这些子模块的结果通过学习到的子模块网络进行汇总。
4. 文章好在哪里
创新点
1.我们提出了一种新颖的 GNN,它可以使用图网络同时学习图结构、重要数据特征和数据样本的关键关系图。据我们所知,这是第一个使用图网络来学习 GNN 的图结构的模型。
2.我们的方法同时学习图和半监督分类器,因此可以在分类器的训练过程中调整图。该属性允许我们的方法应用于图未知、节点具有噪声特征以及图包含噪声连接的场景,这扩展了 GNN 的应用。
图片
接下来我们看下作者给的结构图了,初次看这个图的时候感觉很迷有没有,这画的是个什么。后来仔细观察了一下,才恍然大悟,图1中上下两个代表两层,图2是图1中的第一步中的一个子图模块(文中叫多子模块的图学习算法——multiple sub-modules )。我感觉这个流程图画的没有那么让人一看就懂,但是整体配色还是不错的,值得我们借鉴学习。
逻辑
文章的逻辑还是不错的,整体来说还是一环套一环,而且基本上都能有理论对其论点进行支撑。文章结构也是不错的,这点值得我学习。
5. 核心步骤
思路
我们提出了一种新颖的 GNN,它可以使用图网络同时学习图结构、重要数据特征和数据样本的关键关系图。据我们所知,这是第一个使用图网络来学习 GNN 的图结构的模型。
我们的方法同时学习图和半监督分类器,因此可以在分类器的训练过程中调整图。该属性允许我们的方法应用于图未知、节点具有噪声特征以及图包含噪声连接的场景,这扩展了 GNN 的应用。
我们将我们的方法与14 种基线方法在位置图上进行比较(table1),同时在已知图上与 11基线方法进行了对比(table3),这其中包括能够学习图的最新方法和使用 kNN 学习图的两阶段方法。结果表明,我们的方法比基线方法取得了更好的性能。
在 7 个真实数据集上的实验表明,我们的算法可以去除噪声的特征子集和节点的噪声关系(即学习关键特征和关键图边)。
点评:引言到这里基本就结束了,剩下的就是对全文的框架的一个总结以及对符号的一个定义。通过引言来看,这篇文章做了很多关于图数据的去噪工作。从最开始的KNN+GNN到后面的LDS最后到作者的模型GL-GNN,整体行文还是很有逻辑同时在每个论点里都有足够的论据,这点也是我们以后写文章需要借鉴的。同时通过这篇文章我们也可以清晰的看到的趋势:
1.在深度学习的领域就是要做到更多的让机器来自主的学习,同时要避免人为的因素过多的干预。
2.模型相关的解释性
图表
图表画的也不错,从目前发布的会议文章来看,基本上在实验部分都是由一个长表来搭配几个短表的格式,这点也是值得我们以后再写论文中值得借鉴的。
图神经网络的图网络学习(下)相关推荐
- 图神经网络的图网络学习(上)
图神经网络的图网络学习(上) 原文:Learning the Network of Graphs for Graph Neural Networks 摘要 图神经网络 (GNN) 在许多使用图结构数据 ...
- 图神经网络之图卷积网络——GCN
图卷积网络--GCN 一.前置基础知识回顾 图的基本概念 构造图神经网络的目的 训练方式 二.回顾卷积神经网络在图像及文本上的发展 图像上的卷积网络 文本上的卷积网络 图卷积网络的必要性 三.图卷积网 ...
- 深入浅出图神经网络|GNN原理解析☄学习笔记(四)表示学习
深入浅出图神经网络|GNN原理解析☄学习笔记(四)表示学习 文章目录 深入浅出图神经网络|GNN原理解析☄学习笔记(四)表示学习 表示学习 表示学习的意义 离散表示与分布式表示 端到端学习 基于重构损 ...
- 图神经网络与图注意力网络相关知识概述
#图神经网络# #图注意力网络# 随着计算机行业和互联网时代的不断发展与进步,图神经网络已经成为人工智能和大数据的重要研究领域.图神经网络是对相邻节点间信息的传播和聚合的重要技术,可以有效地将深度学习 ...
- 图神经网络基础--基于图神经网络的节点表征学习
图神经网络基础–基于图神经网络的节点表征学习 引言 在图节点预测或边预测任务中,首先需要生成节点表征(Node Representation).我们使用图神经网络来生成节点表征,并通过基于监督学习的对 ...
- 当图网络遇上计算机视觉!计算机视觉中基于图神经网络和图Transformer的方法和最新进展...
点击下方卡片,关注"CVer"公众号 AI/CV重磅干货,第一时间送达 点击进入-> CV 微信技术交流群 可能是目前最全面的<当图网络遇上计算机视觉>综述!近四 ...
- 【图神经网络】图分类学习研究综述[2]:基于图神经网络的图分类
基于GNN的图分类学习研究综述[2]:基于图神经网络的图分类 论文阅读:基于GNN的图分类学习研究综述 3. 基于图神经网络的图分类 3.1 卷积 3.2 池化 论文阅读:基于GNN的图分类学习研究综 ...
- 「图神经网络复杂图挖掘」 的研究进展
来源:专知 图神经网络对非欧式空间数据建立了深度学习框架,相比传统网络表示学习模型,它对图结构能够实施更加深层的信息聚合操作.近年来,图神经网络完成了向复杂图结构的迁移,诞生了一系列基于复杂图的图神经 ...
- 图神经网络基础--图结构数据
图神经网络基础–图结构数据 注:本节大部分内容(包括图片)来源于"Chapter 2 - Foundations of Graphs, Deep Learning on Graphs&quo ...
最新文章
- GEMM性能提升200倍,AutoKernel算子优化工具正式开源
- 云安全云计算 迷团大揭幕
- JavaScript中的作用域,闭包和上下文
- 三星宣布 Linux on DeX:手机秒变 Ubuntu 桌面环境
- 孔子、老子、墨子,春秋时期的三位人杰,谁更厉害?
- Fiddler利用Xposed框架+JustTrustMe抓取手机APP数据
- 腾讯视频vip会员_腾讯视频如何查看版本号
- Spring容器创建流程——总结
- 【Redis】redis 主从复制
- 机器学习基于语义特征的情感分析
- postgresql-9.6.6主从
- 花店橱窗布置问题(FLOWER)
- 数据库基础知识(面试)
- opendrive坐标系
- ios 原子属性atomic加锁性能与锁对比, 不推荐的原因
- 黑龙江省鹤岗市谷歌高清卫星地图下载
- property属性
- 傅里叶变换和正弦函数和欧拉公式
- C# vs2019 智能提示中文突然变成英文
- UEFI 基础教程 (十四) - 设置默认启动项为UEFI Shell
热门文章
- 【人工智能】新工匠精神:人工智能挑战下如何成为稀缺人才
- 复盘2021鲜花电商:行业波动过后迎新一轮混战和增长
- 唯有爱和勇气不可辜负 《无双争霸战》删档计费测试明日开启
- 柳传志:我尊称马云是“马校长”,为湖畔大学正名
- 从头到尾写SQL(一)
- 努比亚z17s刷android8、9、10
- 基于Moodle平台的网站调查报告
- 2020.9.17 这周是我们开学以来的第二周了,我们的课也已经上了好几个课时了,因为电脑系统不支持老师推荐安装的软件的原因,我和谭金兰同学到现在都还没安好上课需要的软件,现在只能用机房里的电脑学习。
- 何为TLC、MLC、SLC?
- php session操作