图神经网络 Graph Neural Networks 系列(1)图神经网络基础知识介绍
图是一种对一组对象(节点)
及其关系(边)
进行建模的数据结构。近年来,利用机器学习分析图的研究越来越受到重视,因为图具有很强的表现力,即图可以作为社会科学(社会网络)和自然科学等多个领域中大量系统的表示,例如蛋白质-蛋白质相互作用网络(protein-protein interaction networks)、知识图谱等。作为一种独特的非欧几里德
(non-Euclidean)机器学习数据结构,图在节点分类、链接预测和聚类(node classification, link prediction, and clustering)等方面引起了人们的关注。图神经网络(Graph Neural Networks, GNNs)是一种基于深度学习的图域上运行的方法。GNN以较高的性能和较高的可解释性,近年来得到了广泛的应用。GNN的主要动机有以下两种。
动机
卷积神经网络CNN
GNNs是由LeCun等人提出的卷积神经网络(CNNs)启发而提出来的。CNNs具有提取和合成
多尺度局部空间特征的能力,具有很强的表征能力,几乎在所有的机器学习领域都取得了突破性进展,并引发了深度学习的革命。CNN的关键:局部连接
、共享权重
和深层网络
的使用。
这些特点对于解决图域问题也非常重要,因为
- 图是最典型的局部连通结构
- 与传统的谱图论相比,共享权值降低了计算量[Chung and Graham,1997]
- 多层结构是处理层次模式的关键,它捕获了不同的特征。
但是,CNNs只能对图像(2D网格)
和文本(1D序列)
等规则的欧氏数据进行操作,这些数据也可以看作是图形的特例。因此,很容易想到联想到从CNN到图上GNN的推广。
网络嵌入 NETWORK EMBEDDING
GNN另一个动机来自图嵌入
,它通过学习使用低维向量表示图节点、边或子图
。在图分析graph analysis中,传统的机器学习方法通常依赖于人工设计的特征,并且存在低灵活性和高成本的缺点。基于表征学习(epresentation learning)的思想和单词嵌入(word embedding)的成功,DeepWalk被认为是第一种基于表征学习的图嵌入方法,它将SkipGram模型[Mikolov et al.,2013]应用于生成的随机游动。类似的方法还有node2vec[Grover and Leskovec,2016]、LINE[Tang et al.,2015]和TADW[Yang et al.,2015b]也取得了突破。然而,这些方法存在两个严重的缺点:
- 编码器中的节点之间没有共享参数,这导致了计算效率低下,因为这意味着参数的数量与节点的数量呈线性增长。
- 直接嵌入方法缺少泛化能力,不能处理动态图或泛化为新的图。
本文是清华大学刘知远老师团队出版的图神经书籍《Introduction to Graph Neural Networks》的部分内容翻译和阅读笔记。
图神经网络 Graph Neural Networks 系列(1)图神经网络基础知识介绍相关推荐
- 图神经网络 | (2) 图神经网络(Graph Neural Networks,GNN)综述
原文地址 本篇文章是对论文"Wu Z , Pan S , Chen F , et al. A Comprehensive Survey on Graph Neural Networks[J] ...
- MapboxGL系列(一)基础知识介绍
MapboxGL基础知识介绍 文章目录 MapboxGL基础知识介绍 前言 一.Mapbox是什么? 二.Mapbox常用服务工具介绍 1.mapboxgl.js 2.mapbox studio 3. ...
- 异质图综述 - Graph Neural Networks for Graphs with Heterophily: A Survey(CoRR 2022)
论文链接: https://arxiv.org/pdf/2202.07082.pdf 目录 摘要 1 绪论 2 初步措施 3 具有异质性的 GNN 3.1 Non-local Neighbor Ext ...
- 优化概率神经网络_Bayesian Neural Networks:贝叶斯神经网络
贝叶斯神经网络,简单来说可以理解为通过为神经网络的权重引入不确定性进行正则化(regularization),也相当于集成(ensemble)某权重分布上的无穷多组神经网络进行预测. 本文主要基于 C ...
- 【推荐系统->论文阅读】Dynamic Graph Neural Networks for Sequential Recommendation(用于序列推荐的动态图神经网络)
Dynamic Graph Neural Networks for Sequential Recommendation(用于序列推荐的动态图神经网络) Mengqi Zhang, Shu Wu,Mem ...
- Distill文章-A gentle introduction to graph Neural Networks(图神经网络是怎么构造的)
目录 1 简介 2 图的介绍 3 数据如何表示成图 4 三大类问题 5 将机器学习(神经网络)用在图上,会遇到什么挑战 6 最简单的GNN 7 信息传递(把图结构的信息考虑进去) 8 GNN的pl ...
- [EGNN] Exploiting Edge Features for Graph Neural Networks 利用图神经网络的边特征 论文详解 CVPR 2019
文章目录 1 简介 1.1 GAT和GCN的局限性 1.2 EGNN的创新点 2 相关工作 3 EGNN网络 3.1 符号定义 3.2 EGNN和GNN的对比 3.3 Doubly stochasti ...
- 《图神经网络综述》Graph Neural Networks: A Review of Methods and Applications
作者:清华大学 zhoujie 等 *表示相同的贡献.周洁,张正艳,程阳,刘志远(通讯作者),孙茂松,清华大学计算机科学与技术学院,北京100084.电子邮件:fzhoujie18, zhangzhe ...
- Introduction to Graph Neural Network(图神经网络概论)翻译:Chapter4:Vanilla Graph Neural Networks
文章目录 4.Vanilla Graph Neural Networks(原始图神经网络) 4.1. Introduction 4.2 Model 4.3 Limitations 4.Vanilla ...
最新文章
- Python---shelve模块
- mac下用scp命令实现本地文件与服务器Linux文件之间的相互传输
- opencv 图像分割-分水岭算法
- 昔年浅谈做害虫消杀防护的用什么推广效果好?
- bzoj 2442: [Usaco2011 Open]修剪草坪(单调队列)
- 全套Java基础视频教程
- 嵌入式开发学习学习路线
- 计算机应用基础——计算机硬件(二)
- 数据量再大也不怕!笔记本电脑也可以分析 100GB 数据
- TYVJ p1035 棋盘覆盖
- 新手怎么选择蓝牙耳机不被忽悠?注意这两大误区一定不猜雷
- DFS基础-----刷题合集--1(全排列,八皇后,迷宫),让你明白DFS的基础用法
- C/C++蓝桥杯三升序列
- 休闲零食生产企业如何做好供应链管理?
- 2012_WOW_Designing Steganographic Distortion Using Directional Filters
- JavaSE学习笔记(一)基础知识
- POI给WORD添加水印(亲测可用)
- 软件设计师-设计模式
- 昨天辞职,年前的年终奖等福利1W多公司不给我了,我该怎么办
- Python入门——语言基础