图是一种对一组对象(节点)及其关系(边)进行建模的数据结构。近年来,利用机器学习分析图的研究越来越受到重视,因为图具有很强的表现力,即图可以作为社会科学(社会网络)和自然科学等多个领域中大量系统的表示,例如蛋白质-蛋白质相互作用网络(protein-protein interaction networks)、知识图谱等。作为一种独特的非欧几里德(non-Euclidean)机器学习数据结构,图在节点分类、链接预测和聚类(node classification, link prediction, and clustering)等方面引起了人们的关注。图神经网络(Graph Neural Networks, GNNs)是一种基于深度学习的图域上运行的方法。GNN以较高的性能和较高的可解释性,近年来得到了广泛的应用。GNN的主要动机有以下两种。

动机

卷积神经网络CNN

GNNs是由LeCun等人提出的卷积神经网络(CNNs)启发而提出来的。CNNs具有提取和合成多尺度局部空间特征的能力,具有很强的表征能力,几乎在所有的机器学习领域都取得了突破性进展,并引发了深度学习的革命。CNN的关键:局部连接共享权重深层网络的使用。

这些特点对于解决图域问题也非常重要,因为

  1. 图是最典型的局部连通结构
  2. 与传统的谱图论相比,共享权值降低了计算量[Chung and Graham,1997]
  3. 多层结构是处理层次模式的关键,它捕获了不同的特征。

但是,CNNs只能对图像(2D网格)文本(1D序列)等规则的欧氏数据进行操作,这些数据也可以看作是图形的特例。因此,很容易想到联想到从CNN到图上GNN的推广。

网络嵌入 NETWORK EMBEDDING

GNN另一个动机来自图嵌入,它通过学习使用低维向量表示图节点、边或子图。在图分析graph analysis中,传统的机器学习方法通常依赖于人工设计的特征,并且存在低灵活性和高成本的缺点。基于表征学习(epresentation learning)的思想和单词嵌入(word embedding)的成功,DeepWalk被认为是第一种基于表征学习的图嵌入方法,它将SkipGram模型[Mikolov et al.,2013]应用于生成的随机游动。类似的方法还有node2vec[Grover and Leskovec,2016]、LINE[Tang et al.,2015]和TADW[Yang et al.,2015b]也取得了突破。然而,这些方法存在两个严重的缺点:

  1. 编码器中的节点之间没有共享参数,这导致了计算效率低下,因为这意味着参数的数量与节点的数量呈线性增长。
  2. 直接嵌入方法缺少泛化能力,不能处理动态图或泛化为新的图。

本文是清华大学刘知远老师团队出版的图神经书籍《Introduction to Graph Neural Networks》的部分内容翻译和阅读笔记。

图神经网络 Graph Neural Networks 系列(1)图神经网络基础知识介绍相关推荐

  1. 图神经网络 | (2) 图神经网络(Graph Neural Networks,GNN)综述

    原文地址 本篇文章是对论文"Wu Z , Pan S , Chen F , et al. A Comprehensive Survey on Graph Neural Networks[J] ...

  2. MapboxGL系列(一)基础知识介绍

    MapboxGL基础知识介绍 文章目录 MapboxGL基础知识介绍 前言 一.Mapbox是什么? 二.Mapbox常用服务工具介绍 1.mapboxgl.js 2.mapbox studio 3. ...

  3. 异质图综述 - Graph Neural Networks for Graphs with Heterophily: A Survey(CoRR 2022)

    论文链接: https://arxiv.org/pdf/2202.07082.pdf 目录 摘要 1 绪论 2 初步措施 3 具有异质性的 GNN 3.1 Non-local Neighbor Ext ...

  4. 优化概率神经网络_Bayesian Neural Networks:贝叶斯神经网络

    贝叶斯神经网络,简单来说可以理解为通过为神经网络的权重引入不确定性进行正则化(regularization),也相当于集成(ensemble)某权重分布上的无穷多组神经网络进行预测. 本文主要基于 C ...

  5. 【推荐系统->论文阅读】Dynamic Graph Neural Networks for Sequential Recommendation(用于序列推荐的动态图神经网络)

    Dynamic Graph Neural Networks for Sequential Recommendation(用于序列推荐的动态图神经网络) Mengqi Zhang, Shu Wu,Mem ...

  6. Distill文章-A gentle introduction to graph Neural Networks(图神经网络是怎么构造的)

    目录 1 简介 2 图的介绍 3 数据如何表示成图 4  三大类问题 5 将机器学习(神经网络)用在图上,会遇到什么挑战 6 最简单的GNN 7 信息传递(把图结构的信息考虑进去) 8  GNN的pl ...

  7. [EGNN] Exploiting Edge Features for Graph Neural Networks 利用图神经网络的边特征 论文详解 CVPR 2019

    文章目录 1 简介 1.1 GAT和GCN的局限性 1.2 EGNN的创新点 2 相关工作 3 EGNN网络 3.1 符号定义 3.2 EGNN和GNN的对比 3.3 Doubly stochasti ...

  8. 《图神经网络综述》Graph Neural Networks: A Review of Methods and Applications

    作者:清华大学 zhoujie 等 *表示相同的贡献.周洁,张正艳,程阳,刘志远(通讯作者),孙茂松,清华大学计算机科学与技术学院,北京100084.电子邮件:fzhoujie18, zhangzhe ...

  9. Introduction to Graph Neural Network(图神经网络概论)翻译:Chapter4:Vanilla Graph Neural Networks

    文章目录 4.Vanilla Graph Neural Networks(原始图神经网络) 4.1. Introduction 4.2 Model 4.3 Limitations 4.Vanilla ...

最新文章

  1. Python---shelve模块
  2. mac下用scp命令实现本地文件与服务器Linux文件之间的相互传输
  3. opencv 图像分割-分水岭算法
  4. 昔年浅谈做害虫消杀防护的用什么推广效果好?
  5. bzoj 2442: [Usaco2011 Open]修剪草坪(单调队列)
  6. 全套Java基础视频教程
  7. 嵌入式开发学习学习路线
  8. 计算机应用基础——计算机硬件(二)
  9. 数据量再大也不怕!笔记本电脑也可以分析 100GB 数据
  10. TYVJ p1035 棋盘覆盖
  11. 新手怎么选择蓝牙耳机不被忽悠?注意这两大误区一定不猜雷
  12. DFS基础-----刷题合集--1(全排列,八皇后,迷宫),让你明白DFS的基础用法
  13. C/C++蓝桥杯三升序列
  14. 休闲零食生产企业如何做好供应链管理?
  15. 2012_WOW_Designing Steganographic Distortion Using Directional Filters
  16. JavaSE学习笔记(一)基础知识
  17. POI给WORD添加水印(亲测可用)
  18. 软件设计师-设计模式
  19. 昨天辞职,年前的年终奖等福利1W多公司不给我了,我该怎么办
  20. Python入门——语言基础

热门文章

  1. Java面试合集掌握百分之九十九,跳槽面试薪资60k
  2. smartgit 19.1版本需要许可证的解决办法
  3. Ubuntu设置中文环境
  4. [卷积算子加速] im2col优化
  5. 魔方活动开始,抢iPhone5、Lumia920啦!
  6. SAP查看SPRO配置对应的事务码
  7. unity禁用物体上的脚本或者组件
  8. MySQL中any、some、all、in的区别
  9. EF-后台登陆+Index页面欢迎+增删改查
  10. idea中提示语的显示和隐藏(port:8088)