图神经网络方法(Graph Neural Network)

概要

近年来图神经网络受到大家越来越多的关注,在文本分类(Text classification),序列标注(Sequence labeling), 神经机器翻译(Neural machine translation),关系抽取(Relation extraction),事件抽取(Event extraction), 图像分类(Image Classification),视觉推理(Visual Reasoning),语义分割(Semantic Segmentation)等等领域都有了一些应用。

Basic GNNs

基本思想

图神经网络的一个基本思想,就是基于节点的局部邻居信息对节点进行embedding。直观来讲,就是通过神经网络来聚合每个节点及其周围节点的信息。

图神经网络的几个性质如下:

  1. 节点在每一层都会有embedding
  2. 模型可以达到任意深度
  3. 第零层的节点的embedding就是他的输入特征向量

实现

我们所要探讨的是,节点如何获取它的邻居节点的信息。最基本的想法就是聚合一个节点的邻居节点信息时,采用平均的方法,并使用神经网络作聚合操作,具体方法如下图

那么如何训练这个模型,具体分为监督、和无监督两种方法。
无监督的方法包括:

监督的方法,以二分类举例,可以定义一个交叉熵函数来作为损失函数:

归纳性

图神经网络中每一层的聚合所使用的参数是相同的,并且这个模型可以推理出新出现节点的embedding或者一张新图的embedding。如下图

图神经网络方法总结(Graph Neural Network)相关推荐

  1. 图神经网络入门篇Graph Neural Network

    前言 在我上一篇博客,介绍基于random walk的节点表示方式,该方法的主要是思想是以one-hot的形式,经过Embedding层得到node vector,然后优化以下的似然函数来得到最优的E ...

  2. 图神经网络概述:Graph Neural Networks

    本文参照以下两篇blog,这两篇应该是目前介绍GNN和GCN最好的blog了. https://distill.pub/2021/gnn-intro/ https://distill.pub/2021 ...

  3. 《图神经网络综述》Graph Neural Networks: A Review of Methods and Applications

    作者:清华大学 zhoujie 等 *表示相同的贡献.周洁,张正艳,程阳,刘志远(通讯作者),孙茂松,清华大学计算机科学与技术学院,北京100084.电子邮件:fzhoujie18, zhangzhe ...

  4. 【论文分享】异构图神经网络域名检测方法GAMD:Attributed Heterogeneous Graph Neural Network for Malicious Domain Detection

    题目:Attributed Heterogeneous Graph Neural Network for Malicious Domain Detection 链接:https://ieeexplor ...

  5. Heterogeneous Graph Neural Network(异质图神经网络)

    Heterogeneous Information Network 传统的同构图(Homogeneous Graph)中只存在一种类型的节点和边,当图中的节点和边存在多种类型和各种复杂的关系时,再采用 ...

  6. Introduction to Graph Neural Network(图神经网络概论)翻译:目录总览

    前言:最近对图神经网络部分比较感兴趣,偶尔看到清华大学刘知远老师在今年3月份发表的一本书:Introduction to Graph Neural Network,于是将该书内容进行翻译,记录阅读中自 ...

  7. Paper:《Graph Neural Networks: A Review of Methods and Applications—图神经网络:方法与应用综述》翻译与解读

    Paper:<Graph Neural Networks: A Review of Methods and Applications-图神经网络:方法与应用综述>翻译与解读 目录 < ...

  8. Graph Decipher: A transparent dual-attention graph neural network 图解密器:一种透明的双注意图神经网络,用于理解节点分类的消息传递机制

    引用 Pang Y, Liu C. Graph Decipher: A transparent dual-attention graph neural network to understand th ...

  9. 图神经网络综述 Survey on Graph Neural Network

    图神经网络综述 Survey on Graph Neural Network 摘要:近几年来,将深度学习应用到处理和图结构数据相关的任务中越来越受到人们的关注.图神经网络的出现使其在上述任务中取得了重 ...

最新文章

  1. 快节奏的多人游戏同步 - 示例代码和在线演示
  2. ios html cookies,iOS-WKWebView携带cookie发送http请求,cookie失效
  3. vue就地复用不是更快吗_Vue.js从零开始——组件(1)
  4. ai文件如何打开及常见文件的打开方式
  5. mysql数据库挂科_面试命中率 90% 的点 :MySQL 锁
  6. react报Maximum update depth exceeded
  7. Django日志信息路径的设置
  8. Spring Cloud各组件超时
  9. 十二月无书稿,总个结(2011)
  10. java runtime ssh 后执行指令_酒后系列:被某厂面试官吊打后酒后整理的JVM干货
  11. Android自定义View的构造函数
  12. 花里胡哨的c语言程序,通达信花里胡哨主图公式源码
  13. 2022年中国数字孪生城市市场分析:孪生城市产业经济全域协作
  14. GEE系列:第7单元 利用GEE进行遥感影像分类【随机森林分类】
  15. python opencv 图片对比度
  16. 根据经纬度查找附近的人计算公式
  17. 如何创建水晶报表模板
  18. 关于centos7重启报错:[sdb] Assuming drive cache: write through [sda] Assuming drive 解决如下
  19. 史上最全的Python定量金融三方库汇总
  20. 首款国产8K 50P小型化广播级摄像机惊喜亮相冬季冰雪体育盛会

热门文章

  1. 超全!深度学习在计算机视觉领域的应用一览
  2. 一文掌握常用的机器学习模型(文末福利)
  3. 算法开发人员的安身之本:如何将机器学习与各行各业进行深度结合
  4. Python热文Top10,精选自1000篇文章
  5. 监控告警满飞天,运维在家睡到自然醒...
  6. 记一次性能优化,单台 4 核 8G 机器支撑 5 万 QPS
  7. Java 8 中 HashMap 到底有啥不同?
  8. Spring MVC+Spring+Mybatis实现支付宝支付功能(图文详解+完整代码)
  9. 常用的设计模式汇总,超详细!
  10. 机器学习之sklearn基础教程!