GGNN:GATED GRAPH SEQUENCE NEURAL NETWORKS
论文
相较于之前的文章,模型最大的修改即为,使用门控循环单元并且将网络的展开循环控制在一个固定的次数。
一个可达模型:
例如网络需要在给定一个图的情况下,判断节点s是否可达节点t:
模型初始化:
设 定 N o d e A n n o t a t i o n s { x s = [ 1 , 0 ] T x t = [ 0 , 1 ] T x v = [ 0 , 0 ] T ( v ≠ s o r t ) 每 个 节 点 h v = [ x v , 0 ] 即 将 n o d e a n n o t a t i o n 填 充 后 , 将 剩 余 部 分 全 部 设 置 为 0 设定Node Annotations\left\{\begin{array}{l} x_s=[1,0]^T\\ x_t=[0,1]^T\\ x_v=[0,0]^T(v\neq s \ or \ t )\end{array}\right.\\ 每个节点h_v=[x_v,0]即将node \ annotation 填充后,将剩余部分全部设置为0 设定NodeAnnotations⎩⎨⎧xs=[1,0]Txt=[0,1]Txv=[0,0]T(v=s or t)每个节点hv=[xv,0]即将node annotation填充后,将剩余部分全部设置为0
在计算时只需输入s节点的表示作为第一个参数,t的表示为第二个参数,使得传播矩阵在(0,0)位置的值为1即可
由此,在此模型中我们将节点标签作为附加输入。
GGNN
A ∈ R D ∣ V ∣ × 2 D ∣ V ∣ A ∈ R^{D|V|×2D|V|} A∈RD∣V∣×2D∣V∣
A v : ∈ R D ∣ V ∣ × 2 D : v 在 A 对 应 的 两 列 A_{v:} ∈ R^{D|V|×2D}:v在A对应的两列 Av:∈RD∣V∣×2D:v在A对应的两列
a v ( t ) ∈ R 2 D a^{(t)}_v ∈ R^{2D} av(t)∈R2D包含从两个方向的边激活
等 式 1 是 隐 藏 节 点 的 表 示 。 等 式 2 是 通 过 输 入 和 输 出 边 在 图 的 不 同 节 点 之 间 传 递 信 息 的 步 骤 , 参 数 取 决 于 边 的 类 型 和 方 向 。 等式1是隐藏节点的表示。\\ 等式2是通过输入和输出边在图的不同节点之间传递信息的步骤,参数取决于边的类型和方向。 等式1是隐藏节点的表示。等式2是通过输入和输出边在图的不同节点之间传递信息的步骤,参数取决于边的类型和方向。
其 中 : σ ( x ) = 1 / ( 1 + e − x ) l o g i s t i c s i g m o i d f u n c t i o n , ⊙ e l e m e n t − w i s e 乘 法 \color{red} \tiny 其中:σ(x) = 1/(1 + e−x) \ logistic \ sigmoid \ function, \odot \ element-wise乘法 其中:σ(x)=1/(1+e−x) logistic sigmoid function,⊙ element−wise乘法
我们最初尝试了一种普通的递归神经网络风格的更新,但在初步实验中,论文发现这种类似GRU的传播步骤更有效。
输出
对于每个节点的输出仍然可以使用函数 o v = g ( h v ( T ) , x v ) o_v=g(h_v^{(T)},x_v) ov=g(hv(T),xv)
对于graph-level的输出可以使用以下方法:
官方实现
github
github
GGNN:GATED GRAPH SEQUENCE NEURAL NETWORKS相关推荐
- GGNN(Gated Graph Sequence Neural Networks)
GGNN研究意义: 1.提升在图结构中长期的信息传播 2.消息传播中使用GRU,使用固定数量的步骤T,递归循环得到节点表征 3.边的类型,方向敏感的神经网络参数设计 4.多类应用问题,展示了图神经网络 ...
- Gated Graph Sequence Neural Networks
文章目录 1. 前言 2. GG-NN 3. GGS-NN References 论文地址:https://arxiv.org/abs/1511.05493 源码地址:ggnn slides:ggnn ...
- 图神经网络(二十八)GATED GRAPH SEQUENCE NEURAL NETWORKS
本文收录于ICLR2016,作者来自于多伦多大学,文章比较老了,但是很经典.GGNN是一种基于GRU的经典空域模型,一个基本的感觉就是GNN+Gate.我们现在看的大部分GNN模型都是基于消息传递机制 ...
- Graph Convolutional Neural Networks for Web-Scale Recommender Systems(用于Web级推荐系统的图形卷积神经网络)
Graph Convolutional Neural Networks for Web-Scale Recommender Systems 用于Web级推荐系统的图形卷积神经网络 ABSTRACT R ...
- 【论文导读】- Variational Graph Recurrent Neural Networks(VGRNN)
文章目录 文章信息 摘要 Background Graph convolutional recurrent networks (GCRN) Semi-implicit variational infe ...
- Graph Convolutional Neural Networks for Predicting Drug-Target Interactions
1. 摘要 2. 数据集 DUDE数据集改进 DUDE-chemBl负样本数据集 最大无偏数据集(MUV) 3. 图构建 pocket graph molecuar graph 4. 口袋pretra ...
- Action Recognition Using Attention-Joints Graph Convolutional Neural Networks翻译
对Action Recognition Using Attention-Joints Graph Convolutional Neural Networks(19年ieee上的一篇)这篇论文的翻译,可 ...
- 文献学习(part12)--GMNN: Graph Markov Neural Networks
学习笔记,仅供参考,有错必纠 文章目录 GMNN: Graph Markov Neural Networks Abstract Introduction 相关著作 统计关系学习 基于图的半监督分类 图 ...
- 论文阅读笔记:Intriguing properties of neural networks
论文阅读笔记:Intriguing properties of neural networks 深度学习对抗样本的开山之作 要点 以往的观点认为深度神经网络的高层特征中每一个分量描述了一种特质,但是这 ...
最新文章
- ActiveMQ基本内容及安装部署
- 微服务架构:动态配置中心搭建
- mapreduce运行模式
- HarmonyOS之AI能力·图像超分辨率
- Redis的编译安装
- java 子类 父类 转换_Java子类与父类之间的类型转换
- [转]C++操作oracle数据库
- leetcode------Binary Tree Level Order Traversal II
- Visual Studio 2008破解激活升级方法【转】
- SaaS vs 低代码,谁在成为中国产业服务的楔子?
- linux内存硬件检测工具下载,极品内存检测工具(Memtest86)
- javascript三角函数的使用
- Word 2007 删除页眉横线
- 我的科幻评论——《星船伞兵》:海因莱茵最经典又最不典型之作,平凡人类勇气与责任的赞歌
- 零极点和系统稳定性关系
- 20190603复盘
- 【STM32学习】(19)STM32实现直流电机测转速(霍尔传感器)
- 如何搜索下载到自己要的东西,避免病毒(捆绑广告)
- 天池大赛-心跳信号分类预测:赛题理解与baseline解析
- linux execlp ps -aux,子进程就变成了僵尸进程.ppt
热门文章
- 计算机数据库管理技术论文的结论,计算机数据库论文范文.doc
- win10平台下搭建python-pcl环境
- android开发之高德地图不能定位,只显示格子
- 一个程序员的时间管理(GTD)
- Win7 IE桌面图标消失 修复方法
- java 绘制长方形_用java画矩形与正方形
- KNIME 学习、下载
- ibm服务器报错代码大全_IBM错误代码对应表
- CSS实例(一):漂亮的表格样式(使用CSS样式表控制表格样式)
- 各种JSON技术对比(Json-lib,Jackson,Gson,Fastjson)