【论文阅读-HGP-SL】Hierarchical Graph Pooling with Structure Learning
论文地址:https://arxiv.org/pdf/1911.05954
代码地址:https://github.com/cszhangzhen/HGP-SL
这篇论文提出了一种新的基于TopK的图池化操作符HGP-SL,它可以集成到各种图神经网络架构中。HGP-SL将图池和结构学习整合到一个统一的模块中,以生成图的层次表示。更具体地说,图池操作自适应地选择节点的子集,形成后续层的诱导子图。为了保持图的拓扑信息的完整性,进一步引入了一种结构学习机制,在每一层上学习一个优化的集合图结构。将HGP-SL算子与图神经网络相结合,以图分类任务为重点,进行图级表示学习。
模型体系结构
虚线框展示了HGP-SL的工作流程,包括图池和结构学习。学习的边在图中以虚线表示。这个过程(卷积和池操作)要重复几次。然后,对聚合节点表示应用一个读出函数来生成固定大小的表示,通过MLP层进行图分类。
卷积层
池化层
得分函数
能够由邻居节点重构得到的节点,所具有的信息较少,所以我们删除这些节点。这里,用了曼哈顿距离来衡量节点自身和重构得到的节点之间的距离,然后删除得分小的节点。
因为池操作可能会导致诱导子图中高度相关的节点断开连接,从而失去图结构信息的完整性,进一步阻碍消息传递过程。所以我们要学习一种新的S(包含结构信息)去替换A。这里用一种稀疏注意力机制去得到。
后面加的 A 使得原本就相连的节点之间的相似性更大。最后经过归一化后得到的S可以理解为两个节点相连的概率。
后面的邻接矩阵都用S来代替,则得分函数可以写为:
topK
保留得分较大的节点,删除得分小的节点,更新邻接矩阵。
Readout层
对于每一层池化后的结果,经过分别进行全局平均池化和最大池化操作,并进行concat操作后输出,来代表这一子图的embedding。
总结
利用重构的思想来修改得分函数。
【论文阅读-HGP-SL】Hierarchical Graph Pooling with Structure Learning相关推荐
- 论文阅读:Natural Language Processing Advancements By Deep Learning: A Survey
文章目录 一.介绍 二.背景 1.人工智能和深度学习 (1)多层感知机 (2)卷积神经网络 (3)循环神经网络 (4)自编码器 (5)生成对抗网络 2.NLP中深度学习的动机 三.NLP领域的核心概念 ...
- 论文阅读 【CVPR-2022】 A Simple Multi-Modality Transfer Learning Baseline for Sign Language Translation
论文阅读 [CVPR-2022] A Simple Multi-Modality Transfer Learning Baseline for Sign Language Translation st ...
- 强化学习泛化性 综述论文阅读 A SURVEY OF GENERALISATION IN DEEP REINFORCEMENT LEARNING
强化学习泛化性 综述论文阅读 摘要 一.介绍 二.相关工作:强化学习子领域的survey 三.强化学习中的泛化的形式 3.1 监督学习中泛化性 3.2 强化学习泛化性背景 3.3 上下文马尔可夫决策过 ...
- 【论文阅读】Misshapen Pelvis Landmark Detection WithLocal-Global Feature Learning for DiagnosingDevelop
作者及团队:刘川斌 Chuanbin Liu; 谢洪涛; 张思成; 毛振东; 孙俊; 张永东 会议及时间:IEEE Transactions on Medical Imaging 2020-12| 期 ...
- 【论文阅读】Search-Based Testing Approach for Deep Reinforcement Learning Agents
文章目录 一.论文信息 二.论文结构 三.论文内容 Abstract 摘要 一.论文信息 题目: Search-Based Testing Approach for DeepReinforcement ...
- 【论文阅读ACL2020】Leveraging Graph to Improve Abstractive Multi-Document Summarization
题目:Leveraging Graph to Improve Abstractive Multi-Document Summarization (基于图表示的生成式多文档摘要方法 ) 会议:ACL20 ...
- 论文阅读笔记《Neural Graph Matching Network: Learning Lawler’s Quadratic Assignment Problem With Extension》
核心思想 该文提出一种图匹配神经网络用于解决Lawler's形式的二次分配问题,并将其推广到超图匹配和多图匹配领域.在之前的文章中,我们介绍过图匹配问题通常被定义为一种二次分配问题(QAP),通常 ...
- 论文阅读:A Novel Graph based Trajectory Predictor with Pseudo Oracle
A Novel Graph based Trajectory Predictor with Pseudo Oracle 摘要 1 引言 2 相关工作 3 PROPOSED METHOD IV. EXP ...
- 【论文阅读 SAGLG】Self-Attentive Graph Convolution Network With Latent Group Mining and Collaborative ……
Self-Attentive Graph Convolution Network With Latent Group Mining and Collaborative Filtering for Pe ...
最新文章
- java api中的设计模式_Java API 设计模式之策略(Strategy)
- 数据结构-Huffman树
- 如何基于Restful ABAP Programming模型开发并部署一个支持增删改查的Fiori应用
- 山东大学有人陪!真的吗?_10,000小时! 您真的需要那么多吗?
- Debit and Credit Memo
- RabbitMQ(四) Work模式下的消息产生以及消费代码实现示例
- SQL Server Management Studio –分步安装指南
- Java hook qpi_Java中内部类对象的创建以及hook机制
- dump文件_windows程序崩溃时生成dump文件方法
- JavaMail操作的总结(2)
- python把print写入文件_python print输出到文件
- amaze ui html5前端开源框架使用
- 基于springboot实验室管理系统
- docker应用篇(1)如何搭建VXXXN
- dejavu-python的音频指纹识别库
- ios开发中UIButton设置标题和图片不能同时显示问题解决
- 热门股权项目:富滇银行股份有限公司0.0232%股权转让
- QT 进程间通信——文件映射
- 软件测试常用缩写(uv、pv、dau...):
- XML详细入门教程[PDF]
热门文章
- python 绘制简单的图形
- python小程序——实现电脑产生随机数,键盘输入数字与其进行对比,还有相应得分减分。
- 微信公众号数据2019_清博大数据 | 2019年测绘之家微信公众号数据专属报告:估值相当于6辆奔驰S...
- 动画笔记1----iclone工具栏基本操作
- 安卓证书安装为系统证书(模拟器版)
- OpenCV人脸识别(二) 初步实现人脸签到
- UI(一) - NGUI和UGUI比较
- iOS钱包卡券开发(往钱包里面加自己的卡券)
- 小程序实现手写板签名
- python实现注册登录系统_python实现登录与注册系统