论文地址:https://arxiv.org/pdf/1911.05954
代码地址:https://github.com/cszhangzhen/HGP-SL

这篇论文提出了一种新的基于TopK的图池化操作符HGP-SL,它可以集成到各种图神经网络架构中。HGP-SL将图池和结构学习整合到一个统一的模块中,以生成图的层次表示。更具体地说,图池操作自适应地选择节点的子集,形成后续层的诱导子图。为了保持图的拓扑信息的完整性,进一步引入了一种结构学习机制,在每一层上学习一个优化的集合图结构。将HGP-SL算子与图神经网络相结合,以图分类任务为重点,进行图级表示学习。

模型体系结构

虚线框展示了HGP-SL的工作流程,包括图池和结构学习。学习的边在图中以虚线表示。这个过程(卷积和池操作)要重复几次。然后,对聚合节点表示应用一个读出函数来生成固定大小的表示,通过MLP层进行图分类。

卷积层

池化层

得分函数

能够由邻居节点重构得到的节点,所具有的信息较少,所以我们删除这些节点。这里,用了曼哈顿距离来衡量节点自身和重构得到的节点之间的距离,然后删除得分小的节点。

因为池操作可能会导致诱导子图中高度相关的节点断开连接,从而失去图结构信息的完整性,进一步阻碍消息传递过程。所以我们要学习一种新的S(包含结构信息)去替换A。这里用一种稀疏注意力机制去得到。



后面加的 A 使得原本就相连的节点之间的相似性更大。最后经过归一化后得到的S可以理解为两个节点相连的概率。
后面的邻接矩阵都用S来代替,则得分函数可以写为:

topK

保留得分较大的节点,删除得分小的节点,更新邻接矩阵。

Readout层


对于每一层池化后的结果,经过分别进行全局平均池化和最大池化操作,并进行concat操作后输出,来代表这一子图的embedding。

总结

利用重构的思想来修改得分函数。

【论文阅读-HGP-SL】Hierarchical Graph Pooling with Structure Learning相关推荐

  1. 论文阅读:Natural Language Processing Advancements By Deep Learning: A Survey

    文章目录 一.介绍 二.背景 1.人工智能和深度学习 (1)多层感知机 (2)卷积神经网络 (3)循环神经网络 (4)自编码器 (5)生成对抗网络 2.NLP中深度学习的动机 三.NLP领域的核心概念 ...

  2. 论文阅读 【CVPR-2022】 A Simple Multi-Modality Transfer Learning Baseline for Sign Language Translation

    论文阅读 [CVPR-2022] A Simple Multi-Modality Transfer Learning Baseline for Sign Language Translation st ...

  3. 强化学习泛化性 综述论文阅读 A SURVEY OF GENERALISATION IN DEEP REINFORCEMENT LEARNING

    强化学习泛化性 综述论文阅读 摘要 一.介绍 二.相关工作:强化学习子领域的survey 三.强化学习中的泛化的形式 3.1 监督学习中泛化性 3.2 强化学习泛化性背景 3.3 上下文马尔可夫决策过 ...

  4. 【论文阅读】Misshapen Pelvis Landmark Detection WithLocal-Global Feature Learning for DiagnosingDevelop

    作者及团队:刘川斌 Chuanbin Liu; 谢洪涛; 张思成; 毛振东; 孙俊; 张永东 会议及时间:IEEE Transactions on Medical Imaging 2020-12| 期 ...

  5. 【论文阅读】Search-Based Testing Approach for Deep Reinforcement Learning Agents

    文章目录 一.论文信息 二.论文结构 三.论文内容 Abstract 摘要 一.论文信息 题目: Search-Based Testing Approach for DeepReinforcement ...

  6. 【论文阅读ACL2020】Leveraging Graph to Improve Abstractive Multi-Document Summarization

    题目:Leveraging Graph to Improve Abstractive Multi-Document Summarization (基于图表示的生成式多文档摘要方法 ) 会议:ACL20 ...

  7. 论文阅读笔记《Neural Graph Matching Network: Learning Lawler’s Quadratic Assignment Problem With Extension》

    核心思想   该文提出一种图匹配神经网络用于解决Lawler's形式的二次分配问题,并将其推广到超图匹配和多图匹配领域.在之前的文章中,我们介绍过图匹配问题通常被定义为一种二次分配问题(QAP),通常 ...

  8. 论文阅读:A Novel Graph based Trajectory Predictor with Pseudo Oracle

    A Novel Graph based Trajectory Predictor with Pseudo Oracle 摘要 1 引言 2 相关工作 3 PROPOSED METHOD IV. EXP ...

  9. 【论文阅读 SAGLG】Self-Attentive Graph Convolution Network With Latent Group Mining and Collaborative ……

    Self-Attentive Graph Convolution Network With Latent Group Mining and Collaborative Filtering for Pe ...

最新文章

  1. java api中的设计模式_Java API 设计模式之策略(Strategy)
  2. 数据结构-Huffman树
  3. 如何基于Restful ABAP Programming模型开发并部署一个支持增删改查的Fiori应用
  4. 山东大学有人陪!真的吗?_10,000小时! 您真的需要那么多吗?
  5. Debit and Credit Memo
  6. RabbitMQ(四) Work模式下的消息产生以及消费代码实现示例
  7. SQL Server Management Studio –分步安装指南
  8. Java hook qpi_Java中内部类对象的创建以及hook机制
  9. dump文件_windows程序崩溃时生成dump文件方法
  10. JavaMail操作的总结(2)
  11. python把print写入文件_python print输出到文件
  12. amaze ui html5前端开源框架使用
  13. 基于springboot实验室管理系统
  14. docker应用篇(1)如何搭建VXXXN
  15. dejavu-python的音频指纹识别库
  16. ios开发中UIButton设置标题和图片不能同时显示问题解决
  17. 热门股权项目:富滇银行股份有限公司0.0232%股权转让
  18. QT 进程间通信——文件映射
  19. 软件测试常用缩写(uv、pv、dau...):
  20. XML详细入门教程[PDF]

热门文章

  1. python 绘制简单的图形
  2. python小程序——实现电脑产生随机数,键盘输入数字与其进行对比,还有相应得分减分。
  3. 微信公众号数据2019_清博大数据 | 2019年测绘之家微信公众号数据专属报告:估值相当于6辆奔驰S...
  4. 动画笔记1----iclone工具栏基本操作
  5. 安卓证书安装为系统证书(模拟器版)
  6. OpenCV人脸识别(二) 初步实现人脸签到
  7. UI(一) - NGUI和UGUI比较
  8. iOS钱包卡券开发(往钱包里面加自己的卡券)
  9. 小程序实现手写板签名
  10. python实现注册登录系统_python实现登录与注册系统