主要参考的文献为高跃老师实验室发表的多篇论文，以及最新的超图相关论文；

[1] Yifan Feng, Haoxuan You, Zizhao Zhang, Rongrong Ji, Yue Gao, Hypergraph Neural Networks, AAAI, 2019.

[2] Jianwen Jiang, Yuxuan Wei, Yifan Feng, Jingxuan Cao, Yue Gao, Dynamic Hypergraph Neural Networks, IJCAI, 2019.

[3] Ruochi Zhang,Yuesong Zou,Jian Ma. Hyper-SAGNN: a self-attention based graph neural network for hypergraphs, ICLR, 2020

[4] Manh Tuan Do, Se-eun Yoon, Bryan Hooi, Kijung Shin. Structural Patterns and Generative Models of Real-world Hypergraphs, KDD, 2020

[5] Eun-Sol Kim, Woo Young Kang, Kyoung-Woon On,et al. HAN: Hypergraph Attention Networks for Multimodal Learning, CVPR, 2020

正文如下：

超图是一种广义的图结构，因其具有较强的数据样本间非线性高阶关联的刻画和挖掘能力而被广泛应用于数据分类、检索等任务中。针对这一技术及其在多领域中的应用，首先介绍基于超图结构的多种建模方法，特别是基于单模态和多模态环境下的数据关联建模机制。进一步，围绕超图上的关联学习介绍从传统的学习方法到超图结构学习的系列算法。针对实际应用中存在的数据样本不平衡、分类代价敏感、数据关联建模复杂等挑战，介绍了基于代价敏感信息的超图学习及动态超图结构学习方法。

在计算机视觉和机器学习的问题中，我们一般假设对象之间的之间无关联关系或者为简单的二元关联关系，在该假设下，我们可以通过普通图解决很多问题。但是，在现实生活中对象之间的关系往往是更为复杂的单对多或者多对多的多元关联关系。在解决该类问题时，如果简单的把多元关系强制转换为二元关联关系，那么将会丢失很多有用的信息。相比于普通图而言，超图可以更加准确的描述存在多元关联的对象之间的关系。

[1]Yifan Feng, Haoxuan You, Zizhao Zhang, Rongrong Ji, Yue Gao, Hypergraph Neural Networks, AAAI, 2019.

在本文中提出了一个用于数据表示学习的超图神经网络(HGNN)框架，它可以在超图结构中编码高阶数据相关性。面对在实践中学习复杂数据表示的挑战，特别是在处理复杂数据时，超图在数据建模方面更加灵活。该方法设计了超边卷积运算来处理表示学习过程中的数据相关性。通过这种方法，可以有效地利用超边卷积运算来进行传统的超图学习。HGNN能够学习考虑到高阶数据结构的隐含层表示，这是考虑复杂数据相关性的通用框架。

本文提出的HGNN将复杂数据相关性表述为超图结构，并设计了超边卷积操作，以更好地利用高阶数据相关性进行表示学习。更具体地说，HGNN是一个通用框架，它可以合并多模态数据和复杂的数据相关性。传统的图卷积神经网络可以看作是HGNN的一个特例。为了评估提出的HGNN框架的性能，进行了引文网络分类和视觉对象识别任务的实验。在4个数据集上的实验结果以及与图卷积网络(GCN)等传统方法的比较表明，HGNN具有更好的性能。这些结果表明，本文提出的HGNN方法在学习使用高阶复杂关联表示的数据时更加有效。

数据相关性可能比两两关系更复杂，难以用普通图结构建模。数据表示往往是多模式的，如视觉连接、文本连接和社会连接。在这种情况下，传统的图结构在表述数据相关性方面存在局限性，这就限制了图卷积神经网络的应用。在这种情况下，进一步研究更好、更通用的数据结构模型来学习表示就显得尤为重要和迫切。

与所有边的度都必须为2(一条边仅连接两个节点，因此普通图中边的度为2)的简单图相比，超图可以使用其无限制的度超边编码高阶数据相关性(超越成对连接)，图是用邻接矩阵表示的，其中每条边仅连接两个顶点。相反，超图可以通过其灵活的超边扩展以实现多模态、异构的数据表示。例如，一个超图可以通过合并邻接矩阵，联合使用多模态数据来生成超图，

[2] Jianwen Jiang, Yuxuan Wei, Yifan Feng, Jingxuan Cao, Yue Gao, Dynamic Hypergraph Neural Networks, IJCAI, 2019.

在神经网络模型中，由网络深层生成的嵌入特征具有初始结构无法捕获的高阶关系。现有的基于图或超图的神经网络的主要缺点是只采用初始的图或超图结构，而忽略了训练过程中通过调整特征嵌入动态修改图或超图结构。本文提出了一个动态超图神经网络框架(DHGNN)，它由动态超图构建(DHG)和超图卷积(HGC)两个模块组成。HGC模块包括顶点卷积和超边缘卷积，分别用来对顶点和超边之间的特征进行聚合。

主要贡献如下：

1. 提出了一种动态超图构建(DHG)方法，该方法采用k-NN方法生成基本的超边，通过k - means聚类算法扩展相邻超边集。通过动态超图构造方法，可以提取数据局部关系和全局关系。

2. 进行了基于引文网络分类和社交媒体情绪预测的实验。在基于网络的任务中，本文提出的方法优于最先进的方法，并且对不同的数据分布有更好的鲁棒性。在社交媒体情绪预测方面，本文提出的方法与最先进的方法相比，表现有所改进。

主要对公共基准引文网络数据集Cora进行了一系列的实验。Cora 数据集具有固定的图结构，每个节点代表一篇学术文章，关系表示文章之间的相互引用，每个顶点都有一个词包特征向量和一个类别标签，表明论文所属的主题。通过随机抽取不同比例的数据作为训练集来验证方法的有效性。

微博情感预测，数据集是没有固定图结构的数据集，含有 5550 条推文，其中 4196 条为正向情感，1345 条为负向情感。每个推文都包含文字、图片、表情三个模态，实验中分别为三个模态构建了三个超边集，并将这些超边集合并为一个多模态超边集。

[3] Ruochi Zhang,Yuesong Zou,Jian Ma. Hyper-SAGNN: a self-attention based graph neural network for hypergraphs, ICLR, 2020

本文提出了一种超边预测模型，其主体为基于self-attention的超图图神经网络模型，可以应对具有不同大小的超边结构。

该论文提出Hyper-SAGNN，可以处理可变超边大小的同构超图和异构超图。Hypergraph是一种比较特殊的图结构，相对于传统的图结构而言，这种结构的特点是边并不是传统意义上定义的节点之间的连线，而是一部分节点的集合。对于这种聚类的问题，就可以回避去构建每一个节点之间的边的问题了（之前思考过如果直接用图神经网络构建的方法，但如果传统图结构的话边的条数太多了）这样，这个超图的边的含义便是聚类中的类别。所以，如果说这个模型是预测聚类中的类别问题，也可以直接把他看做预测图上的边。

本文处理的对象是Hi-C数据集，但在实验里也给出了其他可供参考的数据集来说明这个网络的稳定性，就是源码给的drug，GPS，MovieLens，wordnet和几个基因组学的基准数据集，正文部分还是以Hi-C的分析为主。Hi-C数据是用来描述染色体相互作用的一种数据形式，描述的是细胞中染色体的互相影响程度，这种影响程度有时可以影响细胞的一些表达，是近年来生信里用的比较多的一种数据形式。本文主要研究的是基于Hi-C数据的细胞聚类。

[4] Manh Tuan Do, Se-eun Yoon, Bryan Hooi, Kijung Shin. Structural Patterns and Generative Models of Real-world Hypergraphs, KDD, 2020

(真实世界超图的结构模式和生成模型)

图已被用作对人或物体之间的成对关系建模的强大工具。而超图是更广泛概念的一种特殊类型，其中每个超边可以由任意数量的节点组成，而不是仅由两个组成。大量的现实世界数据集都是这种形式的。比如电子邮件的收件人列表，参与讨论主题的用户或在线问题中标记的主题标签等。由于这些情况表示形式复杂且缺少适当的工具，因此在研究中很少会去关注探索这些问题的建模与算法。

本篇论文根据经验研究了多个跨领域的真实世界超图数据集。为了进行深入研究，引入了多级分解方法，该方法通过一组成对图表示每个超图。每个成对图（称为k级分解图）捕获了k个节点的子集对之间的交互。通过经验的总结，在每个分解级别，所研究的超图都遵循五个结构特性或者指标。这些属性用作评估超图的逼真度的标准，并为超图生成问题奠定基础。文章最后提出了一种超图生成器，采取了非常简单的思路，但是能够满足这些评估指标。与此相比的是其他对比模型则很难达到同样的效果。

论文工作的主要贡献：

多级分解：首先提出多级分解作为研究超图的有效手段。多级分解有几个好处：（1）它捕获超图内的组交互；（2）其图形表示为利用现有工具提供了便利；（3）它代表了原始超图而没有信息丢失。
实际超图中的模式（pattern）：论文介绍在现实世界超图中持有的一组常见模式。具体来说在不同的分解级别是巨型连通分量、重尾度分布、小有效直径、高聚类系数和偏斜奇异点的价值分布。
有效仿真的超图生成器：最后引入HyperPA，这是一种超图生成器，它很简单，但是能够在不同分解级别上再现真实世界超图的模式。通过保持超图中节点的子集交互的连通性，HyperPA在重现模式方面表现出比其他基准模型更好的性能。

[5]Eun-Sol Kim, Woo Young Kang, Kyoung-Woon On,et al. HAN: Hypergraph Attention Networks for Multimodal Learning, CVPR, 2020

本文提出了一种用于多模态学习的超图注意力网络。

不同模态信息的level是不同的，也就是不同模态之间存在gap。
现有的多模态学习方法：1. 将不同模态的数据，经过预处理、预训练后，得到特征向量。2. 将不同模态的特征向量集成到公共向量空间。3. 添加一个problem-specific模块。这样做的弊端是：不同模态的特征，重要性相同。

该文章主要贡献：

使用符号图作为多模态学习的公共语义空间。
提出HANs（Hypergraph Attention Networks，超图注意力网络），考虑结构相似度（高等级语义相似度）构造co-attention。

总结与整理：

1、超图结构相对于一般图结构具有较强的数据样本间非线性高阶关联的刻画和挖掘能力；

超图结构由于具有上述性质，可以更好地解决实际应用中存在的诸如数据样本不平衡、分类代价敏感、数据关联建模复杂等问题。

2、超图结构相对于一般图结构能够更加准确地建模多元关系；

处理实际问题时，对象之间一般具有复杂的多元关系（而不仅仅是二元关系），超图可以更加 准确的描述多元关联对象之间的关系，从而防止在将多元关系强制转换为二元关系过程中造成 的原始信息丢失。

3、超图结构在处理多模态、异构数据时更加灵活，更方便多模态的融合与扩展；

与所有边的度都必须为2的简单图相比，超图可以使用其无限制的度超边编码高阶数据相关性 (超越成对连接)，图是用邻接矩阵表示的，其中每条边仅连接两个顶点。超图可以通过其灵活的 超边扩展以实现多模态、异构的数据表示。例如，一个超图可以通过合并邻接矩阵，联合使用 多模态数据来生成超图结构。

4、超图结构相比于一般图结构在聚类过程上更有优势；

对于这种聚类的问题，使用超图结构可以回避去构建每一个节点之间的边的问题（如果直接用 图神经网络构建的方法，传统图结构的话边的条数太多）超图的边的含义便是聚类中的类别。 所以，如果说这个模型是预测聚类中的类别问题，也可以直接看做预测超图上的边。

对“超图学习”相关优势及适用范围的学习及整理相关推荐

【强化学习笔记】2020 李宏毅强化学习课程笔记（PPO、Q-Learning、Actor + Critic、Sparse Reward、IRL）
前言如果你对这篇文章感兴趣,可以点击「[访客必读 - 指引页]一文囊括主页内所有高质量博客」,查看完整博客分类与对应链接. 文章目录前言 Introduction Two Learning Mod ...
强化学习（八） - 深度Q学习(Deep Q-learning, DQL,DQN)原理及相关实例
深度Q学习原理及相关实例 8. 深度Q学习 8.1 经验回放 8.2 目标网络 8.3 相关算法 8.4 训练算法 8.5 深度Q学习实例 8.5.1 主程序程序注释 8.5.2 DQN模型构建程序 ...
综合LSTM、transformer优势，DeepMind强化学习智能体提高数据效率
©作者 | 陈萍.杜伟来源 | 机器之心来自 DeepMind 的研究者提出了用于强化学习的 CoBERL 智能体,它结合了新的对比损失以及混合 LSTM-transformer 架构,可以提高处 ...
机器学习和深度学习相关问题总结
1. 如何解决正负类不平衡问题类别不均衡时,不能使用accuracy作为分类器的评价指标.例如:当在对一个类别不均衡的数据集进行分类时得到了90%的准确度(Accuracy).当你进一步分析发现,数 ...
强化学习相关论文阅读笔记之稀疏奖励解决方法
注:该系列文章为强化学习相关论文的阅读笔记,欢迎指正! 论文题目:<深度强化学习中稀疏奖励问题研究综述> 文章目录 1. 论文介绍 2. 论文结构 3. 研究背景 3.1 解决稀疏奖励的必 ...
【答学员问】- 该如何根据岗位学习相关技能
你好,以前做java开发一年多,感觉不是很合适,做了两年半系统运维,感觉出去找工作很难找,技术很差,不知从何学起,也不知该何去何从,求大神给些建议,谢谢学习的最终目的不是知识本身,而是能够把知识变 ...
英语学习相关文章摘录
英语学习相关文章摘录最近突然决定要好好学习下自己的英语,所以搜集下相关文章,摘录一些准备实践的观点: 我的英语学习经验有人可能觉得学英语听地道的美式.英式英语是最佳的.但是我觉得非常有必要接触不同 ...
计算机视觉深度学习相关整理
1.计算机视觉 1.1 发展历程深度学习发展历程-目标分类: 分类模型和精度 LeNet 串联,2个卷积3个全连接,最早用于数字识别 AlexNet(12年ImageNet冠军) 残差,5个卷积3个 ...
深度学习相关的模式识别知识
#深度学习相关的模式识别知识本文记录了博主学习<模式识别:算法及实现方法>一书中总结的与深度学习相关的知识点,如果有兴趣建议阅读原著.更新于2018.09.15. 附书的信息:书名< ...

对“超图学习”相关优势及适用范围的学习及整理