Improving Knowledge-aware Recommendation with Multi-levelInteractive Contrastive Learning
摘要
最近，将知识图谱（KG）作为辅助信息增强推荐引起了相当大的关注。知识感知推荐（KGR）的技术趋势是开发基于图神经网络（GNN）的端到端模型。然而，它们也有一些问题：
1）稀疏交互导致的监督信号不足限制了基于监督学习的 GNN 模型；
2）稀疏交互（CF部分）和冗余KG事实（KG部分）的结合进一步导致信息利用不平衡；
3）GNN 范式聚合了本地邻居进行节点表示学习，但忽略了非本地 KG 事实，使得知识提取不足。
引言
• 稀疏监督信号。现有的基于 GNN 的方法依赖于观察到的用户项交互作为监督信号，在统一的异构图上执行图表示学习。然而，在实际场景中，用户-项目交互实际上非常稀疏，这使得它不足以实现令人满意的性能，甚至导致可怕的副作用，例如退化问题（即，将节点嵌入分布退化为窄锥，甚至导致生成的节点表示难以区分）。
• 不平衡的信息利用。当稀疏的user-item交互遇到冗余知识事实时，KGR中会出现不平衡的异构结构，从而导致信息利用不平衡问题。一个普遍认可的事实是，决定用户偏好的是 CF 信号，因为它们是由用户的历史交互组成的。然而，由于信息利用不平衡，嘈杂的 KG 信息在最终用户/项目建模中得到更多强调，这反而忽略了关键 CF 信号，并进一步导致次优表示学习。
• 知识提取不足。尽管存在冗余的 KG 事实，但由于 GNN 的局部聚合特性，因此之前基于 GNN 的模型提取的信息实际上还远远不够。基于 GNN 的方法通常通过在其本地 KG 结构（即项目本身的相邻区域）上聚合相邻实体来学习项目表示，这会忽略非本地 KG 事实（即相似项目的相邻区域），从而导致知识提取不足。然而，简单地聚合非本地 KG 事实可能会引入更多不相关的噪声，进一步导致模型性能下降。
受最近在对比学习方面取得成功的启发，我们自然地建议利用 SSL 的优势来缓解稀疏监督信号的第一个问题。一个直截了当的想法是，我们可以将输入的用户-项目-实体图扩充（或破坏）为图视图，并将其中的节点与原始节点进行对比。然而，这种范式以相对独立的方式进行对比学习，仅对比不同图视图的相同部分（CF或KG部分），因此忽略了图中不同部分的内部交互。即 CF 和 KG 表示学习的改进是相互隔离的，CF 部分在最终用户/物品建模中的影响仍然有限。
因此，在传统的对比机制下，上述第二和第三个问题仍远未解决或缓解。因此，有必要考虑一种在 CF 和 KG 部分之间进行有效信息交互的能力的对比学习范式，以便在不依赖额外显式标签的情况下连贯地利用每个部分的信息。这促使我们设计了一种为 KGR 任务量身定制的交互式图对比机制，需要总结以下几个方面以解决上述限制：1）如图1（a）所示，对比 CF 和 KG 部分以平衡它们对表示学习的影响； 2）如图1（b）所示，对比KG中的本地和非本地图以提取信息丰富的非本地KG事实。
具体说，我们开发了一种新颖的模型，即具有多级交互式对比学习 (KGIC) 的知识感知推荐系统，以解决上述限制和挑战。KGIC 专注于探索适合 KGR 的图内对比学习机制，旨在以自监督的方式统一两个关键但相对独立的部分（即 CF 和 KG）。特别是，我们首先在图内进行交互式图对比学习，将 CF 信号与用户/项目的每个本地/非本地图中的 KG 信息进行对比，旨在增加 CF 和 KG 部分之间的信息一致性.然后进行图间级交互式图对比学习，将本地 KG 事实与非本地 KG 事实进行对比，以整合更多的 KG 信号并对非本地 KG 信息进行去噪。我们对这项工作的贡献可以总结如下：
• 我们强调了结合自监督学习来统一 CF 和 KG 信息以进行知识感知推荐的重要性，该推荐将层自判别作为自我监督任务提供辅助用于连贯图表示学习的信号。
• 我们提出了一种新颖的模型KGIC，它为知识感知推荐设计了一个多层次的交互式对比机制。 KGIC 将多阶 CF 与 KG 相结合，构建本地和非本地图，以充分探索外部知识。然后，KGIC 在本地和非本地图之间执行图内级别和图间级别的交互式对比学习，以在 CF 和 KG 中充分和连贯地利用信息。
• 我们对三个基准数据集进行了广泛的实验。结果证明了我们的 KGIC 在更好的表示学习方面的优势，这表明了我们的多级交互式对比学习对 KGR 的有效性。
方法
KGIC 旨在通过交互式对比机制统一 CF 和 KG 部分，以实现连贯的信息利用，从而改善用户/项目表示学习。图 2 展示了 KGIC 的工作流程，主要由三个关键部分组成：
Graph Constructing and Encoding
与以往仅将本地相邻区域的 KG 实体集成到用户/项目表示学习中的知识感知推荐方法不同，我们建议将可以从相似项目的相邻 KG 实体获取的非本地 KG 信息合并（即 CF 中的共现项），旨在充分探索 KG 中的外部事实。我们首先通过将相应的 CF 信号与 KG 相结合，为用户/项目构建本地图和非本地图（即本地和非本地子 KG）。然后在每个图中采用注意力嵌入机制进行层编码。
本地图构建。本地图由一阶 CF（即用户的交互项目或项目本身）和用户/项目的相关 KG 事实组成。首先，从用户-项目交互 Y 中提取用户/项目的一阶 CF 信号。然后通过item-entity对齐，将一阶CF信号的items与KG对齐 ，得到KG中的初始实体如下：
之后，通过 KG 中的自然传播（即沿 KG 中的链接传播）获得更多层的相关 KG 事实。通过这样做，构建了用户/项目的本地图。本地图中的三元组如下获得：
其中符号 o 是一个统一的占位符，表示 u 或 v， Su,
论文:利用邻域丰富的对比学习改进图协同过滤 (NCL) WWW22 文章链接:https://arxiv.org/abs/2202.06200v1https://arxiv.org/abs/2202. ... 论文地址:https://arxiv.org/abs/2010.14395 摘要 序列推荐经常因为数据稀疏性问题,导致很难学习到高质量的用户向量表示.论文引入对比学习,提出Contrastive Le ... 多行为推荐(MBR)旨在联合考虑多种行为以提高目标行为的推荐效果.我们认为 MBR 模型应该:(1)对用户不同行为之间的粗粒度共性进行建模,(2)在多行为建模中同时考虑局部的序列视图和全局图视图,以及 ... Improving Knowledge Tracing via Pre-training Question Embeddings 论文:Improving Knowledge Tracing via ... Attentional Graph Convolutional Networks for Knowledge Concept Recommendation in MOOCs in a Heteroge ... <论文阅读>Commonsense Knowledge Aware Conversation Generation with Graph Attention 简介 论文试图解决什么问题? ... Commonsense Knowledge Aware Conversation Generation with Graph Attention 文章目录 Commonsense Knowledge ... 1 简介 论文:Improving Graph Collaborative Filtering with Neighborhood-enriched Contrastive Learning 发表:2 ... [论文阅读笔记]2022_WWW_Improving Graph Collaborative Filtering with Neighborhood-enriched Contrastive Lear ... 目录 0.Abstract 0.1逐句翻译 0.2总结 1. Introduction 1.1. Background and Research Gaps 1.1.1逐句翻译 第一段(引出对比学习是否 ...Improving Knowledge-aware Recommendation with Multi-levelInteractive Contrastive Learning相关推荐
最新文章
热门文章