论文笔记(Neural Graph Collaborative Filtering)
神经图协同过滤
论文链接:Neural Graph Collaborative Filtering, SIGIR’19
原理:在 user-item interaction graph 上使用 GNN 来学习 user 向量和item 向量,用户向量和项向量的内积来预测评分。
区别:
- 大部分论文使用 GNN 只是学习 user 向量,这篇论文的 item 向量也是使用GNN学习的
- 大部分论文是在知识图谱KG或者社交网络Social Network上使用GNN,这篇论文是在用户-项交互二部图上使用GNN
1. 摘要
学习 users 和 items 的向量表示是现代推荐系统的核心。
从早期的矩阵分解到最近出现的基于深度学习的方法,现有的工作通常通过从描述用户(或项目)的现有特性(如ID和属性)映射来获得用户(或项目)的嵌入。
我们认为,这种方法的一个固有缺点是,隐藏在用户-项目交互中的协作信号
没有在嵌入过程中编码。因此,由此产生的嵌入可能不足以捕获协作过滤效果。
在这项工作中,我们建议将用户-项目交互更具体地集成到嵌入过程中二部图结构
。提出了一种新的推荐框架神经图协同过滤算法(NGCF),该算法利用用户项图的结构,在用户项图上传播嵌入
。这就导致了用户项图中高阶连通性的表达建模,有效地将协作信号显式地注入到嵌入过程中。
2. 模型架构
(1)嵌入层:提供用户嵌入和项嵌入初始化;
(2)多嵌入传播层:通过注入高阶连通性关系来细化嵌入;
(3)预测层:整合来自不同传播层的细化嵌入,输出用户-项目对的亲和度得分。
2.1 Embedding Layer
用嵌入向量 eu∈Rd (ei∈Rd) 来描述用户 u (项目 i ),其中 d 表示嵌入大小。(ID嵌入)
E = [eu1,···,euN, ei1,···,eiM]
2.2 Embedding Propagation Layers
构建GNNs的消息传递体系结构,以便沿着图结构捕获CF信号并细化用户和项的嵌入。
2.2.1 First-order Propagation
直观上,与用户交互过的项目可以体现用户的偏好,类似的,与项交互过的用户也可以看作是项的特性,并且可以用于度量两个项目之间的协作相似性。
Message Construction
对于一个连接的 user-item 对,我们定义从 i 到 u 的信息嵌入
mu←i为:
W1,W2∈Rd’×d为可训练权矩阵,提取有用信息进行传播,d '为转换大小。
Nu,Ni 表示用户 u 和项目 i 的第一跳邻居,
括号前面的是系数是拉普拉斯标准化,从表示学习的角度,反映了历史项目对用户偏好的贡献程度。从消息传递的角度来看,可以解释为折扣因子,因为所传播的消息应该随着路径长度而衰减。
在考虑信息嵌入时,不是只考虑了项目的影响,而且将 ei 和 eu 之间的相互作用额外编码到通过 ei⊙eu 传递的消息中。这使得消息依赖于 ei 和 eu 之间的亲和力,例如,从相似的项传递更多的消息。
Message Aggregation
在此阶段,我们整合从 u 的邻域传播的消息,以改进 u 的表示:
e(1)u 是用户 u 在一阶嵌入传播层获得的表示
除了从邻居 Nu 传播的消息外,还考虑了 u 的自连接:mu←u = W1eu,保留了原始特征的信息。
类似地,我们可以通过从其连接的用户传播信息来获得项目 i 的表示形式 e(1)i。
2.2.2 High-order Propagation
通过堆叠 l 嵌入传播层,用户(和项)能够接收从其 l-hop 邻居传播的消息。在第 l 步中,用户 u 的表示递归式为:
Propagation Rule in Matrix Form
为了提供嵌入传播的整体视图,方便批量实现,提供了分层传播规则的矩阵形式:
E(l) ∈ R(N+M)×dl 是用户和项经过 l 步嵌入传播后得到的表示
I 表示一个单位矩阵
L 表示用户-项目图的拉普拉斯矩阵:
R ∈ RN×M 为用户-项目交互矩阵
0 为全 0 矩阵;
A 为邻接矩阵,D 为对角度矩阵,其中第 t 个对角元素 Dtt = |Nt |,这样 Lui 就等于之前的系数 pui
2.3 Model Prediction
由于在不同层中获得的表示强调通过不同连接传递的消息,所以它们在反映用户偏好方面有不同的贡献。
因此,将它们串联起来,构成用户的最终嵌入;对 item 也做同样的操作。
其中||为串联操作。除了连接,其他聚合器也可以应用,如加权平均、最大池、LSTM。使用串联在于它的简单性,不需要学习额外的参数,而且已经被非常有效地证明了。
最后,我们进行内积来估计用户对目标物品的偏好:
2.4 Optimization
optimize the pairwise BPR loss
它考虑观察到的和未观察到的用户-项目交互之间的相对顺序。具体地说,BPR 假设用户引用的已观察到的交互作用应该比未观察到的交互作用具有更高的预测值。目标函数如下:
论文笔记(Neural Graph Collaborative Filtering)相关推荐
- 矩池云上复现论文 Neural Graph Collaborative Filtering 环境复现
矩池云上复现论文 Neural Graph Collaborative Filtering 环境复现 Neural Graph Collaborative Filtering (NGCF) is a ...
- 知识图谱论文阅读(二十一)【SIGIR2019】NGCF: Neural Graph Collaborative Filtering
题目:Neural Graph Collaborative Filtering 代码: https://github.com/xiangwang1223/neural_graph_collaborat ...
- NGCF,论文Neural Graph Collaborative Filtering的理解
现代推荐系统RS的核心是学习用户和物品的embeddings表示,随着图神经网络的火热以及图在现实生活中的广泛应用,作者提出将图神经网络和协同过滤算法结合以追求更好的性能. 先简单介绍一下文中两个最主 ...
- 【论文笔记】Neural Graph Collaborative Filtering
文章目录 1. Motivation 2. 模型 2.1 Embedding Layer 嵌入层 2.2 Embedding Propagation Layers 2.2.1 First-order ...
- 论文笔记《Item-based Collaborative Filtering Recommendation Algorithms》基于物品的协同过滤算法
这是一篇很经典的论文,2001年发表的.如果你已经很熟悉基于item的CF,那么这篇论文看起来就很舒适,很简单. 读完这篇论文还是能收获很多实验设计上知识,实验严谨性和论证.值得一读.
- 文献阅读总结(3)Neural Graph Collaborative Filtering
1.Introduction 左图u1,右图从左图的u1开始展开 图反应的信息: 1.从路径u1->i2->u2,可以反映出u1和u2的相似性: 2.u1和i4之间有两条路径,而u1和i5 ...
- 2019_SIGIR_Neural Graph Collaborative Filtering
[论文阅读笔记]2019_SIGIR_Neural Graph Collaborative Filtering 论文下载地址: https://doi.org/10.1145/3331184.3331 ...
- 论文笔记:Improving Graph Collaborative Filtering with Neighborhood-enriched Contrastive Learning
1 简介 论文:Improving Graph Collaborative Filtering with Neighborhood-enriched Contrastive Learning 发表:2 ...
- 2022_WWW_Improving Graph Collaborative Filtering with Neighborhood-enriched Contrastive Learning
[论文阅读笔记]2022_WWW_Improving Graph Collaborative Filtering with Neighborhood-enriched Contrastive Lear ...
最新文章
- 学php还是日语,如何使用PHP检查该词是日语还是英文
- PowerDesigner导入MySQL数据库表
- HDU OJ Super Jumping! Jumping! Jumping!
- linux的gromacs模拟分子运动,分子动力学技术交流---gromacsamber
- Linux设备驱动程序概念
- mongodb----集合而定多种查询方式
- eclipse配置PHP自动提示代码
- 10067mysql_MYSQL数据库mysql Non-Transactional Database Only(只支持MyISAM)
- 为什么说DeFi将催生银行业杀手级应用?
- python的优点有哪些-python的优点和缺点是什么|python有哪些优缺点 - PS下
- 聊聊微服务架构及分布式事务解决方案!
- JVM第二节:JVM 中的对象
- Linux抓包命令tcpdump以及常见抓包使用方法
- 一款DYI动态桌面壁纸程序
- Blast中文手册(6)
- 实现悬浮球的桌面显示
- 绿色专利数据集 1985-2020年上市公司绿色专利申请获得授权量数据 2011-2019地级市绿色专利数据
- matlab 电化学程序,电化学软件 - 仿真模拟电化学系统
- github.com/stretchr/testify/suite
- OSChina 周二乱弹 —— 老司机表示右手无处安放
热门文章
- 哦!数组还能这么用,学到了!
- git commit查找提交的关键字
- Linux shell sed awk
- 奥鹏C语言专科在线作业答案,电子科大12春《C语言(专科)》在线作业三
- python pexpect pxssh scp_Python 的 pexpect 使用 scp 把文本文件传一半就不传了,怎么办?...
- 哈希存储 java_Java容器系列之HashMap的存储
- python层次聚类_python实现层次聚类
- java 格式化 布尔型_这么久才知道Java中的format很强大!
- java单例模式 uml_Java设计模式系列之单例模式
- mongoose 入门以及 mongoose 实现数据 的增、删、改、查