#Reading Paper# 【序列推荐】SIGIR 2022 Decoupled Side Information Fusion for Sequential Recommendation
#论文题目：【序列推荐】Decoupled Side Information Fusion for Sequential Recommendation（DIF-SR：用于序列推荐的辅助信息解耦）
#论文地址：https://arxiv.org/pdf/2204.11046.pdf
#论文源码开源地址：https://github.com/AIM-SE/DIF-SR
#论文所属会议：SIGIR 2022
#论文所属单位：香港科技大学
一、导读
通常的融合辅助信息的序列推荐方法都是将序列中交互对应的辅助信息（如商品的品牌，类别，用户打分等）和交互的商品ID一起融合后，再经过注意力机制进行相关性挖掘。本文作者发现提前融合会影响注意力层的表征能力，因此，作者将注意力机制放在融合之前，然后通过将不同属性的注意力权重进行融合（add，concat，gating），然后再对embedding进行加权。 得到序列中各个交互的embedding后，采用最后一次交互的商品embedding和候选商品embedding求用户交互分数。并且在训练阶段约束交互中商品embedding包含辅助信息，具体可见损失函数部分。
二、模型框架
可以看出，模型分为三部分：编码模块、解耦侧信息融合模块、预测模块。
2.1 问题定义
令 I I I， U U U分别表示商品和用户集合。用户 u u u的历史序列表示为 S S Su={ v v v1, v v v2, …, v v vn}， v v vi表示第 i i i个交互的商品，辅助信息包括与商品相关的信息（例如，品牌、类别）和与行为相关的信息（例如，位置、评分）。假设有p种辅助信息，每个交互可以表示为： v v vi={ I I Ii, f f fi(1), …, f f fp(p}， I I Ii表示第i次交互的商品ID， f f f为辅助信息。给定交互序列，预测用户最后可能交互的商品。
三、模型详解
3.1 编码模块
对于用户 u u u的历史序列 S S Su={ v v v1, v v v2, …, v v vn}，分别输入到不同的编码层进行编码最终得到item编码 E E EID和辅助编码 E E Ef1, …, E E Efp：
3.2 解耦边缘信息融合模块
如图2所示，解耦辅助信息融合模块包含顺序组合的DIF注意层和前馈层的若干堆叠块。块结构与SASRec相同，只是我们用多头DIF注意机制代替了原来的多头自我注意。每个DIF块涉及两种类型的输入，即当前item向量表征和辅助信息表征，然后输出更新的项目表征。
让Ri(ID)表示第i个块的item表示，则可以表示为：
DIF是论文提出的边缘信息的融合模块，FFN是前馈网络编码层，LN是层标准化操作。
下述三种方法的自注意力模块概述，可以看到，本文提出的DIF注意力模块在计算注意力之前，分别对每个子模块进行注意力分解（与Transformer中方法一致，都是先得到QKV矩阵），之后再进行向量融合。
在下图中的 F F F函数中，文中直接说参考NOVA方法，笔者在这进行补充，方便大家理解。这里的F函数可以采用相加（add），拼接（concat）或者加权（gating）
最后，所有多头注意力的输出被连接并送到前馈神经网络中进行计算。
3.3 AAP预测模块
在上述步骤中，我们借助辅助信息得到了序列信息编码的最终表征 R R RL(ID)，采用 R R RL(ID)的最后一个元素 R R RL(ID) [n]来估计用户与每个商品进行交互的概率。
在训练期间，对属性（位置信息除外）使用辅助属性预测器（AAP），以进一步激活辅助信息和商品表征之间的交互。与先前使用单独的属性embedding进行预测或仅使用属性进行预训练的解决方案不同，本文将多个预测器直接应用于最终表征，以强制商品表征包含有用的辅助信息。（换句话说，不是每个商品都有自己的各种信息么，各种信息在上文也进行了编码表示，此步骤的目的是将各种信息也计算一个损失函数，来强行进行修正）
最后采用交叉熵损失函数进行优化
四、数据集
五、结果
#Reading Paper# 【序列推荐】SIGIR 2022 Decoupled Side Information Fusion for Sequential Recommendation相关推荐
- #Reading Paper#【曝光偏差】 Cross Pairwise Ranking for Unbiased Item Recommendation
#论文题目:Cross Pairwise Ranking for Unbiased Item Recommendation(CPR Loss:交叉成对排序损失对推荐系统纠偏) #论文地址:http:/ ...
- SIGIR‘22 推荐系统论文之序列推荐(长文)篇
2022推荐系统论文梳理系列 推荐系统相关顶会整理 IJCAI'22 推荐系统论文梳理 ICML/ICLR'22 推荐系统论文梳理 WWW'22 推荐系统论文之序列推荐篇 WWW'22 推荐系统论文之 ...
- SIGIR 2022 | 推荐系统相关论文分类整理
大家好,我是对白. ACM SIGIR 2022是CCF A类会议,人工智能领域智能信息检索( Information Retrieval,IR)方向最权威的国际会议.会议专注于信息的存储.检索和传播 ...
- WWW‘22 推荐系统论文之序列推荐篇
专栏系列文章 - 知乎一.算法面经篇枫桦:深度学习算法工程师面经(微软.阿里.商汤.滴滴.华为.海康.平安.陌陌等offer)之上篇 枫桦:深度学习算法工程师面经(微软.阿里.商汤.滴滴.华为.海康. ...
- #Reading Paper# 【序列推荐】ICKM 2022 RETR：Recommender Transformers with Behavior Pathways
#论文题目:[序列推荐]RETR:Recommender Transformers with Behavior Pathways(RETR:具有行为路径的推荐transformer) #论文地址:ht ...
- 【AI周报】首款高容错通用量子计算机原型登上Nature；SIGIR 2022 | 快手联合武汉大学提出序列推荐的多粒度神经模型
01 # 行业大事件 首款高容错通用量子计算机原型登上Nature 理论上,量子计算机可以解决常规计算机在宇宙生命周期时间内也无法解决的问题.然而,我们需要大量的工程和技术才能将其「理论上」的能力兑现 ...
- SIGIR 2022 | 当多层级遇到多兴趣：用于序列推荐的多粒度神经模型
©作者 | 机器之心编辑部 来源 | 机器之心 来自快手和武汉大学的研究者通过结合多兴趣学习和多层级图卷积聚合提出了一种多粒度神经模型,显著增强了精确学习用户复杂行为的能力,对用户不同层级下多种兴趣的 ...
- #Reading Paper# 【序列推荐综述】IJCAI‘19:Sequential Recommender Systems: Challenges, Progress and Prospects
#论文题目:[序列推荐]Sequential Recommender Systems: Challenges, Progress and Prospects(序列推荐系统:挑战.进程和前景) #论文地 ...
- SIGIR‘22 推荐系统论文之序列推荐(短文)篇
2022推荐系统论文梳理系列 推荐系统相关顶会整理 IJCAI'22 推荐系统论文梳理 ICML/ICLR'22 推荐系统论文梳理 WWW'22 推荐系统论文之序列推荐篇 WWW'22 推荐系统论文之 ...
最新文章
- Exchange Server 2016管理系列课件19.开启和管理存档邮箱
- 图解Silverlight 3的7个新功能
- C++ priority_queue用法
- Spring Boot——统一设置返回Json数据风格（Java驼峰命名法转下划线命名法）解决方案
- java 重用性_Java开发重用性必备的三大核心知识点
- python中列表的sort方法_python中列表的sort方法使用详解
- 菜鸟教程 之 HTML DOM 和 浏览器BOM
- Python笔记-假设检验之双样本T检验（两样本是否相似）
- 简单的无限分级类 category, menus, jquery tree view
- 建造者模式 设计模式 Java实现 创建型
- 业务编排可视化_微服务设计-服务组合和可视化编排思考
- php7会不会出问题,升级到PHP7后会话不工作
- 数据库知识点总结归纳
- k8s的命令行管理工具
- VMware ESXi 6.5之前 缺少驱动处理方式
- bi数据分析工具有哪些？
- Azul开源Zing Jvm
- python用函数绘制椭圆_Python学习笔记——opencv绘制椭圆
- 声音与噪声(分贝、声功率、声强和声压)
- Altium Designer-集成库制作