DUMN : Deep User Match Network for Click-Through Rate Prediction

2024-04-18 18:07:08

个人公众号,欢迎关注

YouChouNoBB

介绍一篇很有意思的论文,DUMN,论文的亮点在于将item侧的行为序列也加入建模,通过计算user to user 的相似度,来表达target user与target item之间的相似度.

论文地址:Deep User Match Network for Click-Through Rate Prediction | Proceedings of the 44th International ACM SIGIR Conference on Research and Development in Information Retrieval

1.主要介绍其中的4个模块

1)Embedding Layer

2)User Representation Layer

3)User Match Layer

4)Output Layer

2.Embedding Layer,主要介绍一些向量的定义

1)User Behavior:

$I_{u}=[i_{1},i_{2}...i_{Nu}]$ ,其中i为itemid

2)Item Behavior:其中 $u_{i}$ 为userid,并附带一个用户行为序列 $I_{u}$

3) $e_{u}$ : User profile vector,用户基础画像向量

4) $e_{m}$ : Target item vector,目标item向量

5) $e_{c}$ : Context vector,上下午场景向量

6) $x_{u}$ : 用户行为向量,由一系列item的向量组成

7) $z_{m}$ : item行为向量,由一系列用户的行为向量 $x_{u}$ 和画像向量 $e_{u}$ 组成

3. User Representation Layer

1)主要由用户行为向量 $x_{u}=[e_{i}...e_{N}]$ ,用户画像向量 $e_{u}$ ,Target item向量 $e_{m}$ 进行attention计算得到

其中, $e_{i_{k}}$ 为用户交互的item向量, $b_{a}$ 为bias, $V_{a},W_{a}$ 为模型学习的参数矩阵, $\sigma$ 是激活函数sigmoid

$\gamma _{k}$ 为每个item计算得到的权重,进行归一化为 $\mu_{k}$

再将 $\mu_{k}$ 乘回item的向量 $e_{i}$ 得到新的item向量

将新的item向量进行sum pooling得到用户的兴趣表达向量 $\hat{r}_{u}$

最终将兴趣表达向量和画像向量concat得到用户的表达向量

4.User Match Layer

这一层主要是通过当前用户与交互过target item的用户向量,来计算用户与用户之间的相关性,从而可以得到当前用户与target item 之间的相关性表达 ,其中的用户向量都是由上一节的user representation layer计算得到

这里有一个值得讨论的地方

1)交互过target item的用户很多,应该怎么选取论文没有讲清楚,只说了取30个比较合适,在实际应用中,我们是否需要选取一些活跃的用户?

2)用交互过target item的用户来计算target user与target item之间的相似度,是否一定需要用这样的模型结构来解决,直接加item侧对应的特征是否能满足需求?

4.1 Relevance Unit

该模块用来衡量用户与用户之间的相似度,计算方式比较简单,使用余弦相似度

其中 $r_{u_{a}}$ 表示用户 $u_{a}$ 在上一节计算得到的向量表达,不止target user可以通过这个模块计算,所有user都能通过这个模块计算得到用户向量

通过这种方式,我们可以计算target user和target item交互过的所有user的相似度 $\alpha _{k}$

这样我们就能用相似度乘上用户表达向量,sum pooling之后得到一个匹配表达向量 $s_{u}$

同时,我们还可以将所有相似度求和,得到target user与target item的一个匹配度

这个时候再回过来看User Match Layer是不是简单很多了

5.Output Layer

最后输出层就很简单了,匹配表达向量 $s_{u}$ ,用户表达向量 $r_{u}$ ,匹配度 $R_{u}$ ,target item 向量 $e_{m}$ 和上下文向量 $e_{c}$ 进行concat,然后经过2层全连接,最后sigmoid输出

个人公众号,欢迎关注

YouChouNoBB

DUMN : Deep User Match Network for Click-Through Rate Prediction相关推荐

论文 MiNet: Mixed Interest Network for Cross-Domain Click-Through Rate Prediction
MiNet: Mixed Interest Network for Cross-Domain Click-Through Rate Prediction 论文 CIKM 2020 阿里应用场景跨域 ...
8.Deep Interest Evolution Network for Click-Through Rate Prediction论文详解
一.背景总述 2017年6月阿里妈妈的精准定向检索及基础算法团队放出了论文Deep Interest Network(DIN),用于解决电子商务的CTR预估,再次基础上,最近又放出了改进版本Deep ...
Deep Match to Rank Model for Personalized Click-Through Rate Prediction
Abstract 点击率(CTR)预测是推荐系统和许多其他应用领域的核心任务.对于CTR预测模型来说,个性化是提高性能和增强用户体验的关键.近年来,人们提出了几种模型来从隐含(implicitly)反 ...
论文阅读笔记：Multi-Turn Response Selection for Chatbots with Deep Attention Matching Network
提示:阅读论文时进行相关思想.结构.优缺点,内容进行提炼和记录,论文和相关引用会标明出处. 文章目录前言介绍模型细节问题符号化模型结构注意力模块-Attentive Module 整理表示 ...
推荐系统（十二）阿里深度兴趣网络（二）：DIEN模型（Deep Interest Evolution Network）
推荐系统(十二)阿里深度兴趣网络(二):DIEN模型(Deep Interest Evolution Network) 推荐系统系列博客: 推荐系统(一)推荐系统整体概览推荐系统(二)GBDT+LR ...
二值网络--Optimize Deep Convolutional Neural Network with Ternarized Weights and High Accuracy
Optimize Deep Convolutional Neural Network with Ternarized Weights and High Accuracy IEEE Winter Con ...
目标检测--A Unified Multi-scale Deep Convolutional Neural Network for Fast Object Detection
A Unified Multi-scale Deep Convolutional Neural Network for Fast Object Detection ECCV2016 https://g ...
推荐系统论文DSIN：Deep Session Interest Network
一.背景前几天写了一篇阿里的论文BST,最后应用在我们自己的新闻推荐场景,离线AUC没有什么提升,今天分享一篇有收益的文章,同样出自阿里. 绝密伏击:推荐系统论文:Behavior Sequence ...
CTR深度学习模型之 DSIN(Deep Session Interest Network) 论文解读
之前的文章讲解了DIEN模型:CTR深度学习模型之 DIEN(Deep Interest Evolution Network) 的理解与示例,而这篇文章要讲的是DSIN模型,它与DIEN一样都从用户历 ...

最新文章

热门文章