密歇根州立大学联合字节提出AutoEmb用于流式推荐

AutoEmb: Automated Embedding Dimensionality Search in Streaming Recommendations

Xiangyu Zhao, Chong Wang, Ming Chen, Xudong Zheng, Xiaobing Liu, Jiliang Tang

Michigan State University, Bytedance

https://arxiv.org/pdf/2002.11252.pdf

基于深度学习的推荐系统通常包含嵌入层，嵌入层能够减少类别变量（比如用户或商品特征）的维度，并且转换到低维空间中。

大多数现有的深度学习推荐系统，对于用户商品的嵌入层，根据经验预先定义定长和统一的维度。最近研究表明，不同的用户商品根据流行度需要映射到不同大小的嵌入空间中。但是，推荐系统中手动选择嵌入层的大小非常具有挑战性，因为用户商品的量级很大，并且流行度也会随时间动态变化。

这篇文章提出一种基于AutoML的端到端的框架，AutoEmb，可以根据流行度自动并且动态的设定多种嵌入空间。具体而言，作者们将典型的深度学习推荐系统进行增强，嵌入空间可以多种多样，提出一种端到端的可微框架，可以根据用户商品的流行度自动选择不同的嵌入空间，并且在流式推荐场景中提出一种基于AutoML的优化算法。

在大量基准数据集上的实验结果表明了AutoEmb框架的有效性。

基于深度学习的推荐系统主要包含以下三个部分

不同的embedding大小对应的效果不同

基础的基于深度学习的推荐系统结构图示如下

嵌入变换及选择图示如下

这种方案主要解决两个问题，其一是不同embedding大小不同，如何统一为同一大小的embedding，其二为不同embedding尺度上不可比，如何转为统一尺度。

自动选择embedding大小的组件结构图示如下

模型整体结构图示如下

下面是算法伪代码

数据集信息统计如下

实现细节及参数设置如下

评价指标如下

参与对比的方法有以下几个

几种方法效果对比如下

不同流行度对模型效果影响如下

不同的流行度下，不同embedding大小的权重分布不同

样本数对模型效果影响如下

密歇根州立大学联合字节提出AutoEmb用于流式推荐相关推荐

Nature Protocols | 密歇根州立大学何胜阳/Tiedje团队建立拟南芥微生物组研究的标准化生长体系！...
多细胞生物体与栖息在其身体各部位的各种微生物群落不断接触.这些微生物统称为微生物群,在宿主的健康和疾病中发挥着关键作用(Nature Microbiology | 微生物组创新,实现可持续发展的未来! ...
密西根州立大学计算机qs分数,2020年QS世界大学排名密歇根州立大学排名第144
2020年QS世界大学排名指标 1.Academic Reputation 学术声誉(所占比重为40%) 这项指标数据来源于QS学术调查.搜集了80,000多位高校领域大牛对教学和科研方面的意见.这也 ...
博士申请 | 美国密歇根州立大学ACTION Lab招收CV/ML方向全奖博士生
合适的工作难找?最新的招聘信息也不知道? AI 求职为大家精选人工智能领域最新鲜的招聘信息,助你先人一步投递,快人一步入职! 密歇根州立大学 MSU是著名的美国公立研究型大学,位列全美最佳公立大学前3 ...
美国密歇根州立大学ACTION Lab招收CV/ML方向全奖博士生
密歇根州立大学 MSU是著名的美国公立研究型大学,位列全美最佳公立大学前30名以及世界最佳研究型大学前100名,也是声望崇高的美国大学协会的成员之一.MSU在计算机视觉研究上具有诸多顶级研究团队,根据 ...
Happytime RTSP可用于流式传输各种设备和文
Happytime RTSP可用于流式传输各种设备和文 Happytime RTSP Pusher是一款软件应用程序,可用于流式传输各种设备和文件,例如相机和屏幕活动,以及来自本地硬盘的音频和视频文件 ...
美国华盛顿州立大学计算机排名,华盛顿州立大学专业排名一览及最强专业推荐（USNEWS美国大学排名）...
华盛顿州立大学优势专业介绍工程学院专业.教育学院专业.艺术学院华盛顿州立大学专业排名华盛顿州立大学政治学专业在2018年USNEWS美国大学排名中排名第81 华盛顿州立大学英语学专业在2018年 ...
ICLR 2022 Spotlight | MSU联合MIT-IBM提出首个黑箱防御框架
来源:机器之心本文约2600字,建议阅读6分钟本文介绍了一篇关于黑箱防御工作的研究论文,代码和模型均已开源,已被 ICLR 2022 接收为 spotlight paper. 今天介绍一篇密歇根州 ...
【AI周报】首款高容错通用量子计算机原型登上Nature；SIGIR 2022 | 快手联合武汉大学提出序列推荐的多粒度神经模型
01 # 行业大事件首款高容错通用量子计算机原型登上Nature 理论上,量子计算机可以解决常规计算机在宇宙生命周期时间内也无法解决的问题.然而,我们需要大量的工程和技术才能将其「理论上」的能力兑现 ...
博士申请 | 美国佛罗里达州立大学计算机系王广老师招收人工智能全奖博士生...
合适的工作难找?最新的招聘信息也不知道? AI 求职为大家精选人工智能领域最新鲜的招聘信息,助你先人一步投递,快人一步入职! 佛罗里达州立大学佛罗里达州立大学(Florida State Unive ...

密歇根州立大学联合字节提出AutoEmb用于流式推荐

密歇根州立大学联合字节提出AutoEmb用于流式推荐相关推荐

最新文章

热门文章