新闻推荐--从DKN出发
主要参考:《DKN: Deep Knowledge-Aware Network for News Recommendation》
新闻推荐的特点
与传统电影推荐、商品推荐不同,新闻推荐面临独特的挑战。
1.新闻时效性和用户冷启动问题
先看下面这两张图,第一张图展示了新闻的生命周期分布情况,可以看出大多数新闻的生命周期只有一条,可能只有极少的爆炸性新闻能拥有好几天的生命周期;第二张展示了一个用户点击新闻的数量分布情况,可以看出大多数用户都只会点击1~6条新闻,产生的原因可能是浏览新闻大多是不需要登录的,用户每次都被当成一个新的用户,所以新闻推荐常常处理为会话(session-based)推荐。
因此,传统的基于用户ID(即基于用户的历史记录)的方法,如协同过滤,就不再适用。
2. 用户兴趣的话题敏感性(topic-sensitive)
用户往往只对某些特定领域的新闻感兴趣,这点与电影推荐类似。而且用户的兴趣还可能是会发生变化的,所以如何动态地获取用户的兴趣是一大挑战。
3.新闻语言的复杂性
新闻的语言往往是高度浓缩的,而且包含大量的常识。即新闻的语义特征隐含在不同粒度的字里行间。用论文中的例子来说明:
假设用户阅读了新闻:“Boris Johnson Has Warned Donald Trump To Stick To The Iran Nuclear Deal”,按照实体间的联系(或者人大脑的联想),比如Boris Johnson和Donald Trump都是Politician(政客),可以联想到Congress(议会),同时Nuclear(核武器)属于武器(Weapon),可以联想到另一种武器EMP(电磁脉冲)…
通过这些联想,我们可以猜想该用户也可能喜欢“North Korean EMP Attack Would Cause Mass U.S. Starvation, Says Congressional Report”这条新闻。
但是传统的基于词表面意思,根据字符级别的相似度等来做推荐的方法,显然是无法达到这种联想效果的。
DKN
1. DKN的整体框架
DKN,全称Deep Knowledge-Aware Network,是一个基于内容的深度推荐框架。因为是基于内容的,所以可以解决挑战1;而且采用了知识图谱,可以捕获更细粒度的隐藏信息,所以可以解决挑战3;至于挑战2,作者采用了Attention机制,聚合了点击历史新闻信息,从中捕获用户兴趣,解决了挑战2。整体框架如下图所示:
输入为一条候选新闻和用户的点击历史,输出是用户对候选新闻的点击率,最后对所有候选新闻进行降序排序,推荐topK条给用户。
2. DKN的流程
1)将每条新闻的题目(也可以是摘要)中的每个词分别表示为一个嵌入(word embedding);
2)同时在知识图谱中找到这些词对应的实体,以及这些实体的一阶邻居实体(成为context,用于获取更丰富的信息,不然实体数量太少了),通过transD学习这些实体的嵌入(entity embedding和context embedding);
3)将这些嵌入对齐,词嵌入跟相应的实体嵌入对齐,同时也跟上下文嵌入(有多个上下文嵌入时,作平均,化为一个嵌入);
4)将三种嵌入经过一个变换,映射到同一个空间,然后堆叠起来,做CNN,得到一个向量作为新闻的最终嵌入;
5)将每个用户点击历史的每条新闻和候选新闻的最终嵌入拼接起来,通过Attention网络计算历史新闻的权重;
6)根据点击历史的每条新闻最终嵌入的加权求和得到用户嵌入(user embedding);
7)最后将用户嵌入和候选新闻的最终嵌入拼接起来输入DNN得到点击概率。
3. DKN的核心
DKN最核心的部分是KCNN(即流程中的第4歩),其是有Kim CNN扩展而来,具有两个特点:1)多通道。将词嵌入、实体嵌入和上下文嵌入堆叠起来,类比于彩色图像上的多通道卷积;2)词和实体是对齐的。同时为了二者嵌入空间的差异,应用了一个变化,将它们映射到同一空间。
文献链接
1.《DKN: Deep Knowledge-Aware Network for News Recommendation》
希望我的文章可以给你们的工作或者学习带来一丝灵感,共勉~
新闻推荐--从DKN出发相关推荐
- (七)DKN:用于新闻推荐的深度知识感知网络
摘要: 背景: 新闻语言是高度浓缩的,充满了知识实体和常识.然而,现有的方法并没有意识到一些外在的知识,也不能充分发现新闻之间潜在的知识层面的联系.因此,推荐给用户的结果仅限于简单的模式,不能进行合理 ...
- 微软提出基于知识图谱的深度神经网络DKN用于新闻推荐
DKN: Deep Knowledge-Aware Network for News Recommendation Hongwei Wang, Fuzheng Zhang, Xing Xie, Min ...
- 论文浅尝 | DKN: 面向新闻推荐的深度知识感知网络
笔记整理:仲亮靓,东南大学硕士研究生,研究方向是基于知识图谱的推荐系统 动机 新闻文本的语言非常凝练,其中包含了很多实体和常识知识.但目前的新闻个性化推荐方法都没有利用这些外部知识,也没有使用新闻之间 ...
- 微软新闻推荐:深度学习与 NLP 的融合,
让 Windows 11“新闻与兴趣”知你所需...
猜你喜欢 0.[免费下载]2021年12月热门报告盘点1.如何搭建一套个性化推荐系统?2.快手推荐系统精排模型实践.pdf3.全民K歌推荐系统算法.架构及后台实现4.微博推荐算法实践与机器学习平台演进 ...
- 【推荐论文】基于多视角学习和个性化注意力机制的新闻推荐(附论文下载链接)...
编者按:个性化新闻推荐是新闻行业必然的发展方向,在其实现过程中面临着三个关键问题,即分析用户兴趣.根据新闻内容建模和新闻排序.本文将这三个问题划归为新闻信息与用户兴趣的多样性问题,并由此出发,提出了基 ...
- 基于多视角学习和个性化注意力机制的新闻推荐(附论文下载链接)
编者按:个性化新闻推荐是新闻行业必然的发展方向,在其实现过程中面临着三个关键问题,即分析用户兴趣.根据新闻内容建模和新闻排序.本文将这三个问题划归为新闻信息与用户兴趣的多样性问题,并由此出发,提出了基 ...
- 一些基于新闻表示和用户表示的新闻推荐模型总结:NPA/ NAML/ LSTUR/ NRMS
前言 上上上次组会研一学长汇报了一篇数据集文章:MIND: A Large-scale Dataset for News Recommendation,是微软为新闻推荐而发布的一个数据集.在听汇报时我 ...
- 基于用户点击偏好和阅读满意度的个性化新闻推荐技术
点击蓝字 关注我们 AI TIME欢迎每一位AI爱好者的加入! 建模用户的兴趣对于进行精准的新闻推荐至关重要.现有新闻推荐方法通常会根据用户的点击行为来推断其兴趣.但是,用户点击感兴趣的新闻标题后,可 ...
- 一种基于知识图谱的新闻推荐模型
本篇博客参考了2018年WWW会议的paper<DKN: Deep Knowledge-Aware Network for News Recommendation>,即一种引入知识图谱的新 ...
最新文章
- plsql objects 过一段时间就会未连接oracle_记一次生产数据库故障排查--连接管理等待事件...
- c++buider2010 中.dfm无法打开设计界面的解决方法
- lucene和elasticsearch的前世今生、elasticsearch的核心概念、elasticsearch核心概念 vs. 数据库核心概念(来自学习资料)
- 好玩的WPF第四弹:用Viewport2DVisual3D实现3D旋转效果
- 多路平衡归并和败者树
- WAF(NGINX)中502和504的区别
- 元数据是什么意思_抖音飞瓜数据什么意思,飞瓜数据有什么用
- [Linux]常用命令与目录全拼
- Linux下的socket网络编程
- Linux环境下安装Hadoop(完全分布式)
- DEVCON.EXE管理USB
- linux如何查看cpu型号
- LabVIEW开发太阳能测测系统
- python制作二维码_利用Python制作二维码
- Mybatis-Plus eq、ne、gt、lt、ge、le
- 如何诊断SQL数据?
- 软电话 开源的和免费的大全
- 重庆高中计算机会考有没有打字,重庆书记员技能测试要求!
- 8通道16位DAC芯片LTC2600编程使用
- 数字锁相放大器,得到的结果与采样率之间的关系