2202知识图谱推荐系统,终终终于于于于于于于于于更新了
省时查报告-专业、及时、全面的行研报告库
省时查方案-专业、及时、全面的营销策划方案库
【免费下载】2022年3月份热门报告合集(附下载链接)
对比学习在快手推荐系统中的应用实践
机器学习在B站推荐系统中的应用实践
小红书推荐系统中台应用实践
微信视频号实时推荐技术架构分享
推荐系统的变与不变
某短视频APP推荐算法及策略最详细拆解
知识图谱在美团推荐场景中的应用实践
一、核心纪要
采用知识图谱的信息来增强推荐系统的效果已经不是什么新鲜的事情了,现在已经有很多的研究论文频繁出现,总有几篇论文的观点能够深入你的内心。
推荐系统目前已经在我们日常生活中随处可见,购物电商平台会给你推荐千人千面的物品,APP上面的广告推荐、社交平台推荐的媒体新闻消息等等,他们的目标无非是在海量的信息中推荐给用户具有感兴趣的,过滤掉无用的信息。推荐系统的做法大概会有以下几类的划分。
1、传统的做法有基于内容(content-based)和基于协同过滤(Collaborative Filtering,CF)的推荐方法,它们主要依赖的是内容信息以及user和item相似数据。
2、最近几年,利用知识图谱作为推荐系统辅助信息的方法越来越多,并且已经有很多的研究结果表明效果显著,之所以能够取得如此显著的效果,其一部分原因在于知识图谱本身是采用图结构描述现实世界中实体之间的关系,能够明确表达用户(user)与物品(item)之间潜在的信息交互。如下图1是一个简单的知识图谱。
知识图谱作为辅助信息作用于推荐系统又有几类方法,其中最早的一类方法为知识表示的方式,主要利用一些知识表示的方法学习一些实体的向量表达,并将实体的向量表达与推荐系统相结合,这里面涉及到的知识表示的方法主要包括TransE、TransH、TransR等基于翻译模型一系列以及最近两年提出的一些改进的方法。除了知识表示的方法之外,前期还有一些基于知识图谱关系路径信息的一些方式,主要是利用实体之间路径的语义相似性来细化用户(user)和物品(item)的表示。
但是上述两种方式都很难捕获高阶链接信息以及不能够充分利用知识图谱本身丰富的语义信息和拓扑结构信息。最近一段时间,利用图神经网络传播(Graph Neural Network,GNN)的方法引起了广大研究者以及业内人士的兴趣爱好,比较明确的方法例如 KGAT、 KGNN-LS、KNI、 AKGE、KGIN。采用这种传播的方法,能够将知识图谱的高阶语义信息整合到推荐系统的相关特征表示中,从而推动推荐系统的效果转化。
以上便是一些知识图谱和推荐系统结合的背景信息以及常规主流方法。
二、不足改进
本次将要分享的这篇文章也是基于GNN的方式在演变的一篇工作,这篇文章是中国科学院的一篇工作,本篇文章的观点认为尽管GNN在利用多跳属性信息方面取得了成功,但它仍存在三个不足之处。
1、不同的属性信息在语义和用户偏好方面是独立的,采用加权和的操作合并不同的属性信息会造成污染的问题。例如在上图图1中,电影包含演员的属性以及歌手属性 ,语义独立性是指 和 这两个属性不一定都是会同时出现的,因为对于一部电影来说,演员和歌手都是相互独立的,行为独立性是指一个用户是否喜欢一个演员和是否喜欢一个歌手是相互独立的。目前GNN采用加权和的操作会让获取用户感兴趣的属性信息变得困难。
2、文中提出一个观点,即通常情况下,图中的高阶邻居相对于中心节点的关系较小,但文中认为这并不是绝对的。还是从图1中来说,对于一些电影观众喜欢音乐,歌手属性比导演属性更有价值,然而图中却相对更远,所以从这看来,高阶属性节点也是非常重要的,然而,现有基于GNN的算法忽略了这一问题,随着传播时间的增加,高阶属性节点信息的权值在逐步减小。
3、用户的兴趣因人而异,用户可能只对部分属性感兴趣而不是所有属性感兴趣,不同的用户也会有不同的兴趣表达,因此需要针对不同的用户偏好处理对应的属性信息,也就是说,通过GNN传播学习到的物品特征表示包含有噪音信号,需要提取用户个人感兴趣的部分属性。然而,现有的GNN方法对这方面还是考虑不全。
为了解决上面的不足,文中提出了一种新的网络结构(Attentive Knowledge Graph Attribute Network, AKGAN)。AKGAN网络结构中主要包含了两部分。
其中第一部分为 Knowledge Graph Attribute Network (KGAN),该部分的核心任务是在不影响重要属性节点语义和权重的情况下学习Item项表示,在GNN框架下,KGAN的第一层和后一层设计不同。
第二部分为user Interest-Aware Attention Network(IAAN),该部分的核心为设计兴趣感知的注意层机制来提取用户感兴趣的属性,而并非对所有的属性节点同等对待。
三、AKGAN网络
上文已经提到,AKGAN包含两部分的网络结构,KGAN 和 IAAN,我们分别简单看下。
3.1 KGAN
上图是KGAN的网络结构图,包含下边的AML(Attribute Modeling Layer,)以及上边的APL(Attribute Propagation Layer)。
KGAN是采用的GNN网络结构,核心任务是学习包含多个属性信息的来增强Item表示。在第一层和后一层采用异构设计,分别命名为属性建模层(AML)和属性传播层(APL)。
AML:在知识图谱中,同一个实体会有多个邻居节点,并且可能对应着多种关系,例如上图中的图结构,和它的邻居节点 和 有不同的关系属性和 。为了能够获取没有语义污染的实体表示,AML中将每个实体嵌入到不同的关系属性中,构建实体特征表示。
如上图的AML网络结构,实体 有相邻的属性节点 ,他们分别对应不同的关系属性 , AML对邻居中具有相同关系的邻居节点进行Average pooling操作提取实体属性在不同关系中的向量表达,为了保证长度一致,没有对应关系的采用零向量填充,在最后,采用concat的操作,将实体在不同关系的向量表达融合为实体的向量信息 ,其中i为第几个实体、0为第几层网络。
综上,上面的操作避免了不同属性之间的交互,并保持了语义的独立性,这将进一步有利于在APL中保持高阶显著邻域的权重,以及后续提取用户感兴趣的属性。
APL:AML利用实体相邻的一跳邻居已经提取了实体的特征表达,所以,接下来很容易的就想到要采用GNN网络传播他们,以便能够获取高阶邻居属性信息,从而将高阶邻居聚合到中心实体节点中,获得信息更加丰富的Item表示。
APL这里会对相同的关系感知邻居进行聚合以及对关系的组合。相同的关系感知邻居包含类似的属性类型,因此,文中首先聚合相同关系感知邻居的表示。其次,为了学习更全面的表示,需要融合不同关系感知邻居中的多个属性,以上两个操作的pooling的方法分别为Average 和sum,最终对每一层的相同实体表示进行求和操作,能够获到最终的Item表示。
3.2 IAAN
上一章节的KGAN主要是获取Item的向量表示,有了Item的向量表示之后,在推荐系统中一个很典型的做法是利用用户的行为数据去增强用户的表示,比如通过用户点击的Item。但是这种方法没有考虑用户个人的属性偏好,因此最近这些年有很多的研究工作采用注意力机制对用户的属性偏好进行建模,期望提取用户感兴趣的,这篇文章也是提出了一种新的注意力模块对用户的不同属性信息进行提取精炼,如下图。IAAN 主要包含两部分,首先是计算用户(u) 和属性()之间的兴趣分数,然后结合Item表示和兴趣分数获得用户的表示。
四、实验结论
1、数据
数据集采用的是三份公开的数据集,Amazon-book、Last-FM、Alibaba-iFashion。
2、实验结果
评估方式在推荐中采用top-K进行评估。对于每个用户,将用户未与之交互的所有Item视为负例,而将测试集中存在交互的Item视为正例。然后对这些Item进行排序,并采用两种常用的评价方案:Recall@K 和 NDCG@K,最终的实验报告为测试集中所有用户的平均指标。
Recall@K 为预测正确的相关结果占所有相关结果的比例,取值范围[0,1],越大越好。
NDCG@K 为归一化折损累计增益(Normalized Discounted Cumulative Gain,NDCG),是一种考虑了返回顺序的评价指标。取值范围[0,1],越大效果越好。
以下为实验结果
以上为实验结果,从实验结果看,三个数据集、两个评估指标、六个对比方法,结果都是正向的,另外文中还有一些case study很有意思,大家有时间可以看下。
「 更多干货,更多收获 」
【免费下载】2022年3月份热门报告合集
美团大脑系列之:商品知识图谱的构建及应用
【干货】2021社群运营策划方案.pptx
大数据驱动的因果建模在滴滴的应用实践
联邦学习在腾讯微视广告投放中的实践如何搭建一个好的指标体系?如何打造标准化的数据治理评估体系?
【干货】小米用户画像实践.pdf(附下载链接)
推荐系统解构.pdf(附下载链接)
短视频爆粉表现指南手册.pdf(附下载链接)
推荐系统架构与算法流程详解如何搭建一套个性化推荐系统?某视频APP推荐策略详细拆解(万字长文)
关注我们
智能推荐 个性化推荐技术与产品社区 |
长按并识别关注 |
一个「在看」,一段时光
魔图互联 知识图谱推荐系统:http://motuhulian.com/ 市场分析 首先是市场分析,第一,市场需求大,除了应用于推荐系统.舆情分析.文本检测等应用.知识图谱还可以应用于金融.零售.地产 ... 本文多资源,建议阅读5分钟多个论文资源已整理出炉~ 知识图谱 Cycle or Minkowski: Which is More Appropriate for Knowledge Graph Emb ... 作者 | Ccxs 整理 | NewBeeNLP 知识图谱 Robust Knowledge Graph Completion with Stacked Convolutions and a Stud ... 1. 知识图谱的起源 知识图谱(Knowledge Graph),最早起源于Google Knowledge Graph.知识图谱本质上是一种语义网络.其结点代表实体(entity)或者概念(conc ... KDD2020 Graph-based Recommendation(基于图,不是知识图谱) 1. A Framework for Recommending Accurate and Diverse ... 课程介绍 本达人课展现了从"零"开始完成一个知识图谱应用产品开发过程的完整实录. 这里的"零",意味着对读者的"零 Python 编程语言基础&quo ... 近年来,随着人工智能技术在科研和实践中的广泛发展和应用,知识图谱(Knowledge Graph)作为人工智能的重要课题也得到迅速发展. 包含上亿条事实的公开知识图谱已经非常常见,并且不同的数据源又互 ... 本期内容选编自微信公众号「开放知识图谱」. TKDE ■ 链接 | https://www.paperweekly.site/papers/2194 ■ 解读 | 花云程,东南大学博士,研究方向为自然 ... 注:该博文是我在看了数篇知识图谱综述以及阅读了相关资料后的一个总结以及自己的相关理解. 知识图谱技术是人工智能技术的重要组成部分,以结构化的方式描述客观世界中的概念.实体及其键的关系.知识图谱提技术提 ...2202知识图谱推荐系统,终终终于于于于于于于于于更新了相关推荐
最新文章
热门文章