论文浅尝 | 基于开放世界的知识图谱补全

Citation: Baoxu Shi and Tim Weninger (2017). Open-World Knowledge Graph Completion 6, AAAI 2018

传统的知识库补全算法如TransE等都是基于Close world assumption 的，也是就说补全的实体必须在知识图谱内。然而事实上大规模的知识图谱是一直进化的，整个图谱并不是一成不变的。因此当遇到不存在与以前知识库中的实体或者关系如何对知识库进行补全则是一个重要的研究问题。本文提出了一个基于开放世界假设的知识补全算法，该算法可以将未出现在知识库中的实体进行补全，进而克服传统知识库补全算法的问题。

整个算法的框架如下图所示：

该算法分为三个部分

1、 Relationship-Dependent Content Masking

由于本文的算法是可以抽取不在知识库中的实体，因此待抽取的实体则可能会在文本中出现。而文本中又会隐含大量的噪声和补全的三元组无关。为了去掉文本中的噪声，本文通过一个attention机制来计算文本和关系的相关程度进而获取关键词。Attention计算的公式如式1所示：

其中表示实体在文本中的描述矩阵，矩阵中的每一行则是实体描述的编码。如我们要对<Michelle Obama,AlmaMater, ?>这个三元组进行补全。那么高权重的词则可能是P rinceton, Harvard, 和University虽然这些词并不是目标实体，但是他们通常会落在目标实体的附近，并对目标实体进行描述。

2、 Target Fusion

Target Fusion主要的作用是对上一步中获取的信息进行进一步的提纯。在这一步中主要采用在远程监督时据有良好效果的 CNN 模型。该模型如下图所示。

该模型将上文选出的关键词融合到一个表示向量中

3、 Semantic Averaging

上文只是对文本进行了编码，但是当出现实体时，模型也需要将他们进行编码。本文采用了一个非常简单的编码模型。通过实体中每个词编码的平均值来计算实体的表述。

最终模型通过一个 list-wise ranking 损失函数来计算，公式如下

该公式希望在预测head实体时 P_c 要大于 0.5 而预测 tail 实体时 P_c 要小于 0.5

S 则是一个 sigmoid 函数如下所示

实验：

本文在四个数据集上进行了实验

在开放世界的实体预测实验中实验结果显示，本文的算法答复超过基于封闭世界假设的 DKRL，进而可以证明本文算法的有效性

论文笔记整理：高桓，东南大学博士，研究方向为自然语言处理。

OpenKG.CN

中文开放知识图谱（简称OpenKG.CN）旨在促进中文知识图谱数据的开放与互联，促进知识图谱和语义技术的普及和广泛应用。

转载须知：转载需注明来源“OpenKG.CN”、作者及原文链接。如需修改标题，请注明原标题。

点击阅读原文，进入 OpenKG 博客。

论文浅尝 | 基于开放世界的知识图谱补全相关推荐

论文浅尝 | 探索用于归纳型知识图谱补全的关系语义
笔记整理:徐雅静,浙江大学在读硕士,研究方向为知识图谱的表示学习,零样本学习. KGC指的是在不完整的KG中推理出缺失的实体.以前的多数工作仅仅考虑到直推式场景(实体都存在KG中),不能有效地解决归纳 ...
论文浅尝 | 基于属性嵌入的知识图谱实体对齐
论文笔记整理:王中昊,天津大学硕士,方向:自然语言处理. 来源:AAAI2019 论文链接: https://doi.org/10.1609/aaai.v33i01.3301297 概述知识图谱之间 ...
论文浅尝 | 基于文本关联的知识图谱的无监督嵌入增强
来源:IJCAI2019 论文链接: https://www.ijcai.org/proceedings/2019/0725.pdf 概述知识图谱嵌入是从多关系数据中提取数据的工具,最近的嵌入模型对 ...
论文浅尝 | 基于属性嵌入的知识图谱间实体对齐方法
笔记整理:张清恒,南京大学计算机科学与技术系,硕士研究生. 论文链接:https://people.eng.unimelb.edu.au/jianzhongq/papers/AAAI2019_Enti ...
论文浅尝 | 记忆推理：最近邻知识图谱嵌入
笔记整理:孙硕硕,东南大学硕士,研究方向为根因溯源. Citation: Zhang N, Xie X, Chen X, et al. Reasoning Through Memorization: ...
论文浅尝 | TuckER：基于张量分解的知识图谱补全
笔记整理:孙泽群,南京大学计算机科学与技术系,博士研究生. 论文链接:https://arxiv.org/abs/1901.09590 背景知识图谱是图结构的数据库,以三元组(es, r, eo ...
论文浅尝 | 利用开放域触发器知识改进事件检测
笔记整理 | 申时荣,东南大学博士来源:ACL 2020 源码:https://github.com/shuaiwa16/ekd.git 摘要事件检测(ED)是文本自动结构化处理的一项基本任务.由 ...
论文浅尝 | 利用问题生成提升知识图谱问答
论文笔记整理:谭亦鸣,东南大学博士生,研究方向为知识库问答. 来源:NLPCC2019 链接:http://tcci.ccf.org.cn/conference/2019/papers/183.pdf ...
论文浅尝 | 最新10篇《知识图谱》论文推荐(ICML, CVPR, ACL, KDD, IJCAI 2019)
本文转载自公众号:专知. [导读]知识图谱一直是研究热点,研究者近年来广泛关注知识图谱嵌入(Knowledge Graph Embedding,简称KGE)方法,在保留语义的同时,将知识图谱中的实体和 ...

论文浅尝 | 基于开放世界的知识图谱补全

论文浅尝 | 基于开放世界的知识图谱补全相关推荐

最新文章

热门文章