论文浅尝 | Open world Knowledge Graph Completion

来源：AAAI2018

论文链接：https://arxiv.org/pdf/1711.03438.pdf

代码链接：https://github.com/bxshi/ConMask

本文解决知识库补全的问题，但和传统的 KGC 任务的场景有所不同。以往知识库补全的前提是实体和关系都已经在 KG 中存在，文中把那类情况定义为 Closed-World KGC。从其定义可以发现它是严重依赖已有KG连接的，不能对弱连接有好的预测，并且无法处理从 KG 外部加入的新实体。对此这篇文章定义了 Open-World KGC，可以接收 KG 外部的实体并链接到 KG。论文提出的模型是 ConMask，ConMask 模型主要有三部分操作：

（1）Relationship-dependent content masking：强调留下和任务相关的词，抹去不相关的单词；模型采用attention机制基于相似度得到上下文的词和给定关系的词的权重矩阵，通过观察发现目标实体有时候在权重高的词（indicator words）附近，提出 MCRW 考虑了上下文的权重求解方法。

（2）Target fusion：从相关文本抽取目标实体的 embedding（用FCN即全卷积神经网络的方法）；这个部分输入是masked content matrix，每层先有两个 1-D 卷积操作，再是sigmoid激活函数，然后是 batch normalization，最后是最大池化。

为避免参数过多，在得到实体名等文本特征时本文选用语义平均来得到特征的 embedding 表示

（3）Target entity resolution：通过计算 KG 中候选目标实体和抽取的实体的 embedding 间的相似性，结合其他文本特征得到一个 ranked list。本文设计了一个 list-wise ranking 损失函数，采样时按 50% 比例替换 head 和 tail 生成负样本，S 函数时 softmax 函数

论文的整体模型图为：

本文在 DBPedia50k 和 DBPedia500k 数据集上取得较好的结果，同时作者还添加了 Closed-World KGC 的实验，发现在 FB15k，以及前两个数据集上效果也很不错，证明了模型的有效性。

笔记整理：李娟，浙江大学博士在读，研究兴趣为知识图谱，表示学习。

OpenKG.CN

中文开放知识图谱（简称OpenKG.CN）旨在促进中文知识图谱数据的开放与互联，促进知识图谱和语义技术的普及和广泛应用。

转载须知：转载需注明来源“OpenKG.CN”、作者及原文链接。如需修改标题，请注明原标题。

点击阅读原文，进入 OpenKG 博客。

论文浅尝 | Open world Knowledge Graph Completion相关推荐

论文浅尝 | Convolutional 2D knowledge graph embedding
笔记整理 | 孙悦,天津大学 1. 介绍: 知识图的链接预测是预测实体之间缺失关系的任务.先前有关链接预测的工作集中在浅,快速的模型上,这些模型可以缩放到大型知识图例如基于基于平移变换的 TransE ...
论文浅尝 |「知识表示学习」专题论文推荐
本文转载自公众号:PaperWeekly. 本期论文清单来自清华大学博士生韩旭和北师大本科生曹书林,涵盖了近年知识表示学习方向的重要论文. [ 综述类 ] ■ 论文 | Representation ...
论文阅读《Do Pre-trained Models Benefit Knowledge Graph Completion?A Reliable Evaluation and a Reasonab》
Do Pre-trained Models Benefit Knowledge Graph Completion? A Reliable Evaluation and a Reasonable App ...
Learning Entity and Relation Embeddings for Knowledge Graph Completion (TransR)论文翻译
整理转自:fffnull 的 CSDN 博客,感谢他的翻译分享论文原文地址:Learning Entity and Relation Embeddings for Knowledge Graph C ...
【论文阅读笔记 KDD2021】《Relational Message Passing for Knowledge Graph Completion》
论文链接:https://arxiv.org/pdf/2002.06757.pdf 代码和数据集:https://github.com/hwwang55/PathCon 文章目录 ABSTRACT 1 ...
LASS: Joint Language Semantic and Structure Embedding for Knowledge Graph Completion 论文解读
Joint Language Semantic and Structure Embedding for Knowledge Graph Completion 代码:pkusjh/LASS: Code ...
论文笔记：Sequence-to-Sequence Knowledge Graph Completion and QuestionAnswering
Sequence-to-Sequence Knowledge Graph Completion and Question 备注:ACL 2022 Main Conference 链接:https:// ...
论文浅尝 | 学习开发知识图谱中的长期关系依赖 - ICML 2019
本文转载自公众号:南大Websoft. 论文:https://arxiv.org/abs/1905.04914 代码:https://github.com/nju-websoft/RSN 背景知识图 ...
论文浅尝 | 图神经网络综述：方法及应用
论文链接:https://arxiv.org/pdf/1812.08434.pdf GNN相关论文列表链接:https://github.com/thunlp/GNNPapers 近日,清华刘知远老师 ...

论文浅尝 | Open world Knowledge Graph Completion

论文浅尝 | Open world Knowledge Graph Completion相关推荐

最新文章

热门文章