论文浅尝 | 将字面含义嵌入知识图谱表示学习
论文笔记整理:吴桐桐,东南大学博士生,研究方向为知识图谱,自然语言处理。
链接:https://arxiv.org/pdf/1802.00934.pdf
本文主要关注知识图谱中的链接预测问题,在既有的知识图谱表示学习模型的基础上提出了一种引入实体名字面信息的表示学习机制LiteralE。LiteralE是一个可训练的参数化的方程即可,可能是是一种简单的线性或非线性的变换,或是一个多层的神经网络。实验显示通过引入字面信息可以较大的提高链接预测的准确性。
介绍
知识图谱表示学习的目标是通过机器学习将知识图谱中实体及关系的语义信息表示为低维稠密的实数向量。在该向量空间中,我们可以通过欧式距离或余弦距离等方式计算任意两个对象之间的相似度。在既有的工作多是关注知识图谱中的拓扑结构而忽略了实体名称字面含义中所携带的语义信息,如下图所示,忽略字面含义的知识图谱表示学习并不能直接预测John和Jane之间的关系,但是,在考虑到相近的出生日期以及校友关系等因素之后,在John和Jane的关系预测上可以更加确信。
模型
如下图所示是LiteralE机制的结构示意图,其中f是三元组的评分函数,文中主要基于DistMult,ComplEx和ConvE等三个模型对LiteralE机制进行了验证。LiteralE机制的改进策略是指在对实体的向量e表示进行评分之间,通过变换函数g(·)整合实体的字面信息l。在本文中,g(·)可以是线性变换
也可以是非线性变换:
也可以是多层神经网络或是带有门控机制的多层神经网络:
实验
本文中在FB5K,FB5K-237和YAGO-10等三个数据集上进行了实验,实验结果显示通过引入LiteralE机制能够较大的提高既有模型在链接预测任务中的性能。
OpenKG
开放知识图谱(简称 OpenKG)旨在促进中文知识图谱数据的开放与互联,促进知识图谱和语义技术的普及和广泛应用。
点击阅读原文,进入 OpenKG 博客。
论文浅尝 | 将字面含义嵌入知识图谱表示学习相关推荐
- 论文浅尝|简单高效的知识图谱表示学习负样本采样方法
笔记整理 | 陈名杨,浙江大学在读博士生,主要研究方向为知识图谱表示学习 Introduction 研究知识图谱表示学习(KnowledgeGraph Embedding)可以解决当前很多应用的基本问 ...
- 论文浅尝 | 基于文本关联的知识图谱的无监督嵌入增强
来源:IJCAI2019 论文链接: https://www.ijcai.org/proceedings/2019/0725.pdf 概述 知识图谱嵌入是从多关系数据中提取数据的工具,最近的嵌入模型对 ...
- 论文浅尝 | 记忆推理:最近邻知识图谱嵌入
笔记整理:孙硕硕,东南大学硕士,研究方向为根因溯源. Citation: Zhang N, Xie X, Chen X, et al. Reasoning Through Memorization: ...
- 论文浅尝 | 探索用于归纳型知识图谱补全的关系语义
笔记整理:徐雅静,浙江大学在读硕士,研究方向为知识图谱的表示学习,零样本学习. KGC指的是在不完整的KG中推理出缺失的实体.以前的多数工作仅仅考虑到直推式场景(实体都存在KG中),不能有效地解决归纳 ...
- 论文浅尝 | 最新10篇《知识图谱》论文推荐(ICML, CVPR, ACL, KDD, IJCAI 2019)
本文转载自公众号:专知. [导读]知识图谱一直是研究热点,研究者近年来广泛关注知识图谱嵌入(Knowledge Graph Embedding,简称KGE)方法,在保留语义的同时,将知识图谱中的实体和 ...
- 论文浅尝 | 六篇2020年知识图谱预训练论文综述
转载公众号 | AI机器学习与知识图谱 本文介绍六篇有关知识图谱预训练的优秀论文,大致上可分为两类,生成学习模型和对比学习模型.其中GPT-GNN模型是生成学习模型,模型灵感来源于自然语言处理中的GP ...
- 论文浅尝 | 利用问题生成提升知识图谱问答
论文笔记整理:谭亦鸣,东南大学博士生,研究方向为知识库问答. 来源:NLPCC2019 链接:http://tcci.ccf.org.cn/conference/2019/papers/183.pdf ...
- 论文浅尝 | 基于开放世界的知识图谱补全
Citation: Baoxu Shi and Tim Weninger (2017). Open-World Knowledge Graph Completion 6, AAAI 2018 传统的知 ...
- 论文浅尝 | 利用图 Transformer 实现基于知识图谱的文本生成
论文笔记整理:谭亦鸣,东南大学博士生,研究方向为跨语言知识图谱问答. 来源:NAACL2019 链接:https://arxiv.org/pdf/1904.02342.pdf 本文关注如何从信息抽取结 ...
最新文章
- Kati详解-Android10.0编译系统(五)
- Type difference of character literals in C and C++
- 如何讲页面打入jar包中_如何把我的Java程序变成exe文件?
- JavaScript工具
- 设置固定高度_防排烟系统的设置,前室、楼梯间、避难层!设置要求全记住!...
- 深圳,本周日,华为云开发者大会,免费报名中
- 通过分区(Partitioning)提高Spark的运行性能
- apache服务器_Apache+SVN 服务器搭建:
- PDF文件分割电脑版怎么操作
- defunct 进程占用端口_纯干货:23个服务器常见问题处理方法!
- C# 电子白板软件开发
- 国际象棋测试软件只能支持8核,CPU多线程测试:wPrime/国际象棋_AMD FX-8350_CPUCPU评测-中关村在线...
- vue 读取地址栏参数
- mysql查询排名名次
- 一次 truncate 核心表衍生的安全管理思考
- 软件分享之博文收藏记录
- 无泪的眼神---上海街头真实的一幕!(转自 燕南社区)
- 芋道 Spring Boot 消息队列 RocketMQ 入门
- chaim(柴米油盐酱醋茶的下一句人生百味)
- 萤石网络递交上会稿:年营收42亿 海康威视持股60%
热门文章
- GARFIELD@10-31-2004
- HP-UX的终端TERM要设置成什么,才能输入中文呢?
- 强一致性和弱一致性的区别
- 首个开源 Linux 系统登陆火星,占有率超 Windows,一同登录还有一款安卓手机芯片...
- lol最克制诺手的英雄_LOL:哪些英雄之间非常克制,不管怎么打,遇到就输了?...
- TQ210——S5PV210串口通信
- 机器学习面试——分类算法SVM
- 复习Object类_日期时间类_System类_StringBuilder_包装类以及各类的细节
- mac 批量清空文件夹文件_【XSS 聚宝瓶】文件及文件夹批量改名工具
- 十一、CSS初始化详解