知识表示（KRL）与知识嵌入（KE）

以下整理内容来自于清华大学自然语言处理与社会人文计算实验室（THUNLP），
1简介
知识表示学习是面向知识库中实体和关系的表示学习。通过将实体或关系投影到低维向量空间，我们能够实现对实体和关系的语义信息表示，可以高效的计算实体、关系及其之间的复杂语义关联。
知识表示学习得到的向量表示可以应用于相似度计算，知识图谱补全以及关系抽取、自动问答等其他应用中。
2 TransE
刘知远教授在2016年发表的《知识表示学习研究进展》中，综述了距离模型、单层神经网络模型、能量模型、双线性模型、张量神经网络模型、矩阵分解模型、翻译模型这七个模型的内容。其中翻译模型中，2013年由Bordes提出的TransE模型，近几年在业界备受追捧。下面整理了一下有关该模型的资料。
TransE模型，将知识库中的关系看作实体间的某种平移向量。对于每个三元组（h,r,t），TransE用关系r的向量lr作为头实体向量lh和尾实体向量lt之间的平移。我们也可以将lr看作从lh到lt的翻译，因此TransE也被称为翻译模型。损失函数如下

3 TransH
TransH,是在TransE基础上提出的，旨在通过使用平移向量lr和超平面法向量wr来表示关系的方式，解决1-N、N-1、N-N的复杂关系表示问题。下面是TransH的损失函数与几何解释。需要注意的是在计算时一定将wr长度标准化为1。

4 TransR
尽管TransH解决了复杂关系表示问题，但该模型还是将关系与实体的表示放在同一语义空间下，这一定程度上限制了向量表示能力。TransR则认为一个实体是多种属性的综合体，不同关系关注实体的不同属性。TransR认为不同的关系拥有不同的语义空间，对每个三元组首先应将实体投影到对应的关系空间中，然后再建立从头到尾实体的翻译关系。
具体而言，对于每一个关系r，TransR定义投影矩阵Mr，将实体向量从实体空间投影到关系空间，如下图，在关系空间中与头尾实体相似的实体将被分离开来。

之后还有TransD、TranSparse、TransG均是TransE基础上的延申，在这不一一列举。由此可见TransE在知识表示界的重要性。

5实现框架OpenKE
OpenKE，THUNLP基于TensorFlow、PyTorch开发的用于将知识图谱嵌入到低维连续向量空间进行表示的开源框架。在OpenKE中，我们提供了快速且稳定的各类接口，也实现了诸多经典的知识表示学习模型。参考中有OpenKE官方地址

知识表示（KRL）与知识嵌入（KE）相关推荐

知识图谱：知识表示学习（KRL）/知识嵌入（KE）必读论文
OpenKE这是一个用于 KRL/KE 的开源工具包.该存储库提供了标准的 KRL/KE 培训和测试框架.目前,OpenKE 中实现的模型包括 TransE.TransH.TransR.TransD. ...
《论文阅读》开放域对话摘要（长文本|知识嵌入）
<论文阅读>开放域对话摘要(长文本|知识嵌入) 前言相关知识文本摘要对话摘要 Mind the Gap! Injecting Commonsense Knowledge for Ab ...
知识表示学习与图嵌入综述
文章目录一.任务的介绍与背景 1.1 表示空间 1.2 打分函数 1.3 编码模型 1.4 结合辅助信息 1.5 图表示学习二.典型方法三.各方法综述和性能比较 3.1 基于矩阵特征向量计算 3 ...
如何将原图和json融合_双曲知识嵌入：如何将知识“融合”带入新空间？
知识图谱作为人类知识的结构化数据,是构建人工智能的基石.然而目前的知识图谱都是不完备的,所以需要将多个知识图谱融合以获得更完备的知识库.基于表示学习的知识关联作为知识图谱融合的新方法受到了许多关注.但 ...
TransH：将知识嵌入到超平面（知识图谱嵌入）2014 AAAI
论文链接:http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.486.2800&rep=rep1&type=pdf 论文来 ...
论文解读：面向时间感知链接预测的知识嵌入表示（Encoding Temporal Information for Time-Aware Link Prediction）
论文题目:面向时间感知预测的时间信息编码摘要: 现有的知识库大多只从不包含时间信息的三元组中学习数值化嵌入方法,而忽略了知识库中的时间信息.在这篇文章中.提出了一种利用三元组发生时间的时间感知知识库 ...
知识表示学习【知识图谱专栏】
知识表示学习一.知识图谱 1.符号定义: 2.三元组表示的缺陷: 二.知识表示学习 1.分布式表示的特点: 2.三元组和词向量分布式表示三.知识表示经典模型 1.TransE模型 2.TransH ...
雅加达poi_社区环境评估雅加达火车站
雅加达poi To state that one railway station is "Good" can be done in different aspects. There ...
论文阅读_基于知识的提示学习KnowPrompt
英文题目:KnowPrompt: Knowledge-aware Prompt-tuning with Synergistic Optimizationfor Relation Extraction ...

知识表示（KRL）与知识嵌入（KE）

知识表示（KRL）与知识嵌入（KE）相关推荐

最新文章

热门文章