Abstract

本文提出一种基于复制机制的seq2seq学习的端到端模型，可以从任何这类的句子中联合提取相关事实，在解码过程中采用两种不同的策略：一个联合解码器和多个分离解码器。

Instruction

一个句子没有重叠三元组：Normal类
一个句子某些三元组中的某些实体对重叠：EntityPairOverlap（EPO）类
一个句子的某些三元组中有一个重叠的实体，而这些三元组中没有重叠的实体对：SingleEntityOverlap(SEO)类

Model

Encoder

将一个句子s=[w1,...,wn]s=[w_1,...,w_n]s=[w1,...,wn]转化为矩阵x=[x1,...,xn]x=[x_1,...,x_n]x=[x1,...,xn]，然后通过RNN编码器读取矩阵xxx，生成输出和隐藏转态ot,ht=f(xt,ht−1)o_t,h_t=f(x_t, h_{t-1})ot,ht=f(xt,ht−1)

Decoder

首先解码生成三元组的关系，其次解码器从源句子中复制一个实体作为三元组的第一个实体，最后解码器从源句子中复制第二个实体，重复此过程，解码器可以生成多个三元组。

（a)是oneDecoder模型的解码器，仅使用一个解码器（带阴影的矩形），并且使用the sentence representation初始化该编码器。
（b）是multiDecoder模型的解码器，有两个解码器（带阴影的矩形），第一个用s初始化，其他的解码器使用之前的隐藏状态和s进行初始化

Predict Relation

假设有m个有效关系，本文使用全连接层来计算置信向量：qr=selu(obW+b)q^r=selu(o_bW+b)qr=selu(obW+b)

Copy the First Entity

要复制第一个实体，本文计算源句中所有单词的置信向量：qe=[q1e,...,qne]q^e=[q^e_1,...,q^e_n]qe=[q1e,...,qne]，计算方式如关系预测

Copy the Seconda Entity

复制第二个实体与复制第一个实体相同，唯一的区别是两次不能是同一个实体

Result

启示

模型太复杂了，效果也一般

Extracting Relational Facts by an End-to-End Neural Model with Copy Mechanism相关推荐

论文：Extracting Relational Facts by an End-to-End Neural Model with Copy Mechanism
译文: Abstract 句子中的关系事实往往是复杂的.不同的关系三元组在一个句子中可能有重叠.根据三元组重叠程度,我们将句子分为三种类型:普通.实体对重叠和单实体重叠.现有的方法主要集中在普通类上, ...
关系重叠？实体嵌套？曝光偏差？这个模型统统都搞得定！
©PaperWeekly · 作者|王雨城学校|中国科学院信息工程研究所硕士研究方向|自然语言处理本文提出了一种新的实体关系联合抽取标注方案,可在一个模型中实现真正意义上的单阶段联合抽取,不存在 ...
什么？！“路由器”也会做信息抽取了？
文 | 雨城编 | QvQ 前几周,一个"撞脸"路由器的联合抽取模型TPLinker横空出世,将NYT数据集的分数直接刷上了90,提高了2个百分点.卖萌屋邀请到作者雨城,来聊一聊 ...
【2021最新综述】Deep Neural Approaches to Relation Triplets Extraction：A Comprehensive Survey
[2021最新综述]Deep Neural Approaches to Relation Triplets Extraction:A Comprehensive Survey 1 Introducti ...
nlp中的实体关系抽取方法总结
点击上方,选择星标或置顶,每天给你送干货! 阅读大概需要35分钟跟随小博主,每天进步一丢丢来自:知乎地址:https://zhuanlan.zhihu.com/p/77868938 作者:Jay ...
知识图谱课程报告-关系抽取文献综述
关系抽取文献综述引言: 随着大数据的不断发展,在海量的结构化数据或非结构化数据中更低成本的抽取出有价值的信息越来越重要,可以说信息抽取是自然语言处理领域的一项最基本任务,信息抽取进而可被分成三个 ...
ACL 2018 ACCEPTED PAPER
ACL 2018接受了258篇长论文和126篇短论文,总体接受率为24.9%. 论文官方地址:https://acl2018.org/programme/papers/ 详细如下: Long Pape ...
NLP中的关系抽取方法归纳
文章目录前言命名实体识别任务 Softmax和CRF 指针网络 span排列关系分类任务半监督学习方法基于远程监督的优化多示例学习强化学习预训练监督学习方法联合抽取共享参数的联合 ...
[论文阅读笔记53]2021深度神经方法的关系三元组抽取综述
1. 题目 Deep Neural Approaches to Relation Triplets Extraction: A Comprehensive Survey Tapas Nayak†, N ...

Extracting Relational Facts by an End-to-End Neural Model with Copy Mechanism