《A Relation-Specific Attention Network for Joint Entity and Relation Extraction》论文

tagging scheme:

对每个关系生成单独的标签sequence，只有头实体和尾实体会被标注，其他被标注为O，此方法能解决重叠三元组问题

这张图是在rk关系下的模型图

input：a sentenc

经过bilstm进行编码得到句子向量{h1, h2......hn}，然后应用注意机制来构建rk的特定句子表征。

Relation-Based Attention Mechanism(最重要的机制)

基于我们的假设，句子中的词在不同的关系下扮演不同的角色。为此，我们提出了一种基于关系的注意机制，为每个关系下的上下文词分配不同的权重。注意力得分按如下方式获得:

sg是全句向量 rk是关系 hi是词向量

这个公式计算的是hi这个词向量在这个关系对这句话的的贡献

sk是经过attention的句子向量

Relational Gated Mechanism：

sg是global representation

gk这个公式是为了衡量到底是sk关系的representation 还是sg这个global representation 对实体抽取更有用（保留的信息数）

uk是保留的关系信息

hi 词向量

hik即为最终句子representation

Relation-Specific Entity Decoder：

hik喂入lstm

P (yki)表示在关系rk下第I个单词的预测标签的概率。

《A Relation-Specific Attention Network for Joint Entity and Relation Extraction》论文相关推荐

经典DL论文研读(part4)--ImageNet Classification with Deep Convolutional Neural Networks
学习笔记,仅供参考,有错必纠文章目录 ImageNet Classification with Deep Convolutional Neural Networks 摘要 Introduction ...
《每日论文》ImageNet Classification with Deep Convolutional Neural Networks
这篇论文是剖析 CNN 领域的经典之作,也是入门 CNN 的必读论文.作者训练了一个面向数量为 1.2 百万的高分辨率的图像数据集 ImageNet, 图像的种类为 1000 种的深度卷积神经网络. ...
AlexNet论文翻译（中英文对照版）-ImageNet Classification with Deep Convolutional Neural Networks
图像分类经典论文翻译汇总:[翻译汇总] 翻译pdf文件下载:[下载地址] 此版为中英文对照版,纯中文版请稳步:[AlexNet纯中文版] ImageNet Classification with De ...
ImageNet Classification with Deep Convolutional Neural Networks论文翻译——中文版
文章作者:Tyan 博客:noahsnail.com | CSDN | 简书翻译论文汇总:https://github.com/SnailTyan/deep-learning-papers- ...
论文《ImageNet Classification with Deep Convolutional Neural Networks》阅读及AlexNet的Tensorflow2复现
论文<ImageNet Classification with Deep Convolutional Neural Networks>阅读及AlexNet的Tensorflow2复现论文 ...
ImageNet Classification with Deep Convolutional Neural Networks论文翻译——中英文对照
文章作者:Tyan 博客:noahsnail.com | CSDN | 简书翻译论文汇总:https://github.com/SnailTyan/deep-learning-papers- ...
论文研读 —— 6. ImageNet Classification with Deep Convolutional Neural Networks (1/3)
文章目录 Authors and Publishment Authors Bibtex Abstract 1. Introduction 2. The Dataset Authors and Publ ...
《ImageNet Classification with Deep Convolutional Neural Networks》翻译
1 引言 2 数据集 3 架构 3.1 ReLU 非线性 3.2 训练多个GPU 3.3 局部响应归一化 3.4 重叠池化 3.5 整体架构 4 减少过拟合 4.1 数据增强 4.2 Dropout ...
论文研读 —— 6. ImageNet Classification with Deep Convolutional Neural Networks (2/3)
文章目录 3. The Architecture 3.1. ReLU Nonlinearity 3.2. Training on Multiple GPUs 3.3. Local Response N ...
论文研读 —— 6. ImageNet Classification with Deep Convolutional Neural Networks (3/3)
文章目录 6. Results 6.1. Qualitative Evaluations 7. Discussion References 6. Results Our results on ILSV ...

《A Relation-Specific Attention Network for Joint Entity and Relation Extraction》论文

《A Relation-Specific Attention Network for Joint Entity and Relation Extraction》论文相关推荐

最新文章

热门文章