Abstract & Introduction & Related Work

研究任务
嵌套NER
已有方法和相关工作
面临挑战
创新思路
用依赖解析来做NER
实验结论
sota

Methods

输入用bert，fasttext，char 三种embedding

bert用(Kantor and Globerson, 2019)的方案，得到一个目标token的上下文相关嵌入，每边有64个周围token

char embedding 用CNN

三种embedding concat起来丢到BiLSTM里面

对于每一个span，把首尾的特征丢入一个全连接层里面去，得到h然后再用双仿射得到 $r_m$

$r_m$ 提供了在限制首在尾前面的条件下所有可能的span能构成一个命名实体的得分，然后通过argmax来得到一个实体类别

对于嵌套式NER，只要一个实体不与排名较高的实体的边界发生冲突，就会被选中

对于平面NER，我们还应用了一个约束条件，即任何包含或位于排在它之前的实体的实体都不会被选中。我们的命名实体识别器的学习目标是分配给一个正确的类别（包括非实体）给每个有效的span。因此，它是一个多类分类问题，我们用softmax交叉熵来优化我们的模型

Experiments

Conclusion

在本文中，我们将NER重新表述为一个结构化的预测任务，并采用了SoTA依赖性解析方法来进行嵌套和平面的NER。我们的系统使用上下文嵌入作为多层BiLSTM的输入。我们采用一个双线性模型为一个句子中的所有跨度分配分数。进一步的约束被用来预测嵌套的或平面的命名实体。我们在八个命名实体语料库中评估了我们的系统。结果显示，我们的系统在所有八个语料库中都实现了SoTA。我们证明了先进的结构化预测技术对嵌套和平面的NER都有很大的改善

Remark

本来看到标题都把我劝退了，依赖解析？？我不会啊，CS224n讲这个我都听的云里雾里没有去搞清楚，然后一看模型，才一页？？！马上开始读，然后读完，感觉神清气爽，好像跟依赖解析没有太大关系，用一个简单的模型做到了sota，不愧是Google参与出品，比起上一篇那东西好多了，而且还研究的是热门的flat/nested NER，爱了爱了

Raki的读paper小记：Named Entity Recognition as Dependency Parsing相关推荐

Raki的读paper小记：Named Entity Recognition without Labelled Data: A Weak Supervision Approach（半成品）
Abstract & Introduction & Related Work 研究任务无标注数据NER学习已有方法和相关工作 Unsupervised domain adaptat ...
Raki的读paper小记：Prompting ELECTRA: Few-Shot Learning with Discriminative Pre-Trained Models
Abstract&Introduction&Related Work 研究任务基于提示学习的ELECTRA 已有方法和相关工作 ELECTRA 面临挑战基于判别模型的预训练模型的f ...
Raki的读paper小记：OFA: UNIFYING ARCHITECTURES, TASKS, AND MODALITIES THROUGH A SIMPLE Seq2Seq FRAMEWORK
Abstract&Introduction&Related Work 研究任务多模式预训练的统一范式包括图像生成.visual-grounding(visual grounding ...
Raki的读paper小记：Image as a Foreign Language: BEIT Pretraining for All Vision and Vision-Language Tasks
Abstract&Introduction&Related Work 研究任务语言+视觉模态预训练任务已有方法和相关工作 masked data已经成为一种主流面临挑战现有的多 ...
Raki的读paper小记：Forget-free Continual Learning with Winning Subnetworks
Abstract&Introduction&Related Work 研究任务用子网络做CL 已有方法和相关工作彩票假说(LTH)证明了稀疏子网络(称为中奖彩票)的存在,这些子网络 ...
Raki的读paper小记：Neuro-Inspired Stability-Plasticity Adaptation for Continual Learning in Sparse Nets
Abstract&Introduction&Related Work 研究任务 Continual Learning 已有方法和相关工作面临挑战创新思路利用持续学习过程中的持续稀 ...
Named Entity Recognition without Labelled Data:A Weak Supervision Approach论文详读
Named Entity Recognition without Labelled Data: A Weak Supervision Approach 无标记数据的命名实体识别:一种弱监督方法创新点 ...
PapeDeading:Deep into Regularity: A Simple but Effective Method for Chinese Named Entity Recognition
Deep into Regularity: A Simple but Effective Method for Chinese Named Entity Recognition 文章目录摘要结论 ...
【论文精读】A Survey on Deep Learning for Named Entity Recognition
A Survey on Deep Learning for Named Entity Recognition 前言 Abstract 1. INTRODUCTION 2. BACKGROUND 2.1 ...
论文阅读笔记-FGN: Fusion Glyph Network for Chinese Named Entity Recognition
论文地址:paper:https://arxiv.org/ftp/arxiv/papers/2001/2001.05272.pdf github地址:github:https://github.com ...

Raki的读paper小记：Named Entity Recognition as Dependency Parsing