EMNLP 22:SetGNER: General Named Entity Recognition as Entity Set Generation
SetGNER: General Named Entity Recognition as Entity Set Generation
**任务形式:**识别flat、nest和不连续实体。
**任务建模方式:**采用基于pointer的方式实现任务建模,文本序列中的每个word可以用tag表示,具体为:
三个特征的tags: ⟨∅⟩, indicating no-entityfound; ⟨#⟩, indicating fragment of entity is found;
⟨/s⟩, indicating the end of the generated sequence.
Ptr(⟨∅⟩) = C,
Ptr(⟨#⟩) = C + 1,
Ptr(⟨/s⟩) = C + 2.
序列中其余tags的表示:(j是word在序列中位置)
Ptr(wj ) = C + 3 + j
pointer sequence for entity ei is defined as:
模型结构
1 word level 的encoder
先采用encoder编码器得到token level 的embedding的表示。
之后,采用maxpool 操作,得到word level 的embedding表示。具体是对每个word的tokens中,计算tokens的start和end的表示。
R是word level的表示,size是N*d
2 mention detector
2.1 预测每个head word下有多少个实体?
V = ReLU(WV R + bV )
之后,使用softmax layer计算,得到
loss函数:
2.2 预测一个word是否是entity的head或者tail?
3 parallel generator
由于目标序列由Pointer tags组成,因此在解码之前应将它们转换为单词/标签。我们将此操作表示为 Retrieve(·)
对于retrieve之后的序列,采用bart的decoder完成解码操作。
loss 函数:
训练过程
还有一个反向生成过程。
EMNLP 22:SetGNER: General Named Entity Recognition as Entity Set Generation相关推荐
- EMNLP 22:Bi-Directional Iterative Prompt-Tuning for Event Argument Extraction
总结 文中的前向和后向的思想可以借鉴下. 但总的来看,似乎是通过前向和后向来做的ensemble操作,虽然是在一个模型下,但同时前向和后向概率保证,可能能够使得预测更准确. 任务形式:event ar ...
- 论文阅读:(2020版)A Survey on Deep Learning for Named Entity Recognition 命名实体识别中的深度学习方法
A Survey on Deep Learning for Named Entity Recognition 命名实体识别中的深度学习方法 目录 A Survey on Deep Learning f ...
- 论文阅读:A Survey on Deep Learning for Named Entity Recognition
这是一篇2020年发的命名实体识别的综述性论文,从NER的语料库,定义,评估指标,到深度学习中的NER的技术都有涉及到. A Survey on Deep Learning for Named Ent ...
- python命名实体识别工具_Day14:使用斯坦福 NER 软件包实现你自己的命名实体识别器(Named Entity Recognition,NER)...
编者注:我们发现了有趣的一系列文章<30天学习30种新技术>,正在翻译中,一天一篇更新,年终礼包.下面是第 14 天的内容. 我并不是一个机器学习(Machine Learning).自然 ...
- [论文阅读笔记44]Named Entity Recognition without Labelled Data:A Weak Supervision Approach
一,题目 Named Entity Recognition without Labelled Data:A Weak Supervision Approach 无标记数据的命名实体识别: 一种弱监督方 ...
- 复现:Named Entity Recognition with Small Strongly Labeled and Large Weakly Labeled Data
信达雅的原则: 数据->模型->训练. Named Entity Recognition with Small Strongly Labeled and Large Weakly Labe ...
- 论文:Named Entity Recognition with Small Strongly Labeled and Large Weakly Labeled Data
Named Entity Recognition with Small Strongly Labeled and Large Weakly Labeled Data 目录 Named Entity R ...
- 论文解读:Example-Based Named Entity Recognition
论文解读:Example-Based Named Entity Recognition 核心要点: 本篇工作是比较早的给出了如何定义和实现few-shot NER任务,后续诸多论文均引用该工作: 本文 ...
- 解读:Few-shot classification in Named Entity Recognition Task
解读:Few-shot classification in Named Entity Recognition Task 1 介绍 2 相关工作 3 原型网络 3.1 模型 3.2 适配NER 4 小样 ...
最新文章
- c程序设计语言中printf,编程序 用getchar函数读入两个字符c1和c2,然后分别用putchar和printf函数输出这两个字符。请问...
- 浅谈redis数据库的键值设计
- Fennec Alpha 1 for Windows Mobile available
- 【算法习作】荷兰国旗问题
- python sqlserver 列名_报表自动化,三流用Excel,二流用Python,一流用它
- typedef struct和struct区别
- java 复制对象_Java核心知识 基础七 JAVA 复制
- 官网下载到离线的Adobe Acrobat Reader DC
- 软件无线电波测试软件,SDR软件无线电的测量
- SRB x-sign
- 两张ID卡,完美消除互相干扰合二为一,实现“一卡”正反两用。
- python制作的简单程序_Python如何制作简易收银小程序
- 负数和正数的存储方式。
- word制作多个单位联合发文的文件头
- android弹出自定义layout菜单,Android:PopWindow — 对Android的底部弹窗、顶部弹窗菜单及自定义界面的使用封装...
- Java中角度和弧度的转换,三角函数,反三角函数
- Stripe 2 (前缀和计数)
- 关于使用google map实现周边搜索的功能
- 读书笔记--项亮《推荐系统实践》第七章
- 计算机硬盘无法启动怎么办,电脑开机找不到硬盘怎么办?