SetGNER: General Named Entity Recognition as Entity Set Generation

**任务形式:**识别flat、nest和不连续实体。

**任务建模方式:**采用基于pointer的方式实现任务建模,文本序列中的每个word可以用tag表示,具体为:
三个特征的tags: ⟨∅⟩, indicating no-entityfound; ⟨#⟩, indicating fragment of entity is found;
⟨/s⟩, indicating the end of the generated sequence.
Ptr(⟨∅⟩) = C,
Ptr(⟨#⟩) = C + 1,
Ptr(⟨/s⟩) = C + 2.
序列中其余tags的表示:(j是word在序列中位置)
Ptr(wj ) = C + 3 + j

pointer sequence for entity ei is defined as:

模型结构

1 word level 的encoder

先采用encoder编码器得到token level 的embedding的表示。
之后,采用maxpool 操作,得到word level 的embedding表示。具体是对每个word的tokens中,计算tokens的start和end的表示。
R是word level的表示,size是N*d

2 mention detector

2.1 预测每个head word下有多少个实体?

V = ReLU(WV R + bV )
之后,使用softmax layer计算,得到
loss函数:

2.2 预测一个word是否是entity的head或者tail?

3 parallel generator

由于目标序列由Pointer tags组成,因此在解码之前应将它们转换为单词/标签。我们将此操作表示为 Retrieve(·)

对于retrieve之后的序列,采用bart的decoder完成解码操作。


loss 函数:

训练过程

还有一个反向生成过程。

EMNLP 22:SetGNER: General Named Entity Recognition as Entity Set Generation相关推荐

  1. EMNLP 22:Bi-Directional Iterative Prompt-Tuning for Event Argument Extraction

    总结 文中的前向和后向的思想可以借鉴下. 但总的来看,似乎是通过前向和后向来做的ensemble操作,虽然是在一个模型下,但同时前向和后向概率保证,可能能够使得预测更准确. 任务形式:event ar ...

  2. 论文阅读:(2020版)A Survey on Deep Learning for Named Entity Recognition 命名实体识别中的深度学习方法

    A Survey on Deep Learning for Named Entity Recognition 命名实体识别中的深度学习方法 目录 A Survey on Deep Learning f ...

  3. 论文阅读:A Survey on Deep Learning for Named Entity Recognition

    这是一篇2020年发的命名实体识别的综述性论文,从NER的语料库,定义,评估指标,到深度学习中的NER的技术都有涉及到. A Survey on Deep Learning for Named Ent ...

  4. python命名实体识别工具_Day14:使用斯坦福 NER 软件包实现你自己的命名实体识别器(Named Entity Recognition,NER)...

    编者注:我们发现了有趣的一系列文章<30天学习30种新技术>,正在翻译中,一天一篇更新,年终礼包.下面是第 14 天的内容. 我并不是一个机器学习(Machine Learning).自然 ...

  5. [论文阅读笔记44]Named Entity Recognition without Labelled Data:A Weak Supervision Approach

    一,题目 Named Entity Recognition without Labelled Data:A Weak Supervision Approach 无标记数据的命名实体识别: 一种弱监督方 ...

  6. 复现:Named Entity Recognition with Small Strongly Labeled and Large Weakly Labeled Data

    信达雅的原则: 数据->模型->训练. Named Entity Recognition with Small Strongly Labeled and Large Weakly Labe ...

  7. 论文:Named Entity Recognition with Small Strongly Labeled and Large Weakly Labeled Data

    Named Entity Recognition with Small Strongly Labeled and Large Weakly Labeled Data 目录 Named Entity R ...

  8. 论文解读:Example-Based Named Entity Recognition

    论文解读:Example-Based Named Entity Recognition 核心要点: 本篇工作是比较早的给出了如何定义和实现few-shot NER任务,后续诸多论文均引用该工作: 本文 ...

  9. 解读:Few-shot classification in Named Entity Recognition Task

    解读:Few-shot classification in Named Entity Recognition Task 1 介绍 2 相关工作 3 原型网络 3.1 模型 3.2 适配NER 4 小样 ...

最新文章

  1. c程序设计语言中printf,编程序 用getchar函数读入两个字符c1和c2,然后分别用putchar和printf函数输出这两个字符。请问...
  2. 浅谈redis数据库的键值设计
  3. Fennec Alpha 1 for Windows Mobile available
  4. 【算法习作】荷兰国旗问题
  5. python sqlserver 列名_报表自动化,三流用Excel,二流用Python,一流用它
  6. typedef struct和struct区别
  7. java 复制对象_Java核心知识 基础七 JAVA 复制
  8. 官网下载到离线的Adobe Acrobat Reader DC
  9. 软件无线电波测试软件,SDR软件无线电的测量
  10. SRB x-sign
  11. 两张ID卡,完美消除互相干扰合二为一,实现“一卡”正反两用。
  12. python制作的简单程序_Python如何制作简易收银小程序
  13. 负数和正数的存储方式。
  14. word制作多个单位联合发文的文件头
  15. android弹出自定义layout菜单,Android:PopWindow — 对Android的底部弹窗、顶部弹窗菜单及自定义界面的使用封装...
  16. Java中角度和弧度的转换,三角函数,反三角函数
  17. Stripe 2 (前缀和计数)
  18. 关于使用google map实现周边搜索的功能
  19. 读书笔记--项亮《推荐系统实践》第七章
  20. 计算机硬盘无法启动怎么办,电脑开机找不到硬盘怎么办?

热门文章

  1. 经纬高坐标系-ECEF坐标系-ENU坐标系
  2. 【你不知道的骚操作】一行代码将Python程序转换为图形界面应用
  3. 2022氟化工艺复训题库及模拟考试
  4. 基础数论(3)同余、逆元
  5. 企业网站建设是否需要改版
  6. (一)给计算机和路由器配置IP地址
  7. HCIA网络基础14-VLAN及VLAN间路由
  8. Web前端开发学习3:SEO代码优化
  9. 【信息系统项目管理师】第九章 项目人力资源管理(考点汇总篇)
  10. 谈运营之提高玩家活跃度的新技巧