论文浅尝 - TACL2020 | 改进低资源跨语言实体链接的候选生成问题
论文笔记整理:谭亦鸣,东南大学博士。
来源:TACL 2020
链接:
https://arxiv.org/ftp/arxiv/papers/2003/2003.01343.pdf
1.背景介绍
跨语言实体链接(Cross-lingual Entity Linking, XEL)旨在利用源语言文本中实体描述(提及),从目标语言的知识库中获取对应的参照实体,其解决方法一般分为两个步骤:1.候选生成;2.实体挑选。这一任务在富资源场景下(如Wikipeida)取得了不错的研究成果,但是并没有很好的扩展到低资源语言上(Low-resource Language, LRL)。虽然近期利用迁移学习的工作通过利用相关语言资源能够一定程度上缓解LRL对资源的需求,但是其实验性能依旧远逊于富资源的XEL模型。
其中一个主要原因是,跨语言的实体链接无法像单语那样使用序列匹配的方式解决候选生成问题,虽然Wikipedia提供了inter language links这样的多语言实体对齐资源,具有一定可扩展的潜力,但是现阶段的工作依然表现不佳。也有一些工作提出利用翻译模型生成LRL的英文实体,或者基于实体词典训练跨语言的序列匹配模型。然而这些方法在Top-30的候选实体上依然远不如富资源,且有落后达70%的候选召回率。
动机
作者对现有的SOAT候选生成模型Rijhwani et al. (2019)进行错误分析,发现两个普遍存在的错误原因:1.知识库与文本中实体名(提及)的误匹配;2.字符串匹配模型本身的失误。
如图1所示,这是一个Marathi语言到英语知识库的链接实示例(一种来自印度西部地区的小语种)。在这个例子中,第一类错误表现为英语实体Cobie Smulders被匹配到文本中的Smulders(绿色部分)或者Jacoba Francisca Maria Smulders(黄色部分);第二类错误则是类似蓝色例子中的Cobie Smulder被序列匹配到Cobie Sikkens上。
为了解决这两类问题,作者提出如下改进:
对于误匹配问题,作者注意到learning-based方法中,包括(Pan et al., 2017; Rijhwani et al., 2019)等工作的候选生成模型训练数据集是由“实体-实体”组构成,这就使得模型无法捕捉文本中可能存在提及的多样性。因此,作者将“提及-实体”组也添加到训练数据中,从而提供更明确的监督。此外,注意到许多源语言资源(variation)与其英文表示存在的相似性,因此也可以使用英文语言资源去获取它们。因此作者从英文Wikipedia中收集了实体的别名资源,并允许模型在生成候选的时候查询这些别名。
本文的第二个贡献是改进了对提及以及实体字符串的表示策略。作者首先假定Rijhwani et. al 2019的LSTM模型可能存在的部分问题,即未能对字符串中所有的单词进行适当的表示学习,这可能是因为该模型不是很适合在LRL上进行学习。在这里,作者提出改用基于字符n-gram的embedding方法替代LSTM。
2.模型/方法
首先对现有模型的不足进行实验分析,以印证本文猜测。
2.1提及类型与分析
作者使用HRL(富资源语言,这里使用的是Amharic, Hindi和Thai等语言)-EN的实体组作为训练数据集(数据集信息实验部分会做说明),训练了一个Pivoting-based Entity Linking(PBEL)模型用于生成LRL文本中抽取出的实体提及所对应的候选实体。在LRL方面使用了Tigrinya, Oromo, Marathi以及Lao等四种语言。
作者从每个LRL随机抽取100个系统输出,并在性能分析时对它们的提及创建类型,并做人工标注,主要包含以下类型:
DIRECT:直接音译
ALIAS:别名(与KB中的完全不同);
TRANS:字对字翻译;
EXTRA_SRC:在提及中至少多了一个(非专有名词)单词;
EXTRA_ENG:在英文实体中至少多了一个(非专有名词)单词;
BAD_SPAN:提及范围不是一个实体(实体抽取部分出错);
对于每个候选实体样本,作者考虑了三种场景:Top-1(目标实体是Top-1候选);Top-2~30;不属于Top-30。图2描述了这组场景和样本的分布情况,可以看到Top-30完全无法覆盖目标实体的三类提及是:ALIAS,EXTRA_SRC,EXTRA_ENG。
2.2模型改进
首先作者在保持“实体-实体”组训练集的基础上,收集了“提及-实体”组,用于扩充训练数据。其次,通过利用Wikipeida中的“alsoknown as”获取到英语实体的别名列表,用于扩充可产生候选实体的匹配范围(公式1)。
之后,作者使用CHARAGRAM,替换Bi-LSTM作为字符串的编码模型,其结构如图3所示:
字符串的编码过程如下:
其中,N是预设的滑动窗口尺寸,V是训练数据集中所有出现的n-gram的集合,如果n-gram是未出现在V中的,那么将会直接音译。
3.实验
数据
DARPA-LRL:来自新闻,博客和社交媒体,包含Tigrinya (ti), Oromo (om), Kinyarwanda (rw), Marathi (mr), Sinhala (si)以及Lao (lo)等小语种语言。
WIKI:Wikipedia中的子数据集(Pan et al., 2017; Rijhwani et al., 2019)
各语言的表示方式见表2。
结果
作者给出了各模型上Top-30候选的召回率作为评价标准,如表3所示:
并再一次做了错误分析,对比可以看到,新的方法在各提及类型上都产生了一定的效果:
OpenKG
开放知识图谱(简称 OpenKG)旨在促进中文知识图谱数据的开放与互联,促进知识图谱和语义技术的普及和广泛应用。
点击阅读原文,进入 OpenKG 网站。
论文浅尝 - TACL2020 | 改进低资源跨语言实体链接的候选生成问题相关推荐
- 论文浅尝 - EMNLP2020 | 低资源跨语言实体链接中的设计挑战
论文笔记整理:谭亦鸣,东南大学博士. 来源:EMNLP 2020 链接:https://arxiv.org/pdf/2005.00692.pdf 1.背景介绍 跨语言实体链接(XEL)旨在将任一非英语 ...
- 论文浅尝 - COLING2020 | 一种用于跨语言实体对齐的上下文对齐强化跨图谱注意力网络...
笔记整理 | 谭亦鸣,东南大学博士生 来源:COLING 2020 链接:https://www.aclweb.org/anthology/2020.coling-main.520.pdf 本文发现, ...
- 论文浅尝 | 基于属性embeddings的跨图谱实体对齐
论文笔记整理:谭亦鸣,东南大学博士生,研究方向为知识库问答. 来源:AAAI 2019 链接:https://aaai.org/ojs/index.php/AAAI/article/view/3798 ...
- 论文浅尝 - TACL2020 | TYDI QA:Google 发表一个多语言的问答语料库
论文笔记整理:吴林娟,天津大学硕士. 链接: https://arxiv.org/ftp/arxiv/papers/2003/2003.05002.pdf 动机 具有挑战性.值得信赖的评估数据可以促进 ...
- 论文浅尝 | 直译优于翻译?混合语言的知识库问答方法研究
动机 作者思考,如果一个人懂多个语言,那么只要他知道某一语言的某个事实,就能以它作为另一语言问题的答案,同时希望证明计算机是否也能做到这一点,并完成混合语言的简单问题知识问答任务(Code-Mix S ...
- 论文浅尝 | 基于属性嵌入的知识图谱实体对齐
论文笔记整理:王中昊,天津大学硕士,方向:自然语言处理. 来源:AAAI2019 论文链接: https://doi.org/10.1609/aaai.v33i01.3301297 概述 知识图谱之间 ...
- 论文浅尝 | 探索将预训练语言模型用于事件抽取和事件生成
论文笔记整理:郝凯龙,南京大学硕士 链接:https://www.aclweb.org/anthology/P19-1522.pdf 动机 传统的 ACE 事件抽取任务依赖于人工标注的数据,耗费大量的 ...
- 论文浅尝 | 一个模型解决所有问题:实体和事件的神经联合模型
笔记整理:康矫健,浙江大学计算机科学与技术系,硕士研究生. 论文链接:https://arxiv.org/pdf/1812.00195.pdf 发表会议:AAAI 2019 摘要 近来,针对事件 ...
- 论文浅尝 | 面向开放域的无监督实体对齐
笔记整理 | 谭亦鸣,东南大学博士生 来源:DASFAA'21 链接:https://arxiv.org/pdf/2101.10535.pdf 概述与动机 知识图谱对齐的目的是建立两个不同知识图谱之间 ...
最新文章
- 【Lintcode】046.Majority Number
- php读取csv指定行_PHP快速读取CSV大文件指定行
- android php 项目代码混淆,Android Studio配置反混淆的实现
- 远哥跟你说 Spring的 classpath 通配符加载配置文件
- androidstudio can't run git.exe
- Steam家庭共享教程
- java null转string_java null强转string
- 百度云下载不限速方式集合
- 超简洁好看的个人网站导航页源码
- C# Revit二次开发
- TE波TM波和TEM波波阻抗
- 微信小程序开发工具项目的基本组成结构
- 老鹰:我要抓走倒数第K个小鸡
- PostgreSQL 简介
- sql—labs通关
- JS根据日期计算年龄
- Set 直接转成 数组
- Lync 2010升级到Lync 2013 之部署WAC 角色服务器!
- markdown 数学公式 任意符号 存在符号
- reportlab教程1--第一个pdf生成
热门文章
- 在艰苦年代,买不起万用表,怎么测量电路电压?
- fedora linux命令,Fedora Linux的一些常用设置和常用命令
- 程序员开发windows linux,好程序员不用windows作开发环境
- python特征匹配 查找_特征匹配+单纯形查找对象
- android转流媒体,android 4.4中的流媒体渲染过程
- 十三、CSS 3新特性详解(一)——属性、结构伪类、伪元素选择器,nth-child与nth-of-type区别,2D rotate,calc函数、滤镜filter、过渡transition
- LeetCode 756. 金字塔转换矩阵(回溯)
- LeetCode MySQL 1384. 按年度列出销售总额
- LeetCode MySQL 185. 部门工资前三高的所有员工(dense_rank)
- LeetCode MySQL 1468. 计算税后工资