直播 | ACL 2021论文解读：为结构预测问题自动寻找更强的词嵌入拼接方式

「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间，旨在帮助更多的青年学者宣传其最新科研成果。我们一直认为，单向地输出知识并不是一个最好的方式，而有效地反馈和交流可能会让知识的传播更加有意义，从而产生更大的价值。

本期 AI Drive，我们邀请到上海科技大学博士生王新宇，为大家在线解读其发表在 ACL 2021 的最新研究成果：Automated Concatenation of Embeddings for Structured Prediction。对本期主题感兴趣的小伙伴，7 月 29 日（周四）晚 7 点，我们准时相约 PaperWeekly B 站直播间。

直播信息

最近的工作发现通过拼接不同类型的词嵌入可以获得更好的词特征，从而进一步提高自然语言处理中结构预测问题的效果。但找到最佳的词嵌入拼接组合往往与具体的任务和可候选的词嵌入种类有关。同时，随着基于上下文信息的预训练语言模型的种类增加，让这个问题变得更加困难。

受神经架构搜索的最新进展所启发，本研究提出了自动化拼接嵌入 (ACE) 的方法，为结构化预测任务寻找更好的嵌入拼接。该方法使用一个控制器来对嵌入的拼接进行采样，根据任务模型基于嵌入拼接的准确度计算奖励，通过强化学习来优化控制器的参数。实验结果表明该方法在 6 个任务的 21 个数据集达到了 state-of-the-art。目前代码已公开。

论文链接：

https://arxiv.org/abs/2010.05006

代码链接：

https://github.com/Alibaba-NLP/ACE

本次分享的具体内容有：

背景介绍：结构预测问题背景的基本介绍
研究动机：介绍为什么要使用 ACE 来进行自动化拼接词嵌入的搜索
具体方法：介绍 ACE 的基本架构和方式
实验结果：多个公开的结构预测问题的数据集的实验结果与分析
工作总结：总结与展望

嘉宾介绍

王新宇 / 上海科技大学博士生

王新宇，上海科技大学博士生，导师为屠可伟教授。主要研究方向为自然语言处理中结构预测问题。目前以第一作者身份已在 ACL、EMNLP 等国际会议发表十余篇论文，其中 ACL 2021 有三篇一作长文被主会接收。

直播地址 & 交流群

本次直播将在 PaperWeekly B 站直播间进行，扫描下方海报二维码或点击阅读原文即可免费观看。线上分享结束后，嘉宾还将在直播交流群内实时 QA，在 PaperWeekly 微信公众号后台回复「AI Drive」，即可获取入群通道。

B 站直播间：

https://live.bilibili.com/14884511

合作伙伴

????

现在，在「知乎」也能找到我们了

进入知乎首页搜索「PaperWeekly」

点击「关注」订阅我们的专栏吧

直播 | ACL 2021论文解读：为结构预测问题自动寻找更强的词嵌入拼接方式相关推荐

直播 | ACL 2021论文解读：表征与结构兼备，结构化语言模型R2D2
「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果.我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和 ...
直播 | ACL 2021论文解读：低资源语言场景下的跨语言文本摘要
「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果.我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和 ...
直播 | ACL 2021论文解读：基于对抗学习的事件抽取预训练模型
「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果.我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和 ...
直播 | ACL 2021论文解读：提升预训练语言模型实体与关系理解的统一框架
「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果.我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和 ...
直播 | ICLR 2021论文解读：兼听则明，信而有征：可信多模态分类
「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果.我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和 ...
今晚直播 | NeurIPS 2021论文解读：基于置信度校正的可信图神经网络
「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果.我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和 ...
直播 | CIKM 2021论文解读：基于广群的知识图谱表示学习统一模型框架
「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果.我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和 ...
直播 | ICML 2021论文解读：对神经网络中层特征复杂度的解释与拆分
「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果.我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和 ...
今晚直播 | ICML 2021论文解读：基于Cox-MLP模型的二阶段共形预测
「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果.我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和 ...

直播 | ACL 2021论文解读：为结构预测问题自动寻找更强的词嵌入拼接方式

直播 | ACL 2021论文解读：为结构预测问题自动寻找更强的词嵌入拼接方式相关推荐

最新文章

热门文章