⬆⬆⬆              点击蓝字

关注我们

AI TIME欢迎每一位AI爱好者的加入！

11月20日晚7:30-9:00

AI TIME特别邀请了3位优秀的讲者跟大家共同开启EMNLP 2020 专场四！

哔哩哔哩直播通道

扫码或点击链接

关注AITIME哔哩哔哩官方账号

观看直播

链接：https://live.bilibili.com/21813994

★ 邀请嘉宾 ★

刘乾：北京航空航天大学与微软亚洲研究院联合培养博士，主要关注在上下文建模、语义解析、组合泛化等话题，目前以第一作者身份在ACL, EMNLP, NeurIPS等会议发表相关论文6篇。

报告题目：

用语义分割的思路解决不完整话语重写任务：一种全新的观点

摘要：

近些年单轮对话的理解已经取得了较大的进展，但多轮对话仍然是研究界的难题。多轮对话的一大挑战就在于用户会抛出语义不完整的问题，如省略实体，或者通过代词指代到对话历史中的实体。这样的挑战推动了上下文理解方向的研究工作，包括早期端到端的上下文建模方法，和近期研究者们所关注的不完整话语重写(Incomplete Utterance Rewriting)。不完整话语重写，旨在于将对话中语义不完整的句子重写为一个语义完整的、可脱离上下文理解的句子，以恢复所有指代和省略的信息。由于该任务的输出严重依赖于输入，已有工作绝大部分都是在复制网络的基础上改进。与他们不同，我们另辟蹊径地将该任务视为一个面向对话编辑的任务，并据此提出一个全新的、使用语义分割思路来解决不完整话语重写的模型。在四个公开数据集上，我们的模型都取得了相似或更好的性能。同时，由于我们的模型并行地预测编辑操作，我们可以取得将近4倍的加速比。

论文相关代码：

https://github.com/microsoft/ContextualSP

★ 邀请嘉宾 ★

焦文祥：香港中文大学计算机科学与工程系博士生，导师为金国庆教授与吕荣聪教授。主要研究方向为基于对话的情绪识别和神经机器翻译。

报告题目：

数据重生：挖掘神经机器翻译训练数据中的不活跃样本

摘要：

大规模训练数据集是神经机器翻译（Neural Machine Translation, NMT）模型最近取得成功的核心。但是，大数据中的复杂模式和潜在噪声使训练NMT模型变得困难。在这项工作中，我们尝试去定位大规模训练数据中的不活跃样本，即那些对NMT模型性能的影响较小的样本，并且我们验证了不活跃样本的存在主要取决于数据分布。进一步，我们提出了数据重生，通过改善不活跃样本来改进大规模数据集上NMT模型的训练。我们提出的框架包括三个阶段。首先，我们在原始训练数据上训练一个识别模型，并利用它输出每个训练样本的句子级别概率，从而区分不活跃样本和活跃样本。接着，我们在活跃样本上训练一个激活模型，该激活模型被用来对不活跃样本进行正向翻译，从而实现对不活跃样本的重新标记。最后，我们将被激活样本与活跃样本结合起来，训练最终的NMT模型。在WMT14的英语-德语和英语-法语数据集上的实验结果表明，我们提出的数据重生方法一致并显著地提高了几种当前最好的NMT模型的性能。更进一步的分析表明，我们的方法稳定并加速了NMT模型的训练过程，最终获得了泛化能力更强的NMT模型。

★ 邀请嘉宾 ★

陆玉晨：就读于加拿大蒙特利尔大学MILA实验室的博士生。主要研究方向是语言获取，系统性泛化， 以及语言学习和强化学习的交叉。

报告题目：

通过迭代学习缓解语言迁移问题

摘要：

人类有千万种不同的种族文化，但人类语言是如何进化出一些共通形式？“语言迭代模型”表示：语言本身是通过进化来适应个体之间知识传输的“学习瓶颈”（learning bottleneck），而这些“学习瓶颈”的共通性，造成了人类语言的结构共通性。

。虽然迭代模型是一个认知科学理论，在本文中，我们探讨如何将该模型在深度学习的框架下实现。通过该模型，我们提出一个方法来解决在交互式语言学习中经常会碰到的问题：语言迁移（language drift）。

直播结束后我们会邀请讲者在微信群中与大家答疑交流，请添加“AI TIME小助手（微信号：AITIME_HY）”,回复“phd”，将拉您进“AITIME PhD 交流群-1”！

AI TIME微信小助手

主       办：AI TIME 、AMiner

联合支持：中国工程院知领直播、学堂在线、CSDN

公益合作：智谱·AI、学术头条、biendata、大数据文摘、数据派、 Ever链动、机器学习算法与自然语言处理

清华情怀·AITIME基地

1911主题餐厅

AI TIME期待与你线下相聚！

AI TIME欢迎AI领域学者投稿，期待大家剖析学科历史发展和前沿技术。针对热门话题，我们将邀请专家一起论道。同时，我们也长期招募优质的撰稿人，顶级的平台需要顶级的你，

请将简历等信息发至yun.he@aminer.cn！

微信联系:AITIME_HY

AI TIME是清华大学计算机系一群关注人工智能发展，并有思想情怀的青年学者们创办的圈子,旨在发扬科学思辨精神，邀请各界人士对人工智能理论、算法、场景、应用的本质问题进行探索，加强思想碰撞，打造一个知识分享的聚集地。

更多资讯请扫码关注