直播 | AAAI 2021：自然语言中token-aware的虚拟对抗样本训练

「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间，旨在帮助更多的青年学者宣传其最新科研成果。我们一直认为，单向地输出知识并不是一个最好的方式，而有效地反馈和交流可能会让知识的传播更加有意义，从而产生更大的价值。

本期 AI Drive，我们邀请到复旦大学 NLP 组硕士生李林阳，为大家解读其发表于 AAAI 2021 的最新工作。对本期主题感兴趣的小伙伴，1 月 13 日（周三）晚 7 点，我们准时相约 PaperWeekly B 站直播间。

直播信息

自然语言中，对抗样本训练能够显著的提升模型的性能。这一做法是从计算机视觉领域中防御对抗样本攻击时发展出的一类方法，而在自然语言中，我们可以设计出更符合语言序列的对抗训练方法。这篇文章提出的 token-aware 的虚拟对抗样本训练方法，可以生成更为细粒度，“token-aware”的虚拟对抗样本，在自然语言任务（例如 GLUE benchmark）中取得了较好的性能提升。

论文链接：

https://arxiv.org/abs/2004.14543

代码链接：

https://github.com/LinyangLee/Token-Aware-VAT

本次分享的具体内容有：

对抗样本攻击与对抗训练
自然语言中的对抗样本攻击与对抗训练
目前方法存在的两个问题：初始化问题和正则化问题
Token-Aware VAT 的做法
实验结果与分析
总结

嘉宾介绍

李林阳 / 复旦大学NLP组硕士生

李林阳，复旦大学 NLP 组 19 级研究生；导师为邱锡鹏教授；目前研究方向为自然语言中的对抗样本学习。曾以第一作者身份在 EMNLP，AAAI 等会议上发表论文。曾获复旦大学华为奖学金。

直播地址 & 交流群

本次直播将在 PaperWeekly B 站直播间进行，扫描下方海报二维码或点击阅读原文即可免费观看。线上分享结束后，嘉宾还将在直播交流群内实时 QA，在 PaperWeekly 微信公众号后台回复「AI Drive」，即可获取入群通道。

B 站直播间：

https://live.bilibili.com/14884511

合作伙伴

????

现在，在「知乎」也能找到我们了

进入知乎首页搜索「PaperWeekly」

点击「关注」订阅我们的专栏吧

关于PaperWeekly

PaperWeekly 是一个推荐、解读、讨论、报道人工智能前沿论文成果的学术平台。如果你研究或从事 AI 领域，欢迎在公众号后台点击「交流群」，小助手将把你带入 PaperWeekly 的交流群里。

直播 | AAAI 2021：自然语言中token-aware的虚拟对抗样本训练相关推荐

直播 | AAAI 2021最佳论文：比Transformer更有效的长时间序列预测
「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果.我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和 ...
直播 | AAAI 2021：如何缓解GNN预训练和微调之间的优化误差？
「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果.我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和 ...
直播 | AAAI 2021：文本对抗攻防中的对抗训练方法
「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果.我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和 ...
线上直播丨国际人工智能会议AAAI 2021论文北京预讲会，33场报告+31个Poster等你来...
注册官网:https://hub.baai.ac.cn/activity/details/119 国际人工智能会议AAAI 2021论文北京预讲会由中国中文信息学会青年工作委员会主办.智源社区承办,将 ...
直播预告：AAAI 2021专场一| AI TIME PhD
点击蓝字关注我们 AI TIME欢迎每一位AI爱好者的加入! 3月3日晚7:30-9:00 AI TIME特别邀请了一位优秀的讲者跟大家共同开启AAAI 专场一! 哔哩哔哩直播通道扫码关注AITI ...
AAAI 2021 | 基于动态混合关系网络的对话式语义解析方法
作者|惠彬原,耿瑞莹,黎槟华,李永彬,孙健单位|阿里巴巴达摩院Conversational AI团队引言机器可以自己写 SQL 语句吗?当然可以~只需要用自然语言描述你的想法即可,甚至还能进行多 ...
AAAI 2021 顶会论文开源，OCR方向最火开源项目已超1万 star！
一.导读 OCR方向的工程师,一定需要知道这个OCR开源项目:PaddleOCR 短短半年时间,累计Star数量已超过11.5K, 频频登上Github Trending和Paperswithcode ...
AAAI 2021 | 时间序列相关论文汇总
会议介绍 AAAI的英文全称是 The Association for the Advance of Artificial Intelligence,中文意思是美国人工智能协会. 美国人工智能协会(A ...
AAAI 2021最佳论文《Informer》作者：Transformer 最新进展
作者:周号益,彭杰奇单位:北京航空航天大学自2017年,Ashish Vaswani等人在<Attention Is All You Need>这篇文章种提出了Transformer模 ...

直播 | AAAI 2021：自然语言中token-aware的虚拟对抗样本训练

直播 | AAAI 2021：自然语言中token-aware的虚拟对抗样本训练相关推荐

最新文章

热门文章