”每周一起读“是由 PaperWeekly 发起的论文共读活动,我们结合自然语言处理、计算机视觉和机器学习等领域的顶会论文和前沿成果来指定每期论文,并且邀请论文作者来到现场,和大家展开更有价值的延伸讨论。

我们希望能为 PaperWeekly 的各位读者带来一种全新的论文阅读体验、一个认识同好、找到组织的契机、一次与国际顶会论文作者当面交流的机会。

6 月 16 日(周日)下午 2 点,“每周一起读”将邀请清华大学计算机系本科生张正彦和博士生韩旭,和大家分享他们发表于自然语言处理顶级会议 ACL 2019 的最新文章。论文提出了一个基于知识增强的语言表示模型 ERNIE,可以从大规模的文本语料和先验知识丰富的知识图谱中学习到字、词、句以及知识表示等内容。

01# 本 期 嘉 宾

  张正彦  

清华大学计算机系本科生


张正彦,清华大学计算机系本科生,来自清华大学自然语言处理组,由刘知远副教授指导,主要研究方向为自然语言处理中的无监督文本表示学习方法。目前已在自然语言处理国际会议 ACL 上发表论文。

  韩旭  

清华大学计算机系博士生

韩旭,清华大学计算机系博士生二年级,来自清华大学自然语言处理组,由刘知远副教授指导,主要研究方向为自然语言处理及信息抽取。目前已在人工智能、自然语言处理等领域国际会议 ACL,EMNLP,NAACL,COLING,AAAI 发表相关论文多篇,在 Github 上维护开源工程多项。

02# 本 期 论 文

  ACL 2019  

Abstract: Neural language representation models such as BERT pre-trained on large-scale corpora can well capture rich semantic patterns from plain text, and be fine-tuned to consistently improve the performance of various NLP tasks. However, the existing pre-trained language models rarely consider incorporating knowledge graphs (KGs), which can provide rich structured knowledge facts for better language understanding. We argue that informative entities in KGs can enhance language representation with external knowledge. In this paper, we utilize both large-scale textual corpora and KGs to train an enhanced language representation model (ERNIE), which can take full advantage of lexical, syntactic, and knowledge information simultaneously. The experimental results have demonstrated that ERNIE achieves significant improvements on various knowledge-driven tasks, and meanwhile is comparable with the state-of-the-art model BERT on other common NLP tasks. The source code and experiment details of this paper can be obtained from https:// github.com/thunlp/ERNIE.

论文解读:基于知识增强的语言表示模型

03# 活 动 信 息

时间:6 月 16 日(周日) 14:00–16:00

地点:北京智源人工智能研究院102会议室

北京市海淀区中关村南大街1-1号

中关村领创空间(信息谷)

04# 如 何 报 名

长按识别二维码,即刻报名?

报名截止日期:6 月 15 日(周六)12:00

* 场地人数有限,报名成功的读者将收到包含电子门票二维码的短信通知,请留意查收。

注意事项:

* 如您无法按时到场参与活动,请于活动开始前 24 小时在 PaperWeekly 微信公众号后台留言告知,留言格式为放弃报名 + 报名电话;无故缺席者,将不再享有后续活动的报名资格。

05# 微 信 交 流 群

06# 往 期 回 顾

 1 / 扫码关注 

扫码关注 PaperWeekly?

 2 / 回复暗号 在后台回复“每周一起读即可查看往期实录

07# 主 办 单 位

PaperWeekly

清华大学计算机科学与技术系

北京智源人工智能研究院

?

现在,在「知乎」也能找到我们了

进入知乎首页搜索「PaperWeekly」

点击「关注」订阅我们的专栏吧

关于PaperWeekly

PaperWeekly 是一个推荐、解读、讨论、报道人工智能前沿论文成果的学术平台。如果你研究或从事 AI 领域,欢迎在公众号后台点击「交流群」,小助手将把你带入 PaperWeekly 的交流群里。

▽ 点击 | 阅读原文 | 立刻报名

每周一起读 × 招募 | ACL 2019:基于知识增强的语言表示模型相关推荐

  1. ACL 2019 | 基于知识增强的语言表示模型,多项NLP任务表现超越BERT

    作者丨张琨 学校丨中国科学技术大学博士生 研究方向丨自然语言处理 论文动机 自从 BERT 被提出之后,整个自然语言处理领域进入了一个全新的阶段,大家纷纷使用 BERT 作为模型的初始化,或者说在 B ...

  2. ACL 2019 | 基于知识增强的语言表示模型,多项NLP任务表现超越BERT(附论文解读)...

    来源:PaperWeekly 本文共2000字,建议阅读10分钟. 本文提出了一种新方法,将知识图谱的信息加入到模型的训练中. 论文动机 自从 BERT 被提出之后,整个自然语言处理领域进入了一个全新 ...

  3. 每周一起读 × 招募 | WWW 2019:基于层次化强化学习的多源搜索展示优化

    "每周一起读"是由 PaperWeekly 发起的论文共读活动,我们结合自然语言处理.计算机视觉和机器学习等领域的顶会论文和前沿成果来指定每期论文,并且邀请论文作者来到现场,和大家 ...

  4. 每周一起读 × 招募 | ICML 2019:基于粒子的变分推断加速方法

    "每周一起读"是由 PaperWeekly 发起的论文共读活动,我们结合自然语言处理.计算机视觉和机器学习等领域的顶会论文和前沿成果来指定每期论文,并且邀请论文作者来到现场,和大家 ...

  5. K-BERT | 基于知识图谱的语言表示模型

    今天给大家介绍发表在AAAI 2020上的文章"K-BERT: Enabling Language Representation with Knowledge Graph",该工作 ...

  6. 实现三元组表示的两个稀疏矩阵的加法_K-BERT | 基于知识图谱的语言表示模型

    1.研究背景 BERT曾被应用在多项NLP任务中,并且取得了很好的结果.它通过在大规模开放语料库上进行预训练以获得通用的语言表示,然后在特定的下游任务中进行微调,吸收特定领域的知识.但这些模型在不同的 ...

  7. 每周一起读 #02 | ICML 2019:基于粒子的变分推断加速方法

    "每周一起读"是由 PaperWeekly 发起的论文共读活动,我们结合自然语言处理.计算机视觉和机器学习等领域的顶会论文和前沿成果来指定每期论文,并且邀请论文作者来到现场,和大家 ...

  8. ACL 2019 开源论文 | 基于知识库和大规模网络文本的问答系统

    作者丨张琨 学校丨中国科学技术大学博士生 研究方向丨自然语言处理 论文动机 当前问答系统面对的一大问题就是如何利用先验知识.我们人类可以通过不断的学习,掌握非常多的先验知识,并通过这些知识来回答问题. ...

  9. ACL 2019开源论文 | 句对匹配任务中的样本选择偏差与去偏方法

    作者丨张冠华 单位丨腾讯实习生 & 哈工大本科生 研究方向丨自然语言处理 导读 句对匹配 (Natural Language Sentence Matching,NLSM) 任务是指给定两个句 ...

最新文章

  1. 联机分析处理系统与联机事务处理系统的区别和联系_混合事务分析处理“HTAP”的技术要点分析...
  2. velocity mybatis spring 在maven的整合开发(二)
  3. sql增删改查_快速搞定数据库增删改查|附思维导图
  4. wxPython实现在浏览器中打开链接
  5. FreeSWITCH 总体架构
  6. 在.NET Core 中使用Quartz.NET
  7. P5437-[XR-2]约定【拉格朗日差值,数学期望】
  8. linux c字符连接,C 语言实例
  9. Smart Slider 3 Pro高级轮播插件绿色版 附200多模版[更新至v3.5.0.5]
  10. 丰巢快递将强制收费引网友吐槽,全国第一驿站表示继续免费
  11. linux docker run怎么退出,详解如何进入、退出docker容器的方法
  12. Java微信消息推送(二)
  13. iOS,Core Graphics
  14. qss设置平面按钮_QToolButton设置QSS
  15. 手游录像分享传播实战攻略——《钢琴大师》
  16. morning 是字符串的内容变成good_小洁详解《R数据科学》--第十章 使用stringr处理字符串(上)...
  17. PDPS软件:机器人行走轴虚拟仿真操作方法,即外部轴添加与配置
  18. Caffe:查看并可视化 LMDB 文件
  19. QTreeWidgetItem设置复选框的禁用状态
  20. python语言编程中的感叹号_python 感叹号的作用

热门文章

  1. 链表有环是什么意思_互联网大厂offer收割之单向链表的概念及面试题大全
  2. python 依据某几列累加求和_如何用Python找出OBV金叉的股票?
  3. windows7使用vhd虚拟磁盘
  4. 51单片机学习笔记(郭天祥版)(9)——IIC、EEPROM
  5. 温故之 “快速排序”
  6. HashSet与HashMap源代码深度剖析
  7. 关于KVM的几篇细节文档
  8. 如何选择String
  9. 怎样对流媒体进行压力测试_暖气片怎样安装效果好?暖气片正确的安装,采暖效果更好!...
  10. java文件绝对路径_获取文件夹文件绝对路径