ISWC 2018

■ 链接 | http://www.paperweekly.site/papers/1912

■ 源码 | https://github.com/quyingqi/kbqa-ar-smcnn

■ 解读 | 吴桐桐,东南大学博士生,研究方向为自然语言问答

概述

随着近年来知识库的快速发展,基于知识库的问答系统(KBQA )吸引了业界的广泛关注。该类问答系统秉承先编码再比较的设计思路,即先将问题和知识库中的三元组联合编码至统一的向量空间,然后在该向量空间内做问题和候选答案间的相似度计算。该类方法简单有效,可操作性比较强,然而忽视了很多自然语言词面的原始信息。

因此,本文提出了一种 Attentive RNN with Similarity Matrix based CNN(AR-SMCNN)模型,利用 RNN 和 CNN 自身的结构特点分层提取有用信息。

文中使用 RNN 的序列建模本质来捕获语义级关联,并使用注意机制同时跟踪实体和关系。同时,文中使用基于 CNN 的相似矩阵和双向池化操作建模数据间空间相关性的强度来计算词语字面的匹配程度。

此外,文中设计了一种新的实体检测启发式扩展方法,大大降低了噪声的影响。文中的方法在准确性和效率上都超越了 SimpleQuestion 基准测试的当前最好水平。

模型

模型如上图所示,假设单关系问题可以通过用单一主题和关系论证来查询知识库来回答。因此,只需要元组(s,r)来匹配问题。只要s和r的预测都是正确的,就可以直接得到答案(这显然对应于o)。

根据上述假设,问题可以通过以下两个步骤来解决:

1. 确定问题涉及的 Freebase 中的候选实体。给定一个问题 Q,我们需要找出实体提及(mention)X,那么名称或别名与实体提及相同的所有实体将组成实体候选 E。现在 E 中的所有实体都具有相同的实体名称,因此我们暂时无法区分他们。具体地,模型中将命名实体识别转换成了基于 Bi-LSTM 完成的序列标注任务。

2. 所有与 E 中的实体相关的关系都被视为候选关系,命名为 R。我们将问题转换为模式 P,它是通过用 <e> 替换问题中的提及而创建的。为了找出与问题真正相关的关系,我们将 P 与 R 中的每个关系进行比较并对它们进行评分,然后将得分最高的关系作为最终结果。

为了更好地进行关系匹配,模型从单词字面表达和语义两个层面对自然语言进行了建模。具体操作如下图所示:

图中所示的 AR-SMCNN 模型,输入是经替换 mention 后的问题模版(pattern)P 和候选关系

模型左边的部分是结合了 attention 机制的 BiGRU,用于从语义层面进行建模。右边的部分是 CNN 上的相似性矩阵,用于从字面角度进行建模。最终将特征

从 6 篇顶会论文看「知识图谱」领域最新研究进展 | 解读 代码相关推荐

  1. 论文浅尝 | 从 6 篇顶会论文看「知识图谱」领域最新研究进展 | 解读 代码

    本文内容源自往期「论文浅尝」,由 PaperWeekly 精选并重新排版整理,感谢 PaperWeekly. ISWC 2018 ■ 链接 | http://www.paperweekly.site/ ...

  2. 专题解读 |「知识图谱」领域近期值得读的 6 篇顶会论文

    本期内容选编自微信公众号「开放知识图谱」. CIKM 2017 ■ 论文 | Hike: A Hybrid Human-Machine Method for Entity Alignmentin La ...

  3. 5 篇 AAAI 2018 论文看「应答生成」

    作者丨李军毅 学校 | 中国人民大学本科生 研究方向丨机器学习.自然语言处理 前言 本文将介绍 AAAI 2018 中的五篇关于应答生成方面的论文,希望对大家有所启发. 写作动机 作者认为,虽然之前的 ...

  4. 「知识图谱」领域近期值得读的 6 篇顶会论文

    CIKM 2017 论文 | Hike: A Hybrid Human-Machine Method for Entity Alignmentin Large-Scale Knowledge Base ...

  5. 论文浅尝 | 「知识图谱」领域近期值得读的 6 篇顶会论文

    本文转载自公众号:PaperWeekly. CIKM 2017 ■ 论文 | Hike: A Hybrid Human-Machine Method for Entity Alignmentin La ...

  6. 叮!请查收本周份「知识图谱」专题论文解读

    本期内容选编自微信公众号「开放知识图谱」. TKDE ■ 链接 | https://www.paperweekly.site/papers/2194 ■ 解读 | 花云程,东南大学博士,研究方向为自然 ...

  7. 以史为鉴 | 为什么要将「知识图谱」追溯到1956年?

    本文转载自公众号:AI科技评论. 作者 | Claudio Gutierrez  编译 | MrBear 编辑 | Tokai 以史为鉴,可以知兴替.纵观近期包括 AAAI.NeurIPS.IJCAI ...

  8. 从ACL 2020和ICLR 2020看知识图谱嵌入的近期研究进展

    ©PaperWeekly 原创 · 作者|舒意恒 学校|南京大学硕士生 研究方向|知识图谱 本文介绍三篇发表于 ACL 2020 或 ICLR 2020 关于知识图谱嵌入的近期研究进展. 1. ACL ...

  9. 顶会论文分析:知识图谱增强语言模型或是未来的发展趋势!

    点击上方,选择星标或置顶,每天给你送干货! 阅读大概需要33分钟 跟随小博主,每天进步一丢丢 文 | Michael Galkin 源 | AI科技评论 在EMNLP 2020的论文投递中,知识图谱的 ...

最新文章

  1. epoch,iteration,batch,batch_size
  2. [bzoj1025][SCOI2009]游戏 (分组背包)
  3. STM32 基础系列教程 0 - CubeMX 下载与安装
  4. 异步I/O 设备内核对象,事件内核对象,可提醒I/O 接收I/O通知
  5. C++走向远洋——26(项目二,2,构造函数与析构函数)
  6. JZOJ 3786. 【NOI2015模拟8.19】图
  7. 网易发布云计算战略,“为解放程序员而来”
  8. CRM呼叫中心和社交媒体集成的UI错误信息显示机制
  9. 沃罗诺伊图是怎样的?
  10. 本地模式运行spark streaming程序(win7安装nc命令通信)
  11. java定时器异常,定时任务异常 高手进
  12. 求平均值 Avg.java
  13. react实例9-拖拽2
  14. multisim模拟电路加法器_利用multisim仿真设计反相加法电路
  15. java生成小程序二维码
  16. arduino 点灯科技 用esp8266 01s 实现wifi控制继电器开关 支持天猫精灵
  17. cad2019菜单栏怎么调出来_AutoCAD2019工具栏怎么调出来 工具栏没了找不到解决方法...
  18. 计算机公式计算误差,如何在Excel2016中计算方差和均方误差?
  19. 华为 MA5800设备防盗
  20. 技术总监做技术经理的工作,技术经理做研发的工作是怎么回事?

热门文章

  1. 关于ejabberd限制单点登录
  2. 【CentOS】磁盘管理与vim编译器
  3. 8.2.1.3 Range Optimization
  4. 伪类的使用之如何在一段文字前面添加一个点
  5. 工作中常用的正则表达式
  6. [英]Promises Don't Come Easy
  7. Python学习笔记:web开发2
  8. 基于VTK的MFC应用程序开发(2)
  9. 【Matlab】判断是否为空?是否为NaN?
  10. 【笔记】基于 Mask R-CNN 的玉米田间杂草检测方法