Augmenting Knowledge-grounded Conversations with Sequential Knowledge Transition

本文针对知识驱动对话任务提出了两个子任务：知识选择/对话生成

1.知识选择

提出了知识转移的思路，即每轮对话的知识内在也是有联系的

做法：Bert编码历史上下文+BiLSTM建立时序信息+CRF对应知识标签
这个做法有点像任务型对话中的槽填充，"每个token编码后输出槽位值"的做法->“每轮对话的句编码输出知识标签”。
因为知识标签的数量是有限的才能建立这样的状态转移。根据标签去知识库里搜索，如果有很多个这样的标签，再用BM2.5打分，确定得分最高的为该轮知识。

2.对话生成

分为pretraining和finetune两阶段。

2.1pretraining

将知识三元组输入进去，输出是自然语言文本。egs:(梁朝伟，代表作，无间道)->（梁朝伟的代表作是无间道）
作者这样做是想让transformer学习知识三元组对应的自然语言语法结构，而非知识内容本身。

2.2finetune

输入为：知识标签，知识三元组，上下文
输出为：生成回复
（知识三元组的知识标签就是关系边，如果是知识文本，则用LDA模型确定类型）

知识对话2021《Augmenting Knowledge-grounded Conversations with Sequential Knowledge Transition》论文解读相关推荐

【论文解读】Knowledge Review：知识蒸馏新解法
今天介绍一篇我司的文章Distilling Knowledge via Knowledge Review(缩写为KR),提出知识蒸馏的新解法. 之前在知乎回答过一个知识蒸馏的问题,为何感觉" ...
WWW 2021有哪些值得读的图机器学习相关论文？
WWW (这两年改名叫TheWebConf了) 会议是由图灵奖得主Tim创办的学术会议,内容涵盖互联网相关的一切主题.中国计算机协会将其认证为CCF-A类顶级会议,难度极大.中一篇吹一年. 本文梳理W ...
ICLR 2021投稿中值得一读的NLP相关论文
我们从 ICLR 2021开放投稿的3000篇论文中,粗略筛选了近100篇与自然语言处理领域中也许值得一读的论文,供大家查阅. 理论.模型与经验性分析:38篇问答与阅读理解:4篇知识图谱:4篇文 ...
CVPR 2021 | 腾讯AI Lab入选论文解读
本文转载自腾讯AI实验室 CVPR(Conference on Computer Vision and Pattern Recognition)是计算机视觉三大顶会之一,也是中国计算机学会推荐的人工智 ...
CIKM 2021 | Deep Retrieval：字节跳动深度召回模型论文精读
©作者 | 杰尼小子单位 | 字节跳动研究方向 | 推荐算法文章动机/出发点这是一篇字节跳动发表在 CIKM 2021 的论文,这一项工作在字节很多业务都上线了,效果很不错.但是这篇文章整体读 ...
关于知识图谱，各路大神最近都在读哪些论文？
本期内容选编自微信公众号「开放知识图谱」. TheWebConf 2018 ■ 链接 | https://www.paperweekly.site/papers/1956 ■ 解读 | 花云程,东南大 ...
论文解读：Improving Machine Reading Comprehension with Contextualized Commonsense Knowledge
论文解读:Improving Machine Reading Comprehension with Contextualized Commonsense Knowledge 论文下载:https:// ...
2021 CVPR论文解读征集令
2021年,旷视研究院迎来了崭新的征程,在CVPR论文中,一共有22篇成功入选,其中口头报告2篇.被收录的论文涵盖了激活函数.神经网络.神经网络架构搜索.光流估计.无监督学习.人体姿态估计.目标检测等 ...
微软论文解读：用于视觉对话的多步双重注意力模型
作者丨张琨学校丨中国科学技术大学博士生研究方向丨自然语言处理论文动机当前 Visual dialog 模型尽管已经取得了令人印象深刻的表现,但当问题涉及到图像的特定区域或者比较细节的对话片段时 ...
知识图谱最新权威综述论文解读：时序知识图谱部分
从最近一两年有关知识图谱的顶会论文中可以发现,越来越多的国内外研究者开始关注动态时序知识图谱,可见时序知识图谱已经成为了一大研究趋势,相信之后会有更多相关研究出来.因此,这期我们对综述论文的时序知识图 ...

知识对话2021《Augmenting Knowledge-grounded Conversations with Sequential Knowledge Transition》论文解读