目录

Intro

1 任务式对话系统

2 检索式对话系统

3 生成式对话系统

Reference


最近一直在调研对话系统,细细研究发现里面的细分知识点非常多,任务式/检索式/生成式对话系统每个里面的都有不同特点及方法,因此在这里总结下自己的研究成果。

Intro

按照对话系统的技术架构来分, 人机对话系统可以分为任务型对话系统非任务型对话系统两大类, 在实际商业应用中这 2 种对话方式常常结合在一起使用. 任务型对话通过交互的方式帮助用户完成一项或多项特定的任务, 系统能够完成的任务通常是一个有限的集合, 每个任务有明确的流程、输入和输出, 如智能订票系统、账单查询系统等. 非任务型对话系统没有明确的任务列表, 可以用于同用户闲聊, 或者回答用户在某一个或多个领域的问题.
当前任务型对话系统的典型架构主要分为2类: 第 1 种是管道式(pipeline)架构, 如图1所示, 包含语音识别( ASR, automatic speech recognition) 、自然语言理解( NLU, natural language under standing) 、对话管理器( DM, dialogue manager) 、语言生成( NLG, naturallanguage generation) 、语音合成( TTS, text to speech)等组件. 纯文本的对话不含语音识别和语音合成模块. 近几年随着深度学习的发展, 一部分对话系统将对话管理器分成对话状态跟踪( DST, dialogue state tracking) 及对话策略优化 2 个部分, 使得对话管理更加依赖统计模型的方法, 更加鲁棒. 管道式架构中各个模块独立优化, 也是目前商用系统的典型架构.

图1 Pipeline架构

任务型对话系统的第2种是端到端的人机对话系统架构。由于内部独立模块的训练过程, 管道式架构往往存在模块之间错误累加的问题. 与管道式架构不同, 端到端模型根据误差的反向传播共同调整和优化模型内部的网络结构和参数,直到模型收敛或达到预期的效果,中
间所有的操作都包含在神经网络内部, 不再分成多个独立模块分别处理. 有的方法虽然是端到端的方法,但还是单独设计模型的部件,不同部件解决管道方法中某个或多个模块所承担的任务。图2就是经典的End-to-End对话系统架构,目前该方法还处于研究阶段,在技术上还需做很大的提升。

图2 经典端到端任务型对话系统

非任务型的对话系统也称为聊天机器人, 在开放领域或某一个特定领域与人进行信息沟通,系统没有特定完成任务的列表和槽位列表。典型的非任务型对话系统的回复, 一般通过生成方法生成或基于检索的方法抽取

Seq2Seq的对话生成模型将用户这轮对话的问题作为输入, 借助神经元网络将用户的问题编码为一个编码矢量,该编码矢量同对话上下文的隐含矢量结合, 共同作为一个神经元网络解码器的输入, 逐词生成系统回复的句子。

基于检索的方法从候选回复中选择回复. 检索方法的关键是消息-回复匹配, 匹配算法必须克服消息和回复之间的语义鸿沟. 基于学习的搜索和排序算法在基于检索的对话系统中起着至关重要的作用,基础算法在近几年取得了非常大的进步,基于检
索的对话系统展现出非常客观的性能和准确率. 在众多非任务型对话中, 基于检索的方法输出的结构也常常作为生成对话模型的输入, 或者进行平行组合使用。

下面具体介绍下三种对话系统。

1 任务式对话系统

2 检索式对话系统

3 生成式对话系统

生成式对话系统总结(1)

Reference

关于对话系统(任务式/检索式/生成式)的若干总结相关推荐

  1. NLP.TM[38] | 对话系统经典:检索式对话

    [NLP.TM] 本人有关自然语言处理和文本挖掘方面的学习和笔记,欢迎大家关注. 往期回顾 NLP.TM[32] | 浅谈文本增强技术 NLP.TM[33] | 纠错:pycorrector的错误检测 ...

  2. 基于ElasticSearch+文本相似度模型的检索式智能对话方案

    目录 背景 为什么只用ES相似度匹配不行 解决同一意图不同表达的问题 "粗筛"+"精选"的意图匹配方案 另外一种思路: 背景 在对话系统领域,检索式对话系统一直 ...

  3. 对话系统(任务型、检索式、生成式对话论文与工具串讲)

    Motivation 对话是一个很大的概念,有非常非常多的子问题,刚入坑的小伙伴很可能迷失在对话的一小块区域里无法自拔,本文就是为解决这一类问题的.希望读者在看完本文后,可以理清楚对话的每个概念为什么 ...

  4. 检索式对话系统在美团客服场景的探索与实践

    在传统的客服.IM等场景中,坐席需要花费大量时间回答用户的各种咨询,通常面临答案查询时间长.问题重复.时效要求高等挑战.因而,使用技术手段辅助坐席快速.准确.高效地回答用户的各类问题非常有必要. 我们 ...

  5. 对话系统-“问答型”单轮对话:FAQ检索式对话系统【步骤:①用户意图判断、②文本检索召回、③文本匹配计算排序】【搜索引擎的最终形态】

    一.基本概念 文本匹配:计算文本之间的相似度,主要分为两大类: 1)基于句子向量表示的相似度模型(适合初始召回): 2)基于词级别匹配的相似度模型(适合对召回结果重排) 问答系统:信息检索的一种高级形 ...

  6. 小哥哥,检索式chatbot了解一下?

    来自 夕小瑶的卖萌屋 作者 夕小瑶 喵喵喵,一不小心又匿了三个月,突然诈尸害不害怕( ̄∇ ̄) 小夕从7月份开始收到第一场面试邀请,到9月初基本结束了校招(面够了面够了T_T),深深的意识到今年的对话系 ...

  7. 史上最通熟易懂的检索式聊天机器人讲解

    喵喵喵,一不小心又匿了三个月,突然诈尸害不害怕( ̄∇ ̄) 小夕从7月份开始收到第一场面试邀请,到9月初基本结束了校招(面够了面够了T_T),深深的意识到今年的对话系统/chatbot方向是真的超级火呀 ...

  8. 最新综述:对话式检索数据集汇总

    ©PaperWeekly 原创 · 作者 | 金金 单位 | 阿里巴巴研究实习生 研究方向 | 推荐系统 简介 对话式检索近年来成为了信息检索中的研究热点,但是该研究领域一直存在数据资源缺乏的问题,一 ...

  9. 闲聊机器人实例四:python实现小姜机器人(检索式chatbot_sentence_vec_by_bert_bert句向量)

    bert构建生成句向量,再计算相似度,匹配问答库中的标准问题.为什么使用bert倒数第二层输出构建句向量. 小姜机器人.python.tensorflow.chatbot.dialog.bert中文短 ...

最新文章

  1. 我下载的最新的linux ADT+eclipse中没有NDK
  2. 复旦大学邱锡鹏教授:一张图带你梳理深度学习知识脉络
  3. html阅读开放试用阶段,泰克为不同行业提供100种应用功能免费试用
  4. sqlite3 C接口基础
  5. 利用xml+xsl给客户机添加超级管理帐户!
  6. 【tomcat】catalina.home catalina.base 区别
  7. Xamarin.Android 开发中遇到旋转屏幕错误
  8. c语言交通违章编程代码,C语言程序设计之交通处罚单管理系统 报告(内含代码).doc...
  9. linux mp4box安装,mp4box安装备忘
  10. 深度学习10-tf.data-数据输入管道简介
  11. Python 机器学习经典实例
  12. Feature Statistics Mixing Regularization for Generative Adversarial Networks
  13. m2接口和nvme协议接口_怎么看笔记本的主板是支持加装m2接口和m2协议NVME接口的固态硬盘?两者有什么区别?...
  14. 大数据第三季--sqoop(day1)-徐培成-专题视频课程
  15. 01. Couchbase简介-CouchBase从0到50
  16. matlab结构数组22,matlab结构数组
  17. 微信小程序 转发功能的实现
  18. python去掉标点、特殊符号_删除URL的Python列表末尾的特殊字符/标点符号
  19. win7台式机解决插入耳机没有声音以及显示麦克风未插入的解决方法
  20. c语言Int16_t 什么意思,__IO uint16_t 是什么意思,在定义参数时为什么不直接写成 uint16...

热门文章

  1. Java Web培训课程一期项目视频发布
  2. php图书查询显示,php根据isbn书号查询amazon网站上的图书信息的示例_PHP
  3. JS逆向 | instagram登入enc_password
  4. 【animation动画】
  5. Image Matting 客观评价指标、数据集及主观评价
  6. baidu 百度搜索 命令
  7. wma和mp3哪个音质好 如何将wma转换成mp3
  8. zsh和oh-my-zsh的一些好用的主题及插件
  9. 2.深度学习时序建模库PaddleTS教程之TSDataset数据集
  10. java a201游戏_OPPO手机A201 为何下载游戏没这个机型?