deepspeech 2 （百度 2016 论文解读）

2024-05-31 03:30:23

论文：http://proceedings.mlr.press/v48/amodei16.pdf
题目：Deep Speech 2 : End-to-End Speech Recognition in English and Mandarin

摘要

我们表明，可以使用端到端的深度学习方法来识别英语或普通话（两种截然不同的语言）。由于它用神经网络代替了人工工程组件的整个流水线，因此端到端学习使我们能够处理各种语音，包括嘈杂的环境，口音和不同的语言。我们方法的关键是我们对HPC技术的应用，使以前需要数周才能完成的实验现在可以在数天内运行。这使我们能够更快地进行迭代，以识别出卓越的架构和算法。结果，在某些情况下，以标准数据集为基准，我们的系统在人工转录方面具有竞争力。最后，通过在数据中心中使用称为批处理分配技术和GPU的技术，我们证明了我们的系统可以廉价地在线部署，在为大规模用户提供服务时提供了低延迟。

1.介绍

数十年的手工工程领域知识已进入当前最先进的自动语音识别（ASR）流程。一个简单但功能强大的替代解决方案是端到端地训练此类ASR模型，使用深度学习将单个模块替换大多数模块，如（Hannun et al。，2014a）和（Graves＆Jaitly，2014b）。这种“端到端”的培训愿景通过消除通常用于构建最新ASR模型的自举，对齐/聚类/ HMM机械所需的工程设计，简化了培训过程。在这样的基于端到端深度学习的系统上，我们可以采用各种深度学习技术：捕获大型训练集，使用高性能计算训练大型模型以及有条不紊地探索神经网络架构的空间。
本文详细介绍了我们对模

deepspeech 2 （百度 2016 论文解读）相关推荐

【论文解读】百度提出新冠高风险小区预警算法，AAAI21收录！
编:夕小瑶几个月前,小屋推送了一期上帝视角看新型冠状病毒(COVID-19)对公众出行影响的顶会论文解读--<这篇顶会paper,讲述了疫情期间憋疯的你和我>,这篇有趣的paper来自百 ...
【NIPS 2016图神经网络论文解读】Variational Graph Auto-Encoders (VGAE) 基于VAE的图变分自编码器
写在前面论文题目:Variational Graph Auto-Encoders 论文作者:Thomas N. Kipf, Max Welling 论文组织:University of Amster ...
2013-2019年百度搜索算法规则解读与应对
2013-2019年百度搜索算法规则解读影响与建议百度冰桶算法百度冰桶算法1.0------>算法自2014年8月30日上线主要打击移动端网站强行用户下载APP.用户登陆才能继续使用和大面 ...
RepVGG：极简架构，SOTA性能，论文解读
** RepVGG:极简架构,SOTA性能,论文解读 ** 更新:RepVGG的更深版本达到了83.55%正确率!PyTorch代码和模型已经在GitHub上放出.DingXiaoH/RepVGG 2 ...
ICLR 2019论文解读：量化神经网络
https://www.toutiao.com/a6701879235964830212/ 今年五月举办 ICLR 2019 会议共接收论文 502 篇,本文将解读其中两篇有关量化神经网络的研究. U ...
Paper：论文解读《Adaptive Gradient Methods With Dynamic Bound Of Learning Rate》中国本科生提出AdaBound的神经网络优化算法
Paper:论文解读-<Adaptive Gradient Methods With Dynamic Bound Of Learning Rate>中国本科生(学霸)提出AdaBound的 ...
【论文解读】基于关系感知的全局注意力
一.论文信息标题:<Relation-Aware Global Attention for Person Re-identification> 作者:Zhizheng Zhang et ...
CVPR2019最全整理：全部论文下载，Github源码汇总、直播视频、论文解读等
本文首发于公众号极市平台点击**加入极市CV技术交流群**,交流更多计算机视觉相关的技术干货 CVPR 由IEEE举办的计算机视觉和模式识别领域的顶级会议,在机器学习领域享有盛名.今年的 CVPR ...
ACL 2018论文解读 | 基于路径的实体图关系抽取模型
在碎片化阅读充斥眼球的时代,越来越少的人会去关注每篇论文背后的探索和思考. 在这个栏目里,你会快速 get 每篇精选论文的亮点和痛点,时刻紧跟 AI 前沿成果. 点击本文底部的「阅读原文」即刻加入社区 ...

最新文章

热门文章