基于深度学习的中文语音识别系统框架

转自@https://blog.csdn.net/chinatelecom08/article/details/82557715

本文搭建一个完整的中文语音识别系统,包括声学模型和语言模型,能够将输入的音频信号识别为汉字。

声学模型使用了应用较为广泛的递归循环网络中的GRU-CTC的组合,除此之外还引入了科大讯飞提出的DFCNN深度全序列卷积神经网络,也将引入阿里的架构DFSMN。

语言模型有传统n-gram模型和基于深度神经网络的CBHG网络结构,该结构是谷歌用于TTS任务中的tacotron系统,本文中将该系统部分结构移植过来用于搭建拼音序列生成汉字序列系统。

数据集采用了目前能找到的所有中文免费数据,包括:thchs-30、aishell、primewords、st-cmd四个数据集,训练集总计大约450个小时。

该项目地址在:https://github.com/audier/my_ch_speech_recognition写的时候可能有些乱,后续会整理。

  • 声学模型

    • GRU-CTC
    • DFCNN
    • DFSMN
  • 语言解码模型
    • n-gram
    • CBHG
  • 数据集450小时
    • thchs-30
    • aishell
    • primewords
    • st-cmd

文章目录

  • 声学模型

    • GRU-CTC
    • DFCNN
    • DFSMN
  • 语言模型
    • n-gram
    • CBHG
  • 数据集

声学模型

声学模型目前开源了部分示例模型,更大模型将在确认识别结果后更新。

GRU-CTC

我们使用 GRU-CTC的方法搭建了第一个声学模型,在gru_ctc_am.py中,利用循环神经网络可以利用语音上下文相关的信息,得到更加准确地信息,而GUR又能选择性的保留需要的信息。该模型使用python/keras进行搭建,本文系统都基于python搭建。
网络结构如下:
该结构没有真正使用,只是一个基本框架,类似于helloworld,用于作为示例。


DFCNN

由于两个原因在使用GRU作为语音识别的时候我们会遇到问题。一方面是我们常常使用双向循环神经网络才能取得更好的识别效果,这样会影响解码实时性。另一方面随着网络结构复杂性增加,双向GRU的参数是相同节点数全连接层的6倍,这样会导致训练速度非常缓慢。
科大讯飞提出了一种使用深度卷积神经网络来对时频图进行识别的方法,就是DFCNN,利用CNN参数共享机制,可以将参数数量下降一个级别,且深层次的卷积和池化层能够充分考虑语音信号的上下文信息,且可以在较短的时间内就可以得到识别结果,具有较好的实时性。
该模型在cnn_witch_fbank.pycnn_with_full.py中,建议使用全数据集的脚本,实验中是所有网络结果最好的模型,目前能够取得较好的泛化能力,声学模型识别率最好能够达到90%以上,其网络结构如下:


DFSMN

而前馈记忆神经网络也也解决了双向GRU的参数过多和实时性较差的缺点,它利用一个记忆模块,包含了上下几帧信息,能够得到不输于双向GRU-CTC的识别结果,阿里最新的开源系统就是基于DFSMN的声学模型,只不过在kaldi的框架上实现的。我们将考虑使用DFSMN+CTC的结构在python上实现。该网络后续将实现。
结构如下:

语言模型

n-gram

n元语法是一个非常经典的语言模型,这里不过多介绍啦。

CBHG

该想法来自于一个大神搞输入法的项目,下面部分也引用此处:搜喵出入法
他是利用该模型建立一个按键到汉字的作用,本文对其结构和数据处理部分稍作改动,作为语言模型。

拼音输入的本质上就是一个序列到序列的模型:输入拼音序列,输出汉字序列。所以天然适合用在诸如机器翻译的seq2seq模型上。

模型初始输入是一个随机采样的拼音字母的character embedding,经过一个CBHG的模型,输出是五千个汉字对应的label。
这里使用的CBHG模块是state-of-art的seq2seq模型,用在Google的机器翻译和语音合成中,该模型放在language_model/CBHG.py中,结构如下:
图片来自 Tacotron: Towards End-to-End Speech Synthesis

关于该模型值得注意的几点:

1.模型先使用一系列的一维卷积网络,有一系列的filter,filter_size从1到K,形成一个Conv1D Bank。这样的作用相当于使用了一系列的unigrams, bigrams直到K-grams,尽可能多的拿到输入序列从local到context的完整信息。其实这样的模型,与之前我们提到过的IDCNN(Iterated Dilated Convolutionary Nerual Network)有异曲同工之妙。而IDCNN相比较起来有更少的参数,不知道如果把CBHG的Conv1D Bank换成IDCNN是怎样的效果。

2.模型在最终的BiGRU之前加入了多层的Highway Layers,用来提取更高层次的特征。Highway Layers可以理解为加入了本来不相邻层之间的“高速公路”,可以让梯度更好地向前流动;同时又加入一个类似LSTM中门的机制,自动学习这些高速公路的开关和流量。Highway Networks和Residual Networks、Dense Networks都是想拉近深度网络中本来相隔很远的层与层之间的距离,使很深的网络也可以比较容易地学习。

3.模型中还使用了Batch Normalization(继ReLU之后大家公认的DL训练技巧),Residual Connection(减少梯度的传播距离),Stride=1的Max-pooling(保证Conv的局部不变性和时间维度的粒度)以及一个时髦的BiGRU。Tacotron: Towards End-to-End Speech Synthesis这篇文章发表在2017年4月,最潮的DL技术用到了很多。

项目基于深度学习的中文语音识别系统中language_model/文件夹中已经默认放置了例子语料,可以通过直接运行CBHG.py进行数据预处理、模型训练、和模型测试,下面是我用项目中的默认数据在12G GPU上训练了大概小半天的模型识别结果,如果利用网络爬虫增加数据集,将会有更好的泛化结果。

请输入测试拼音:ta1 mei2 you3 duo1 shao3 hao2 yan2 zhuang4 yu3 dan4 ta1 que4 ba3 ai4 qin1 ren2 ai4 jia1 ting2 ai4 zu3 guo2 ai4 jun1 dui4 wan2 mei3 de tong3 yi1 le qi3 lai2
她没有多少豪言壮语但她却把爱亲人爱家庭爱祖国爱军队完美地统一了起来请输入测试拼音:chu2 cai2 zheng4 bo1 gei3 liang3 qian1 san1 bai3 wan4 yuan2 jiao4 yu4 zi1 jin1 wai4 hai2 bo1 chu1 zhuan1 kuan3 si4 qian1 wu3 bai3 qi1 shi2 wan4 yuan2 xin1 jian4 zhong1 xiao3 xue2
除财政拨给两千三百万元教太资金外还拨出专款四千五百七十万元新建中小学请输入测试拼音:ke3 shi4 chang2 chang2 you3 ren2 gao4 su4 yao2 xian1 sheng1 shuo1 kan4 jian4 er4 xiao3 jie3 zai4 ka1 fei1 guan3 li3 he2 wang2 jun4 ye4 wo4 zhe shou3 yi1 zuo4 zuo4 shang4 ji3 ge4 zhong1 tou2
可是常常有人告诉姚先生说看见二小姐在咖啡馆里和王俊业握着族一坐坐上几个钟头

数据集

数据集采用了目前我能找到的所有中文免费数据,包括:thchs-30、aishell、primewords、st-cmd四个数据集,训练集总计大约450个小时,在实验过程中,使用thchs-30+aishell+st-cmd数据集对DFCNN声学模型进行训练,以64batch_size训练。

  • 数据集

    • 共计约430小时,相关链接:http://www.openslr.org/resources.php

    • st-cmd、primewords、Aishell、thchs30四个数据集,整理为相同格式,放于some_expriment\data_process\datalist中。包含了解压后数据的路径,以及训练所需的数据标注格式,其中prime数据没有区分训练集等,为我手工区分。各个数据集的数量(句)如下:

      Name train dev test
      aishell 120098 14326 7176
      primewords 40783 5046 5073
      thchs-30 10000 893 2495
      st-cmd 10000 600 2000

这是目前能找到的所有开源中文语料,如果还有希望大神能够留言提示。

基于深度学习的中文语音识别系统框架搭建相关推荐

  1. 基于深度学习的中文语音识别系统框架(pluse)

    目录 声学模型 GRU-CTC DFCNN DFSMN 语言模型 n-gram CBHG 数据集 本文搭建一个完整的中文语音识别系统,包括声学模型和语言模型,能够将输入的音频信号识别为汉字. 声学模型 ...

  2. 语音识别——基于深度学习的中文语音识别系统框架

    本文搭建一个完整的中文语音识别系统,包括声学模型和语言模型,能够将输入的音频信号识别为汉字. 该系统实现了基于深度框架的语音识别中的声学模型和语言模型建模,其中声学模型包括CNN-CTC.GRU-CT ...

  3. 语音识别——基于深度学习的中文语音识别tutorial(代码实践)

    文章目录 利用thchs30为例建立一个语音识别系统 1. 特征提取 2. 数据处理 下载数据 2.1 生成音频文件和标签文件列表 定义函数`source_get`,获取音频文件及标注文件列表 确认相 ...

  4. 基于深度学习的中文车牌识别与管理系统(含UI界面,Python代码)

    摘要:本文详细介绍基于深度学习的中文车牌识别与管理系统,在介绍算法原理的同时,给出Python的实现代码以及PyQt的UI界面.在界面中既可以选择需要识别的车牌视频.图片文件.批量图片进行检测识别,也 ...

  5. 【论文笔记】《基于深度学习的中文命名实体识别研究》阅读笔记

    作者及其单位:北京邮电大学,张俊遥,2019年6月,硕士论文 摘要 实验数据:来源于网络公开的新闻文本数据:用随机欠采样和过采样的方法解决分类不均衡问题:使用BIO格式的标签识别5类命名实体,标注11 ...

  6. 基于深度学习算法的语音识别(华为云)

    基于深度学习算法的语音识别 训练完模型后可反复使用,训练时可以选购云环境,节省时间,本地除非你的服务器性能够强劲,本次教程基本上也是实验级别的,主要是看看代码,本次实验我的小米配置不行,就直接把代码写 ...

  7. 基于深度学习的车型识别系统(Python+清新界面+数据集)

    摘要:基于深度学习的车型识别系统用于识别不同类型的车辆,应用YOLO V5算法根据不同尺寸大小区分和检测车辆,并统计各类型数量以辅助智能交通管理.本文详细介绍车型识别系统,在介绍算法原理的同时,给出P ...

  8. PRP项目--基于深度学习的股票分析系统--立项

    基于深度学习的股票分析系统 一.项目介绍 这个项目利用各种数据(消息,财报,日线,交易数据),建立深度学习模型,预测股票的趋势. 从科学的角度来说,这个项目不是很严肃,但我觉得应该还是比较有趣.我们也 ...

  9. python dlib caffe人脸相似度_基于深度学习的人脸识别系统(Caffe+OpenCV+Dlib)【一】如何配置caffe属性表...

    前言 基于深度学习的人脸识别系统,一共用到了5个开源库:OpenCV(计算机视觉库).Caffe(深度学习库).Dlib(机器学习库).libfacedetection(人脸检测库).cudnn(gp ...

最新文章

  1. Android -- 通知栏的使用
  2. 动态规划-时间规整算法
  3. python3字符串转数字_Python 3.6.0 正式版发布附新特性说明
  4. H3C Navigate 2017 | 拉近世界的距离 新华三的泛联接版图
  5. [Linux]NAT和代理服务器
  6. Hibernate学习笔记③
  7. AnnotationTransactionAttributeSource is only available on Java 1.5 and higher
  8. Sweet Home 3D 是Web三维效果图
  9. 37. Element appendChild() 方法
  10. 联想y7000p电池固件下载_联想拯救者Y7000P安装双系统win10+ubuntu18.04
  11. SoapUI接口测试实例(webservice接口)
  12. 第33篇-steam密码参数分析
  13. 拼多多批发是什么?常见的问题有哪些?
  14. C语言文件指针,如何对文件进行操作,文件指针FILE,指向文件指针
  15. 什么无线桥接一直正在链接服务器失败,无线桥接连接失败_WDS无线桥接不成功怎么办?-192路由网...
  16. mysql查询结果数量_sql语句统计查询结果数量怎么写?
  17. Python学习(3)计算个人所得税
  18. 接口测试二(App抓包)
  19. Java现在好找工作吗?
  20. Java_定时请求后端接口数据发送RabbitMQ消息到指定MQ服务器

热门文章

  1. BZOJ 2243: [SDOI2011]染色
  2. MTBF平均故障间隔时间
  3. 微信小程序调用weUI库
  4. 【学习笔记15】JavaScript的函数
  5. 数据挖掘相关免费软件
  6. 语音合成之文本转语音
  7. jacob.jar 操作word文件 添加水印、图片(附查阅Microsoft Office VBA参考文档方式)
  8. 6款超实用微信小程序,任何手机都需要!
  9. 【Excel】数据透视表—数据透视表布局(显示)
  10. 网友晒异性合租趣事:坐马桶都要签协议