麦克风阵列技术

  • 麦克风阵列技术详解
    • 自动增益控制
      • 自动增益处理分类
      • AGC环
    • 自动噪声抑制
      • 原理及实现
      • 噪声
      • 噪声抑制的一般流程
    • 回声消除
      • 回声
      • 传统回声消除
      • 声学回声消除
      • 原理及实现
    • 语音活动检测
      • 音频端点检测
      • 原理及实现

紧接上一个博客文章,此为第二部分。上一部分见:麦克风阵列技术 一 (名词解释 背景介绍 麦克风及音频信号 麦克风阵列简介)

麦克风阵列技术详解

自动增益控制

AGC:Automatic Gain Control,自动增益控制,使放大电路的增益自动地随信号强度而调整的自动控制方法。

自动增益控制是限幅输出的一种,它利用线性放大和压缩放大的有效组合对助昕器的输出信号进行调整。当弱信号输入时,线性放大电路工作,保证输出信号的强度;当输入信号达到一定强度时,启动压缩放大电路,使输出幅度降低。也就是说,AGC功能可以通过改变输入输出压缩比例自动控制增益的幅度。

最简单的硬性增益处理是对所有音频采样乘上一个增益因子,它也等同于在频域每个频率都同时乘上这个增益因子,但由于人的听觉对所有频率的感知不是线性的,是遵循等响度曲线的,导致这样处理后,听起来感觉有的频率加强了,有的频率削弱了,导致语言失真的放大。
要让整个频段的频率听起来响度增益都是“相同”的,就必须在响度这个尺度下做增益,而不是在频率域,即按照等响度曲线对语音的频率进行加权,不能采用一个固定的增益因子进行加权。

自动增益处理分类

语音的自动增益处理可以大致分为两个部分:
1)响度增益因子的确定。
2)把响度增益因子映射到等响度曲线上,确定最终各频率的增益权重。

AGC环

使放大电路的增益自动地随信号强度而调整的自动控制方法。实现这种功能的电路简称AGC环。

AGC环是闭环电子电路,是一个负反馈系统,它可以分成增益受控放大电路和控制电压形成电路两部分。增益受控放大电路位于正向放大通路,其增益随控制电压而改变。控制电压形成电路的基本部件是AGC 检波器和低通平滑滤波器,有时也包含门电路和直流放大器等部件。放大电路的输出信号u0 经检波并经滤波器滤除低频调制分量和噪声后,产生用以控制增益受控放大器的电压uc 。当输入信号ui增大时,u0和uc亦随之增大。 uc 增大使放大电路的增益下降,从而使输出信号的变化量显著小于输入信号的变化量,达到自动增益控制的目的。

放大电路增益的控制方法有:①改变晶体管的直流工作状态,以改变晶体管的电流放大系数β。②在放大器各级间插入电控衰减器。③用电控可变电阻作放大器负载等。

AGC电路广泛用于各种接收机、 录音机和测量仪器中,它常被用来使系统的输出电平保持在一定范围内,因而也称自动电平控制; 用于话音放大器或收音机时,称为自动音量控制。。

AGC细分为AGCi(输入自动增益控制)和AGCo(输出自动增益控制)

自动噪声抑制

ANS是背景噪音抑制功能(Automatic Noise Suppression),ANS可探测出背景固定频率的杂音并消除背景噪音,例如:风扇、空调声自动滤除。呈现出与会者清晰的声音。

原理及实现

将实时采样的数字信号进行频谱分析,这样我们就能分析背景噪声相应的强度和频谱分布,然后根据这个模型就能设计一个滤波器,当有人讲话的时候,同时做信号分析,根据分析,ANS就能分析出讲话者的频谱,那么根据这些背景噪音和讲话者的频谱,这个滤波器根据两个信号的对比实时的改变,让讲话者声音频谱通过,对背景噪声的频谱进行抑制,降低其能量,比如说降低15到20个分贝,就很明显可以感觉体验到噪音抑制的效果。

噪声

噪声有很多种,既有频谱稳定的白噪声,又有不稳定的脉冲噪声和起伏噪声,在语音应用中,稳定的背景噪音最为常见,技术也最成熟,效果也最好。

噪音抑制的关键是提取出噪声的频谱,然后将含噪语音根据噪声的频谱做一个反向的补偿运算,从而得到降噪后的语音。
这句话很重要,后面的内容都是围绕这句话展开的。

噪声抑制的一般流程


假设音频起始处的一小段语音是背景音,这一假设非常重要,因为这一小段背景音也是背景噪声,是提取噪声频谱的基础。

降噪过程:首先将这一小段背景音进行分帧,并按照帧的先后顺序进行分组,每组的帧数可以为10或其他值,组的数量一般不少于5,随后对每组背景噪声数据帧使用傅里叶变换得到其频谱,再将各频谱求平均后得到背景噪声的频谱。
得到噪声的频谱后,降噪的过程就非常简单了,上图下面左侧的图中红色部分即为噪声的频谱,黑色的线为有效语音信号的频谱,两者共同构成含噪语音的频谱,用含噪语音的频谱减去噪音频谱后得到降噪后语音的频谱,再使用傅里叶逆变换转回到时域中,从而得到降噪后的语音数据。

在实际应用中,降噪使用的噪声频谱通常不是一成不变的,而是随着降噪过程的进行被持续修正的,即降噪的过程是自适应的。这样做的原因是:
1)一方面是语音数据前部的静音长度有时不够长,背景噪声数据不足导致得到的噪声频谱往往不够准确,
2)另一方面,背景噪声往往不是绝对稳定的,而是渐变的甚至会突变到另一种稳定的背景噪声。

这些原因都要求在降噪的过程中对使用的噪声频谱做及时修正,以得到较好的降噪效果。修正噪声频谱的方法是使用后继音频中的静音,重复噪声频谱提取算法,得到新的噪声频谱,并将之用于修正降噪所用的噪声频谱,所以降噪的过程中仍然要使用端点检测中用到的如何判断静音。噪声频谱修正的方法或者是新旧频谱进行加权平均,或者使用新的噪声频谱完全替换使用中的噪声频谱。

以上介绍的是降噪的非常简单的原理。实际应用中的降噪算法远比上面介绍的要复杂,现实中的噪声源多种多样,其产生的机理和特性也较为复杂,所以噪声抑制在现今仍然是一个较为活跃的研究领域,各种新技术也层出不穷。

回声消除

AEC是回声消除器(Acoustic Echo Canceller),就是在Mic采集到声音之后,将本地音箱播放出来的声音从Mic采集的声音数据中消除掉,使得Mic录制的声音只有本地用户说话的声音。

回声

回声是指远端说话人的声音通过扬声器播放出来包括其反射声,又被近端的麦克风收集再传送回远端。声学回声主要出现的场合包括:模拟电话免提模式、手机免提模式、车载蓝牙电话等场景。

在即时通讯人机语音交互中,需要进行双方或多方的实时语音交流,在要求较高的场合,通常都是采用外置音箱放音,这样必然会产生回音,即一方说话后,通过对方的音箱放音,然后又被对方的Mic采集到回传给自己。如果不对回音进行处理,将会影响通话质量和用户体验,更严重的还会形成震荡,产生啸叫。

传统回声消除

传统的回声消除都是采用硬件方式,在硬件电路上集成DSP处理芯片,如我们常用的固定电话、手机等都有专门的回音消除处理电路,而采用软件方式实现回声消除一直存在技术难点,包括国内应用最广泛的QQ超级语音,便是采用国外的GIPS技术。

难点:喇叭播放的音乐一般为立体声,甚至是环绕立体声,因此需要真正的多通道回声消除技术。设备的喇叭和麦克风一般距离很近,使用者距离较远;麦克风信号的信噪比很低(一般在-10dB~-30dB)。

声学回声消除

回声消除已经成为即时通讯中提供全双工语音的标准方法。声学回声消除是通过消除或者移除本地话筒中拾取到的远端的音频信号来阻止远端的声音返回去的一种处理方法。这种音频的移除都是通过数字信号处理来完成的。回声消除技术是数字信号处理的典型应用之一。

原理及实现

回声消除的基本原理是以扬声器信号与由它产生的多路径回声的相关性为基础,建立远端信号的语音模型,利用它对回声进行估计,并不断修改滤波器的系数,使得估计值更加逼近真实的回声。然后,将回声估计值从话筒的输入信号中减去,从而达到消除回声的目的。

AEC是对扬声器信号与由它产生的多路径回声的相关性为基础,建立远端信号的语音模型,利用它对回声进行估计,并不断地修改滤波器的系数,使得估计值更加逼近真实的回声。然后,将回声估计值从话筒的输入信号中减去,从而达到消除回声的目的,AEC还将话筒的输入与扬声器过去的值相比较,从而消除延长延迟的多次反射的声学回声。根椐存储器存放的过去的扬声器的输出值的多少,AEC可以消除各种延迟的回声。

经典的回声消除方法包括非线性回声消除处理,通过非线性的回声抑制技术,显著改善了非线性情况下的效果。

一个经典的VoIP场景:
1)A用户说话
2)B用户Mic录制声音(包含A的声音+B的声音)
3)A听到B的声音(进行了回音消除,只保留B的声音)

语音活动检测

语音活动检测(Voice Activity Detection,VAD)又称语音端点检测,语音边界检,是指在噪声环境中检测语音的存在与否,通常用于语音编码、语音增强等语音处理系统中,起到降低语音编码率、节省通信带宽、减少移动设备能耗、提高识别率等作用。早先具有代表性的VAD方法有ITU-T的G.729 Annex B

音频端点检测

音频端点检测就是从连续的语音流中检测出有效的语音段。它包括两个方面,检测出有效语音的起始点即前端点,检测出有效语音的结束点即后端点。

在语音应用中进行语音的端点检测是很必要的,首先很简单的一点,就是在存储或传输语音的场景下,从连续的语音流中分离出有效语音,可以降低存储或传输的数据量。其次是在有些应用场景中,使用端点检测可以简化人机交互,比如在录音的场景中,语音后端点检测可以省略结束录音的操作。

原理及实现

为了能更清楚说明端点检测的原理,我们来分析一段音频。

图是一段包含两个汉字语音的简单音频,从图上可以很直观的看出,首尾的静音部分声波的振幅很小,而有效语音部分的振幅比较大,一个信号的振幅从直观上表示了信号能量的大小:静音部分能量值较小,有效语音部分的能量值较大。语音信号是一个以时间为自变量的一维连续函数,计算机处理的语音数据是语音信号按时间排序的采样值序列,这些采样值的大小同样表示了语音信号在采样点处的能量。

采样值中有正值和负值,计算能量值时不需要考虑正负号,从这个意义上看,使用采样值的绝对值来表示能量值是自然而然的想法,由于绝对值符号在数学处理上不方便,所以采样点的能量值通常使用采样值的平方,一段包含N个采样点的语音的能量值可以定义为其中各采样值的平方和。

这样,一段语音的能量值既与其中的采样值大小有关,又与其中包含的采样点数量有关。为了考察语音能量值的变化,需要先将语音信号按照固定时长比如20毫秒进行分割,每个分割单元称为帧,每帧中包含数量相同的采样点,然后计算每帧语音的能量值。

如果音频前面部分连续M0帧的能量值低于一个事先指定的能量值阈值E0,接下来的连续M0帧能量值大于E0,则在语音能量值增大的地方就是语音的前端点。同样的,如果连续的若干帧语音能量值较大,随后的帧能量值变小,并且持续一定的时长,可以认为在能量值减小的地方即是语音的后端点。

现在的问题是,能量值阈值E0怎么取?M0又是多少?理想的静音能量值为0,故上面算法中的E0理想状态下取0。不幸的是,采集音频的场景中往往有一定强度的背景音,这种单纯的背景音当然算静音,但其能量值显然不为0,因此,实际采集到的音频其背景音通常有一定的基础能量值。

我们总是假设采集到的音频在起始处有一小段静音,长度一般为几百毫秒,这一小段静音是我们估计阈值E0的基础。对,总是假设音频起始处的一小段语音是静音,这一点假设非常重要!!!!在随后的降噪介绍中也要用到这一假设。在估计E0时,选取一定数量的帧比如前100帧语音数据(这些是“静音”),计算其平均能量值,然后加上一个经验值或乘以一个大于1的系数,由此得到E0。这个E0就是我们判断一帧语音是否是静音的基准,大于这个值就是有效语音,小于这个值就是静音。

至于M0,比较容易理解,其大小决定了端点检测的灵敏度,M0越小,端点检测的灵敏度越高,反之越低。语音应用的场景不同,端点检测的灵敏度也应该被设置为不同的值。例如,在声控遥控器的应用中,由于语音指令一般都是简单的控制指令,中间出现逗号或句号等较长停顿的可能性很小,所以提高端点检测的灵敏度是合理的,M0设置为较小值,对应的音频时长一般为200-400毫秒左右。在大段的语音听写应用中,由于中间会出现逗号或句号等较长时间的停顿,宜将端点检测的灵敏度降低,此时M0值设置为较大值,对应的音频时长一般为1500-3000毫秒。所以M0的值,也就是端点检测的灵敏度,在实际中应该做成可调整的,它的取值要根据语音应用的场景来选择。

以上是关于语音端点检测一个较简单的原理,实际应用中的算法远比上面讲的要复杂。作为一个应用较广的语音处理技术,音频端点检测仍然是一个较为活跃的研究方向。现在不少大厂已经在使用循环神经网络(Recurrent Neural Networks, RNN)技术来进行语音的端点检测。

注意事项:
在进行语音活动检测时有两个问题需要注意:
一是背景噪声问题,即如何在较大的背景噪声中检测静音;
二是前后沿剪切问题。所谓前后沿剪切就是还原语音时,由于从实际讲话开始到检测到语音之间有一定的判断门限和时延,有时语音波形的开始和结束部分会作为静音被丢掉,还原的语音会出现变化,因此需要在突发语音分组前面或后面增加一个语音分组进行平滑以解决这一问题。

麦克风阵列技术 二 (自动增益控制 自动噪声抑制 回声消除 语音活动检测)相关推荐

  1. 麦克风阵列技术 三 ( 声源定位 波束形成 去混响 麦克风阵列结构设计 声学结构确认流程)

    麦克风阵列技术 麦克风阵列技术详解 声源定位 延时估计 角度计算 波束形成 波束形成模型 波束形成基本理论 去混响 麦克风阵列结构设计 声学结构确认流程 紧接上一个博客文章,此为第三部分.上一部分见: ...

  2. 聊一聊麦克风阵列技术:语音交互应该选用怎样的方案?(转载)

    转自:http://news.soundai.com/?id=7 雷锋网(公众号:雷锋网)按:本文作者陈孝良,工学博士,声智科技创始人.雷锋网独家文章. 亚马逊Echo和谷歌Home争奇斗艳,除了云端 ...

  3. 音视频开发( 34)---麦克风阵列原理二

    麦克风阵列原理二 1 麦克风阵列 麦克风阵列,是一组位于空间不同位置的全向麦克风按一定的形状规则布置形成的阵列,是对空间传播声音信号进行空间采样的一种装置,采集到的信号包含了其空间位置信息.根据声源和 ...

  4. 麦克风阵列技术-统计视角观察

    麦克风阵列的整体视角: 统计的,多输入多输出(MIMO) 物理意涵: 辐射源+多传感器+声学冲击响应=全部 声学通道. 线性最优滤波理论是很多信号处理应用的基础,其中也包括麦克风阵列信号处理.通俗的说 ...

  5. C语言LMS双麦克风消噪算法,芯片内部的噪声抑制算法,语音芯片来说也是一样(双麦克风降噪理念)...

    因此,为了尽可能满足人们的需求,现在设计了双麦克风--即双麦克风降噪,当然,在使用这种降噪方法时需要注意两点.若将两个麦克风放在一起,或将两个麦克风分开,则距离较远.该芯片内的算法将根据两个麦克风接收 ...

  6. 大牛讲堂 | 语音专题第一讲,麦克风阵列的语音信号处理技术

    雷锋网按:徐荣强(Kevin),地平线硬件音频工程师.2011年11月毕业于英国爱丁堡大学通信与信号处理专业,曾任诺基亚,联想,微软高级音频工程师.现在Horizon-Robotics负责语音相关硬件 ...

  7. 语音专题第一讲,麦克风阵列的语音信号处理技术

    转载自地平线机器人大讲堂,主讲人徐荣强. 2011年11月毕业于英国爱丁堡大学通信与信号处理专业,曾任诺基亚,联想,微软高级音频工程师.现在Horizon-Robotics负责语音相关硬件系统设计,涉 ...

  8. 微信语音技术原理_智能语音技术中麦克风阵列的原理

    麦克风阵列(Microphone Array),从字面上,指的是麦克风的排列.也就是说由一定数目的声学传感器(一般是麦克风)组成,用来对声场的空间特性进行采样并处理的系统. 早在20世纪70.80年代 ...

  9. 多麦克风做拾音的波束_麦克风阵列是什么 有哪些关键技术?

    麦克风阵列是什么 有哪些关键技术? 亚马逊Echo和谷歌Home争奇斗艳,除了云端服务,他们在硬件上到底有哪些差异?我们先将Echo和Home两款音箱拆开来看,区别最大的还是麦克风阵列技术.Amazo ...

  10. esp32语音控制_【动态】乐鑫发布 AI 语音麦克风阵列开发板 ESP32Korvo

    乐鑫信息科技(股票代码:688018)发布 AI 语音麦克风阵列开发板 ESP32-Korvo. 这是一款针对物联网嵌入式设备的 AI 语音开发板,基于乐鑫的旗舰芯片 ESP32,搭载多麦克风阵列,能 ...

最新文章

  1. 为什么回归测试在增量开发中特别重要?
  2. 《Android程序设计》一第一部分 工具和基础
  3. WINCE的内存配置-config.bib文件的解析
  4. 京东输血变造血-丰收节交易会·罗伟:农村谋定物流服务能力
  5. 由“求最大公约数“引发的思考
  6. B03_NumPy创建数组(numpy.empty,numpy.zeros,numpy.ones)
  7. 面向全球用户的Teams app之Culture计量单位和禁忌篇
  8. 艾特肯法方程解matlab程序,牛顿迭代法matlab代码
  9. js datagrid 移动去重
  10. 批量创建邮箱通讯组及向通讯组批量添加成员
  11. Google Go TCP 开发
  12. 母婴群如何引流?孕妈群如何引流?母婴群怎么运营好?
  13. 米思齐(Mixly)图形化系列教程(三)-变量
  14. Android手机应用开发(一) | 基本的UI界面设计
  15. 【HTML】3.Form表单
  16. 会声会影2023中文旗舰版新增功能讲解及下载更新教程
  17. 一、针对工业领域线圈小目标检测,基于Yolov5s网络改进检测头实验及其检测效果对比
  18. android crosswalk-webview 取代 webview
  19. matlab---矩阵运算函数
  20. scikit-learn学习笔记-bili莫烦

热门文章

  1. 10分钟教你写个商业计划书
  2. Flexsim 强化学习
  3. 服务器ghost备份后无法进入系统还原,ghost恢复后,系统不能启动的问题
  4. QT模拟鼠标自动点击:1-鼠标移动自动显示坐标
  5. LACP链路聚合控制协议
  6. 【第52期】游戏策划:应聘的误区你信了几个?
  7. 软件测试基础 ——— 测试分析
  8. 【数据异常校验】格拉布斯准则(Grubbs Criterion)处理数据异常
  9. 开发APP软件需要哪些编程语言和开发环境
  10. python爬虫教程书籍-python入门书籍(爬虫方面)有哪些推荐?