独立成分分析ICA系列5:信息极大化的 ICA 算法
1.ICA基本理论再综述
在实际应用中,可以通过传感器得到一系列观测信号,这些观测信号是由未知源信号经过某种混合系统的输出,如在移动通信中,源信号经过发射机天线发出后,在无线信道中经过不确定的混合和干扰,以至于到达接收机的信号是一个多径、携噪的混合信号,而从混合信号中分离出发射端的源信号将大大改善通信质量,因此类似的问题都可以用 ICA的方法来解决。
假设由 N 个源信号 构成一个列向量由 M 个观测信号构成一个列向量A 是一个 N*M 维混合矩阵,满足下列方程:
注意看!观测信号一定要大于等于源信号,否则这个问题是无解的!!!!
ICA 的思路是找到一个 N*M 维反混合矩阵W满足:Y=WX=WAS;Y是我们求解后的成分信号,S是源信号,若要使Y最大程度上逼近S,这实际上就是个优化过程,只需要满足解混合矩阵W最佳估计A的逆矩阵就好!
2.信息极大化算法原理
信息极大化原则(Infomax, Information Maximization)可描述为:系统的输出端信息达到最大时,等价于各输出分量之间的互信息达到最小,则此时各输出分量间的冗余信息得到去除。依据该原则对输出向量建立一个目标函数,这里选择输出向量的熵作为目标函数,熵可以用来度量一个随机量的无序性,如果输出向量的各分量统计独立性越高则相应的熵便越大,所以只需求得使目标函数达到最大时的分离矩阵便可得到输入端向量的最佳估计。
注:Y=WX
注:Z=g(Y)
注:△W是微分收敛逼近思想
3.Infomax算法步骤
4.Infomax算法在语音上的应用
4.1语音增强与消噪
语音信号在传输的过程中不可避免地会受到周围噪音的干扰,这些干扰使最终接收到的语音并非纯净语音,而是携噪语音,很多情况下噪声的功率远远大于语音信号的功率,以致于弱的目标语音信息被很强的干扰噪声所湮没。普通的滤波技术很难解决这个问题,而ICA算法则可以实现。语音中的噪声一般为加性噪声,而且噪声的产生独立于语音的产生,如果将语音和噪声分别看作是由两个独立的信号源产生,然后线性地叠加成携噪语音,则完全可以应用ICA方法分离出语音和噪声,从而达到语音增强和消噪的目的。4.2助听器功能的改善
对于听力障碍者来说,助听器性能的优劣至关重要。传统的助听器仅具有单纯的放大功能和简单的语音滤波功能,在噪声环境中,将所有接收到的信号一同放大,在有两个或两个以上的说话者存在的条件下,有听力障碍的人往往很烦躁,很难把注意力集中到某个人的讲话内容上,因为多个话音信号的频谱特征很接近,滤波器无法将其他的话音信号滤掉,导致助听器的功能下降。此时可以利用ICA分离技术选择出特定的源信号,使得人们可以清楚地听到想要与之交流的说话人的声音,而不会受到其他外来话音的干扰。因此将ICA分离技术应用到助听器中,将大大提高这一产品的实用性和市场竞争力。
5.局限性
采集设备离声源的距离要尽可能近,否则各个语音信号之间的独立性会很差,将大大降低算法的分离效果。
6.参考文献:
[1]Lee T W, Girolami M, Sejnowski T J. Independent component analysis using an extended infomax algorithm for mixed subgaussian and supergaussian sources.[J]. Neural Computation, 1999, 11(2):417-441.
[2]康春玉, 章新华, & 韩东. (2008). 一种基于盲源分离的doa估计方法. Acta Automatica Sinica, 34(10), 1324-1326.
[3]任燕, 何培宇, 闫军, & 杨茂水. (2010). 预处理对基于ica多用户检测算法影响研究. 通信技术, 43(4), 193-195.
[4]栗科峰, & 赵建峰. (2011). 基于信息极大化的ica算法研究. 通信技术, 44(5), 113-115.
独立成分分析ICA系列5:信息极大化的 ICA 算法相关推荐
- 独立成分分析(Independent Component Analysis)(ICA)(主元分解)
1. 问题: 1.上节提到的PCA是一种数据降维的方法,但是只对符合高斯分布的样本点比较有效,那么对于其他分布的样本,有没有主元分解的方法呢? 2.经典的鸡尾酒宴会问题(cocktail party ...
- 因子分析_主成分分析_独立成分分析_斯坦福CS229_学习笔记
Part VIII 因子分析 主成分分析 独立成分分析 在上个部分介绍了EM算法,在此部分因子分析中,我们会再次应用到. 因子分析.主成分分析和独立成分分析都作为对于数据维度进行处理的手段,对于我们理 ...
- 独立成分分析ICA系列1:意义
1.前言 独立成分分析思想和方法最早源于上世纪八十年代几个法国学者的研究工作,尽管当时他们并没有命名其为ICP;在1986年举行的神经网络计算会议上,法国学者Heraull和Jutten提出了一个基于 ...
- 独立成分分析ICA系列3:直观解释与理解
服从均匀分布的独立成分sl和s2的联合分布.其中横坐标表示s1,纵坐标表示s2 为了进一步解释ICA的统计模型,考虑服从下列均匀密度分布的两个互相独立的随机变量: 这个联合分布是在一个方形上均匀分布的 ...
- 独立成分分析ICA系列2:概念、应用和估计原理.
1.概念 独立成分分析是从多元(多维)统计数据中寻找潜在因子或成分的一种方法.ICA与其它的方法重要的区别在于,它寻找满足统计独立和非高斯的成分.这里我们简要介绍ICA的基本概念.应用和估计原理. 1 ...
- 学习笔记 | 独立成分分析(ICA, FastICA)及应用
学习笔记 | 独立成分分析[ICA, FastICA]及应用 1 背景说明 2 算法原理 2.1 ICA简介 2.2 形式化表达 3 算法步骤与代码 4 算法改进:FastICA 5 ICA实例与应用 ...
- Python专栏 | 独立成分分析(ICA)的实例应用:消除伪影信号
关注微信公众号:脑机接口研习社 了解脑机接口最近进展 系列文章目录 Python专栏 | 脑电图和脑磁图(EEG/MEG)的数据分析方法之载入数据 Python专栏 | MNE脑电数据(EEG/MEG ...
- 独立成分分析(Independent Component Analysis,ICA)模型介绍
独立成分分析ICA模型 1 历史背景 2 ICA基本模型 3 独立与不相关 \qquad 1 历史背景 \qquad独立成分分析思想和方法最早源于上世纪八十年代几个法国学者的研究工作,尽管当时他们并没 ...
- 独立成分分析 ( ICA )
PCA是一个降维的过程,ICA则是帮助你从多个维度分离有用数据的过程. 独立成分分析思想和方法最早源于上世纪八十年代几个法国学者的研究工作,尽管当时他们并没有命名其为ICP;在1986年举行的神经网络 ...
最新文章
- tensorflow训练打游戏ai
- Android:BroadcastReceiver的基础知识
- hadoop配置后无法通过主机名:50070访问,只能通过ip:50070访问
- java制作oracle程序,Java程序操作Oracle两种方式之简单实现
- “已使用指定的进程(“Web Management Service”)连接到远程计算机,但未能验证服务器的证书”的解决方案
- 什么是COM组件(ZT)
- c保留小数点后三位数没有则为0_C语言中……“计算结果保留三位小数。”怎么表示?...
- [原]防火墙安装配置(日志)
- 2005/2006/2007/2008/2009/2010/2012/2013/2014/2015/2016/2017/2018/2019/2020高德poi一级类别 二级类别 三级类别
- AirSim学习日志 9-三维空间航路点跟踪
- Sensor系列五 App实现获取gsensor数据
- SSM框架练手项目【虎牙个人博客】手把手带你搭建自己的个人博客
- 【哲理】你的上限是什么?如何打破上限?-莫安迪
- 赶紧投入es6的怀抱吧
- 阎王爷让我给他做个生死簿管理系统,附地址!
- Latex制作Slide的工作流程
- LindedList相关介绍
- 名正则言顺谈服装品牌名称规划
- 自动驾驶毫米波雷达物体检测技术-硬件
- 关于迅雷电影的下载地址