1.前言

独立成分分析思想和方法最早源于上世纪八十年代几个法国学者的研究工作,尽管当时他们并没有命名其为ICP;在1986年举行的神经网络计算会议上,法国学者Heraull和Jutten提出了一个基于神经网络模型和Hebb学习准则的方法,来解决盲源分离问题,简称BSS.
混合信号是由相互统计独立的源信号混合而成的。这篇文章提出的算法可以解决具有两个源信号混合的盲源分离问题。他们的工作开创了信号处理领域的新纪元,从此盲源分离问题得到了各国学者的广泛重视。但在当时,仅为法国学者所研究,在国际上的影响十分有限。八十年代国际神经网络会议上,当时少数有关的文章被埋没于back-propagation网络、Kohonen自组织网络的研究热潮中,并没有引起各国学者足够的重视。
进入到上世纪九十年代初期,某些学者开始了这方面的研究,他们扩展了八十年代有关盲分离问题的一些工作,其中,学者Cichochi和Unbehauen提出了当时较为流行的ICP算法。芬兰学者Ojs,Ksrhunen,等提出了“非线性ICP ”方法,然而,直到九十年代中期,仍然只得到少数学者的关注,主要原因是这些学者提出的算法所能解决的问题是相当有限的。
事实上,解决盲源分离问题是一个非常困难的任务,因为我们不知道源信号的任何信息，在Heraull和Jutten提出的算法中,只作了两个假设：一个是假设源信号是相互统计独立的,另一个是假设己知源信号的统计分布特征。如果假设源信号是高斯分布的,则很容易看出这个盲源分离问题没有一般的解,因为高斯分布的任何线性混合仍然是高斯。用Heraull-Jutten的网络模型解决盲源分离问题,需要假设源信号是亚高斯信号,也就是说源信号的峰度值要小于高斯信号的峰度值！！！
直到1994年,法国学者Comon，Heraull和Jutten提出的独立成分分析问题给出了一个较为清晰的数学上的框架,从此成为文献中的正式用语。
ICP获得广泛的关注和持续增长的研究兴趣归功于美国学者Bell和Sejnouski在九十年代发表的里程碑式的论文,他们的方法基于信息极大化原理，这个算法进一步由日本学者和他的合作者用自然梯度完善,其本质上是极大似然估计方法。
几年以后,芬兰学者Hyvarrinen和Oja提出Fixed-Point算法(不动点算法),或称为FastICA。因为它对大规模问题特别有效，而得到了广泛的应用。
解决标准的独立成分分析只需假设源信号是相互统计独立的,并且满足非高斯性，到目前为止,标准的独立成分分析算法己经较为成熟,国际上使用最为广泛的是信息极大化算法、FastICA算法、扩展的信息极大化算法和ECSI算法等。
标准的独立成分分析的数学模型较为简单,不同的独立性判据所导致的算法在形式上也是基本相似的。形势虽然简单,但到目前为止,以实际的生物医学信号处理为例,研究者大量使用的主要还是标准的算法，主要因为它发展的最为成熟,计算稳定,较少有数值问题,并且网上有相关作者编制的通用软件包可用于研究下载在真实数据的处理过程中,可尽量将所面临的问题转化为标准的问题,然后选用有效的算法来解决它因为真实数据往往规模比较大。
选择在实算中收敛速度快,计算稳定的算法是相当重要的,最初所希望解决的鸡尾酒会问题是极为复杂和困难的,实际的盲源分离问题又是方方面面,需要将各种实际情况转化为相应的数学模型来解决,现在人们重点研究的是扩展的独立成分分析,其模型是标准的模型的扩展和补充,来进一步满足实际需要,比如具有噪声的独立成分分析阵,稀疏和超完备表示问题,具有时间结构的独立成分分析问题,非线性的独立成分分析和非平稳信号的独立成分分析等.
独立成分分析己经被广泛应用于实际数据的处理中,诸如图像处理、语音信号处理、生物医学信号处理、模式识别、数据挖掘、通讯等。

2.ICA研究的意义

假设在一个房间内有两个人同时讲话,在房间的不同位置有两个麦克风,而每个麦克风记录下来的是两个人声音信号的混合。我们的问题是如何仅利用麦克风的混合声音信息来获得每个讲话者所说的话即源信号这就是著名的鸡尾酒会问题。
人类复杂的听觉系统可以很好的解决这个问题,将注意力集中于一个说话者,人们可以听出他所说的话但如何利用计算机,或利用机器,使其智能化,来模仿人类并有效的解决这个问题这个问题相当令人感兴趣,它属于智能信息处理的范畴。独立成分分析就是解决鸡尾酒会问题的有效方法,或者说解决盲源分离问题的有效方法。在上世纪九十年代之前,没有独立成分分析这个工具,解决此类问题是相当之难的。
解决盲源分离问题的一个主要困难在于,我们不知道源信号的任何信息,也不清楚信号的混合方式。但假设源信号是相互统计独立的,就可以应用独立成分分析这一工具很好的解决这个问题。在大量的实际问题中,这个假设是合理的,符合实际的情况,这样,独立成分分析被广泛地应用于解决实际问题。标准的独立成分分析需要的另一个假设是信号的非高斯性,现实世界的许多信号,诸如绝大多数的语音信号和图像信号即是服从非高斯分布的这个假设的可应用性,带来了独立成分分析的重要特征,即实际信号的统计特性仅用普通的基于二阶统计量方法是不能反映的,独立成分分析追求的是信号的高阶统计信息，应用上的广泛性和技术上的更高要求,使得独立成分分析成为国际上的研究热点。
目前独立成分分析己经成功地应用在图像处理、语音信号处理、生物医学信号处理、模式识别、数据挖掘、通讯和金融等领域。信号处理及多元统计领域的基本问题是寻找信号，比如语音和图像数据的一个恰当的线性表示、数据压缩和数据的去噪声等,独立成分分析已经成功的用于解决这些问题,与传统的方法比如傅利叶基表示、小波基表示等相比较有许多优点。在生物医学信号处理领域,独立成分分析发挥了巨大的作用,它比传统的方法更优越，比如相关性分析和主成分分析。ICA己经成功地用于EEG、MEG、EPR等医学信号的处理。具体以在功能磁共振成像fMRI数据分析中的应用为例来说明它的作用。人脑受到外界的任务刺激后,它的激活区域是各种可能存在的信号在脑内的综合反应,比如这些信号可能包括任务信号、心脏的跳动、肌肉的收缩、呼吸和机器噪声等,把这些信号看作是相互统计独立的,则独立成分分析对fMRI数据分析的目的就是找出真正与脑激活有关的独立成分,去除与其它干扰噪声相应的独立成分。众所周知,对fMRI信号的研究大多是在假定己知事件相关时间过程曲线的情况下,利用相关性分析得到脑的激活区域.就像上面所提到的,将fMRI信号分析看作是一种盲源分离问题,在不清楚有哪几种因素对fMRI信号有贡献、也不清楚其时间过程曲线的情况下,用空间独立成分分析方法对fMRI信号进行盲源分离,提取不同独立成分得到任务相关成分、头动成分、瞬时任务相关成分、噪声干扰、以及其它产生fMRI信号的多种源信号。与主成分分析相比较发现,独立成分分析能得到更多的脑内激活信号,并且在相同的阈值情况下,独立成分分析的激活区域更大，可见独立成分分析是一个比较优越的数据处理方法,能够广泛的应用于数据分析,因此研究独立成分分析具有重要的现实意义。

参考文献：

Hyvärinen A, Oja E. Independent component analysis: algorithms and applications.[J]. Neural Networks, 2000, 13(4-5):411-30.

史振威. 独立成分分析的若干算法及其应用研究[D]. 大连理工大学, 2005.

独立成分分析ICA系列1：意义相关推荐

  1. 独立成分分析ICA系列2：概念、应用和估计原理．

    1.概念 独立成分分析是从多元(多维)统计数据中寻找潜在因子或成分的一种方法．ICA与其它的方法重要的区别在于,它寻找满足统计独立和非高斯的成分.这里我们简要介绍ICA的基本概念.应用和估计原理. 1 ...

  2. 独立成分分析ICA系列3:直观解释与理解

    服从均匀分布的独立成分sl和s2的联合分布．其中横坐标表示s1,纵坐标表示s2 为了进一步解释ICA的统计模型,考虑服从下列均匀密度分布的两个互相独立的随机变量: 这个联合分布是在一个方形上均匀分布的 ...

  3. 独立成分分析ICA系列5:信息极大化的 ICA 算法

    1.ICA基本理论再综述 在实际应用中,可以通过传感器得到一系列观测信号,这些观测信号是由未知源信号经过某种混合系统的输出,如在移动通信中,源信号经过发射机天线发出后,在无线信道中经过不确定的混合和干 ...

  4. 独立成分分析ICA系列4:ICA的最优估计方法综述

    ICA算法的研究可分为基于信息论准则的迭代估计方法和基于统计学的代数方法两大类,从原理上来说,它们都是利用了源信号的独立性和非高斯性.基于信息论的方法研究中,各国学者从最大熵.最小互信息.最大似然和负 ...

  5. 学习笔记 | 独立成分分析(ICA, FastICA)及应用

    学习笔记 | 独立成分分析[ICA, FastICA]及应用 1 背景说明 2 算法原理 2.1 ICA简介 2.2 形式化表达 3 算法步骤与代码 4 算法改进:FastICA 5 ICA实例与应用 ...

  6. 独立成分分析 ( ICA ) 与主成分分析 ( PCA ) 的区别

    1.前言 参考资料:https://www.zhihu.com/question/28845451 书上写的是: 1. 主成分分析假设源信号间彼此非相关,独立成分分析假设源信号间彼此独立. 2. 主成 ...

  7. 独立成分分析ICA/FastICA

    最近在学习CSP,然后又注意到了ICA,这个算法之前就用过,但是没有系统的整理一下,所以就在这里梳理一下相关内容,方便以后查阅. 独立成分分析ICA/FastICA 1 盲源分离(BlindSourc ...

  8. R语言使用caret包的preProcess函数进行数据预处理：对所有的数据列进行独立成分分析ICA（Independent components analysis）、设置method参数为ica

    R语言使用caret包的preProcess函数进行数据预处理:对所有的数据列进行独立成分分析ICA(Independent components analysis).设置method参数为ica 目 ...

  9. 独立成分分析ICA、因子分析、LDA降维、NMF非负矩阵分解

    独立成分分析ICA.因子分析.LDA降维.NMF非负矩阵分解 目录 独立成分分析ICA.因子分析.LDA降维.NMF非负矩阵分解 独立成分分析ICA

最新文章

  1. docker安装ActiveMQ
  2. IBM的SOA方法论之一——五个切入点和八个场景
  3. ZAM 3D入门教程(3)：Viewport
  4. 深入浅出extjs第2版_LINGO实例教程第2版第2期上线
  5. Docker最全教程之Go实战，墙裂推荐（十九）
  6. 学习手记(2018/7/14~2018/7/18)——快乐纪中
  7. mysql单表简单排序查询
  8. Django创建图书管理项目（完整版
  9. java setpaintmode 用法_详解Paint的各种set方法
  10. 【人脸识别】VGGFace2数据集介绍
  11. 关于“Unknown or unsupported command ‘install‘”问题解决的小结
  12. 如何搭建一个uni-app项目并运行
  13. 倒计时1天，IMG、完美、腾讯技术大咖相聚直播间详解光线追踪技术
  14. diffuse、specular贴图的光照
  15. wireguard如何配置----服务端
  16. 解决undefined reference to symbol ‘LZ4_decompress_safe‘问题
  17. [wayfarer]PetShop数据访问层之消息处理
  18. 《把时间当作朋友》读书笔记
  19. lamp +discuz+wordpress+phpmyadmin实例安装详解
  20. Network connection problem with T2080RDB-PC

热门文章

  1. C++内联函数的学习
  2. 在VS2010下运行Qt程序
  3. hdu 2448 Mining Station on the Sea(最短路+费用流)
  4. MyCAT+MySQL 搭建高可用企业级数据库集群
  5. flask 文件上传
  6. PHP中预定义的超全局数组
  7. FLP不可能性（FLP impossibility）
  8. spring boot 表单的实体提交错误：Validation failed for object='book'. Error count: 2
  9. asp.net 发送邮件
  10. OC学习篇之---归档和解挡