论文总结——Cluster Canonical Correlation Analysis

原文链接：

http://xueshu.baidu.com/s?wd=paperuri:(ba0044ede74ce3a08eb2f83cc970284b)&filter=sc_long_sign&sc_ks_para=q%3DCluster+Canonical+Correlation+Analysis&tn=SE_baiduxueshu_c1gjeupa&ie=utf-8&sc_us=15456908664490711842

一、引出问题

CCA是一个常见的处理脑电信号（SSVEP、P300等）的算法，但是CCA算法要求处理的信号必须是配对的，当每个类别有一些数据点有两种不同的方式进行配对时，CCA就无法直接应用。在这篇文章中，对该算法做了拓展和改进，包括Kernel canonical correlation analysis（KCCA）、Mean Canonical Correlation Analysis（Mean-CCA）、Cluster Canonical Correlation Analysis（Cluster-CCA）和Cluster Kernel Canonical Correlation Analysis（cluster-KCCA）

下图表示了各种获取集合之间相关子空间的方法，其中‘△’和‘〇’分别代表每个集合中的两个聚类。

（a）CCA：使用集合之间的成对对应关系，不能分离两个集群，（b）CCA for sets：计算两个子空间之间的主角，不能处理多个集群，（c）cluster-CCA：使用集群内的所有成对对应（d）Mean-CCA：计算平均聚类向量之间的CCA。

二、研究方法

2.1 CCA

首先，先了解一下CCA，两个零均值的多元随机变量\[X\epsilon R^{D_{x}}\]和\[Y\epsilon R^{D_{y}}\]，设集合Sx={X1,......,Xn}和Sy={y1,......,yn}，CCA的目标是通过选择一个的方向\[w\epsilon R^{D_{x}}\]找到一个新的坐标x，同样通过选择一个方向 \[v\epsilon R^{D_{y}}\]，使得在w和v上Sx和Sy的投影之间的相关性最大，

其中，

2.2 KCCA

Kernel canonical correlation analysis通过使用“核技巧”，重新定义CCA来提取非线性关系。

其中，是n*n的核矩阵，kx()和ky()是核函数

是投影系数。

注意：CCA和KCCA 都要求数据是成对对应的！

考虑一下，如果有两组数据，每组数据分为C个不同但相互对应的类，令Tx={X1,......,Xn}和Ty={y1,......,yn}，其中和分别为集合中第C类的数据点。通过选择方向w和v找到X和y的新坐标，使得Tx和Ty在w和v上的投影有最大的相关性，同时，类之间可以很好地分离。但是无法直接计算这些投影之间的相关性，因为他们在w和v上的投影没有任何直接的对应关系。因此提出了Mean-CCA与Cluster-CCA。

2.3 Mean-CCA

Mean-CCA是通过建立两个集合的平均聚类向量之间的对应关系来使之产生一对一的对应关系，令聚类均值

和

其中，

2.4 Cluster-CCA

Cluster-CCA不是建立类均值之间的对应关系，而是建立两个集合中给定类中所有数据点之间的一一对应关系。

其中，

其中，，是成对对应的总数。

注意：Mean-CCA与Cluster-CCA，都假定协方差矩阵是针对零均值随机变量计算的！

Cluster-CCA不适用于大型数据集，因为M随着每个集合的数据数量成二次增长（例如，当|Xc|=|Yc|=L时，M=C(L*L）），其实，协方差矩阵可以定义为：

其实，Mean-CCA与Cluster-CCA相比较来说，忽略了数据本身的一些信息，Cluster-CCA是对数据中的所有点进行估计，因此，Cluster-CCA相对于Mean-CCA来说，性能好很多。

2.5 cluster-KCCA

类似于KCCA，Cluster-CCA也可以扩展到高维空间的非线性投影来观察两个集合间的关系：

其中，

三、实验

3.1 实验设计

下面是对通过实验对Cluster-KCCA性能的评估，在所有实验中使用的都是KCCA的正则化版本，通过交叉验证获得正则化常数，文本和图像的核化方法都采用径向X^2（卡方）核，归一化参数被设置为训练集中X^2（卡方）距离的平均值。最后，利用归一化相关得分计算低维投影向量之间的相似性，所有的实验都用随机试验分组重复了十次。

评估是在五个公开的数据集上进行的，分别是Pascal VOC 2007 、TVGraz 、 WikiText-Image Dataset 、Heterogeneous Face Biometrics(HFB) 和Materials Dataset 。

Pascal VOC 2007：包含5011/4952（训练/测试）个图像及其注释，分为20个类别。图像由Pascal挑战提供，图像注释用作文本模式，并且定义在804个关键词的词汇表上。我们将实验限制在属于单个类别的图像和注释中，从而将数据降至2954/3192。其中，一些注释是空的，即不包含关键字，因此形成了两个不同的数据集，即VOC和VOCfull。在VOC 中，删除了所有带有空注释的图像，以保持图像和文本之间的平衡，共得到1905/2032（训练/测试）个数据。在VOCfull中，保留了无注释的图像。VOC和VOCfull的测试集是相同的。

TVGraz：由Khan等人编辑，包含了检索了Caltech-256数据集的10个类的网页，由于版权问题，TVGraz数据集存储为URL列表，并且必须由每个新用户重新编译，我们从网页（2592个网址）中收集了2058个图像和文字，并随机分为1588/500（训练/测试）。

WikiText-Image Dataset：由Rasiwasia等编译。使用维基百科网站上的精选文章。它由2173/693（训练/测试）个图像和10个来自不同类别的文本文章组成。

Heterogeneous Face Biometrics(HFB）：包括四个近红外（NIR）图像和四个视觉（VIS）图像，他们各自没有任何自然配对，其中，这两种模式都是图像，但是来自不同的感觉。我们遵循协议，70名受试者的图像用来训练，其余30名作为测试集。

Materials Dataset ：由图像以及来自17中不同材料的音频组成，我们与已发表的分类任务和跨模式检索任务的结果进行了比较。

3.2 实验结果

3.2.1 cluster-(K)CCA

使用Pascal数据集的‘bus’、‘car’和‘motorbike’的类构建玩具数据集，下图为Pascal VOC数据集的图像和文本的低维映射和类别区分。

从图中可以清楚地看到，CCA虽然产生了文本与图像之间高度相关的映射，但无法实现类别的区分。而Cluster-KCCA可以实现类别的区分。

3.2.2 跨模态检索

下表为各方法分别在各数据集上的性能

从表中，我们可以看到，mean-CCA的性能高于CCA，KCCA的性能也不是太好，而cluster-CCA和cluster-KCCA的性能明显优于其他算法。

下图为在TVGraz数据集上，各个算法的PR曲线

下图展示了使用cluster-KCCA检索的一些例子，前三行为图像检索到文本的示例，后三个为文本检索到图像的示例

3.2.3 cluster-（K）CCA在VOC（full）上的性能比较

我们在上面已经提到，VOCfull是没有删除无注释图像的数据集，CCA无法应用于这个数据集，因为有一些图像相对应的文本不存在，而cluster-KCCA不需要成对的对应关系，下表列出了cluster-CCA与cluster-KCCA在同样数据集上的检索结果，他们的测试集都是相同的，所以不会因为数据集的差异对结果造成的影响。

从表中可以看出，当有额外的图像（无额外文本）的时候，cluster-（K）CCA算法的性能高于数据完全对应（无任何额外的图像和文本）的数据集，即：额外的图像或者文本有助于提高该算法的性能。

四、结论

将CCA和cluster-CCA核化后，可以将其应用范围扩展至非线性，将CCA改进至cluster- CCA后，可以改进CCA只能应用于所有数据必须成对对应的数据集的性能，即：拓宽了应用范围。当然，也是有一定弊端的，就是在大型数据集上使用时，计算量很大，因为它在计算协方差的时候对数据的数量呈平方的关系增长。

各数据集参考文献：

Pascal VOC 2007 ：M. Everingham, L. Van Gool, C. K. I. Williams, J. Winn,
and A. Zisserman. The PASCAL Visual Object Classes
Challenge 2007 (VOC2007) Results. http://www.pascalnetwork.
org/challenges/VOC/voc2007/workshop/index.html.

链接：http://host.robots.ox.ac.uk/pascal/VOC/voc2007/htmldoc/voc.html

TVGraz ：I. Khan, A. Saffari, and H. Bischof. Tvgraz: Multi-modal
learning of object categories by combining textualand visual
features. In Proceedings 33rd Workshop of the Austrian Association

for PatternRecognition, 2009

链接：

http://xueshu.baidu.com/s?wd=paperuri:(8f22858b81aabbd7707db189279d9a4f)&filter=sc_long_sign&sc_ks_para=q%3DTVGraz%3A+Multi-Modal+Learning+of+Object+Categories+by+Combining+Textual+and+Visual+Features&tn=SE_baiduxueshu_c1gjeupa&ie=utf-8&sc_us=9275424831294604053

WikiText-Image Dataset ：N. Rasiwasia, J. Costa Pereira, E. Coviello, G. Doyle,
G.and Lanckriet, R. Levy, and N. Vasconcelos. A new approach
to cross-modal multimedia retrieval. In Proceedings

18th ACM International Conference on Multimedia, 2010

链接：http://xueshu.baidu.com/s?wd=paperuri:(341c8e50c52e1b9a84297fd786343ff9)&filter=sc_long_sign&sc_ks_para=q%3DA+new+approach+to+cross-modal+multimedia+retrieval&tn=SE_baiduxueshu_c1gjeupa&ie=utf-8&sc_us=14965492576112519918

Heterogeneous Face Biometrics(HFB)：S. Z. Li, Z. Lei, and M. Ao. The HFB face database for
heterogeneous face biometrics research. In IEEE Conf. on
Computer Vision and Pattern Recognition Workshops, 2009,

pages 1–8.

链接：

http://xueshu.baidu.com/s?wd=paperuri:(dae80635d08b082f8cf0db8404b7b14a)&filter=sc_long_sign&sc_ks_para=q%3DThe+HFB+Face+Database+for+Heterogeneous+Face+Biometrics+research&tn=SE_baiduxueshu_c1gjeupa&ie=utf-8&sc_us=2875153112935655430

Materials Dataset：C. H. Lampert and O. Krmer. Weakly-paired maximum covariance
analysis for multimodal dimensionality reduction
and transfer learning. In Proceedings of the 11th European

conference on Computer vision, pages 566–579, 2010.

链接：

http://xueshu.baidu.com/s?wd=paperuri:(ff0a8601c17f027b59c7393281fccce7)&filter=sc_long_sign&sc_ks_para=q%3DWeakly-Paired+Maximum+Covariance+Analysis+for+Multimodal+Dimensionality+Reduction+and+Transfer+Learning&tn=SE_baiduxueshu_c1gjeupa&ie=utf-8&sc_us=7723943620216524500

论文总结——Cluster Canonical Correlation Analysis相关推荐

交叉分解(Cross decomposition)、典型关联分析(Canonical Correlation Analysis，CCA)、偏最小二乘回归PLS
交叉分解(Cross decomposition).典型关联分析(Canonical Correlation Analysis,CCA).偏最小二乘回归PLS 目录交叉分解.典型关联分析(Canon ...
典型相关分析（Canonical correlation analysis）（二）：原始变量与典型变量之间的相关性、典型相关系数的检验
典型相关分析系列博文: 典型相关分析(Canonical correlation analysis)(一):基本思想 .复相关系数.偏相关系数典型相关分析(Canonical correlation ...
03 - 滤波器组典型相关分析(Filter bank canonical correlation analysis,fbcca）
03 - 滤波器组典型相关分析(Filter bank canonical correlation analysis,fbcca) 这里介绍了一种简单的SSVEP算法,在实际中有着重要的作用. 文章目 ...
典型相关分析（Canonical correlation analysis）（一）：基本思想、复相关系数、偏相关系数
典型相关分析系列博文: 典型相关分析(Canonical correlation analysis)(一):基本思想 .复相关系数.偏相关系数典型相关分析(Canonical correlation ...
典型相关分析（Canonical Correlation Analysis，CCA）原理及Python、MATLAB实现
随着对CCA的深入研究,是时候对CCA进行一下总结了. 本菜鸡主要研究方向为故障诊断,故会带着从应用角度进行理解. 典型相关分析基本原理从字面意义上理解CCA,我们可以知道,简单说来就是对不同变量 ...
数学建模典型相关分析Canonical Correlation analysis
典型相关分析CCA和主成分分析PCA非常相似,都是通过现有变量的线性组合构造新的综合变量以实现减少变量数目但代表几乎同样多的信息的目的.只是CCA分析的是两组变量,是要把每一组变量用一个线性组合综合变 ...
典型相关分析（Canonical Correlation Analysis, CCA)
文章目录一什么是典型相关分析二基本概念 1 典型变量(Canonical Variates) 2 补充概念三典型相关分析一什么是典型相关分析用来探索两个向量之间的关联关系的,这两个向 ...
典型关联分析CCA（canonical correlation analysis）
先看两个数学概念: 相关系数(参看百度百科) 相关系数是用以反映变量之间相关关系密切程度的统计指标.相关系数是按积差方法计算,同样以两变量与各自平均值的离差为基础,通过两个离差相乘来反映两变量之间相关 ...
典型相关分析（Canonical Correlation Analysis，CCA）
1.从概率论中相关系数推广而来在概率论中,研究两个变量之间的线性相关情况时,提出了相关系数这个概念.做一下推广,如果研究一个变量和多个随机变量之间的线性相关关系时,提出了全相关系数(或者复相关 ...

论文总结——Cluster Canonical Correlation Analysis

论文总结——Cluster Canonical Correlation Analysis相关推荐

最新文章

热门文章