高维数据软子空间聚类FSC

A Fuzzy Subspace Algorithm for Clustering High Dimensional Data

一、针对问题
高位数据聚类存在两个问题：

高纬数据在距离计算上，任意两点的距离都可能极为相近，导致难以将相似点和不相似点区分出来；
高纬数据集的簇可能存在于不同的维度集合里。

二、文章的灵感

维数约减现状：PCA、以及相关的特征选择算法，本文主要讲的是其中的子空间部分；
子空间聚类的推进：
维数约减和特征选择背后的思路是：裁剪掉不重要的维度，实现从高维向低维空间的改变，以利于往后的聚类等工作。这样的维度裁剪过程，极可能导致信息的缺失；正是这个问题促进了子空间聚类的发展，如：
（1）任意定向子空间聚类（arbitrary oriented subspace），比如ORCLUS和投影k均值聚类；特点为所产生的维度都是初始维度的线性组合。
（2）常规子空间聚类，比如PART和SUBCAD；做法是在初始维度中选择若干维度成子空间组，再进行聚类。
子空间聚类的缺陷：统一为簇所在的子空间的各个维度分配相等的非零权值，为其他维度（non-cluster dimensions）赋权值为0。均匀赋权值导致了一个问题：如何选择恰当的维度？举个例子，比如有一个100维的数据集，已知各个簇嵌入在其中的50维子空间中，然而不同维度实际上对聚类的贡献程度不见得完全相同，各维度之间甚至可能是相互关联的，为子空间各个维度赋相同的权值是否合适？进一步说，而在未知子空间维数的情况下，我们如何知道合适的子空间是多少维？
为了解决以上的问题，在子空间聚类中引入模糊聚类和LAC的思想，形成软子空间的聚类FSC。通过密度稀疏来为各个维度分配不同的权值，解决了子空间维度的不够灵活的维度选择问题、并为所有维度分配合适的贡献值，而不是均匀的权值。

三、 FSC模型

模型定义
（1）数据集

（2） d是原始数据集维度数
（3） k为聚类簇数
（4）给定k个中心点（最初随机，往后通过EM迭代更新的）

（5） k个d维的权重向量

（6） alpha是维度权重的模糊系数，同FCM里的m一致要求取值大于1。
（7）在数据集D中找出点x作为Cj，要求符合（注意Cj所含点的数量可能不为1）

（8）目标函数:

限制条件为：
解析
（1）求导，得到对中心点的更新：

（2）拉格朗日乘子更新权重：

那么得到权重：
防除零处理，增加偏差项
通过解析过程，可以发现实际上FSC结构和FCM十分相似，实际上可以和FCM的相关理论相互联系，做更多的分析。

四、实验细节
不赘述。

五、附
FSC模型比较基础，文章论述的深度不是很深，没有指出FSC的缺陷，这可能是这篇文章的不足之处之一，本文没有指出FSC的缺陷，在后续一个月的算法比较实验中，会再补充关于模型表现的相关内容。

高维数据软子空间聚类FSC相关推荐

软子空间聚类_不平衡数据的软子空间聚类算法
[1] DENG Z, CHOI K-S, JIANG Y, et al. A survey on soft subspace clustering [J]. Information Sciences ...
软子空间聚类_自适应的软子空间聚类算法
自适应的软子空间聚类算法陈黎飞 ; 郭躬德 ; 姜青山 [期刊名称] <软件学报> [年 ( 卷 ), 期] 2010(021)010 [摘要] 软子空间聚类是高维数据分析的一种重要手段 ...
文献记录(part15)--面向高维数据的聚类算法研究
学习笔记,仅供参考,有错必究面向高维数据的聚类算法研究摘要随着信息技术的发展,数据的维度在不断增加,传统的聚类算法将面临以下挑战和问题: 高维数据包含大量冗余的.不相干的信息,数据之间的差异性可 ...
论文阅读笔记（15）：Deep Subspace Clustering with Data Augmentation，深度子空间聚类+数据增强
论文阅读笔记(15):Deep Subspace Clustering with Data Augmentation,深度子空间聚类+数据增强摘要 1 介绍 2 相关工作带增强的聚类方法具有一致 ...
论文阅读笔记（2）：Learning a Self-Expressive Network for Subspace Clustering，SENet，用于大规模子空间聚类的自表达网络
论文阅读笔记(2):Learning a Self-Expressive Network for Subspace Clustering. SENet--用于大规模子空间聚类的自表达网络前言摘要 ...
过完备深度子空间聚类网络：《Overcomplete Deep Subspace Clustering Networks》
论文:<Overcomplete Deep Subspace Clustering Networks> 论文原文链接:有道云笔记论文讲解链接:子空间聚类入门(一)overcomplete ...
对高维数据进行降维的算法
解析: 维度灾难:在高维情况下出现的数据样本稀疏,距离计算困难等问题. 缓解维度灾难的一个重要途径就是降维,通过某种数学变换将原始高维属性空间转变成一个低维子空间,在这个子空间中样本密度大幅提高,距离 ...
高维数据降维国家自然科学基金项目 2009-2013 NSFC Dimensionality Reduction
2013 基于数据降维和压缩感知的图像哈希理论与方法唐振军广西师范大学多元时间序列数据挖掘中的特征表示和相似性度量方法研究李海林华侨大学基于标签和多特征融合的图像语义空间学习技 ...
多视图聚类与子空间聚类
1.多视图聚类从对事物的不同角度的理解生成多个特征描述视图,而非单个视图,就是多视图. 若对事物作单视图特征表示,则意味着,增加了特征空间的维度,且不同角度的特征合成同一视图,其特征可能失去原有的意 ...
论文阅读笔记（9）：加权稀疏子空间表示——子空间聚类、约束聚类和主动学习的统一框架
论文阅读笔记(9):WEIGHTED SPARSE SUBSPACE REPRESENTATION--A UNIFIED FRAMEWORK FOR SUBSPACE CLUSTERING, CONS ...

高维数据软子空间聚类FSC

A Fuzzy Subspace Algorithm for Clustering High Dimensional Data

高维数据软子空间聚类FSC相关推荐

最新文章

热门文章