[2018][PAMI]Deep Self-Evolution Clustering 笔记

paper:https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=8590804
supplement meterial:https://ieeexplore.ieee.org/ielx7/34/4359286/8590804/dsec_supp.pdf?tp=&arnumber=8590804

code:https://github.com/vector-1127/DSEC
这是一篇深度聚类的文章

简介和相关工作

现存的方法忽略了特征表示和聚类的组合。传统的方法将特征提取过程和聚类过程分开，聚类过程将不再修改特征表示使得特征表示不能继续学习以达到更好的效果。作者提出了一个联合学习聚类和表示的方法。Deep Self-Evolution Clustering(DSEC)

模型和方法

假设我们已经有了样本间的相似度rij∈{0,1}r_{ij} \in \{0,1\}rij∈{0,1},rij=1r_{ij}=1rij=1表示样本iii和jjj是相似的，也就是同类别。我们就可以用一个模型ggg来学习相似度，www是要学习的参数

其中损失为
为了学习more informative representations来聚类,引入指示特征I={Ii}i=1n\mathcal{I} = \{I_i\}_{i = 1}^nI={Ii}i=1n,IiI_iIi是一个kkk维的向量用于聚类（可以看成样本分到哪个类别的一个指标,总共k个cluster）。引入约束
使用一个网络，来学习这个III

让样本的相似度等于

综合上面，得到模型（C(Ii)=True\mathcal{C}(I_i)= TrueC(Ii)=True表示IiI_iIi满足约束(3)）

基于上面的模型有定义定理
定义说明理想状态下，学习到的I是一个One-hot表示（*好像不是这样，因为一个加上一个正交变换也是可以的。而且附录中的证明假设的是EEE能够取到0的情况，不然的话，后面证明都是错的，作者没有显式说明。不过没有关系，大致是这个思路能work就行 *）

为了降低搜索空间，让结果更可靠，再加一个约束pnormp\, normpnorm,让∥Ii∥p=1\|I_i\|_p = 1∥Ii∥p=1，即

说了这么多，最重要的rijr_{ij}rij又没有，怎么办？作者采用以自进化算法（体现文章题目），设定u,lu,lu,l（逐步更新），令（其中S是相似度，这里就是内积）

由于大部分情况下，样本间的是不同类别的（见下面定理2和推论）。也就是说，大部分的标签会是对的，可以学习到一些有用的信息，说明了方法的合理性。

利用得到的标签rrr进行学习，最后我得到优化目标，其中vvv是将那些没有打标签的i,ji,ji,j对给屏蔽掉（计算出的相似度在l和u之间的），不进行loss的计算。

学习后更新u,lu,lu,l,迭代进行

当算法收敛后，利用指标III就可以得到聚类结果

为了使得算法能够满足约束(7),将III进行如下的变换（11a里面减去一个max项只是为了数值稳定性，不会影响结果）

总结就是如下算法（n是样本数，m是batch size,χq\chi_qχq是第qqq个batch）

流程如下图

实验

数据集包括了图像数据集，文本数据集和语音数据集共12个。使用NMI（Normalized
Mutual Information）和ACC（Accuracy）作为结果的度量。
一些比较结果如下
可视化

参数设置和具体的细节见论文实验部分和代码

消融实验，有效性测试

作者验证了①进化算法的有效性（就是交替优化u,l和模型的部分）②label inference tactic 有效性（(15)式和其他聚类策略比较）③类别数的影响 ④Number of Patterns的影响 ⑤不平衡数据 ⑥特征提取策略的影响 ⑦ 模型约束效益 ⑧pre-train收益 ⑨ 网络设置 ⑩ l,ul,ul,u初始化敏感性 ⑪ 模型约束敏感性 ⑫半监督任务效果增益 ⑬滤波器可视化（卷积核可视化）