KPCA-KLPP代码实现

文章目录

KPCA-KLPP代码实现
- 0.引言
- 1.原理
- - 1.1 KPCA目标函数
  - 1.2 KLPP目标函数
  - 1.3 KPCA-KLPP原理
- 2.方案验证
- 3.结论

0.引言

传统基于核主成分分析 (Kernel principal component analysis, KPCA) 的数据降维方法在提取有效特征信息时只考虑全局结构保持而未考虑样本间的局部近邻结构保持问题, 本文提出一种改进全局结构保持算法的特征提取与降维方法，改进的特征提取与降维方法将流形学习中核局部结构保持 (Kernel locality preserving projection, KLPP) 的思想融入核主成分分析的目标函数中, 使样本投影后的特征空间保持原始样本空间的整体结构, 还保持样本空间相似的局部近邻结构, 包含更丰富的特征信息。最后，采用UCI数据集进行降维可视化分析。

1.原理

1.1 KPCA目标函数

PCA的核心是通过投影矩阵A将高维数据降成低维数据，实现数据沿该坐标系的分布方差最大化，能够实现最大化保持数据的全局结构特性，其目标函数如下：

m a x t r ( A ′ K K A ) max tr(A'KKA) maxtr(A′KKA)

1.2 KLPP目标函数

m i n t r ( A ′ K L K A ) ; L = D − W ; s t . A ′ K D K A = I min tr(A'KLKA); L=D-W; st.A'KDKA=I mintr(A′KLKA);L=D−W;st.A′KDKA=I

1.3 KPCA-KLPP原理

m a x t r ( l A ′ K K A − ( 1 − l ) A ′ K L K A ) ; s t . A ′ K D K A = I ; 其中： l 是用于平衡 K P C A 与 K L P P 这两个目标函数的权重系数 max tr(lA'KKA-(1-l)A'KLKA);st.A'KDKA=I; 其中：l是用于平衡KPCA与KLPP这两个目标函数的权重系数 maxtr(lA′KKA−(1−l)A′KLKA);st.A′KDKA=I;其中：l是用于平衡KPCA与KLPP这两个目标函数的权重系数

2.方案验证

clc;clear;close all
load wine;fea=double(wine);gnd=wine_labels;
options = [];
options.Metric = 'Euclidean';
options.NeighborMode = 'KNN';
options.k = 5;
options.bSelfConnected = 1;
options.delta=10000;
options.WeightMode = 'HeatKernel';
options.t = 1;
options.ReducedDim = 6;
options.PCARatio = 1;
[W,K] = constructW3(fea,gnd,options);
[eigvector, eigvalue,Y]=KPCAKLPP(fea,W,K,options);
%% figure
for i=1:max(gnd)n=find(gnd==i);plot(fea(n,1),fea(n,2),'*')hold ongrid on
end
mappedX1=Y;figure
for i=1:max(gnd)n=find(gnd==i);plot3(mappedX1(n,1),mappedX1(n,2),mappedX1(n,3),'*')hold ongrid on
end
legend('1','2','3')

图1 原始数据可视化

图2 本文方法

3.结论

从图上可以，本文方法聚类效果更好。

KPCA、KLPP及两者结合改进的特征提取特征降维算法相关推荐

KPCA正交KLPP及两者结合改进的特征提取特征降维算法
正交KPCAKLPP代码实现文章目录正交KPCAKLPP代码实现 0.引言 1.原理 1.1 KPCA目标函数 1.2 KLPP目标函数 1.3 CVKPCAKLPP原理 2.方案验证 3.结论 ...
PCA、LPP及两者正交改进的特征提取特征降维算法
正交PCALPP代码实现文章目录正交PCALPP代码实现 0.引言 1.原理 1.1 PCA目标函数 1.2 LPP目标函数 1.3 CVPCALPP原理 2.方案验证 3.结论 0.引言传 ...
PCA-LPP特征提取特征降维
PCA-LPP代码实现文章目录 PCA-LPP代码实现 0.引言 1.原理 1.1 PCA目标函数 1.2 LPP目标函数 1.3 PCA-LPP原理 2.方案验证 3.结论 0.引言提出集合 ...
KPCA提取轴承振动信号的主成分特征
KPCA提取轴承振动信号的主成分特征文章目录 KPCA提取轴承振动信号的主成分特征前言一.时域频域特征提取二.提取KPCA第一主成分总结前言采用核主成分分析方法融合轴承振动信号时域.频域 ...
对pca降维后的手写体数字图片数据分类_机器学习：数据的准备和探索——特征提取和降维...
在数据的预处理阶段,特征提取和数据降维是提升模型表示能力的一种重要手段. 特征提取主要是从数据中找到有用的特征,用于提升模型的表示能力,而数据降维主要是在不减少模型准确率的情况下减少数据的特征数量. ...
改进的有效边表算法_优硕微展 | 张和慧：基于邻域保持嵌入算法的间歇过程故障检测研究...
基于邻域保持嵌入算法的间歇过程故障检测研究 The Research on batch process fault detection based on Neighborhood Preservin ...
U-Det：一种改进的双向特征网络U-Net结构用于肺结节分割
关注上方"深度学习技术前沿",选择"星标公众号", 资源干货,第一时间送达! 肺癌的早期诊断和分析涉及在计算机断层扫描(CT)图像中进行精确而有效的肺结节分割. ...
【2020论文】U-Det：一种改进的双向特征网络U-Net结构用于肺结节分割
关注上方"深度学习技术前沿",选择"星标公众号", 资源干货,第一时间送达! 肺癌的早期诊断和分析涉及在计算机断层扫描(CT)图像中进行精确而有效的肺结节分割. ...
基于改进的RPCA人脸识别算法
from:http://www.chinaaet.com/article/3000011311 基于改进的RPCA人脸识别算法作者:首照宇,杨晓帆,莫建文 2015/11/15 18:04:00 摘 ...

KPCA、KLPP及两者结合改进的特征提取特征降维算法