正交KPCAKLPP代码实现

文章目录

正交KPCAKLPP代码实现
- 0.引言
- 1.原理
- - 1.1 KPCA目标函数
  - 1.2 KLPP目标函数
  - 1.3 CVKPCAKLPP原理
- 2.方案验证
- 3.结论

0.引言

传统基于核主成分分析 (Kernel principal component analysis, KPCA) 的数据降维方法在提取有效特征信息时只考虑全局结构保持而未考虑样本间的局部近邻结构保持问题, 本文提出一种改进全局结构保持算法的特征提取与降维方法，改进的特征提取与降维方法将流形学习中核局部结构保持 (Kernel locality preserving projection, KLPP) 的思想融入核主成分分析的目标函数中, 使样本投影后的特征空间保持原始样本空间的整体结构, 还保持样本空间相似的局部近邻结构, 包含更丰富的特征信息,并且引入正交约束消除特征冗余。采用UCI数据集进行降维可视化分析。

1.原理

1.1 KPCA目标函数

PCA的核心是通过投影矩阵A将高维数据降成低维数据，实现数据沿该坐标系的分布方差最大化，能够实现最大化保持数据的全局结构特性，其目标函数如下：

m a x t r ( A ′ K K A ) max tr(A'KKA) maxtr(A′KKA)

1.2 KLPP目标函数

m i n t r ( A ′ K L K A ) ; L = D − W ; s t . A ′ K D K A = I min tr(A'KLKA); L=D-W; st.A'KDKA=I mintr(A′KLKA);L=D−W;st.A′KDKA=I

1.3 CVKPCAKLPP原理

m a x t r ( l A ′ K K A − ( 1 − l ) A ′ K L K A ) ; s t . A ′ K D K A = I ; 其中： l 是用于平衡 K P C A 与 K L P P 这两个目标函数的权重系数 max tr(lA'KKA-(1-l)A'KLKA);st.A'KDKA=I;其中：l是用于平衡KPCA与KLPP这两个目标函数的权重系数 maxtr(lA′KKA−(1−l)A′KLKA);st.A′KDKA=I;其中：l是用于平衡KPCA与KLPP这两个目标函数的权重系数

s t . a i ′ ∗ a j = 1 ( i = j ) ; 否则： a i ′ ∗ a j = 0 ；（正交约束） st.ai'*aj=1(i=j);否则：ai'*aj=0；（正交约束） st.ai′∗aj=1(i=j);否则：ai′∗aj=0；（正交约束）

2.方案验证

clc;clear;close all
load wine;fea=double(wine);gnd=wine_labels;
options = [];
options.Metric = 'Euclidean';
options.NeighborMode = 'KNN';
options.k = 5;
options.bSelfConnected = 1;
options.delta=1000;
options.WeightMode = 'HeatKernel';
options.t = 0.1;
options.ReducedDim = 6;
[W,K] = constructW3(fea,gnd,options);%监督核欧式距离
%[W,K] = constructW2(fea,options);%非监督核欧式距离
[eigvector, eigvalue,Y]=CVKPCAKLPP(fea,W,K,options);
%%figure
for i=1:max(gnd)n=find(gnd==i);plot3(fea(n,1),fea(n,2),fea(n,3),'*')hold ongrid on
end
mappedX1=Y;
figure
for i=1:max(gnd)n=find(gnd==i);plot3(mappedX1(n,1),mappedX1(n,2),mappedX1(n,3),'*')hold ongrid on
end
legend('1','2','3')

图1 原始数据可视化

图2 本文方法

3.结论

从图上可以，本文方法聚类效果更好。

KPCA正交KLPP及两者结合改进的特征提取特征降维算法相关推荐

KPCA、KLPP及两者结合改进的特征提取特征降维算法
KPCA-KLPP代码实现文章目录 KPCA-KLPP代码实现 0.引言 1.原理 1.1 KPCA目标函数 1.2 KLPP目标函数 1.3 KPCA-KLPP原理 2.方案验证 3.结论 0.引 ...
PCA、LPP及两者正交改进的特征提取特征降维算法
正交PCALPP代码实现文章目录正交PCALPP代码实现 0.引言 1.原理 1.1 PCA目标函数 1.2 LPP目标函数 1.3 CVPCALPP原理 2.方案验证 3.结论 0.引言传 ...
正交匹配追踪(OMP)其它改进算法
原文链接:http://blog.csdn.net/jbb0523/article/details/45693359 题目:正交匹配追踪(OMP)其它改进算法下面介绍10篇文献中的OMP改进算法,首 ...
改进的有效边表算法_优硕微展 | 张和慧：基于邻域保持嵌入算法的间歇过程故障检测研究...
基于邻域保持嵌入算法的间歇过程故障检测研究 The Research on batch process fault detection based on Neighborhood Preservin ...
强跟踪ukf matlab,一种改进的强跟踪UKF算法及其在SINS大方位失准角初始对准中的应用...
近年来,对低成本.小型化捷联惯性导航系统(SINS)的需求日益增加,采用微机电系统(MEMS)惯性器件的SINS(MEMS-SINS)具有体积小.成本低.可靠性高.抗冲击能力强等优点,成为国内外惯性技 ...
U-Det：一种改进的双向特征网络U-Net结构用于肺结节分割
关注上方"深度学习技术前沿",选择"星标公众号", 资源干货,第一时间送达! 肺癌的早期诊断和分析涉及在计算机断层扫描(CT)图像中进行精确而有效的肺结节分割. ...
【2020论文】U-Det：一种改进的双向特征网络U-Net结构用于肺结节分割
关注上方"深度学习技术前沿",选择"星标公众号", 资源干货,第一时间送达! 肺癌的早期诊断和分析涉及在计算机断层扫描(CT)图像中进行精确而有效的肺结节分割. ...
基于改进的RPCA人脸识别算法
from:http://www.chinaaet.com/article/3000011311 基于改进的RPCA人脸识别算法作者:首照宇,杨晓帆,莫建文 2015/11/15 18:04:00 摘 ...
【优化算法】改进的侏儒猫鼬优化算法（IDMO）【含Matlab源码 2314期】
⛄一.获取代码方式获取代码方式1: 完整代码已上传我的资源:[优化算法]改进的侏儒猫鼬优化算法(IDMO)[含Matlab源码 2314期] 点击上面蓝色字体,直接付费下载,即可. 获取代码方式2: ...

KPCA正交KLPP及两者结合改进的特征提取特征降维算法