基于PCA的特征提取

图像处理方面的知识也学了一段时间了，总是光看理论的话，感觉联系不上实际，第一次把理论综合的实现出来，对这些理论的印象才感觉的更深刻，也能够为后续的学习打下良好的基础。

PCA是比较老的算法，但是可靠性挺好，对于我这种新手，练练手还是不错的。

下面开始对这些算法说一说我自己的理解，如果有不正确的地方还请各位牛人指点。

主成分分析(PCA)是多变量分析中一项很老的技术，源于通信理论中的K-L变换，它考虑的是对于d维空间中的n个向量X1,X2......Xn，如何在低维空间中进行表示，这需要对其空间进行变换。

变换具体的表示如下：

其中即为对样本的一种近似表示，是样本的均值，

就是在d'维空间中的主成份分量，也就是经过PCA提取后的一组特征。

是这d'维空间的一组基。

这样即为原样本在d'维空间的一种近似。

看到这，还不知道和是如何计算得到的，具体的推理过程就不细说了，想知道的可以自行查阅相关资料，我只写一下他们的计算公式。

是散布矩阵S的前d‘个特征向量，是散布矩阵S的前d‘个特征值，而散布矩阵S为，其中Z为样本矩阵X中的每个样本减去样本均值后得到的矩阵。

S是d*d的矩阵，计算量很大，幸运的是有一种快速计算的方法，这里我们考虑，一般情况下样本数目n原小于样本维数d，所以R的尺寸远小于散布矩阵S。

设是R的特征向量为，则有

对上式两边同时左乘，得

说明为散布矩阵S的特征值，至此，可以计算小矩阵R的特征向量来得到散布矩阵S的特征向量。

当计算出散布矩阵S的特征向量和特征值时，就可以对样本进行表示了。

假设计算的是前20个特征值和特征向量，那么样本就可以用这20个特征值对其进行表示，这也就是样本的主成份。

快速PCA计算的matlab实现代码如下：

function [ pcaA V] =fastPCA( A,k )

%输入:A------样本矩阵，每行为一个样本
% k------降维至k维
%输出:pcaA----降维后K维样本特征向量组成的矩阵，每行一个样本，列数k为降维后的样本特征维数
% V-------主成分分量
[r,c]=size(A);
%样本均值
meanVec = mean(A);
%计算协方差矩阵的转置 covMatT
Z=(A-repMat(meanVec,r,1));
covMatT =Z*Z';
%计算covMatT的前k个本征值和本征向量
[V D] = eigs(covMatT,k);
%得到协方差矩阵covMatT'的本征向量
V = Z'*V;
%本征向量归一化为单位本征向量
for i=1:k
V(:,i)=V(:,i)/norm(V(:,i));
end

pcaA = Z*V;

end

转载于:https://www.cnblogs.com/anyuan9/p/6171579.html

基于PCA的特征提取相关推荐

基于PCA的特征提取和两级匹配的激光雷达SLAM(翻译)
同时定位和建图(SLAM)在机器人领域已经研究了几十年,其中光探测和测距(LiDAR)由于其可直接.准确和可靠的三维测量而广泛应用于各种应用领域.然而,当在退化场景中运行时,LiDAR SLAM的性能 ...
怎么用matlab画一个笑脸,基于pca特征提取的笑脸表情识别代码（语言工具为matlab）...
[实例简介] 基于pca特征提取的笑脸表情识别代码,语言工具为matlab [实例截图] [核心代码] 表情识别 └── 表情识别 ├── 3.jpg ├── a2.jpg ├── air_dir.m ...
基于PCA 人脸识别/人脸识别算法/人脸检测程序源码MATLAB ELM+PCA人脸识别 PCA人脸识别matlab代码基于PCA算法的人脸识别
1.基于PCA的人脸识别代码 2.MATLAB ELM+PCA人脸识别 2.基于PCA的人脸识别(matlab)(采用PCA算法进行人脸识别,通过抽取人脸的主要成分,构成特征脸空间,识别时将测试图像 ...
基于 PCA 的人脸识别系统及人脸姿态分析
文章目录 1 PCA 1.1 原理 1.2 算法流程 1.2.1 零均值化 1.2.2 计算协方差矩阵 1.2.3 特征值和特征向量 1.2.4 降维得到 K 维特征 1.2.5 PCA 的优缺点 2 ...
基于PCA的人脸识别_Matlab实现（个人研读之后的一些总结）
以下是我在查阅相关文献之后的一些个人的总结,望大神们指正. 基于PCA的人脸识别 PCA简介这是百度百科的解析: "对于一个训练集,100个对象模板,特征是10维,那么它可以建立一个100 ...
基于PCA方法的ORL人脸识别及Python代码实现
基于PCA方法的ORL人脸识别及Python代码实现 PCA算法方案设计代码实现结果分析参考文献 PCA的理论知识已经有很多博客做了清晰的解释,主要概括为找到投影的面使得类间误差最大,转化为找 ...
文献记录(part73)--基于 PCA 的信息压缩 : 从一阶到高阶
学习笔记,仅供参考,有错必究关键词:主成分分析 , 信息压缩 , 高阶张量 , Tucker 分解 , 各向异性文章目录基于 PCA 的信息压缩 : 从一阶到高阶摘要引言从一阶PCA到高阶 ...
基于并行附加特征提取网络的SSD地面小目标检测模型
人工智能技术与咨询来源:<电子学报> ,作者李宝奇等摘要: 针对SSD原始附加特征提取网络(Original Additional Feature Extraction Networ ...
pca图像压缩python_基于PCA的图像降维及图像重构
1 PCA简述 PCA(Principal Component Analysis)主成分分析算法,在进行图像识别以及高维度数据降维处理中有很强的应用性,算法主要通过计算选择特征值较大的特征向量来对原始 ...
模式识别与机器学习(作业5)基于PCA–LDA的人脸识别
基于PCA–LDA的人脸识别 ORC数据集提取码: cggh 本次的实验是在模式识别与机器学习(作业4),PCA降维的基础上加入了线性判别分析,对维度进行了进一步的降低. 1. 导入数据一共有40 ...

基于PCA的特征提取

基于PCA的特征提取相关推荐

最新文章

热门文章