特征值和特征向量（整理）

2024-05-05 13:41:32

三、特征值和特征向量的应用实例

1、主成分分析（Principle Component Analysis, PCA）

（1）方差、协方差、相关系数、协方差矩阵

方差：

协方差： , ,

**方差是衡量单变量的离散程度，协方差是衡量两个变量的相关程度（亲疏），协方差越大表明两个变量越相似（亲密），协方差越小表明两个变量之间相互独立的程度越大。

相关系数：，

**协方差和相关系数都可以衡量两个表明的相关程度，协方差未消除量纲，不同变量之间的协方差大小不能直接比较，而相关系数消除了量纲，可以比较不同变量之间的相关程度。

协方差矩阵：如果有两个变量X，Y，那么协方差矩阵为，协方差阵说明了样本中变量间的亲疏关系。

（2）主成分分析的思想和算法

　　主成分分析是利用降维的思想，将多个变量转化为少数几个综合变量（即主成分），其中每个主成分都是原始变量的线性组合，各主成分之间互不相关，从而这些主成分能够反映始变量的绝大部分信息，且所含的信息互不重叠。它是一个线性变换，这个变换把数据变换到一个新的坐标系统中，使得任何数据投影的第一大方差在第一个坐标(称为第一主成分)上，第二大方差在第二个坐标(第二主成分)上，依次类推。主成分分析经常用减少数据集的维数，同时保持数据集的对方差贡献最大的特征。

　　假设用p个变量来描述研究对象，分别用X₁，X₂…X_p来表示，这p个变量构成的p维随机向量为X=(X₁，X₂…X_p)，n个样本构成组成了n行p列的矩阵A。主成分求解过程如下：

　　第一步，求解得到矩阵A的协方差阵B；

　　第二步，求解协方差阵B，得到按大小顺序排列的特征值向量，为特征值向量中每个特征值组成的对角矩阵，U为所有特征值对应的特征向量构成的矩阵U，因此有。重点来了，U是有特征向量构成的正定阵，向量的每一行可以视为一个的基向量，这些基向量经过矩阵B转换后，得到了在各个基向量上的伸缩，伸缩的大小即为特征向量。

第三步，主成分个数选择，根据特征值的大小，将特征值较大的作为主成分，其对应的特征向量就为基向量，特征值的筛选根据实际情况而定，一般大于1即可考虑作为主成分。

转载于:https://www.cnblogs.com/rswss/p/11441046.html

特征值和特征向量（整理）相关推荐

matlab输出的特征向量,关于matlab中的eig函数(求特征值和特征向量)(最新整理)
<关于matlab中的eig函数(求特征值和特征向量)(最新整理)>由会员分享,可在线阅读,更多相关<关于matlab中的eig函数(求特征值和特征向量)(最新整理)(3页珍藏版)& ...
特征值奇异值分解概念整理
特征值分解.奇异值分解.PCA概念整理标签: PCA特征值及向量奇异值QR算法 2014-01-18 14:21 16402人阅读评论(5) 收藏举报本文章已收录于: 分类: 机器学习(9) ...
李永乐线性代数手写笔记-特征值和特征向量
李永乐线性代数基础知识,整理放在博客上面,方便自己复习查看. 概览请移步:李永乐线性代数2020年基础课手写笔记汇总文章目录一特征值和特征向量二相似矩阵三实对称矩阵一特征值和特征向量 ...
利用特征值与特征向量求解弹性力学中的主应力与主平面问题
利用特征值与特征向量求解弹性力学中的主应力与主平面问题前言一.二向应力状态 1. 莫尔圆图解法 2. 特征值与特征向量解法二.三向应力状态前言已知物体在任意一点的六个应力分量(σx,σy,σ ...
特征值和特征向量的理解
最近看了几篇文章,对理解特征值和特征向量有很大帮助,贴到这里供日后复习花了10分钟,终于弄懂了特征值和特征向量到底有什么意义_豚-CSDN博客_特征向量有什么用转自 http://k.sina.co ...
讲道理 | 特征值和特征向量意义
原文转自 https://blog.csdn.net/fuming2021118535/article/details/51339881 在刚开始学的特征值和特征向量的时候只是知道了定义和式子,并没有 ...
c语言求矩阵特征值的程序,如何用C语言编写求对称矩阵的特征值和特征向量的程序编写对称矩阵的特征值和特征向量,其中矩阵用二维数组保存.特征向量要求有大到小放到数组里....
优质解答 //数值计算程序-特征值和特征向量 // //约化对称矩阵为三对角对称矩阵 //利用Householder变换将n阶实对称矩阵约化为对称三对角矩阵 //a-长度为n*n的数组,存放n阶实对称 ...
PCA | 特征值和特征向量
SVD/PCA的分析只需要一行代码即可实现,但是要理解背后的原理,可能需要从特征值和特征向量开始.第一次接触特征值是在SPM里,那时候连怎么发音都不知道.就像这个slide讲的一样,spm有一个按钮, ...
数值计算程序大放送-特征值和特征向量
数值计算程序大放送-特征值和特征向量 // //约化对称矩阵为三对角对称矩阵 //利用Householder变换将n阶实对称矩阵约化为对称三对角矩阵 //a-长度为n*n的数组,存放n阶实对称矩阵 / ...
特征值和特征向量的几何意义
转载于:https://blog.csdn.net/fuming2021118535/article/details/51339881 在刚开始学的特征值和特征向量的时候只是知道了定义和式子,并没有理 ...

最新文章

热门文章