PCA（2）：PCA算法实现的两种方式

因为样本个数和特征维度的是不相等de，所以组成的矩阵不是方阵。

第一种方式：特征分解思路（特征值分解要求分解的矩阵是方阵）

基于样本特征维度，先求协方差矩阵---->再特征分解（因为协方差矩阵是方阵，所以可以使用特征分解的思路）

第二种方式：SVD分解（SVD分解不要求矩阵是方阵）

SVD理论：https://blog.csdn.net/m0_37957160/article/details/107082668

任何矩阵都可以进行SVD分解。

事实上在数据量很大时，求协方差矩阵，然后在进行特征分解是一个很慢的过程，因此在PCA背后的实现也是借助奇异值分解来做的，在这里我们只要求得奇异值分解中的左奇异向量或右奇异向量中的一个（具体求哪个是要根据你的X向量的书写方式的，即行数是样本数还是特征数，总之左奇异向量是用来压缩行数，右奇异向量是用来压缩列数，而我们的目的是要压缩特征数）

PS：使用PCA算法不管利用哪种分解方式，一定是对样本的协方差矩阵进行分解，因为只有协方差矩阵才能反应特征维度之间的关系。

------------------------------------------从特征值特征向量到矩阵SVD奇异值分解np.linalg.svd()函数

下边是借助Numpy的SVD分解实现：

PCA（2）：PCA算法实现的两种方式相关推荐

ML之catboost：基于自定义数据集利用catboost 算法实现回归预测(训练采用CPU和GPU两种方式)
ML之catboost:基于自定义数据集利用catboost 算法实现回归预测(训练采用CPU和GPU两种方式) 目录基于自定义数据集利用catboost 算法实现回归预测(训练采用CPU和GPU两 ...
水平集方法引入主动轮廓模型算法中的两种方法
水平集方法引入主动轮廓模型算法中的两种方法 1.传统的基于主动轮廓模型和水平集理论的方法 2.变分水平集方法在讲解水平集理论在主动轮廓模型中的应用前,我们先用流程图说明一下常见的处理主动轮廓模型的流 ...
html中获取modelandview中的json数据_从Bitmap中获取YUV数据的两种方式
从Bitmap中我们能获取到的是RGB颜色分量,当需要获取YUV数据的时候,则需要先提取R,G,B分量的值,然后将RGB转化为YUV(根据具体的YUV的排列格式做相应的Y,U,V分量的排列) 所以这篇 ...
linux的进程与库之间的通信两种方式
文章目录前言一.进程A与算法库b的通信方式之一:动态dlopen加载算法库b,编译的时候是需要加载该头文件就可以,无需连接该算法库b 具体的实施细节: 二.进程A与算法库b的通信方式之二:进程A编 ...
python repair修复功能_详解Python修复遥感影像条带的两种方式
GDAL修复Landsat ETM+影像条带 Landsat7 ETM+卫星影像由于卫星传感器故障,导致此后获取的影像出现了条带.如下图所示, 影像中均匀的布满条带. 使用GDAL修复影像条带的代码如 ...
php 递归实现无限极分类和排序_无限极分类的两种方式，递归和引用
说到无限极分类,比较常见的做法是在建表的时候,增加一个parnet_id字段用来区别自己所属的分类(是顶级分类还是子分类) 由于展示数据的时候,需要表达出这种所属关系,所以必然要在读取数据的时候进行一 ...
Rust创建项目的两种方式
Time: 20190919 这两种方式分别是: 手动创建项目,用rustc编译使用包管理器cargo 手动创建在文件夹内添加main.rs,代码内容如下: fn main() {println! ...
linux中安shell怎么传入参数,【linux】linux 下 shell命令执行结果赋值给变量【两种方式】...
方法1:[通用方法] 使用Tab键上面的反引号例子如下: find命令模糊查询在/apps/swapping目录下查找文件名中包含swapping并且以.jar结尾的文件使用反引号引住命令 ...
如何让BERT拥有视觉感知能力？两种方式将视频信息注入BERT
一只小狐狸带你解锁NLP/ML/DL秘籍老板老板,听说BERT是个瞎子此话怎讲? 它能理解语言,但是理解不了小夕的自拍! video-BERT了解一下喵喵喵? AI的三大核心板块(CV/Spee ...

PCA（2）：PCA算法实现的两种方式

第一种方式：特征分解思路（特征值分解要求分解的矩阵是方阵）

第二种方式：SVD分解（SVD分解不要求矩阵是方阵）

PCA（2）：PCA算法实现的两种方式相关推荐

最新文章

热门文章