机器学习非监督分类之主成分分析（PCA）

主成分分析是非监督分类中基础的算法，应用于降低特征的维度。

在介绍主成分分析之前，我们要先介绍一下特征值和特征向量，因为在后面我们要用到。

一、特征值和特征向量

特征值

如果有

此时γ为矩阵A的特征值，对应的X为矩阵的特征向量。对于不相同的特征值，其特征向量是正交的。

二、主成分分析

算法：

首先将X进行预处理；

1、计算X的期望E（X）；

2、计算D = E（x-E(x)）；

3、计算xj = xj/Djj, 得到新的X。

4、对X进行奇异值分解，选择前m个奇异值得到A的近似矩阵；

4、或者求X的特征值，将X的特征值进行大到小排列，选择前m个，有个准则q前特征值的和占总的85%以上就说明，从原图中能好的继承，由前m个特征值对应的特征向量构成降维矩阵。

三、主成分分析的优缺点：

优点：

缺点：

待补充

机器学习非监督分类之主成分分析（PCA）相关推荐

机器学习-降维之主成分分析PCA算法原理及实战
主成分分析前言近年来,随着互联网和信息行业的发展,数据已经渗透到各行各业,成为重要的生产因素如数据记录和属性规模的急剧增长.社会已经进入大数据时代,数据越多越好似乎已经成为公理.然而,数据量并不是 ...
【机器学习sklearn】主成分分析PCA(Principal Component Analysis)
主成分分析方法PCA 前言一.PCA是什么? 二.代码实践使用MNIST数据集实现sklearn库里的主成分分析方法不同主成分个数对应的可解释方差分析(Explained Variance) 总 ...
【机器学习】之主成分分析PCA
利用 wine.data葡萄酒数据集进行PCA分析 wine.data数据集共14列数据,第一列是类标签'class label',分别是1/2/3,代表葡萄酒的三个分类.剩余的13列分别是酒精.苹果 ...
西瓜书+实战+吴恩达机器学习（十八）降维（主成分分析 PCA）
文章目录 0. 前言 1. 主成分分析PCA 如果这篇文章对你有一点小小的帮助,请给个关注,点个赞喔,我会非常开心的~ 0. 前言维数灾难:在高维情形下出现的数据样本稀疏.距离计算困难等问题. 缓解 ...
机器学习--主成分分析PCA算法：为什么去均值以后的高维矩阵乘以其协方差矩阵的特征向量矩阵就是“投影”？
原文链接:主成分分析PCA算法:为什么去均值以后的高维矩阵乘以其协方差矩阵的特征向量矩阵就是"投影"?_天下对手教会少林武僧-CSDN博客_pca投影矩阵这是从网上看到的PCA算 ...
机器学习系列笔记六:主成分分析PCA[下]
机器学习系列笔记六:主成分分析PCA[下] 文章目录机器学习系列笔记六:主成分分析PCA[下] scikit-learn中的PCA 基本使用进阶操作对比实验设置合理的n_components ...
机器学习：基于主成分分析（PCA）对数据降维
机器学习:基于主成分分析(PCA)对数据降维作者:AOAIYI 作者简介:Python领域新星作者.多项比赛获奖者:AOAIYI首页
机器学习-Sklearn（第三版）Day4 主成分分析PCA与奇异值分解SVD
目录一.简介什么是维度 sklearn中的降维算法二.PCA与SVD 0.如何实现降维算法思考:PCA和特征选择技术都是特征工程的一部分,它们有什么不同? 1.重要参数n_components ...
lda 吗样本中心化需要_机器学习 —— 基础整理（四）：特征提取之线性方法——主成分分析PCA、独立成分分析ICA、线性判别分析LDA...
本文简单整理了以下内容: (一)维数灾难 (二)特征提取--线性方法 1. 主成分分析PCA 2. 独立成分分析ICA 3. 线性判别分析LDA (一)维数灾难(Curse of dimensiona ...

机器学习非监督分类之主成分分析（PCA）

机器学习非监督分类之主成分分析（PCA）相关推荐

最新文章

热门文章