一、

主成分(PCA)概念:将数据点投影到有特征性的方向上,每个数据点在向量上的投影就是主成分。

                            

主成分用途:降维、法向量的估计、分类

二、

PCA的数学概念和物理意义

                          

两个向量内积(投影)                  列的线性组合         旋转、维度缩放、旋转(圆-椭圆)

1.SVD

2.Spectral theorem 谱定理(特征值)

3.Rayleigh quotients 瑞利熵

(分母是模)

① SVD物理意义理解:A最多能拉长或缩短x多少倍(旋转不会改变大小)

② 瑞利熵的证明:

第一行用谱定理

三、

PCA运作

主成分输入:一堆高维的点

主成分输出:一堆最主要的向量,最有代表性的高维的向量(高维点投影到某个方向上,方差要最大)

1.方差找最大的Z1

2.去掉属于Z1的成分,然后找剩下的主成分

3.过程可以重复很多遍找到我们想要的主向量

4.PCA具体步骤

步1:一堆点平均值设为0,减去平均值,关心的是方向所以中心点在哪里不重要。

步2:每个数据点Xi 点投影到Z上就是阿尔法这么多

步3:PCA是要找到方差(已经减掉了平均值),PCA的目的就是找到在某个方向上的最大值

发现跟瑞利熵很像(把XXT看成矩阵),故直接套用瑞利熵和谱定理:

为什么H=而不是,是因为用SVD再次做了分解:

可看到谱定理和SVD非常相关,为啥用SVD,因为可以继续求Z2

步1.把属于Z1的成分去掉,把每个数据点投影到Z1,再用数据点减掉,可以变成矩阵形式。

步2.重新用SVD和的形式,Ur旋转矩阵每一列都互相垂直可以消掉进一步简化。再把i从1变成2形式变出来了。

现在的矩阵是刨去了Z1主成分的矩阵,故新矩阵的第一列,原矩阵的第二列Ur

放弃过程可以重复很多遍,直到找到我们想要。

5.PCA步骤总结:有一堆点

①减掉数据点的中心 ② 做这个矩阵的SVD,找到Ur(第一个主向量第一列,第二个主向量第二列以此类推)

物理角度看PCA:基底的置换,一堆高维数据点,怎么去找出一组基底是最具代表性的方向,第二组就垂直第一个基底的另一个基底

四、

主成分用途:

1.降维 (最大程度保存原始信息)

①降维N-L(Encoder)在N维,PCA找出L个主向量小于N,得到L个Z{Z1,Z2,Z3,Z4...},将Xi投影到每个Z上,得到Xi在每个主向量投影后的成分,所以一个N维点可以用L维a系数来代替。

②升维L-N(Decoder)(会损失数据)

a是x在z上的投影,重新加起来就是了,会损失数据(除非L=N),但因为主成分精心挑选,损的不算多。

Eigenfaces 类似。图片/人脸识别 (与哪个系数最相近)比深度学习好在需要的图片数量很小

三维点云处理-1.2主成分分析PCA相关推荐

  1. 基于三维点云数据的主成分分析方法(PCA)的python实现

    主成分分析(PCA)获取三维点云的坐标轴方向和点云法向量 # 实现PCA分析和法向量计算,并加载数据集中的文件进行验证import open3d as o3d # import os import n ...

  2. 三维点云学习(1)上-PCA主成分分析 法向量估计

    三维点云学习(1)上 环境安装 1.系统环境 win10 或者 ubuntu 2. Anaconda3+python3.6 使用Anaconda创建的conda虚拟环境进行python的编写 环境安装 ...

  3. (一) 三维点云课程---PCA介绍

    三维点云课程-PCA介绍 三维点云课程---PCA介绍 三维点云课程---PCA介绍 1. 什么是PCA 2.知识铺垫 2.1 SVD分解(奇异值分解 ) 2.1 谱定理 2.2 Rayleigh商 ...

  4. 三维点云:PCA(下)open3d

    三维点云之PCA应用下 在三维点云上的应用 主成分方向 降维 求解点云的法向量 拟合平面 AABB框 点云匹配 在三维点云上的应用 PCA 是有损的数据压缩方式,它常用于对高维数据进行降维,也就是把高 ...

  5. Python数据集可视化:抽取数据集的两个特征进行二维可视化、主成分分析PCA对数据集降维进行三维可视化(更好地理解维度之间的相互作用)

    Python数据集可视化:抽取数据集的两个特征进行二维可视化.主成分分析PCA对数据集降维进行三维可视化(更好地理解维度之间的相互作用) 目录 Python数据集可视化:抽取数据集的两个特征进行二维可 ...

  6. 深蓝学院的三维点云课程:第一章

    一.前言 为什么现在点云应用这么广泛,就是因为他有深度信息. 像人脸识别用来解锁手机,比如Iphnoe手机在前边有一个深度摄像头,所以它产生的点云真的是一个三维点云:然后很多手机他可能就没有深度摄像头 ...

  7. 223.主成分分析PCA

    主成分分析 PCA 本节作者:刘华,中国科学技术大学 版本1.0.3,更新日期:2020年6月18日 什么是PCA(Principal Component Analysis) 相关背景 在许多领域的研 ...

  8. 7.4.5 鲁棒主成分分析 PCA

    7.4.5 鲁棒主成分分析 PCA 根据每个样本点数据 ai\mathbf{a}_{i}ai​ 在第一主方向 u1\mathbf{u}_1u1​ 上的投影的方差最大,知样本点在此方向最分散,为第一主方 ...

  9. 7.4.4 主成分分析 PCA

    7.4.4 主成分分析 PCA 假设我们研究的对象具有相关属性,令属性向量为 x=(x1,x2,⋯,xm)\mathbf{x} = (x_1,x_2,\cdots,x_m)x=(x1​,x2​,⋯,x ...

最新文章

  1. python KeyError: 4
  2. 使用 AppFuse 的七个理由
  3. rabbitmq安装完整版
  4. redis mysql主从延迟_MySQL主从延迟问题解决
  5. 思科认证36个热门考点汇总
  6. 基于JavaFX的Linux进程树
  7. gps测速仪手机版下载_银豹收银系统手机版下载-银豹收银系统手机安卓版APP下载v2.0.1.2...
  8. mysql2005安装asp_asp连接sql server2005数据库
  9. 手机上有没有学python的软件-哪个手机软件有python题库
  10. Exchange server 2007启用 设置pop3
  11. 雅虎宣布支持谷歌OpenSocial标准
  12. HTML5 WebRTC API无需网络获取本地IP
  13. 动态规划实战12 leetcode-472. Concatenated Words
  14. .arx 与此版本的 AutoCAD 不兼容。
  15. 大厂Java核心面试题出炉:java视频教程马士兵
  16. Android Tombstone/Crash的log分析和定位(墓碑文件)
  17. kafka web页面监控KafkaOffsetMonitor
  18. win10 机械硬盘 开机速度缓慢的原因排查与优化
  19. Prompt for Extraction? PAIE:Prompting Arguement Interaction for Event Argument Extraction
  20. 如何修改Ubuntu的分辨率

热门文章

  1. Postman之Mock Servers虚拟服务器
  2. ECCV2022 Workshop | 复杂环境中的多目标跟踪和分割
  3. 找出成绩全及格的学生(python)实现
  4. 输入 10 个学生 3 门课的成绩,用函数实现:找出最高的分数所对应的学号和成绩
  5. VS Code实现python代码语法检查、格式规范化、自动换行字数限制
  6. 找回Windows 10安全通知图标
  7. Win10系统 IE11浏览器调用F12开发人员工具,打开后底部显示空白
  8. 教你一招快速清理DNS缓存
  9. 010 Editor修改指令
  10. python学习心得和体会