【机器学习】【线性代数 for PCA】矩阵与对角阵相似、 一般矩阵的相似对角化、实对称矩阵的相似对角化
Note：PCA主成分分析用到实对称阵的相似对角化，用个文章复习一下相关概念和计算过程。
1.对角矩阵
如果一个矩阵满足如下条件，则它就是一个对角阵：
（1）是一个方阵
（2）只有对角线元素是非零元素
形状如：
2.数量矩阵
如果一个矩阵满足如下条件，则它就是一个数量矩阵：
（1）是一个方阵
（2）只有主对角线上元素是非零元素
（3）主对角线上元素都相等！
也就是：对角线元素都相等的对角矩阵是数量矩阵。
可知单位矩阵E是数量矩阵的特殊情况
3.正对角阵
只有正对角线上元素为非零值时，称为正对角阵，如下所示：
4.反对角阵
只有副对角线上元素为非零值时，称为反对角阵，如下所示：
5.线性相关、线性无关
在下面理解矩阵与对角阵相似的过程中，涉及到了线性无关，记录下。
线性相关：在一组数据中，有一个或者多个量可以被其余量表示
线性无关：在一组数据中，没有一个量可以被其余量表示
6.矩阵与对角阵相似的条件
如果一个矩阵A满足如下条件，则此矩阵就可以说是对角矩阵相似：
（1）A是一个方阵，因为对角阵是方阵
（2）矩阵A有n个线性无关的特征向量
如何用计算方阵A的特征值的方法来判断方阵A 是否与对角阵相似？
答，步骤如下：
（1）先求出方阵A的所有特征值
（2）如果所有特征值互异，则方阵与对角阵相似
即：如果n阶方阵A有n个互异的特征值，则方阵A与对角阵相似
7.一般矩阵的相似对角化
如果方阵A与对角阵相似，则一定存在一个可逆矩阵P，按照下面公式求出方阵A的相似对角矩阵：
求方阵A相似对角阵的步骤：
8.一般矩阵对角化的练习题
此例题来自：点我
9.实对称矩阵的相似对角化
方法：可以用正交阵将实对称矩阵A化为对角阵
10.实对称矩阵的相似对角化的练习题
此例题来自：点我
11.协方差矩阵的相似对角化
因为协方差矩阵是实对称矩阵，所以协方差矩阵的对角阵求解方法 可以按照 实对称矩阵的对角阵求解方法来计算，如上所示。
(end)
【机器学习】【线性代数 for PCA】矩阵与对角阵相似、 一般矩阵的相似对角化、实对称矩阵的相似对角化相关推荐
- 矩阵的基础知识回顾:矩阵乘法，矩阵的逆，伴随矩阵，矩阵的转置，行列式，相似矩阵，实对称矩阵
Agenda 1. 矩阵matrix 1.1 矩阵运算matrix operations 1.1.1 矩阵乘法matrix multiplication 1.1.1.1 简化矩阵乘法(facilita ...
- 【机器学习线性代数】19 复数域中的向量与矩阵
1 回顾:复数和复平面 首先我们快速的回顾一下复数和复平面的基本知识,便于后续知识的介绍.我记得当我们接触到 x 2 = − 1 x^2=-1 x2<
- 人工智能里的数学修炼 | 矩阵的花样分解：特征值分解（EVD）、相似对角化、QR分解、Schur分解、奇异值分解（SVD）的概念纠缠与详解
前言 在高等代数里,矩阵分解是一个十分基础与重要的内容,任何一个学校对于理工科的研究生教育都会开设相应的课程,如:矩阵分析.矩阵论.线性系统等.看了不少社区的问答.笔记和博客,在它们的基础上加入一些自 ...
- 实对称矩阵的性质_浅谈矩阵的相似对角化（一）
森屿瑾年:浅谈线性变换和矩阵之间的关系zhuanlan.zhihu.com 通过前面的讨论,我们引出了线性变换在不同基下的矩阵之间的关系,知道了线性变换在不同基下的矩阵是相似的,进而我们可以通过选取 ...
- 矩阵论复习-过渡矩阵、生成子空间、表示矩阵、度量矩阵、酉空间、内积
一小部分矩阵论的整理复习,这个由于公式输入的太麻烦了,所以就弄了一点.后面直接看着书复习的. 矩阵论复习 线性空间 基与维数 基变换公式.过渡矩阵.坐标变换公式 线性子空间 齐次方程组的解空间 特征子 ...
- 【机器学习线性代数】02 初识矩阵：让向量动起来
1.矩阵?一排向量,一堆数 介绍完了向量,这一节我们开始介绍矩阵.对于矩阵而言,最直观的描述就是一个m×nm\times nm×n大小的数字方阵,他可以看作是nnn个mmm维列向量从左到右并排摆放,也 ...
- 机器学习算法_机器学习算法之PCA算法
前言 在机器学习中降维是我们经常需要用到的算法,在降维的众多方法中PCA无疑是最经典的机器学习算法之一,最近准备撸一个人脸识别算法,也会频繁用到PCA,本文就带着大家一起来学习PCA算法. 前置内容 ...
- 机器学习之数学基础(二)～数组、向量、矩阵、向量空间、二维矩阵
1. 概述 在学习机器学习(machine learning)或模式识别(pattern recognition)过程中,我经常会困惑于向量.数组和矩阵这三种数据结构,而在学习张学工教授<模式识 ...
- 白板机器学习笔记 P22-P27 PCA降维
视频地址:https://www.bilibili.com/video/BV1aE411o7qd?p=22 笔记地址:https://www.yuque.com/books/share/f4031f6 ...
最新文章
- 【Python】一道题吃够Python语法糖
- 「十二省联考 2019」皮配——dp
- 微信收款音响s3服务器断开,微信收款音响s2和s3有什么区别
- 短小有趣的c语言代码,分享一段有趣的小代码
- 黑马程序员_Java集合框架
- 静态成员变量和非静态成员变量
- Windows7下安装redmine-3.4.6
- Copula理论学习（三）--copula理论及参数copula函数族
- 测试方法-等价类划分法
- 关于新APP，从交底书入手
- java 行政区划代码 民政部 json
- 淘宝Fourinone介绍及与Hadoop的性能PK
- 官网Tomcat下载方法
- 【unity】学习之路
- Graylog 3.3.8安装笔记（yum，docker，docker-compose）
- openpyxl报错修改：OSError: File contains no valid workbook part
- Bounding box regression RCNN系列网络中矩形框的计算
- 《帝友货代系统》项目研发总结
- GTD--时间管理机制
- 杭电 hdu 1720