一对矩阵的相关性_矩阵分析学习笔记(1)
线性空间与线性映射
一、线性空间的概念:
- 记实数域 为
, 复数域为, 统称数域。设有一非空
集合记为
, 对集合中的元素定义二元加法运算和数乘运算。(二元加法运算和数乘运算是一种线性映射,集合的元素可以为:数组(n tuple)、函数(多项式函数、连续函数、分段可积函数等)、有向线段等) - 二元加法运算+ :
: 对于中任意元素和, 在中都有唯一元素与之对应,使得。 加法运算满足以下4条性质: 1. 交换律:2. 结合律:3. 零元素:在中存在零元,满足4. 负元素:对于中 的任意元素, 都在中 存在元素, 满足
- 二元数乘运算
:: 对于中 的任意元素, 与数域中的数定义数乘运算,在中存在元素, 使得。数乘运算满足以下4条性质: 1.2.3 .4.其中与是集合中的元素,和是数域中的数。
且则称 集合
remark 1: 空间这个概念只是为了类比2维或3维几何空间的一个概念,更好的理解为元素的集合,线性空间中的元素统称为抽象向量(The form that vectors take doesn't really matter, it can be anything)。 remark 2: 集合
remark 3: 特别地,对于几何空间(有向线段的集合),加法运算采用平行四边形或三角形法则进行计算,数乘运算表示对有向线段进行同向或反向伸缩。
1.1 线性相关性:
线性相关性可以用线性非齐次方程组的解集来描述, 设抽象矩阵
- 若方程(1)不存在非零解(即只有
, 式(1)成立),则称向量组
线性无关;
- 若方程(1)存在非零解,则称向量组
线性相关;
1.2 有限维线性空间
基(坐标系)与坐标:
设集合
- (线性无关性)
线性无关;
- (生成性) 任取向量
均可由线性表示:即
则称
remark 1: 基向量组的线性无关线保证空间中的抽象向量在该基下的坐标是唯一的,生成性保证空间中的任意向量在该基下都有坐标;
remark 2: 抽象向量的坐标
例:
则
remark 3:
remark 4: 线性空间的基不是唯一的(一个空间可以有不同的坐标系),一个向量在不同的基下的坐标也是不一样的。设向量组
则称方阵
1.3 标准线性空间
的标准基与一般基
- 标准线性空间
的标准基为:, 标准基构成了单位矩阵.
- 标准线性空间的一般基向量组
拼成的(非抽象的矩阵)是非奇异矩阵.
- 齐次线性方程组的解集称为矩阵
的核(kernel).
1.4 线性子空间:
定义: 设
- (加法封闭性)若
, 有
- (数乘封闭性)
, 有
则称
生成子空间:设
- 给定矩阵
, 则的子空间称为矩阵的像(Image)),写成. 齐次线性方程组的
解空间称为矩阵
的核(kernel).
极大线性无关组与秩:线性子空间的维数与生成该空间的一个基向量组中向量的个数相等:
极大线性无关组可以作为空间
基。
二、线性映射与线性变换
线性映射的定义: 设
- 保加法性: 任取
,成立;
- 保数乘法:
则称映射
映射。若
变换。
2.1 线性映射的矩阵表示
设向量组
线性映射
则称矩阵
设原像
则其通过线性映射的像
于是像
式(5)表示空间
- 若
此时线性映射称为空间中的
线性变换:
, 线性变换在基下的矩阵表示为,. 给定线性空间中的一组基,则对于空间中元素的线性变换的矩阵表示也确定了。 - Remark: 对于几何空间来说,线性变换相当于对整个空间进行伸缩、旋转等几何操作。具体到作用于一个点相当于将这个点移动到另一个点,线性变换矩阵刻画了移动轨迹.
- 两个线性变换顺序不同,总的变换效果一般是不同 。即
与通常不是对应同一线性变换。
- 表示线性变换的矩阵的行列式(determinant)相当于向量组
所张成空间的体积,故对于同一线性变换的行列式相同。(若). 同理,同一线性变换对应的特征向量也是相同的。(即行列式、特征向量与坐标系无关)。
- 方程组
有非零解的几何解释,线性变换能将空间中的向量压缩到原点,故线性变换有降维作用(高维空间变换到低维空间),故不再是最大线性无关组,从而, 或者矩阵不是列满秩的,不存在逆变换(即不存在线性变换把低维空间变成高维空间: 矩阵列向量组的线性组合的结果只能在其张成的空间或子空间中)。
- 两个向量进行点乘操作,相当于将其中一个向量的转置看出是投影变换(一个向量的dual是它所定义的线性变换)。
- 线性变换中包含对空间的旋转操作时,此时矩阵没有特征向量,没有实数特征值。
2.2 矩阵与标准线性空间中的线性映射是等同的
设
标准线性空间
可见矩阵
标准线性空间
2.3、矩阵等价(线性映射)与矩阵相似(线性变换)
- 矩阵等价的定义: 给定矩阵
, 存在非奇异矩阵(可逆矩阵), 满足, 则称矩阵等价。若, 且,则称矩阵相似;
- 矩阵等价本质上相当于对于同一线性映射在不同基底下的矩阵表示,其具体的几何理解为:将
视为标准线性空间到的线性映射:. 将矩阵的列向量组视为的一个基(入口基),矩阵的列向量组视为的一个基(出口基), 则线性映射可以表示为:, (), 其中是向量在基矩阵下的坐标。则线性映射在给定入口基与出口基下的矩阵表示为.
- 相互等价的矩阵
代表同一个线性映射。相互相似的矩阵代表同一个线性变换。(等价比相似的要求低一些,因为等价
不要求行变换与列变换一一对应,而相似左右线性变换是配套的)。 - 一般衍生的问题是:给定矩阵
, 寻找基矩阵, 使得矩阵的形式最可能简化(一般为对角阵或者Jordan标准型), 这样使得有个独立输入与输出。特别地,利用奇异值分解,使得,则
- 方阵的不变子空间: 设方阵
, 子空间若满足, 则称为方阵的不变子空间。
- 方阵的不变子空间与特征向量: 设方阵
, 若有 一
基向量组
满足, 使得为对角阵,即. 则称向量组为矩阵的特征向量组,也称方阵可以相似对角化。 向量
称为矩阵的一维线性不变子空间,也称为特征向量。
remark: 方阵
相似对角化的充要条件是有
个线性无关的特征向量。
- 对于任何一个方阵
,存在非奇异矩阵使得,矩阵为Jordan标准型
不同的特征值,
为
的几何重复度。
2.4 线性变换的特征值与特征向量
设线性空间上的一个线性变换的矩阵表示为
则称向量
remark 1: 线性变换对于特征向量只表现出伸缩变换,特征值表示伸缩变换的倍数。
remark 2: 同一线性变换在不同的基下的有不同的矩阵表示,这些矩阵互为相似矩阵,相似矩阵的(特征值eigenvalue、行列式determinant、秩rank、迹trace)是相同的(
remark 3: 线性变换
remark 4: 若
remark: 对于线性映射
[1]
参考
- ^根据哈工大严质彬老师矩阵分析课程整理 https://www.bilibili.com/video/av11355346?p=27
一对矩阵的相关性_矩阵分析学习笔记(1)相关推荐
- 将矩阵转为一行_矩阵与矩阵乘积简介
作者|Hadrien Jean 编译|VK 来源|Towards Data Science 原文链接:https://towardsdatascience.com/introduction-to-ma ...
- python矩阵施密特标准型_矩阵与数值计算(3)——Schur标准型和Jordan分解
前言 之前介绍过几种矩阵分解方法,都可以有效的提升矩阵方程的数值求解问题,其中LU分解尤其适合于中小型.稠密矩阵的求解问题.我们最理想的矩阵就是可相似对角化的矩阵,直接可以分解成两个酉矩阵和一个对角矩 ...
- python矩阵和向量乘积_矩阵与向量的乘积
以下内容来源于:https://www.zhihu.com/people/August_666/posts 先上运算,再解读: 一个矩阵乘以一个列向量相当于矩阵的列向量的线性组合. 一个行向量乘以矩阵 ...
- python判断矩阵是否对称_矩阵的特征分解(推导+手算+python计算+对称矩阵的特征分解性质)...
1. 前言 最近几天一直在学习矩阵的知识,恶补了特征分解和SVD算法,发现网上很多资料都是不全的,所以想记录一下这里面的特征分解推导过程. 2.矩阵的进阶知识 2.1 特征分解(谱分解)=> ...
- 计算机键盘是编码键盘还是非编码键盘,矩阵按键原理图_矩阵按键扫描实例
键盘分编码键盘和非编码键盘.键盘上闭合键的识别由专用的硬件编码器实现,并产生键编码号或键值的称为编码键盘,如计算机键盘.而靠软件编程来识别的称为非编码键盘. 在一般嵌入式应用中,用的最多的是非编码键盘 ...
- python实现矩阵叉乘_矩阵乘法的纯Python实现 | 离开Python库!!
点击关注我哦 一篇文章带你了解矩阵乘法的纯Python实现 在<这篇文章>中,我们有简单提到"矩阵乘法"的相关知识,如果你不记得了,可以复习一下这张图片. 想起来了没? ...
- java如何求矩阵的置换_矩阵乘法(五):置换
矩阵乘法在一些置换问题上有着很好的应用,特别置换次数较多时,采用矩阵快速幂运算可以加快运算过程. 任意一个置换都能够表示成矩阵的形式.比如,将序列1 2 3 4 置换为 3 1 2 4,相 ...
- 宋浩 概率统计 笔记_推论统计分析学习笔记
1.概率分布 随机变量 随机变量是一个量化随机事件的函数. 离散随机变量,可以一个一个列出来(如明天是否下雨?) 连续随机变量,无法完全列举出来(如明天的雨量的毫米数) 概率分布 随机变量与概率分布的 ...
- 基于hadoop的商品推荐系统_【论文笔记】基于矩阵分解的推荐系统
本文是对经典论文的阅读笔记,大部分为论文的中文翻译内容(笔者英语水平也就六级飘过的水准,不喜勿喷) 论文标题:Matrix factorization techniques for recommend ...
最新文章
- SharePoint 2010: 设计BCS工作流
- 知乎上高赞的40个有趣回复,很精辟!
- BeX5创建w文件窗口显示不齐
- manjaro配置输入法
- 大雨瓢泼!多地告急!告诉你雨天行车的全部秘密。
- OkHttpClient 源码分析 1(基于3.9.0的源码)
- Java default关键字与protect的区别之处
- Java中使用Rational类实现分数精确的计算,
- E001-CRC校验及软硬件实现
- 前端性能分析—前端优化
- 手写《奇怪的名字大作战 V1.0》了解一下?
- 1386:打击犯罪(并查集)
- 简单计算器的实现java_java实现简单计算器
- javah5仿淘宝购物系统计算机毕业设计MyBatis+系统+LW文档+源码+调试部署
- CSS rgb颜色产生原理 颜色对照表
- http://tech2ipo.com/79181
- 专访Uber焦加麟:即便有AI帮助,高精度地图制作仍然少不了人力
- 富文本html内容转换为PDF,富文本(html)转pdf
- 电脑文件夹怎么设置密码?3个方法为文件加密!
- R语言排名第8 | 2020 年 7 月编程语言排行榜
热门文章
- properties类_受不了springboot的yml和properties配置,我扩展出了groovy配置
- java标识符和关键字相关概念
- 用链表实现约瑟夫环(没用)
- ajax预加载html seo,AJAX网页如何实现SEO友好
- python清除实例化类_在Python中,如何尝试(和排除)类的实例化?
- linux transmission,Linux下使用Transmission新版
- larvel 中的api.php_laravel route api.php 与 web.php 的区别
- 计算机批处理英语,英语计算机词汇大全
- python中列表的值与内存地址_python---列表、元组
- sun.misc.unsafe类的使用