两矩阵相乘的秩的性质_MIT—线性代数笔记04 矩阵的LU分解
第04讲 矩阵的LU分解 Factorization into A=LU
04 A的LU分解v.youku.com
本节的主要目的是从矩阵的角度理解高斯消元法,最后找到所谓的L矩阵,使得矩阵A可以转变为上三角阵U。即完成LU分解得到A=LU。
首先继续了解一些矩阵乘法和逆矩阵的相关内容。
- 矩阵乘积的逆矩阵 Inverse of a product
矩阵乘积的转置 Transpose of a product
(本讲要用到的只是转置矩阵求逆的公式,把相关内容放在这里做个简介,方便大家理解。GS在下一讲还会讲到转置。)
矩阵A的转置矩阵记为即,对矩阵进行转置就是将A矩阵的行变为
的列,则完成后A的列也就成为了
的行,看起来矩阵如同沿着对角线进行了翻转。
其数学表达式为
,即的第i行j列的元素为原矩阵A中第j行i列的元素。
可以用定义证明。把上次课介绍的那个乘法小技巧的图片按照乘积矩阵的对角线翻转也看得一清二楚。
- 转置矩阵的逆矩阵 Inverse of a transpose
- 矩阵的LU分解
我们已经看到了如何应用消元法将矩阵A转变为上三角阵U,这就引出了矩阵的LU分解,它是理解矩阵A性质的重要方法。
可以将矩阵的分解类比为多项式的因式分解,分解后的结果可以让我们更容易看清“解”的状态。
在没有行交换的情况下,矩阵A通过左乘一系列消元矩阵Eij可以转化为U。在二阶矩阵中,进行一次消元操作即可达到这一效果。
在等式两侧左乘
A的LU分解结果。
是的逆向操作,即左乘使得矩阵A第二行[8,7]减去第一行的4倍得到“新第二行”[0,3],那么再左乘
可以使得”新第二行”[0,3]加上“第一行”的4倍又变回原第二行的数值[8,7]。
其中U为上三角阵(Upper triangular matrix),主元依次排列于它的对角线上,
L为下三角阵(Lower triangular matrix)。有时我们也通过分解得到对角阵D(diagonal matrix),例如
对于三阶矩阵不需要换行进行消元的情况则有:
设定一组消元矩阵,其中E31为单位阵I,其它两个消元矩阵如下:
可以看到在消元矩阵E的左下角出现了数10。它的出现是由于第一步操作E21中“第二行”减去了2倍的“第一行”得到了“新第二行”。row2-2row1=newrow2,而在第二步操作E32中第三行减去了5倍的“新第二行”,这相当于减去5倍的“原第二行”并减去5倍的“(-2)倍原第一行”,10就出现在这里。
row3-5newrow2=row3-5(row2-2row1)=row3-5row2+10 row1
在右侧操作则不会有这种情况发生,运算顺序会发生变化,
如果没有行交换操作,则消元矩阵的因子可以直接写入矩阵L。没有多余的交叉项出现是LU分解要优于EA=U这种形式的原因之一。
- 消元法所需运算量
在一些应用中我们需要处理超大型矩阵,即使用计算机来处理这一问题,也需要评估所需的计算量。
如果我们把“先乘后减”大致记为一次运算,那么对于一个nxn矩阵,对于一行进行消元要进行n次运算,由于有n行所以进行了nxn次运算,结果得到了第一列除第一主元外都消成0的矩阵。随后开始对除第一行第一列之外的剩余部分进行消元,这相当于一个(n-1)x(n-1)的矩阵,那么就要进行(n-1)x(n-1)次运算,以此类推。
最后需要的运算次数为1x1+2x2+……+nxn,利用积分公式可以估算其数值。
这里算是个灵活使用数学工具的例子,我看到完全平方的求和,就一直在回忆公式,但其实作为估算采用积分公式就很方便了。有时候应用数学工具就像开车,保证你正常行驶主要靠驾驶技能,而不是你手边的一本《交规》,熟练驾驶但是不遵守交规很容易出错,交规倒背如流却没有驾驶技能则往往寸步难行。
再扯几句淡。在统计学中经常用到斯特林公式(Stirling's approximation),它用来评估和近似阶乘的大小。如果你去阅读Stirling公式的发展历程和证明过程,就会意识到级数、极限和微积分中间的紧密联系,感兴趣可以看一看。
等号右侧向量b的行变换大致需要nxn次运算。
- 行转换 Row exchanges
如果主元的位置出现了0,就需要进行“行交换”。我们可以通过左乘一个置换矩阵(Permutation Matrix)实现“行交换”的操作。例如
可以实现33矩阵的第一行与第二行的交换。所有的33的置换矩阵包括:
对于nxn矩阵存在着n!个置换矩阵。
置换矩阵每一行或者每一列只有一个元素是1,其它都是0,从第一行选一个位置设定为1有n个选择,第二行则只剩下n-1个选择,以此类推,最终有n!种可能。
对于某阶的置换矩阵集合而言,置换矩阵的两两乘积仍在这个集合中,置换矩阵的逆矩阵也在此集合中。置换矩阵的逆矩阵即为它的转置
可以用前面介绍过的乘法运算小技巧来理解这件事情
P的第i行和
的第i列相乘会得到1,与其他列相乘都得到0,所以的第i列只能是P的第i行行向量的转置(让分量1出现在向量里的相同位置),其他各列以此类推,则P的每一个行向量转置就得到
的列向量,这也就是矩阵转置的定义。因此可得。
两矩阵相乘的秩的性质_MIT—线性代数笔记04 矩阵的LU分解相关推荐
- MIT线性代数笔记三 矩阵的乘法和逆矩阵
文章目录 1. 矩阵乘法 Matrix multiplication 1.1 标准方法(行乘以列) 1.2 列向量的线性组合 1.3 行向量的线性组合 1.4 分块乘法 2. 逆矩阵 2.1 逆矩阵的 ...
- 一般向量空间的基变换_MIT—线性代数笔记30 线性变换及对应矩阵
第30讲 线性变换及对应矩阵 Linear transformations and their matrices 网易公开课open.163.com 线性变换 Linear transformati ...
- 线性代数笔记(矩阵)
矩阵是平面的,如果是三维的呢?一维是向量,二维是矩阵,三维呢? 1)矩阵:由m*n个数排成的矩形数表;横排叫行,竖排叫列: 2)方阵:行数和列数都是n的矩阵:主对角线,对角元素,迹(对角元素的和):方 ...
- 线性代数笔记10——矩阵的LU分解
在线性代数中, LU分解(LU Decomposition)是矩阵分解的一种,可以将一个矩阵分解为一个单位下三角矩阵和一个上三角矩阵的乘积(有时是它们和一个置换矩阵的乘积).LU分解主要应用在数值分析 ...
- 已知法向量 求投影_MIT—线性代数笔记15 子空间投影
第15讲 子空间投影 Projections onto subspaces 网易公开课open.163.com 投影(射影)Projections 投影问题的几何解释就是:如何在向量a的方向上寻找与 ...
- MIT线性代数笔记二 矩阵消元
文章目录 1. 消元 Elimation 2. 回代 Back-Substitution 3. 消元矩阵 Elimination Matrices 4. 置换矩阵 Permutation 5. 逆矩阵 ...
- 如何将一个向量投影到一个平面上_MIT—线性代数笔记15 子空间投影
第15讲 子空间投影 Projections onto subspaces 网易公开课open.163.com 投影(射影)Projections 投影问题的几何解释就是:如何在向量a的方向上寻找与 ...
- 列运算_MIT—线性代数笔记06 列空间和零空间
第06讲 列空间和零空间 Column space & Nullspace 网易公开课open.163.com 本节继续研究子空间,特别是矩阵的列空间(column space)和零空间(n ...
- MIT线性代数笔记四 矩阵的LU分解
文章目录 1. 矩阵的LU分解 2. 消元法所需运算量 3. 行互换 Row exchanges 本节的主要目的是从矩阵的角度理解高斯消元法,最后找到所谓的 LLL矩阵,使得矩阵 AAA可以转变为 ...
最新文章
- 从1.5K到18K 一个程序员的5年成长之路(二)
- python 笔记:argparse
- 【c++】5.函数传指针与传值特容易混淆的点
- [3]MVC3中使用Telerik(转)
- 将ListT集合用DataGridView展示
- 【报错笔记】程序报错:Cause: java.sql.SQLException: Invalid value for getInt() - ‘4ab72edc-c02f-423f-ae9e-18c30
- 真的,太多人辜负了.NET5!
- 密码学在区块链隐私保护中的应用学习
- Total Physical Response TPR
- mysql5.7企业版下载_MySQL v5.7.20 官方正式版(32/64位 安装版与zip解压版)
- JS怎么唤起百度地图
- 项目管理论文十大领域各一篇
- 小米的隔空充电技术或许是概念产品,需要跨越的技术难点太多
- 课得软件丨纵观全球程序员税后年收入,中国排在第几?
- Ubuntu16.04挂载exfat格式U盘
- 大学三年积累的教学资源分享和推荐!
- matlab神经网络拟合后何种参数说明,请教关于BP神经网络参数设置拟合的问题。请大神帮忙看看 - 程序语言 - 小木虫 - 学术 科研 互动社区...
- uniapp H5端 使用百度地图API
- 创客集结号:无人机发展的技术难点
- Oauth2系列2:授权码模式
热门文章
- mysql数据库隔离级别
- 没有外网只有内网,nuget离线安装nupkg的方法
- 【预测模型-ELAMN预测】基于蚁群算法优化ELMAN神经网络实现数据回归预测matlab代码
- orbslam2稠密地图转octomap
- ***常用工具下载大全
- 刻录光盘的结构及原理
- 服务器中病毒要不要重装系统,五种情况必须要给电脑重装系统,这三种不用重做系统,别被骗了!...
- manifest php,manifest让网页实现离线访问
- 新发现,新挑战,技术出海的机遇与挑战丨PingCAP DevCon 2022 出海专场
- java中当前时间查询_SQL 查询当前时间