个人声明

本系列文章记录本人自学线性代数教材《Linear Algebra Done Right》的概念梳理(复习)和部分习题解答(练习)。如有任何错误或不严谨之处恳请读者在评论区留言提醒。

本书信息

书名:Linear Algebra Done Right (3rd Edition)

语言:英文

作者:Sheldon Axler

ISSN: 0172--6056(纸质);2197-5604(电子)

ISBN: 978-3-319-11079-0(纸质);978-3-319-11080-6(电子)

出版社:Springer

出版年份:2015

参考链接

电子PDF链接(英文):Linear Algebra Done Right

习题答案链接(英文):Solution Manual

本书目录(译)

注:点击链接跳转至对应的章节内容,加粗字体表示本文所在的章节内容。

(链接更新中)

一、向量空间——

;向量空间的定义;子空间

二、有限维向量空间——生成空间与线性无关;基;维数

三、线性映射——线性映射的向量空间;零空间与值域;矩阵;可逆性与同构向量空间;向量空间的积与商;对偶性

四、多项式

五、特征值、特征向量与不变子空间——不变子空间;特征向量与上三角矩阵;特征空间与对角矩阵

六、内积空间——内积与范数;标准正交基;正交补与最小化问题

七、内积空间上的算子——自伴算子与正规算子;谱定理;正定算子与等距同构;极分解与奇异值分解

八、复向量空间上的算子——广义特征向量与幂零算子;算子的分解;特征多项式与最小多项式;Jordan型

九、实向量空间上的算子——复化;实内积空间上的算子

十、迹与行列式——迹;行列式

笔记附录

附录一、一些基础离散数学与抽象代数概念笔记

附录二、附录一中的定理证明


3.C 矩阵(Matrices)

关键词:矩阵、矩阵加法与数乘、矩阵乘法、列的线性组合

用矩阵表示线性映射(Representing a Linear Map by a Matrix)

矩阵是一种数学模型,起源于对线性方程组的研究。通常解一个线性方程组的方法是逐步加减消元求出解。在加减消元的过程中发现每个线性方程组的解是由方程组中每个方程里的项的系数决定的——即变化的是这些系数而不是未知元。因此我们可以严格按顺序把系数归纳起来写成一个表格,这个表格就是矩阵(没有对应项的未知元的系数为

,常数项通常写在最右列并与其他关于未知元系数的列相区别)。

现在我们从线性映射的角度看待线性方程组。因为线性方程组可以描述成从

的线性映射
,其中
。观察线性方程组及其矩阵模型,我们发现矩阵最右列代表的常数项
是由所有一次项系数
与所有变量
决定,其中
的自变量,
的因变量,那么关于
本身的信息就只能储存在
中了。因此我们可以定义一个二元运算
或简写为
(注意

此时矩阵乘法没有定义),其中

是向量列表,

系数矩阵(该运算将会归纳到矩阵乘法中)。准确来说,

本节所要讨论的是既然一个矩阵能代表线性方程组的线性映射,那么如何广义化矩阵模型使得矩阵可以描述其他类型的线性映射而不仅仅是线性方程组,并且矩阵模型之间的运算与对应的线性映射之间的运算兼容一致。特别是怎样定义矩阵乘法使得与对应的线性映射的积一致

摘录译文(页70)

3.30 定义 矩阵

表示正整数。

矩阵

列的由
中的元素组成的矩形阵:

记号

表示
中的第
行第
列元素。换句话说,第一个下标指的是行数,第二个下标指的是列数。

因此

指的是矩阵
中的第二行第三列元素。

3.31 例

,则

这里正式定义了矩阵及记号

——矩阵中的某个位置的元素。接下来我们要建立

矩阵与线性映射之间的联系。因此引申出概念——线性映射的矩阵

摘录译文(页70)

3.32 定义 线性映射的矩阵

的基且
的基。关于这些基的

的矩阵

矩阵
,其中的元素
被定义为

若上下文没明确基,则使用记号

这里定义了关于

的基的线性映射

的矩阵

——取决于

本身与

的基。同样地,此定义的动机来源于对线性方程组及其矩阵模型的规律的归纳。我们知道任意线性方程组都可视作从

的线性映射。而线性映射取决于基的值(定理3.5)。因此我们可以通过研究基的变换来建立矩阵与线性映射之间的联系。

为了计算简便,我们选取各自的标准基为

的基并根据系数矩阵
来算出
的标准基的每个元素
中的值,而且每个值都可以写成
的标准基
的线性组合。准确来说,定义
与系数矩阵

对于每个

,算出
(除了第
个分量是
其余全为
)的值
(回顾3.A习题3)

这恰好就是系数矩阵

中所有第
列的元素。将
写成标准基的线性组合

该线性组合的每个系数恰好就是系数矩阵

中所有第
列的系数。因此,

从线性映射角度来说,我们可以这样解读系数矩阵

对于每个

。 简单来讲,

系数矩阵的每个列告诉我们每个对应的标准基的值。例如系数矩阵

告诉我们线性映射
的标准基里的每个元素分别映射至
里的元素:

如果我们推广上述概念,把标准基替换成任意基

替换成任意有限维向量空间(例如多项式

),那么系数矩阵就可以描述

在任意基下的任意类型的有限维向量空间之间的任意线性映射了。准确来说,

对于每个

,其中
的基且
的基。

综上所述,这些归纳出来的规律最终以定义3.32的形式呈现。因此有推论:设

。若
,则
矩阵。

摘录译文(页71-72)

3.33 例

被定义为
。求关于
的标准基的
的矩阵。


因为

,所以关于标准基的
的矩阵是
矩阵:

考虑

时使用标准基
,除非上下文另外提及。

3.34 例

是定义为
的微分映射。求关于
的标准基的
的矩阵。


因为

,所以关于标准基的
(注:这里应该是
)的矩阵是
矩阵:

这里给出了两种线性映射的矩阵的例子。例3.33是线性方程组的矩阵而例3.34是多项式微分的矩阵。注意不同的线性空间对应着不同的标准基。一般地,求

的矩阵步骤如下:
  1. 选好

    的基。例如
    作为
    的基与
    作为
    的基。
  2. 根据
    的定义计算
  3. 表示成
    的线性组合。
  4. 按照定义3.32给出的规则(
    )写出矩阵

注意为了计算简便,

的基最好都是标准基,这样步骤2与3就不用再繁琐地计算了。

在例3.33中

  1. 选好

    的基
    的基
  2. 根据
    计算
  3. 表示成
    的线性组合:
  4. 写出矩阵

在例3.34中

  1. 选好

    的基
    的基
  2. 根据
    计算
  3. 表示成
    的线性组合:
  4. 写出矩阵

矩阵加法与数乘(Addition and Scalar Multiplication of Matrices)

定义好了矩阵与线性映射的矩阵。我们希望定义矩阵之间的某些运算使得这些运算与已有的线性映射之间的运算兼容。换句话说,我们希望定义矩阵加法、数乘与乘法使得这三种运算与这些矩阵对应的线性映射的加法、数乘与积一致:

  1. 加法:若

    ,则
  2. 数乘:若
    ,则
  3. 乘法:若
    ,则

同样地,我们跟踪基的变换来研究矩阵之间的运算

摘录译文(页72)

3.35 定义 矩阵加法大小相同的两个矩阵的和(注:大小相同的意思是矩阵的行数

与列数
都相等)是把矩阵里的对应的元素相加得到的矩阵(注:对应的元素的意思是元素的位置下标
相同):

换句话说,

这里定义了矩阵加法——两个

矩阵的和。注意两个矩阵的行数

和列数

必须都相等才能相加——不是任意两个矩阵的和都有定义。因为

矩阵表示
的从
的线性映射而线性映射的加法

只在同一个线性映射的集合

上有定义(定义3.6)。同样地,我们跟踪基的变换来确定两个线性映射的和的矩阵

。令
的基且
的基。设矩阵

则根据矩阵推出对于每个

,存在

因此根据

推出

所以根据定义3.32写出矩阵

因为矩阵

是由矩阵
决定的,所以我们定义一个

矩阵上的二元运算,称作矩阵加法

。计算规则为定义3.35中的
对于每个

摘录译文(页73)

3.37 定义 矩阵数乘
标量与矩阵的积是把矩阵里的每个元素乘以标量得到的矩阵:

换句话说,

这里定义了矩阵数乘——标量与矩阵的积。注意任意矩阵都可以乘以一个标量——任意矩阵的数乘都有意义。因为矩阵表示线性映射而线性映射的数乘在每个线性映射的集合

上都有定义(定义3.6)。同样地,我们跟踪基的变换来确定任意线性映射的数乘的矩阵

。令
的基且
的基。设矩阵

则根据矩阵推出对于每个

,存在

因此根据

推出

所以根据定义3.32写出矩阵

因为矩阵

是由标量
与矩阵
决定的,所以我们定义一个

在标量与任意矩阵之间的二元运算,称作矩阵数乘

。计算规则为定义3.37中的
对于每个

摘录译文(页73-74)

3.39 记号

对于正整数

,由
中的元素组成的所有
矩阵的集合标记为

3.40

是正整数。根据上述定义的加法与数乘,
是维数为
的向量空间。

是向量空间的验证留给读者。注意到
的加法单位元是元素全等于
矩阵。

读者也应验证除了一个元素

其余元素全为
矩阵列表是
的基。因为有
个这样的矩阵,所以
的维数等于

这里定义了记号

——

中的元素组成的所有

矩阵的集合

。同时也证明了向量空间

的维数是
。关于
是向量空间的证明有两个方向,其中一个是传统的

代入法验证。不过代入法验证每个公理时涉及的计算非常繁琐。对于特定的线性空间,我们可以找出更简洁的证明方向(例如子空间的验证中可以通过简单的三个条件的判断)。既然矩阵能表示与定义线性映射,何不从线性映射的角度出发来证明

满足线性空间公理从而得证。首先我们已经知道
是一个线性空间(定理3.7与3.A习题5)。例如

加法交换律的证明:

已知

是线性空间,则对于所有的
上的加法满足交换律
。因此对应的矩阵
。又因为
,所以
。矩阵加法满足交换律。

如果采用代入法验证加法交换律:

。则对于所有的

看起来代入法涉及的计算没那么繁琐,但这只是因为加法交换律的性质本身简单而已。如果要验证单位元、逆元、分配律、结合律等运算性质时运算量大增,不仅涉及的步骤很多而且非常容易算错。 在上节3.B中对定理3.22的证明分析中提到在证明过程中互为充要条件的命题(定义是逻辑等价命题)

可以把原命题
转化为相对容易证明的等价命题
来求证。

具体到本证明就是线性映射集合上的运算等价于对应的矩阵集合上的运算——从线性映射集合上的运算推出对应的矩阵,然后定义对应的矩阵集合上的新运算推出原来的线性映射集合上的运算。例如

上的加法运算:已知
。推出
及其矩阵
。然后定义新运算
。根据新运算的定义推出若
,则
,即

因为矩阵表示与定义线性映射,所以有以上逻辑等价关系(3.D节会从同构角度给出证明)。

矩阵乘法(Matrix Multiplication)

接下来我们定义更复杂的矩阵乘法。

摘录译文(页75)

3.41 定义 矩阵乘法

矩阵且
矩阵(注:作者这里使用的符号
的意思与一些教材使用的
的意思完全相反)。则
被定义为
矩阵,其中第
行第
列元素由以下等式给出:

换句话说,

的第
行第
列元素是通过取
的第
行与
的第
列,乘上对应的元素(注:与定义3.35不同,这里的对应的元素的意思是
中的元素的列标与
中的元素的行标相同——都是
)然后相加。

这里定义了矩阵乘法——

矩阵与

矩阵的积

。注意左边矩阵的列数

必须等于右边矩阵的行数
才能相乘——不是任意两个矩阵的积都有定义

。因为

矩阵表示
的从
的线性映射。同理
矩阵表示
的从
的线性映射。然而线性映射的积
有定义

仅当右边线性映射

的陪域
等于左边线性映射
的定义域

(定义3.8)。因此

的列数必然与
的行数相等。因为矩阵
相乘得到的矩阵
表示线性映射
, 其中
,所以矩阵
矩阵(定义3.8)。同样地,我们跟踪基的变换来确定

任意线性映射的积的矩阵

。令
的基且
的基且
的基。设矩阵

则根据矩阵推出对于每个

,存在

因此根据

推出

所以根据定义3.32写出矩阵

因为矩阵

是由矩阵
决定的,所以我们定义一个

矩阵与
矩阵之间的二元运算,称作矩阵乘法

。计算规则为定义3.41中的
对于每个

摘录译文(页75)

3.42 例
这里我们把

矩阵与
矩阵乘上得到
矩阵:

这里给出了矩阵乘法运算的一个例子。根据定义3.41,当我们想求结果矩阵的第

行第
列元素时,我们考虑左边矩阵的第
与右边矩阵的第
,乘上对应的元素(左边矩阵的第
行元素的列标与右边矩阵的第
列元素的行标相同)。例如左边矩阵的第
行第
列的
与右边矩阵的第
行第
列的
。然后相加得到

注意矩阵乘法满足结合律

与分配律
但不满足交换律
(尽管两个积
均有定义)。证明见本节3.C习题12,13,14。

PS:从抽象代数角度看,

矩阵集合上的加法与乘法构成了环。

摘录译文(页76)

3.44 记号

矩阵。

,则
表示由
的第
行组成的
矩阵。

,则
表示由
的第
列组成的
矩阵。

3.45 例

,则
的第
行,
的第
列。换句话说,
矩阵与
矩阵的积是
矩阵。然而我们会经常通过
矩阵的元素识别它。

3.46 例

是因为
。然而我们可以通过
识别
,写成

这里定义了记号

——分别表示关于矩阵
的第
行与第

。接下来的结论告诉我们矩阵

的第
行第
列元素等于矩阵
的第
行与矩阵
的第
列的积

。这是理解矩阵乘法的其中一个视角。

摘录译文(页76)

3.47 矩阵乘积的元素等于行乘以列

矩阵且
矩阵。则

对于

上述结论的证明直接来源于定义。
3.48 例
上述结论与例3.46证明了为什么例3.42中的乘积的第

行第
列元素等于

。则
(回顾定义3.41)。

接下来的结论告诉我们矩阵

的第
列等于矩阵
与矩阵
的第
列的积

。这是理解矩阵乘法的另一个视角。

摘录译文(页77)

3.49 矩阵乘积的列等于矩阵乘以列

矩阵且
矩阵。则

对于

同样上述结论的证明直接来源于定义且留给读者。
3.50 例
从上述结论与等式

中我们看出为什么例3.42中的矩阵乘积的第
列是上述等式的右边。

。则
(回顾定义3.41)。

接下来的结论告诉我们矩阵与列的乘积可看作是矩阵的列的线性组合。这是理解矩阵乘法的另一个视角并同时归纳了本篇笔记开头提及的系数矩阵与向量之间的二元运算

摘录译文(页77)

3.51 例
在上述例子中,

矩阵与
矩阵的积是
矩阵的列的线性组合,其中乘以列的标量来源于
矩阵。具体来说,

下面结论推广上述例子。同样证明直接来源于定义且留给读者。
3.52 列的线性组合

矩阵且
矩阵。则

换句话说,

的列的线性组合,其中乘以列的标量来源于

定理3.52的证明见3.C习题9。


习题3.C

摘录译文(页78)

习题2:设

是定义为
的微分映射。求
的基与
的基使得关于这些基的
的矩阵是

[比较此习题与例3.34。下个习题推广本习题的结果。]

因为该矩阵的第

列的所有系数全为
,所以第
列对应的多项式必然是常函数。因此我们可以选取
的基
。分别求导后得到
。又因为代表
的第
列中仅有第
行元素是
,其余为
。所以第
行所代表的多项式必然是
。以此类推可以得出第
行所代表的多项式是
与第
行所代表的多项式是
。显然我们已经求出
的基
。因此求得上述矩阵:

与例3.34的比较

摘录译文(页78)

习题3:设

是有限维向量空间且
。证明存在
的基与
的基使得关于这些基的
的所有元素除了对于
行第
列的元素等于
以外为

的基且
。因此
的基且
(定理3.22)。将
的基扩充成
的基
(定理2.33)。因此
。因此
矩阵。写出矩阵:

因为

,所以
代表的行与
代表的列的元素全为
。对于每个
,存在唯一的系数表示成
的线性组合。显然对于每个
,除了对应的向量的系数为
以外其余全为

摘录译文(页79)

习题6:设

是有限维向量空间且
。证明
当且仅当存在
的基与
的基使得关于这些基的
的所有元素等于

若存在

的基
的基
使得关于这些基的
的所有元素等于
,则
矩阵:

因此对于每个

所以

推出

反之,若

,则
。设
的基使得
。因为
,所以可以扩充成
的基

假设

也是
的基且
也是
的基使得
的所有元素等于
,那么对于每个

因此

是因为
推出

反之,令

。考虑列表
与列表
。可以证明它们分别是
的基。

从上述等式中可以看出

当且仅当
当且仅当
。因此
线性无关。它们分别是
的基,因此写出矩阵

摘录译文(页79)

习题9:证明3.52。

。则

摘录译文(页79)

习题10:设

矩阵且
矩阵。证明
对于
。换句话说,证明
的第
行等于(
的第
行)乘以

。则

摘录译文(页79)

习题12:给出

矩阵的例子证明矩阵乘法不满足交换律。换句话说,求
矩阵
使得

。则

显然

摘录译文(页79)

习题15:设

矩阵且
。证明
(定义为
)的第
行第
列元素是

根据定义3.41得出


上一节:零空间与值域

下一节:可逆性与同构向量空间

线性代数第九版pdf英文_《Linear Algebra Done Right》线性代数复习及部分习题解答(3.C)...相关推荐

  1. 线性代数第九版pdf英文_斯坦福CS229机器学习课程的数学基础(线性代数)翻译完成...

    文章转载自公众号 机器学习初学者 , 作者 机器学习初学者 Stanford cs229 manchine learning课程,相比于Coursera中的机器学习有更多的数学要求和公式的推导,课程全 ...

  2. python 算法教程 pdf 英文_上手实践《Python机器学习第2版》PDF中文+PDF英文+代码+Sebastian...

    学习机器学习,推荐学习<Python机器学习(第二版)>. <Python机器学习(第2版)>,图文并茂,代码详实,原理清晰,覆盖面适度,侧重算法实现和应用,作为入门级学习还是 ...

  3. 网络安全基础第五版pdf下载_关于征集网络安全在线培训课件的通知

    关于征集网络安全在线培训课件的通知 各相关单位: 工信部建设了网络安全在线培训平台,将于近期上线.根据<关于征集网络安全在线培训课件的通知>(工网安函[2019]293号)文件精神,面向全 ...

  4. 计算机科学丛书操作系统概念pdf,操作系统概念 (第9版) PDF英文文字版[5.63M]

    内容介绍: The ninth edition of Operating System Concepts continues to evolve to provide a solid theoreti ...

  5. 【机器学习的数学基础】(二)线性代数(Linear Algebra)(中)

    文章目录 2 线性代数(Linear Algebra)(中) 2.4 向量空间 2.4.1 群 2.4.2 向量空间 2.4.3 向量子空间 2.5 线性独立 2.6 基和秩 2.6.1 生成集和基 ...

  6. MIT线性代数(Linear Algebra)中文笔记

    来源 | 专知 编辑 | Xiaowen Github作者yizhen20133868在Github上发布了MIT线性代数的中文笔记,该笔记总结了他们在学习MIT线性代数课程的学习经验和过程.课程顺序 ...

  7. 深入理解计算机系统 -资料整理 高清中文版_在所不辞的博客-CSDN博客_深入理解计算机系统第四版pdf

    深入理解计算机系统 -资料整理 高清中文版_在所不辞的博客-CSDN博客_深入理解计算机系统第四版pdf

  8. GAMES101课程学习笔记—Lec 02:Linear Algebra 线性代数回顾

    GAMES101课程学习笔记-Lec 02:Linear Algebra 线性代数回顾 0 图形学的依赖学科 1 向量 1.1 点乘 1.2 叉乘 2 矩阵 本节课知识比较基础,大学课程里应该都学过, ...

  9. Linear Algebra 线性代数

    Linear Algebra 线性代数 最近在看Deep Learning这本书,刚看了Linear Algebra章,总结一下. 名词函数 Scalars:标量,就是单个数,一般用小写倾斜字体表示. ...

最新文章

  1. 剑指offer:面试题33. 二叉搜索树的后序遍历序列
  2. Java技术体系平台
  3. 小知识点——DataTable把满足条件的一行放在第一行
  4. android表格自动刷新,Android SwipeRefreshLayout 自动刷新
  5. Laravel 的数据库迁移
  6. Javascript基础之-强制类型转换(一)
  7. 一个应用程序和另一个应用程序apk文件信息
  8. Games101现代图形学入门Lecture 3: Transformation知识点总结
  9. (转载)SpringBoot 发送邮件和附件
  10. moment格式换时间_不一样的日期、时间转换(moment.js)
  11. autoscan、aclocal、automake和autoconf区别
  12. js实现椭圆轨迹_华为开发者大会2020隆重召开,亿健T10椭圆机荣耀参展
  13. Hadoop-MR实现日志清洗(三)
  14. 图解微服务技术架构体系
  15. 设计模式-05.建造者模式与模板方法模式比较
  16. wd移动硬盘测试软件,西数硬盘修复工具(WD HDD Repair Tools)
  17. Beamer Template
  18. react-Suspense工作原理分析
  19. 2019迅雷校园招聘!后端工程师岗位两次技术面题目总结和解析
  20. 最小二乘法拟合二次曲线 C语言

热门文章

  1. linux ll命令时间,linux ll显示时间格式
  2. 调用远程摄像头进行人脸识别_工地安全:AI如何实现安全帽检测与人脸识别?...
  3. java怎样自动调用鼠标点击屏幕固定地方_python办公自动化:让PyAutoGUI来帮你干活...
  4. 电子助力方向机控制模块_17款路虎揽胜:偶发性电子助力失效
  5. java word流_(word)java中字节流示例.doc
  6. 计算机应用段落设置,计算机应用操作基础.docx
  7. c语言学习进阶-C语言程序稳定性测试
  8. 采用C编写程序实现从文件读取操作
  9. OpenShift 4 - 在集群节点用crictl对Pod/Image/Container进行操作
  10. OpenShift 4 之AMQ Streams(4) - 用Prometheus监控Kafka