从几何角度全新理解线性代数

油管上看到的非常好的一个线性代数教程（还有其他系列）
油管链接
B站也有的贴心不用上外网链接

1. 矩阵与线性变化

从线性变化的角度理解矩阵的意义。

线性变化：可以看作对空间的挤压伸展。它保持网格线平行且等距分布，并且原点不变。
怎样用数值描述线性变化：使用基向量。
线性变换由它对空间的基向量的作用完全决定，因为其他任意向量都能表示为基向量的线性组合。在二维空间中，基向量就是i和j。

矩阵实际是对向量做线性变化，矩阵的列看作变化后的基，把矩阵乘法看作它们的线性组合。
如下图所示，如果要知道空间旋转90度的任意[x,y]的坐标表示，与旋转后的基向量表示的矩阵相乘即可。

线性变化是操控空间的一种手段，这种变化只要使用变化后基向量的坐标就可以表示。以这些坐标为列所构成的矩阵提供了一种描述线性变化的语言，而矩阵向量乘法就是计算线性变换作用于给定向量的一种途径。

这里要强调的是，每当看见一个矩阵，都可以把它理解为对空间的一种特定变化。

2. 矩阵乘法与线性变换复合

复合矩阵和先进行旋转矩阵，再进行剪切矩阵所得到的效果是一样的。

两个矩阵相乘的几何意义：两个线性变换相继作用。注意是从右到左作用，就好像f(g(x))是先进行g函数，再进行f函数。（线性变换本身就可以看作函数作用）

因此，矩阵相乘的一些性质就可以通过矩阵对空间的线性变化来很好的理解：
MN != NM （不满足交换律）
A(BC)=(AB)C （满足结合律，因为本来就是从右往左进行变换）

3. 行列式

在二维平面中，一个线性变换的行列式是3，表示它将一个区域的面积增加为3倍。

行列式为负数，可以理解为是将整个空间进行了翻转，以二维平面为例，好像将一张白纸从正面翻到了背面，行列式的绝对值依然表示区域面积的缩放比例。

负的面积缩放比例用来描述定向改变。
在三维空间中，行列式表示体积。
二维行列式计算：

三维计算：

4.逆矩阵，列空间与零空间

逆矩阵：

对于上图问题的几何解释：
对于向量x，通过矩阵A的线性变换可以和向量v重合。
对于A的变化就可以分为两种：（用行列式描述）

det(A)!=0：空间没有被挤压为零面积的区域，即没有变到更低维度的空间去。
此时对x的查找可以考虑逆过程，即从v逆线性变换回去，v就会变成x。此时的操作就涉及到了A的逆矩阵。即，A表示一个线性变换时，A的逆矩阵就表示将这个线性变换倒回去。根据之前矩阵相乘的意义，即对空间相继作用两个线性变换，A*A^-1 表示什么都没做，也就是说空间没有进行线性变化，两个基向量依然在原来的位置。因此如图所示：
det(A)=0：与方程组相关的变换将空间压缩到更低维度上。
此时没有逆变换，因为无法将一条线“解压缩”为一个平面（没有这样的函数，也就没有这样的线性变换）。虽然没有逆矩阵，但是也可能存在解。例如，这个解刚好在压缩后的直线上。

秩（Rank）：
当变换的结果为一条直线，也就是说结果是一维时，称这个变换的秩=1；当变换的结果落在二维平面时，称这个变换的秩=2。
结论：秩代表变换后空间的维数。
因此，二维矩阵最大的秩为2，三维矩阵的秩可以为3（保持维数）、2（压缩为平面）、1（压缩为直线）。

列空间：
所有可能的变换结果的集合（直线，平面，三维空间等），

矩阵的秩：列空间的维数
满秩（full rank）：当秩达到最大值时，秩与列数相等

零空间：
零向量[0,0]一定包含在列空间中，因为线性变化保持原点不变。

对于满秩来说，唯一能在变化后落在原点的就是零向量；
对于不满秩来说，压缩空间后会得到一系列零向量。

变换后落在原点的向量的集合成为矩阵的“零空间”（null space）或“核”（kernel）。
如果一个向量空间变化后刚好落在零向量上，那么零空间就是这个向量方程所有可能的解。

对于非方阵的补充：

5. 点积与对偶性

1.点积的几何意义

2. 为什么点积与顺序无关
将v投影在w上和将w投影在v上结果是一样的。
从对称性考虑：在这种情况下，显然点积对应投影结果是镜像的，所以成立。

对称性破坏时：|w|cosΘ|2v|=|w||2v|cosΘ，依然是不变的

3. 点积的计算与空间的关系
1）首先考虑二维空间到一维空间的线性变换。

上面的变换很像点积的计算，相当于把二维坐标横着放倒。

2）解释点积的表示与空间几何的关系。
如下图，假设空间中存在这样一条直线，那么将空间中的向量（即看到的粉色点表示）投影到这条直线上，就可以看作是找到了一个将二维空间转换到一维空间的函数/变换。u是二维空间中的一个向量，只是刚好在这条直线上。

此时，我们要找到将二维空间转换到一维空间的一个转换/函数，也就是要找到基向量i,j转换后的位置。

因此，描述投影变换的1*2矩阵，就是u的两个坐标。
而空间中任意向量经过投影的结果，也就是投影矩阵与这个向量相乘。

这就是为什么与单位向量的点积可以解读为将向量投影到单位向量所在直线上的投影长度。
4. 启示

5. 对偶性(duality)

每当看到一个多维空间到数轴的线性变化时，它都与空间中的唯一一个向量对应。也就是说，应用线性变换和与这个向量点乘等价。

所以，这里的收获是：
每当你看到一个从空间到数轴的线性变化时，你都能找到一个向量，被称为空间的对偶向量，使得应用线性变换和与对偶向量点乘等价。

另一个漂亮的对偶就是下面的叉积。

6. 叉积

6.1 叉积的标准介绍

1.理解叉积（介绍非严格的叉积）

由上图知，叉积是有顺序的。可以根据基向量的叉积正反进行记忆。

叉积的计算：

2.真正的叉积
上面并不是严格的叉积，真正的叉积是通过两个三维向量生成一个新的三维向量。
叉积的结果不是一个数，而是一个向量。

叉积计算：

6.2 以线性变换的眼光看叉积

这节有点复杂，感觉没有理解透彻，本节视频地址

7.基变换

讨论使用不同的基向量的情况：
例如：即原点与我们的坐标空间是重合的，但是它的基向量的方向和间距是不同的。

问题：
1. 怎样在不同的坐标系之间进行转化？

即，怎样将另一个坐标系的描述转变为我们的。

上图的转换实际是矩阵乘法：其中，矩阵的列就是另一个坐标系的基向量在我们的坐标中的表示。

因此，这个矩阵实际是将我们对粉π坐标系的误解向量，转化成她实际表示的向量。

如果要做反方向的变化：将我们的语言转化为粉π的语言，使用A的逆矩阵。

总结：

2.然后转换其他坐标系中的坐标

通用结论：

中间的矩阵表示我们所见过的一种变化（如上面的例子，表示旋转90度），外侧两个矩阵代表转移作用，也就是视角上的转化。

8.特征值与特征向量

矩阵对空间进行拉伸/压缩后，有一些变量仍然可以留在自己张成的空间中。例如下图的x轴和粉色线，随着矩阵对空间的拉伸，它们并没有发生方向上的改变，只是进行了长度的拉伸。

这样的向量就是特征向量，每个特征向量都有一个所属的值，即特征值，用来衡量特征向量在变换中拉伸或压缩比例的因子。

在三维空间中，如果找到这样的变量，那么它就是三维空间相应变化的旋转轴（注意，旋转表示长度不变，因此特征值为1）。考虑绕旋转轴旋转要比考虑一个3*3的矩阵形象的多。

计算思想：

当且仅当矩阵代表的变换将空间压缩到更低维度时，才能使行列式为0.
举例：

二维线性变换不一定有特征向量。例如旋转90度时，每个向量都离开了它原来的方向。如果对这种情况计算：没有实数解表示没有特征值和特征向量。

剪切变换：（保持i向量不变，j向量偏移）

属于单个特征值的特征向量可能不止在一条直线上。
例如：

特征基：

解读对角矩阵：所有基向量都是特征向量，矩阵的对角元是它们所属的特征值。

对角矩阵的好处：
与自己相乘时，只要将每个基向量与特征值相乘。
例如：

矩阵对角化
特征向量刚好是基向量的情况是很少而且幸运的。
但是，在一个普通转换中，如果特征向量多到可以张成全空间的集合，就可以变换坐标系，使得特征向量作为基向量。此时可以使用基变换进行操作。
将原始矩阵夹在中间，那么所得到的矩阵是同一个变换，不过是从新的基向量构成的坐标系的角度来看的。

这样转化的好处是，这个新矩阵必然是对角矩阵，并且对角元为相应特征值，因为它所处的坐标系的基向量在变换中只是进行了缩放。
一组基向量（同样是特征向量）构成的集合被称为一组“特征基”。
如果计算非对角矩阵的幂，最好转化到它的特征基上，得到对角矩阵，计算后再转换回去。

不是所有的矩阵都能对角化，例如剪切矩阵，它的特征值不够多，无法张成全空间。

9. 抽象空间向量

行列式和特征向量与所选坐标系无关。
行列式：告诉你一个变换对面积的缩放比例
特征向量：在变换中留在它所张成的空间的向量。
这二者都是暗含于空间中的向量。

这一节较难总结，建议观看全集链接
解释了很深刻的一个数学思考：

下面给出一些总结的截图。但是理解整个抽象空间一定要观看视频本身。

向量有许多表现形式，但是数学家只把它抽象为向量空间。向量的形式并不重要，只要满足下面的公理即可。