MIT 18.06 Gilbert Strang《线性代数》L1. 方程组的几何解释

这里是 MIT 18.06 Gilbert Strang《线性代数》笔记汇总.

从求解线性方程组来开始这门课，教授从“行图像”与“列图像”的角度解方程。

1. 方程组的几何解释基础

1.1 二维行向量

从一个普通的例子讲起：方程组有2个未知数，一共有2个方程。

有方程组 {2x−y=0−x+2y=3\begin{cases}2x&-y&=0\\-x&+2y&=3\end{cases}{2x−x−y+2y=0=3 ，写作矩阵形式有[2−1−12][xy]=[03]\begin{bmatrix}2&-1\\-1&2\end{bmatrix}\begin{bmatrix}x\\y\end{bmatrix}=\begin{bmatrix}0\\3\end{bmatrix}[2−1−12][xy]=[03]，通常我们把第一个矩阵称为系数矩阵 AAA，将第二个矩阵称为向量 xxx，将第三个矩阵称为向量 bbb，于是线性方程组可以表示为 Ax=bAx=bAx=b。

构造完成相应的矩阵形式，将对应的“行图像”画出来:

1.2 二维列向量

接下来按列观察方程组 x[2−1]+y[−12]=[03]x\begin{bmatrix}2\\-1\end{bmatrix}+y\begin{bmatrix}-1\\2\end{bmatrix}=\begin{bmatrix}0\\3\end{bmatrix}x[2−1]+y[−12]=[03] （我们把第一个向量称作 col1col_1col1，第二个向量称作 col2col_2col2，以表示第一列向量和第二列向量），要使得式子成立，需要第一个向量加上两倍的第二个向量，即 1[2−1]+2[−12]=[03]1\begin{bmatrix}2\\-1\end{bmatrix}+2\begin{bmatrix}-1\\2\end{bmatrix}=\begin{bmatrix}0\\3\end{bmatrix}1[2−1]+2[−12]=[03]。

如图，绿向量 col1col_1col1 与蓝向量（两倍的蓝绿向量 col2col_2col2）合成红向量 bbb。

接着，我们继续观察 x[2−1]+y[−12]=[03]x\begin{bmatrix}2\\-1\end{bmatrix}+y\begin{bmatrix}-1\\2\end{bmatrix}=\begin{bmatrix}0\\3\end{bmatrix}x[2−1]+y[−12]=[03]，col1,col2col_1,col_2col1,col2 的某种线性组合得到了向量 bbb，那么 col1,col2col_1,col_2col1,col2 的所有线性组合能够得到什么结果？它们将铺满整个平面。

2. 方程组的几何解释推广

2.1 高维行图像

将方程组的维数进行推广，进入三维方程组：{2x−y=0−x+2y−z=−1−3y+4z=4\begin{cases}2x&-y&&=0\\-x&+2y&-z&=-1\\&-3y&+4z&=4\end{cases}⎩⎪⎨⎪⎧2x−x−y+2y−3y−z+4z=0=−1=4，写作矩阵形式 A=[2−10−12−10−34],b=[0−14]A=\begin{bmatrix}2&-1&0\\-1&2&-1\\0&-3&4\end{bmatrix},\ b=\begin{bmatrix}0\\-1\\4\end{bmatrix}A=⎣⎡2−10−12−30−14⎦⎤, b=⎣⎡0−14⎦⎤。

在三维直角坐标系中，每一个方程将确定一个平面，而例子中的三个平面会相交于一点，这个点就是方程组的解。如果绘制行图像，很明显这是一个三个平面相交得到一点，想直接看出这个点的性质可谓是难上加难。

比较靠谱的思路是先联立其中两个平面，使其相交于一条直线，再研究这条直线与平面相交于哪个点，最后得到点坐标即为方程的解。

这个求解过程对于三维来说或许还算合理，那四维呢？五维甚至更高维数呢？直观上很难直接绘制更高维数的图像，这种行图像受到的限制也越来越多。

2.2 高维列图像

同样的，将方程组写成列向量的线性组合，观察列图像： x[2−10]+y[−12−3]+z[0−14]=[0−14]x\begin{bmatrix}2\\-1\\0\end{bmatrix}+y\begin{bmatrix}-1\\2\\-3\end{bmatrix}+z\begin{bmatrix}0\\-1\\4\end{bmatrix}=\begin{bmatrix}0\\-1\\4\end{bmatrix}x⎣⎡2−10⎦⎤+y⎣⎡−12−3⎦⎤+z⎣⎡0−14⎦⎤=⎣⎡0−14⎦⎤。易知教授特意安排的例子中最后一个列向量恰巧等于等式右边的 bbb 向量，所以我们需要的线性组合为 x=0,y=0,z=1x=0,y=0,z=1x=0,y=0,z=1。假设我们令 b=[11−3]b=\begin{bmatrix}1\\1\\-3\end{bmatrix}b=⎣⎡11−3⎦⎤，则需要的线性组合为 x=1,y=1,z=0x=1,y=1,z=0x=1,y=1,z=0。

我们并不能总是这么轻易的求出正确的线性组合，所以下一讲将介绍消元法：一种线性方程组的系统性解法。

现在，我们需要考虑，对于任意的 bbb，是否都能求解 Ax=bAx=bAx=b？用列向量线性组合的观点阐述就是，列向量的线性组合能否覆盖整个三维向量空间？对上面这个例子，答案是肯定的，这个例子中的 AAA 是我们比较舒服的矩阵类型，但是对另一些矩阵，答案是否定的。那么在什么情况下，三个向量的线性组合得不到 bbb？

——如果三个向量在同一个平面上，问题就出现了——那么他们的线性组合也一定都在这个平面上。举个例子，比如 col3=col1+col2col_3=col_1+col_2col3=col1+col2，那么不管怎么组合，这三个向量的结果都逃不出这个平面，因此当 bbb 在平面内，方程组有解，而当 bbb不在平面内，这三个列向量就无法构造出 bbb。在后面的课程中，我们会了解到这种情形称为奇异、矩阵不可逆。

下面我们推广到九维空间，每个方程有九个未知数，共九个方程，此时已经无法从坐标图像中描述问题了，但是我们依然可以从求九维列向量线性组合的角度解决问题，仍然是上面的问题，是否总能得到 bbb？当然这仍取决于这九个向量，如果我们取一些并不相互独立的向量，则答案是否定的，比如取了九列但其实只相当于八列，有一列毫无贡献（这一列是前面列的某种线性组合），则会有一部分 bbb 无法求得。

接下来介绍方程的矩阵形式 Ax=bAx=bAx=b，这是一种乘法运算，举个例子，取 A=[2513],x=[12]A=\begin{bmatrix}2&5\\1&3\end{bmatrix},\ x=\begin{bmatrix}1\\2\end{bmatrix}A=[2153], x=[12]，来看如何计算矩阵乘以向量：

我们依然使用列向量线性组合的方式，一次计算一列，[2513][12]=1[21]+2[53]=[127]\begin{bmatrix}2&5\\1&3\end{bmatrix}\begin{bmatrix}1\\2\end{bmatrix}=1\begin{bmatrix}2\\1\end{bmatrix}+2\begin{bmatrix}5\\3\end{bmatrix}=\begin{bmatrix}12\\7\end{bmatrix}[2153][12]=1[21]+2[53]=[127]
另一种方法，使用向量内积，矩阵第一行向量点乘 xxx 向量[25]⋅[12]T=12,[13]⋅[12]T=7\begin{bmatrix}2&5\end{bmatrix}\cdot\begin{bmatrix}1&2\end{bmatrix}^T=12,\ \begin{bmatrix}1&3\end{bmatrix}\cdot\begin{bmatrix}1&2\end{bmatrix}^T=7[25]⋅[12]T=12, [13]⋅[12]T=7。

教授建议使用第一种方法，将 AxAxAx 看做 AAA 列向量的线性组合。