求解Ax=0：主变量、特解

求零空间(Nullspace)

矩阵 \(A\) 的零空间即满足 \(Ax=0\) 的所有构成 \(x\) 的向量空间。

对于矩阵 \(A\) 进行“行操作”并不会改变 \(Ax=0\) 的解，因此也不会改变零空间。(但是会改变列空间。)因为等号右侧的向量\(b=0\)，因此不需要应用增广矩阵。

通过消元法，将 \(A\) 化为行阶梯矩阵 \(U\) ，过程如下：

矩阵的秩(rank)就是矩阵的主元的个数。

主变量(pivot variable，下划线元素)的个数为2。

矩阵的秩(rank)就是矩阵的主元的个数，即矩阵 \(A\) 和矩阵 \(U\) 的秩(rank)为2，即\(r=2\)。

主变量所在的列为主列(pivot column)，其余列为自由列(free column)。

自由列中的变量为自由变量(free variable)，自由变量的个数为\(n-r=4-2=2\)。

求特解

当我们将系数矩阵变换为行阶梯矩阵 \(U\) 时，就可以用回代求得方程 \(Ux=0\) 的解。

即：

在本例中，包含主元的矩阵第1列和第3列为主元列，而不包含主元的第2列和第4列为自由列。

对自由变量(free variable)x2和x4我们可以进行赋值。(方法是自由变量一次一个1，其他全0)。

\(Ux=0\) 可以表示为(使用矩阵乘法展开)：\(\begin{cases}2x_3+4x_4=0\\ x_1+2x_2+2x_3+2x_4=0\end{cases}\)

令\(x_2=1, x_4=0\)，求得特解：\(x=c_1\begin{bmatrix}-2\\1\\0\\0\\\end{bmatrix}\)；

令\(x_2=0, x_4=1\)，求得特解：\(x=c_2\begin{bmatrix}2\\0\\-2\\1\\\end{bmatrix}\)；

矩阵 \(A\) 的零空间就是这些“特解”向量的线性组合所构成的向量空间,即\(c_1\begin{bmatrix}-2\\1\\0\\0\\\end{bmatrix}+c_2\begin{bmatrix}2\\0\\-2\\1\\\end{bmatrix}\)。

主元列和自由列的一个重要区别就是，自由列可以表示为其左侧所有主元列的线性组合，而主元列则不可以。

\[\begin{bmatrix} \underline{*} & * & * & *\\ 0 & 0 & \underline{*} & *\\ 0 & 0 & 0 & \underline{*}\\ \end{bmatrix}\]

行最简阶梯矩阵

可以将 \(U\) 进一步简化，即将\(U\)矩阵化简为\(R\)矩阵(Reduced row echelon form)，即简化行阶梯形式。

在简化行阶梯形式中，主元上下的元素都是\(0\)：

将\(R\)矩阵中的主变量放在一起，自由变量放在一起(列交换)，得到:

计算零空间矩阵\(N\)(nullspace matrix)，其列为特解，有\(RN=0\)。

原方程 \(Ax=0\) 变为求解 \(R\) 的主元行乘以 \(x\)，\(\begin{bmatrix} I & F \\ \end{bmatrix} \begin{bmatrix} x_{pivot} \\ x_{free} \\ \end{bmatrix}=0\)。

将 \(Ax=0\) 的特解作为列向量写成一个矩阵 \(N\)，即零空间矩阵,\(N=\begin{bmatrix} \;\\ I\\ \end{bmatrix}\)。

从矩阵分块乘法运算可知零空间矩阵上半部分为 \(-F\) ，即 \(N\) 最终形式为\(N=\begin{bmatrix} -F \\ I \\ \end{bmatrix}\)

对于上述例子：

从上面推论可得：\(N=\begin{bmatrix}-F \\I \\\end{bmatrix}=\begin{bmatrix}-2 & 2\\ 0 & -2\\1 & 0\\0 & 1\end{bmatrix}\)

对于矩阵 \(R\) 而言，求零空间特解就变得非常简单，只需要将消元的到的 \(F\) 部分拼接上单位阵就可以得到所有的通解。注意如果在变换出 \(R\) 左上角的单位阵的过程中采用了列交换，则最后的解要完成逆变换。

进行逆变换(三行和二行交换)，可得\(N=\begin{bmatrix} -F \\ I \\ \end{bmatrix}=\begin{bmatrix}-2 & 2\\ 0 & -2\\1 & 0\\0 & 1\end{bmatrix}\underrightarrow{行交换}\begin{bmatrix}-2 & 2\\ 1 & 0\\0 & -2\\0 & 1\end{bmatrix}\)，与上面求得的两个\(x\)特解一致。

总结

1. \(A\) 的零空间是 \(Ax=0\) 中 \(x\) 的解组成的集合；

2. 解法1：

   • 消元，将矩阵化为行阶梯矩阵 \(U\)，得出自由列个数
   • 自由列一个个赋1，其他皆0，求解方程，得出自由列个数个特解
   • 特解的线性组合就是 \(A\) 的零空间

3. 解法2：

   • 消元，将矩阵化为行最简阶梯矩阵 \(R\)
   • 通过某些列变化将 \(R\) 化成如下形式：\(R=\begin{bmatrix}I & F \\0 & 0 \\\end{bmatrix}\textrm{，其中}I\textrm{为单位矩阵，}F\textrm{为自由变量组成的矩阵}\)
   • 得到解：\(N=\begin{bmatrix} -F \\ I \\ \end{bmatrix}\)
   • 若进行了列变化，则最后的解要完成逆变换

reference

[1] textbook

[2] mit18.06学习笔记-0

[3] mit18.06学习笔记-1