上一篇证明AB的秩小于等于A的秩，本篇证明矩阵 A 的行秩等于列秩，及 rank(AA’) = rank(A’A) = rank(A)。

证明行秩等于列秩

在维基百科的页面 Rank (linear algebra) 提到了三种证明方法，下面进行介绍。

我们需要证明矩阵 \(\mathbf{A}\) 的线性独立的行数等于其线性独立的列数，即行秩等于列秩。换句话说，\(\operatorname{rank}(\mathbf{A}) = \operatorname{rank}(\mathbf{A}^{'})\) 。

第一种证明：行最简形式

首先初等行变换不会改变行秩和列秩（不改变行秩很容易理解，但是不改变列秩我不理解），因此矩阵 \(\mathbf{A}\) 的行最简阶梯形式不会改变其行秩和列秩。而易得矩阵 \(\mathbf{A}\) 的行最简阶梯形的行秩和列秩均等于主元数目，因此得证行秩等于列秩。

第二种证明：线性组合

设矩阵 \(\mathbf{A}\) 是一个 \(m \times n\) 的矩阵，假设其列秩为 \(r \leq n\) , 设其列空间的一组基为 \(\mathbf{c}_{1}, \ldots, \mathbf{c}_{r}\) ，使用这些列组成矩阵 \(\mathbf{C}\) 。因此矩阵 \(\mathbf{A}\) 的每一列均可以表达为矩阵 \(\mathbf{C}\) 的列的线性组合，即存在一个 \(r \times n\) 的矩阵 \(\mathbf{R}\) ，使得 \(\mathbf{A = C R}\) 。从另一个角度说，矩阵 \(\mathbf{A}\) 的每一行均是矩阵 \(\mathbf{R}\) 的所有行的线性组合，即矩阵 \(\mathbf{R}\) 的所有行张成了矩阵 \(\mathbf{A}\) 的行空间，因此矩阵 \(\mathbf{A}\) 的行秩小于等于矩阵 \(\mathbf{R}\) 的行数，即矩阵 \(\mathbf{A}\) 的行秩小于等于列秩。这个结论对所有矩阵均成立，因此对于其转置矩阵 \(\mathbf{A}^{\prime}\) ，同样使用这个结论，我们得到矩阵 \(\mathbf{A}\) 的列秩小于等于行秩，因此我们得证矩阵 \(\mathbf{A}\) 的行秩等于列秩。

第三种证明：使用正交性

设矩阵 \(\mathbf{A}\) 是一个 \(m \times n\) 的矩阵，假设其行秩为 \(r \leq m\) , 因此矩阵 \(\mathbf{A}\) 行空间的维度为 \(r\) ，设其行空间的一组基为 \(\mathbf{x}_{1}, \mathbf{x}_{2}, \ldots, \mathbf{x}_{r}\) 。我们可以证明 \(\mathbf{A} \mathbf{x}_{1}, \mathbf{A} \mathbf{x}_{2}, \ldots, \mathbf{A} \mathbf{x}_{r}\) 这些向量是线性无关的，证明如下 \[ 0=c_{1} \mathbf{A} \mathbf{x}_{1}+c_{2} \mathbf{A} \mathbf{x}_{2}+\cdots+c_{r} \mathbf{A} \mathbf{x}_{r}=\mathbf{A} \left(c_{1} \mathbf{x}_{1}+c_{2} \mathbf{x}_{2}+\cdots+c_{r} \mathbf{x}_{r}\right)=\mathbf{A} \mathbf{v} \] 其中 \(\mathbf{v}=c_{1} \mathbf{x}_{1}+c_{2} \mathbf{x}_{2}+\cdots+c_{r} \mathbf{x}_{r}\) 。

我们发现 \(\mathbf{v}\) 处于矩阵 \(\mathbf{A}\) 的行空间之中，其次 \(\mathbf{A} \mathbf{v} = 0\) 说明矩阵矩阵 \(\mathbf{A}\) 的每一行均与 \(\mathbf{v}\) 正交，因此 \(\mathbf{v}\) 和所有行空间中的向量正交，因此 \(\mathbf{v}\) 也和它自身正交，即 \(\mathbf{v'v=0}\) ，因此 \(\mathbf{v=0}\) ，或者写成： \[ c_{1} \mathbf{x}_{1}+c_{2} \mathbf{x}_{2}+\cdots+c_{r} \mathbf{x}_{r}=\mathbf{0} \] 由于 \(\mathbf{x}_{1}, \mathbf{x}_{2}, \ldots, \mathbf{x}_{r}\) 是一组基，因此它们是线性无关的，因此 \(c_{1}=c_{2}=\cdots=c_{r}=0\) ，我们得证 \(\mathbf{A} \mathbf{x}_{1}, \mathbf{A} \mathbf{x}_{2}, \ldots, \mathbf{A} \mathbf{x}_{r}\) 这些向量是线性无关的。

同时，\(\mathbf{A} \mathbf{x}_{1}, \mathbf{A} \mathbf{x}_{2}, \ldots, \mathbf{A} \mathbf{x}_{r}\) 这些向量均在矩阵 \(\mathbf{A}\) 的列空间中，因此矩阵 \(\mathbf{A}\) 的列秩必须大于等于行秩 \(r\) 。我们同样将这个结论带入其转置矩阵 \(\mathbf{A}^{\prime}\) ，我们得到矩阵 \(\mathbf{A}\) 的行秩必须大于等于列秩，因此我们得证矩阵 \(\mathbf{A}\) 的行秩等于列秩。

证明 rank(AA’) = rank(A’A) = rank(A)

这个可以通过零空间来证明。我们先证明 \(\operatorname{rank}(\mathbf{A'A}) = \operatorname{rank}(\mathbf{A})\) ，设矩阵 \(\mathbf{A}\) 是一个 \(m \times n\) 的矩阵，那么 $ $ 是一个 \(n \times n\) 的矩阵，其零空间的向量满足下式 \[ \mathbf{A'A} \mathbf{x} = \mathbf{0} \] 我们对这个式子两边左乘一个 \(\mathbf{x'}\) ，得到 \[ \begin{aligned} \mathbf{x'A'A} \mathbf{x} &= 0 \\ \mathbf{(Ax)}^{'} \mathbf{Ax} &= 0 \\ ||\mathbf{Ax}||^{2} &= 0 \\ \end{aligned} \] 因此此时我们有 \(\mathbf{Ax=0}\) ，说明 \(\mathbf{A'A} \mathbf{x} = \mathbf{0}\) 是 \(\mathbf{Ax=0}\) 的充分条件。反过来，如果 \(\mathbf{Ax=0}\) ，那么易得 \(\mathbf{A'A} \mathbf{x} = \mathbf{0}\) 。因此二者互为充分必要条件，这说明矩阵 \(\mathbf{A}\) 和 \(\mathbf{A'A}\) 的零空间完全一样。根据零空间的知识，我们知道零空间的维度等于矩阵的列数减去秩，即 \(n-r\) ，因此我们得证矩阵 \(\mathbf{A}\) 和 \(\mathbf{A'A}\) 的秩相同。

同样地，对于矩阵 $ $ ，其零空间的向量满足 \(\mathbf{AA'} \mathbf{x} = \mathbf{0}\) ，同理可得矩阵 $ $ 与 \(\mathbf{A'}\) 的秩相同，由于上面我们证明了 \(\operatorname{rank}(\mathbf{A}) = \operatorname{rank}(\mathbf{A}^{'})\) ，因此我们得证 \(\operatorname{rank}(\mathbf{AA'}) =\operatorname{rank}(\mathbf{A'A}) = \operatorname{rank}(\mathbf{A})\) 。

参考文献

1. Rank (linear algebra)