MP逆及其性质

之前在奇异值分解与穆尔-彭罗斯伪逆简单地学了一下MP逆,下面进一步学习MP逆矩阵的性质。

定义

对于任意矩阵 ,其MP逆矩阵记为 ,其为满足下面四个条件的解(注意下面的 *号表示共轭转置,下同)。

(1) ;
(2)
(3) ;
(4) ;

唯一性及构造

奇异值分解与穆尔-彭罗斯伪逆 中,我们证明了基于 的奇异值分解可以得到满足上面四个条件的MP逆为 。因此对于任意矩阵 , 至少存在一个MP逆满足上面四个条件,下面我们进一步证明MP逆的唯一性

假设 均是矩阵 的MP逆矩阵,通过反复利用 MP 逆矩阵的四个方程,有

因此我们得证,对于任意矩阵 ,均存在唯一的一个MP逆矩阵,即

我们还有一种表示形式,假设 有满秩分解 ,其中 $\boldsymbol{F} \in \boldsymbol{C}^{m \times r}, \boldsymbol{G} \in \boldsymbol{C}^{r \times n}, r=r(\boldsymbol{A})=r(\boldsymbol{F})=r(\boldsymbol{G}) $ ,则我们有

证明:首先我们要证明 为可逆矩阵,注意到 ,于是方阵 均为可逆矩阵,因此 也是可逆矩阵,并且

带入 ,得到

易证该式满足MP逆矩阵的四个条件,因此该式为 MP 逆矩阵,证明完毕。

实际上,存在(同样可以带入上面四个方程来证明)

因此上面的结论也可以写成

但是一般来说 ,这是 MP 逆矩阵和普通逆矩阵的一个不同之处。

最后一种 的表达形式如下(缺证明)

基本性质

性质1

  • 的满秩形式

    • 可逆,则

    • 为列满秩矩阵,则

    • 为行满秩矩阵,则

    • 是秩为 的矩阵,其中 的列满秩矩阵, 的行满秩矩阵,则

    这其实是满足乘法公式的一个特例,证明如下,首先我们知道 ,因此我们带入MP逆的四个方程,易证

  • 只要对MP逆矩阵的四个条件的左右两边均进行转置即可得证。这条性质表明如果 为 Hermite 矩阵,则 也是 Hermite 矩阵。

​ 则

  • , 则

  • 证明:由 {1}-逆的性质 ,有

    又由于 ,因而得证

同上。

性质2

对于任意的矩阵 ,均有以下等式成立

  • .
  • .
  • .
  • .

这里第一条和第二条是等价的,通过第三条可以轻松得到第四条,因此只需要证明第一条和第三条即可。我们先看第一条,代入奇异值分解形式,我们有

得证第一条。

我们再看第三条,我们易得 ,易知该式就是 的对角化/奇异值分解的形式,因此 ,其中 格式为下式

易得 ,因此我们得证

同理可证,

推论,假设 ,并且对一切 ,均满足

则有

这个性质同样可以通过带入 MP 逆的四个方程得证。

性质3

,则

  • 都是 Hermite 幂等矩阵

  • , 这里 表示 .

我们先看第一条,根据MP逆的性质,易得上面四个矩阵为 Hermite 矩阵,我们只需要证明其幂等,如下

我们再看第二条性质,根据奇异值分解形式,易得 $r(\boldsymbol{A})= r\left(\boldsymbol{A}^{+}\right) =r\left(\boldsymbol{A}^{+} \boldsymbol{A}\right)=r\left(\boldsymbol{A} \boldsymbol{A}^{+}\right) $ 。后面两条可以根据对称幂等矩阵的秩等于秩的性质证明,如下

第三条,根据对称幂等矩阵的性质,如果 奇异,对称,并且幂等,那么 半正定,证明如下

因此 均为半正定矩阵。

性质4

我们知道向矩阵 列空间投影的投影矩阵为 (最小二乘的几何含义)

这个式子与所含的广义逆的选择无关,因此我们带入 MP 逆得到

因此矩阵 为向 的正交投影矩阵。

同理可得,向矩阵 行空间投影的投影矩阵为

性质5

对于一般的广义逆(只满足MP逆的第一个方程),假设 均为可逆矩阵时,存在

证明很简单,如下

但是一般来说,对于 MP 逆, 并不成立,然而我们有以下结论

  • 分别为 酉阵, 则

  • 分别为 阵, 且满足 ,
    . 则

证明很简单,只要带入MP逆的四个方程即可得证。

性质6

  • 若矩阵 为 Hermite 幂等矩阵,则
  • 若矩阵 为正规矩阵,则
  • 若矩阵 为正规矩阵,对任意一个自然数 , 满足

第一条证明如下:设 的正规矩阵 ( ) ,则其对角化分解为

其中 的酉矩阵,则

由于 Hermite 幂等矩阵的特征值只能是 0 和 1 ,因此立即得到

第二条证明如下

得证

第三条证明如下

性质7

首先证明第一条,首先证明若 。此时我们有 ,左乘 ,再右乘 得到

根据 ,可得

反过来,证明如果 。左乘 ,再右乘 ,我们有

再证明第二条,若 ,右乘 得到 ;反过来,如果 ,右乘 ,我们得到

第三条根据第二条同理可证。

乘法公式

对于 MP 逆矩阵,乘法公式一般不成立,即 ,但是在某些条件下这个等式成立。

我们先看一个引理,设 ,

则必有

证明:容易看出MP逆的后两个方程成立,因此只需要看前两个方程,我们有 ,因此第一个方程成立,再证明第二个方程,我们有

因此得到

由于 的列均是 的列的线性组合,因此

因此存在矩阵 ,使得 ,对这个式子左乘 得到

得证。

充分必要条件

当且仅当下列两个条件同时成立时,乘法公式 成立。

证明:

首先证明充分性,假设这两个条件成立,用 分别左乘、右乘 的两边,其左侧变为

根据 ,得到 ,得到左侧为 。我们看右侧为

左侧等于右侧得到

我们再看第二个条件,将其两边做转置共轭运算,得到

分别左乘、右乘上式两边,左边变为

右侧变为

左侧等于右侧,得到

另外,我们有

因此

将这个式子,与两个条件的推导式子结合起来,再利用乘法公式一开始介绍的引理 (设 , 则必有 。) ,因此我们证明了乘法公式成立,即

我们再看必要性,根据 ,我们有 ,带入乘法公式,得到

左乘上式,并利用 ,得到

因为 为半正定 Hermite 矩阵,因此可以分解为 ,其中 ,因此我们有

因此 ,由于只有 矩阵的秩才为 0 ,因此 ,左乘 ,得到 ,因此证明了第一个条件。

第二个条件等价于证明 ,这和第一个条件是类似地,因此同理可得第二个条件成立。

推论1

推论:当且仅当下面两个条件成立时,乘法公式成立

证明:我们只需要证明这里的两个条件和上面的两个条件等价即可。

因为 列空间的投影矩阵,我们有

于是我们有

推论2

推论:若 皆为 Hermite 阵, 则乘法公式成立.

证明:若 为 Hermite 矩阵,则

右乘上式,得

因此充要条件的第一个条件成立。

为 Hermite 矩阵,则

右乘上式,得

因此充要条件的第二个条件成立,于是乘法公式成立,得证。

参考文献

  1. Rencher A C, Schaalje G B. Linear models in statistics[M]. John Wiley & Sons, 2008.
  2. 王松桂, 杨振海. 广义逆矩阵及其应用[M]. 北京工业大学出版社, 1996.
  • 版权声明: 本博客所有文章除特别声明外,著作权归作者所有。转载请注明出处!
  • Copyrights © 2019-2022 Vincere Zhou
  • 访问人数: | 浏览次数:

请我喝杯茶吧~

支付宝
微信