线性代数与矩阵之广义逆矩阵

广义逆矩阵

广义逆（Generalized inverse），是线性代数中针对矩阵的一种运算。一个矩阵\(A\)的广义逆叫做\(A\)的广义逆阵，是指具有部分逆矩阵的特性，但是不一定具有逆矩阵的所有特性的另一矩阵。假设一矩阵\(A\in \mathbb {R} ^{n\times m}\)及另一矩阵\(A^{\mathrm {g} }\in \mathbb {R} ^{m\times n}\)，若\(A^{\mathrm {g} }\)满足\(AA^{\mathrm {g} }A=A\)，则\(A^{\mathrm {g} }\)即为\(A\)的广义逆阵。

广义逆也称为伪逆（pseudoinverse），有些时候，伪逆特指摩尔－彭若斯广义逆。

摩尔－彭若斯广义逆

彭若斯条件可以用来定义不同的广义逆阵：针对\(A\in \mathbb {R} ^{n\times m}\)及\(A^{\mathrm {g} }\in \mathbb {R} ^{m\times n}\)，

1. \({\displaystyle AA^{\mathrm {g} }A=A}\)
2. \(\displaystyle A^{\mathrm {g} }AA^{\mathrm {g} }=A^{\mathrm {g}}\)
3. \({\displaystyle (AA^{\mathrm {g} })^{\mathrm {T} }=AA^{\mathrm {g}}}\)
4. \({\displaystyle (A^{\mathrm {g} }A)^{\mathrm {T} }=A^{\mathrm {g} }A}\)

若\({\displaystyle A^{\mathrm {g} }}\)满足条件(1)，即为\(A\)的广义逆阵，若满足条件(1)和(2)，则为\(A\)的广义反身逆阵（generalized reflexive inverse），若四个条件都满足，则为\(A\)的摩尔－彭若斯广义逆。

广义逆矩阵可以通过满秩分解或者SVD分解求得，虽然方法不同，满秩分解也不是唯一的，但是计算出的广义逆矩阵是一样的。

假设\(A=BC\)为任一满秩分解，则\(A^g=C^H(CC^H)^{-1}(B^HB)^{-1}B^H\)

假设\(A=U\Sigma V^T\)为SVD分解，则\(A^g=V\Sigma^gU^T\)，其中\(\Sigma^g\)中元素为对应\(\Sigma\)中非零元素的倒数。

单边逆矩阵

单边逆矩阵（左逆矩阵或是右逆矩阵）若矩阵\(A\)的维度是\(n\times m\)且为(行或列)满秩，若\(n>m\)则用左逆矩阵，若\(n<m\)则用右逆矩阵。

左逆矩阵为\(A_{\mathrm {left} }^{-1}=\left(A^{\mathrm {T} }A\right)^{-1}A^{\mathrm {T} }\)，也就是\(A_{\mathrm {left} }^{-1}A=I_{m}\)，其中\(I_{m}\)为\(m\times m\)单位矩阵。

右逆矩阵为\(A_{\mathrm {right} }^{-1}=A^{\mathrm {T} }\left(AA^{\mathrm {T} }\right)^{-1}\)，也就是\(AA_{\mathrm {right} }^{-1}=I_{n}\)，其中\(I_n\)为\(n\times n\)单位矩阵。

性质

1. 可逆矩阵有\((AB)^{-1}=B^{-1}A^{-1}\)，但是广义逆\((AB)^g\)与\(B^gA^g\)一般不相等。
2. \((A^g)^g=A\)
3. \((A^H)^g=(A^g)^H\)
4. \(k\in R\)，则有\((kA^g)=k^gA^g，k^g=\begin{cases}k^{-1}，k\neq 0\\0，k=0\end{cases}\)
5. 区别于性质1，有\((A^H A)^g=A^g(A^H)^g\)
6. \(A^g=(A^HA)^gA^H=A^H(AA^H)^g\)
7. 对于酉矩阵\(U,V\)，则\((UAV)^g=V^HA^gU^H\)。从这点也可以看出用SVD分解求广义逆的方法。
8. \(A^gAB=A^gAC\Leftrightarrow AB=AC\)

广义逆矩阵的应用

当\(Ax=b\)无解时可以用广义逆矩阵求近似解，实际是就是求\(||Ax-b||_2\)最小。

其通解为 \[x=A^gb+(I-A^gA)y，y\in C^n\] 其中，\(A^gb\)是唯一的极小最小二乘解。极小指长度（范数）最小。