線性代數 Cheat Sheet 2-2：矩陣的逆
對於一個 $n \times n$ 的矩陣 $A$，若存在一個 $n \times n$ 的矩陣 $C$，使
\begin{equation}
CA = I \; 且 \; AC = I
\end{equation}
其中 $I = I_n$ 是 $n \times n$ 單位矩陣，則稱 $C$ 是 $A$ 的逆 。
若 $A$ 可逆，則它的逆是唯一的，記為 $A^{-1}$。於是
\begin{equation}
A^{-1}A = I \; 且 \; AA^{-1} = I
\end{equation}
假設 $B$ 是 $A$ 的另外一個逆，那麼將有 $B = BI = B(AC) = (BA)C = IC = C$。
定理 4設 $A = \begin{bmatrix} a & b \\ c & d \end{bmatrix}$，若 $ad – bc \neq 0$，則 $A$ 可逆且
\begin{equation}
A^{-1} = \frac{1}{ad – bc} \begin{bmatrix} d & -b \\ -c & a\end{bmatrix}
\end{equation}
若 $ad – bc = 0$，則 $A$ 不可逆。
將數 $ad – bc$ 稱為 $A$ 的行列式 ，記為
\begin{equation}
\det A = ad – bc
\end{equation}
定理 4 說明，$2 \times 2$ 的矩陣 $A$ 可逆，當且僅當 $\det A \neq 0$。
定理 5若 $A$ 是可逆 $n \times n$ 矩陣，則對每一 $\mathbb{R}^n$ 中的 $\boldsymbol b$，方程 $A \boldsymbol x = \boldsymbol b$ 有唯一解 $\boldsymbol x = A^{-1} \boldsymbol b$。
定理 6
a. 若 $A$ 是可逆矩陣，則 $A^{-1}$ 也可逆而且 $(A^{-1})^{-1} = A$。
b. 若 $A$ 和 $B$ 都是 $n \times n$ 可逆矩陣，則 $AB$ 也可逆，且其逆是 $A$ 和 $B$ 的逆矩陣按相反順序的乘積，即 $(AB)^{-1} = B^{-1}A^{-1}$。
c. 若 $A$ 可逆，則 $A^\mathsf{T}$ 也可逆，且其逆是 $A^{-1}$ 的轉置，即 $(A^\mathsf{T})^{-1} = (A^{-1})^\mathsf{T}$。
定理 6b 可以通過矩陣的逆的定義來證明。$AB$ 的逆應具有這樣的性質：它左乘或右乘 $AB$ 都得到單位矩陣 $I$。而 $B^{-1}A^{-1}$ 就具有這種性質，故$B^{-1}A^{-1}$ 是 $AB$ 的逆。
定理 6b 可推廣為：若干個 $n \times n$ 可逆矩陣的積也是可逆的，其逆等於這些矩陣的逆按相反順序的乘積。
Contents
初等矩陣
把單位矩陣進行一次初等行變換，就得到初等矩陣 。
若對 $m \times n$ 矩陣 $A$ 進行某種初等行變換，所得矩陣可寫成 $EA$，其中 $E$ 是 $m \times m$ 矩陣，是由 $I_m$ 進行同一行變換所得。
每個初等矩陣 $E$ 是可逆的，$E$ 的逆是一個同類型的初等矩陣，它把 $E$ 變回 $I$。
因為行變換是可逆的，故初等矩陣也是可逆的。若 $E$ 是由 $I$ 進行行變換所得，則一定有同一型別的另一行變換把 $E$ 變回 $I$，即有初等矩陣 $F$ 使得 $FE = I$，因為 $E$ 和 $F$ 對應於互逆的變換，所以也有 $EF = I$。
定理 7$n \times n$ 矩陣 $A$ 是可逆的，當且僅當 $A$ 行等價於 $I_n$，這時，把 $A$ 化簡為 $I_n$ 的一系列初等行變換同時把 $I_n$ 變成 $A^{-1}$。
求 $A^{-1}$ 的演算法
把增廣矩陣 $\begin{bmatrix} A & I \end{bmatrix}$ 進行行化簡，若 $A$ 行等價於 $I$，則 $\begin{bmatrix} A & I \end{bmatrix}$ 行等價於 \begin{bmatrix} I & A \end{bmatrix}$，否則 $A$ 沒有逆。
逆矩陣的另一個觀點
用 $\boldsymbol e_1, \cdots, \boldsymbol e_n$ 表示 $I_n$ 的各列，則把 $\begin{bmatrix} A & I \end{bmatrix}$ 行化簡為 $\begin{bmatrix} I & A \end{bmatrix}$ 的過程可看作解 $n$ 個方程組
\begin{equation}
A \boldsymbol x = \boldsymbol e_1, \; A \boldsymbol x = \boldsymbol e_2, \cdots, A \boldsymbol x = \boldsymbol e_n \tag{1}
\end{equation}
將這些方程組的“增廣列”依次放在 $A$ 的右邊，構成矩陣
\begin{equation}
\begin{bmatrix} A & \boldsymbol e_1 & \boldsymbol e_2 & \cdots & \boldsymbol e_n \end{bmatrix} = \begin{bmatrix} A & I\end{bmatrix}
\end{equation}
由 $AA^{-1} = I$ 和矩陣乘法的定義，可知 $A^{-1}$ 的各列正式方程組 $(1)$ 的解。如果只需求 $A^{-1}$ 的少數幾列，則解方程組 $(1)$ 更快。