2.4. Matrix 和 System of Linear Equations 的連結

2.4. Matrix 和 System of Linear Equations 的連結

我們曾經利用 elementary row operations 將增廣矩陣化為 echelon form 來探討其所對應的 聯立方程組何時有解以及解是否唯一的問題. 現在我們又知道解一次聯立方程組的問題可 以看成矩陣乘法的問題, 這一節中我們就是要用這個觀點進一步探討聯立方程組何時有解以 及解是否唯一.

首先由於我們都要用矩陣的乘法來探討, 為了方便起見對於Rⁿ中的向量, 除非特別聲明 為 row vector, 我們將一律用 column vector 來表示. 也就是說將它視為一個 n× 1 matrix.

另外回顧, 給定一次聯立方程組

a11x1 + a12x2 + ··· + a1nxn = b1

a₂₁x₁ + a₂₂x₂ + ··· + a2nx_n = b₂ ...

am1x1 + am2x2 + ··· + amnxn = bm

我們令

A =







a₁₁ a₁₂ ··· a1n

a21 a22 ··· a2n

... ... ... ... am1 am2 ··· amn





, x =





 x₁ x2

... xn





, b =





 b₁ b2

... bm





,

然後將上面的聯立方程組用 Ax = b 來表示. 現若 x₁= c₁, x₂= c₂, . . . , x_n= c_n, 為此聯立方程 組的一組解, 我們便會用

c =





 c₁ c2

... c_n





,

來表示這一組解, 而說 x = c∈ Rⁿ 為 Ax = b 的一組解. 依矩陣乘法定義這等同於說 A 這一 個 m× n matrix 乘以 c 這一個 n × 1 matrix 會等於 b 這一個 m × 1 matrix, 即 Ac = b.

2.4.1. 解的存在性. 我們再一次探討怎樣的 m× n matrix A 會滿足對任意的 b ∈ R^m, 聯立 方程組 Ax = b 皆有解.

首先假設 b∈ R^m 且 Ax = b 有解. 令 c =



 c1

... cn



 為一解, 此即表示 Ac = b. 利用矩陣乘法

定義得

c1a₁+··· + cna_n= b,

其中 a₁, . . . , a_n 為 A 的 column vectors. 換句話說, b 可以寫成 A 的 column vectors 的 linear combination (線 性 組 合). 用 符 號 來 表 示 就 是 b∈ Span(a1, . . . , an). 反 之, 若 b∈ Span(a₁, . . . , a_n), 表示存在 c₁, . . . , c_n∈ R 使得 b = c1a₁+··· + cna_n. 故得 x₁= c₁, . . . , x_n= c_n 為 Ax = b 的一組解. 我們證得了以下的性質.

Lemma 2.4.1. 假設 A∈ Mm×n 且 b∈ R^m. 則 Ax = b 有解若且唯若 b∈ Span(a1, . . . , an),其 中 a₁, . . . , a_n 為 A 的 column vectors.

2.4. Matrix 和 System of Linear Equations 的連結 43

我們有興趣於知道怎樣的 m× n matrix A 會使得對任意的 b ∈ R^m, 聯立方程組 Ax = b 皆有解. 我們利用過去學過的幾種不同觀點, 發現有許多和它等價的條件. 首先觀察由於 A 的 column vectors 皆在 R^m 中, 所以自然有 Span(a1, . . . , an)⊆ R^m. 然而由 Lemma 2.4.1 知, 若對於任意 b∈ R^m皆會使得 Ax = b 有解, 表示對任意 b∈ R^m皆有 b∈ Span(a1, . . . , a_n).

故知此時 Span(a1, . . . , an) =R^m. 反之, 若 Span(a1, . . . , an) =R^m, 表示對任意 b∈ R^m 皆有 b∈ Span(a1, . . . , a_n). 同樣由 Lemma 2.4.1 知此即對於任意 b∈ R^m 皆會使得 Ax = b 有解.

因此從這觀點來看, 對任意的 b∈ R^m, 聯立方程組 Ax = b 皆有解和 Span(a1, . . . , a_n) =R^m是 等價的.

另外我們可以考慮聯立方程組 Ax = e_i, 其中 e1, . . . , em∈ R^m 為R^m 的 standard basis. 若 已知對任意的 b∈ R^m, 聯立方程組 Ax = b 皆有解, 則對所有的 i = 1, . . . , m, 我們都可找到 c_i∈ Rⁿ 使得 x = c_i 為聯立方程組 Ax = e_i 的一組解. 也就是說對所有的 i = 1, . . . , m 皆有 Ac_i= e_i. 現考慮 n× m matrix C, 其 i-th column 就是 ci. 此時依矩陣乘法的定義我們有

AC = A



   c₁ c₂ ··· cm



 =



    Ac1 Ac2 ··· Acm



 =



   e₁ e₂ ··· em



 = I_m.

也就是說, 此時必存在 n× m matrix C 使得 AC = Im. 反之, 若 C 為 n× m matrix 滿足 AC = I_m, 則對任意 b∈ R^m, 我們考慮 c = Cb∈ Rⁿ, 皆會有

Ac = A(Cb) = (AC)b = Imb = b.

也就是說此時對任意 b∈ R^m, 我們都可以找到 c = Cb∈ Rⁿ, 使得 x = c 是聯立方程組 Ax = b 的一組解. 因此從這觀點來看, 對任意的 b∈ R^m, 聯立方程組 Ax = b 皆有解和存在 n× m matrix C 使得 AC = Im 是等價的.

我們曾探討過, 若 A 經由 elementary row operations 化為 echelon form 後, 其 pivot 的 個數恰等於 A 的 row 的個數 m, 表示 A 的 echelon form 沒有一個 row 全為 0, 故由 1.2 節 的討論 (即 Case (1)) 知此時任意的 b∈ R^m, 聯立方程組 Ax = b 皆有解. 反之, 如果 pivot 的個數不等於 m, 表示 A 的 echelon form A^′ 中最後一個 row 必全為 0. 此時我們一定可以 找到 b∈ R^m 使得增廣矩陣 [A|b] 化為 echelon form [A^′|b^′]後, b^′ 最後一個 entry 不為 0 (即 Case 2(a)). 此時 Ax = b 會無解. 因此從這觀點來看, 對任意的 b∈ R^m, 聯立方程組 Ax = b 皆有解和 A 的 echelon form 的 pivot 的個數為 m (即 rank(A) = m) 是等價的.

綜合上面這幾種看法, 我們證得了以下這個非常重要的定理.

Theorem 2.4.2. 假設 A∈ Mm×n, 令 a1, . . . , an∈ R^m 為 A 的 column vectors. 以下各敘述是 等價的.

(1) 對任意的 b∈ R^m, 聯立方程組 Ax = b 皆有解.

(2) Span(a1, . . . , a_n) =R^m. (3) rank(A) = m.

(4) 存在 n× m matrix C 使得 AC = Im.

特別提醒一下, Theorem 2.4.2, 指的是對所有 b∈ R^m, 聯立方程組 Ax = b 皆有解的情況.

所以若僅知單一的 b 使得聯立方程組 Ax = b 有解, Theorem 2.4.2 並不適用 (不過 Lemma 2.4.1 是適用的).

我們曾提及, 當 A∈ Mm×n, 將 A 化為 echelon form 後其 pivot 的個數不可能多於 row 和 column 的個數. 也就是說 pivot 的個數應小於等於 min{m,n} (此指的是 m,n 中最小的那一 個). 所以若 pivot 的個數為 m, 則表示 n≥ m. 換言之, 若 n < m, 我們便知 pivot 的個數不 可能等於 m, 所以 Theorem 2.4.2 中的情況不可能發生. 我們有以下的結論.

Corollary 2.4.3. 假設 A∈ Mm×n, 其中 n < m, 則必存在 b∈ R^m 使得聯立方程組 Ax = b 無解. 而且此時, 不會存在 n× m matrix C 使得 AC = Im.

Proof. 由前所述, 當 n < m 時 A 化為 echelon form 後, 其 pivot 的個數不可能為 m, 亦即 rank(A) < m. 故由 Theorem 2.4.2 知不可能對任意的 b∈ R^m, 聯立方程組 Ax = b 皆有解.

亦即存在 b∈ R^m 使得聯立方程組 Ax = b 無解. 同理, 由 Theorem 2.4.2 知不會存在 n× m

matrix C 使得 AC = Im. 

Question 2.10. 假設 A∈ Mm×n, 其中 m < n. 是否存在 n× m matrix C 使得 CA = In? 前面提過 Theorem 2.4.2 是個很重要的定理, 它可以告訴我們一些解聯立方程組的訊息.

例如 Corollary 2.4.3 就是告訴我們當方程式的個數多於未知數的個數時, 會存在 b∈ R^m 使 得聯立方程組 Ax = b 無解.

2.4.2. 解的唯一性. 所謂聯立方程組解的唯一性, 指的是假設聯立方程組有解時, 探討其解 是否唯一. 所以唯一性並不涉及解是否存在的問題.

給定 A∈ Mm×n 以及 b∈ R^m. 如果 Ax = b 有解, 則 Ax = b 的解和 Ax = 0 的解 (這裡 0 是 R^m 的零向量) 息息相關, 我們有以下之定理.

Lemma 2.4.4. 給定 A∈ Mm×n 以及 b∈ R^m 且假設 x = c∈ Rⁿ 是聯立方程組 Ax = b 的一 組解. 則

(1) 若 x = c^′∈ Rⁿ 是 Ax = b 的一組解, 則 x = c^′− c 為 Ax = 0 的一組解.

(2) 若 x = u∈ Rⁿ 為 Ax = 0 的一組解, 則 x = c + u 是 Ax = b 的一組解.

Proof. (1) 假設 x = c^′∈ Rⁿ 是 Ax = b 的一組解, 意即 Ac^′= b. 由已知 Ac = b 得 A(c^′− c) = Ac^′− Ac = b − b = 0.

因此 x = c^′− c 會是 Ax = 0 的一組解.

(2) 若 x = u∈ Rⁿ 為 Ax = 0 的一組解, 則

A(c + u) = Ac + Au = b + 0 = b.

得證 x = c + u 為聯立方程組 Ax = b 的一組解. 

2.4. Matrix 和 System of Linear Equations 的連結 45

Lemma 2.4.4 告訴我們若已知 x = c 為 Ax = b 的一組解, 且知道 Ax = 0 所有的解, 就 能利用 c 以及 Ax = 0 所有的解得到 Ax = b 所有的解. 所以了解 Ax = 0 所有的解是很 重要的課題 (以後我們會深入探討). 回顧一下 Ax = 0 這樣的 linear system, 我們稱之為 homogeneous linear system. Homogeneous linear system 一定有解, 事實上當 A∈ Mm×n 時, x1= 0, . . . , xn= 0 就是 Ax = 0 的一組解. 這組解 x = 0∈ Rⁿ 因為不需任何計算就能得到, 我 們稱之為 Ax = 0 的 trivial solution. 注意 trivial solution x = 0 這裡的 0 是 Rⁿ 的零向量, 而 Ax = 0 這裡的 0 是R^m 的零向量, 所以雖然我們用同樣的符號表示, 但當 n̸= m 時它們 是不同的, 大家需區分清楚. 當一個 homogeneous linear system Ax = 0 除了 trivial solution 外還有其他的 solution (即解不唯一), 我們稱這些不為 0 的 solution 為 nontrivial solution.

從 Lemma 2.4.4 我們知, 若 Ax = 0 沒有 nontrivial solution (即解唯一), 則對於 b∈ R^m, 若 Ax = b 有解, 其解必唯一. 由這觀點, 我們可以得到以下關於聯立方程組解的唯一性的重 要定理.

Theorem 2.4.5. 假設 A∈ Mm×n. 以下各敘述是等價的.

(1) 若 b∈ R^m 且聯立方程組 Ax = b 有解, 則解唯一.

(2) Homogeneous system Ax = 0 沒有 nontrivial solution.

(3) rank(A) = n.

(4) 存在 n× m matrix B 使得 BA = In.

Proof. (1)⇒ (2): 利用反證法, 假設 x = u 為 Ax = 0 的一組 nontrivial solution 而 x = c 為 Ax = b 的一組解, 則由 Lemma 2.4.4 知 x = c + u̸= c 會是 Ax = b 的另一組解. 此與 Ax = b 的解唯一相矛盾, 故知 Ax = 0 沒有 nontrivial solution.

(2)⇒ (3): Ax = 0 沒有 nontrivial solution, 表示 A 化成 echelon form 後沒有 free variables. 也就是說所有的 variables 皆為 pivot variables. 因此 pivot 的個數就是未知數的 個數 n, 故得 rank(A) = n.

(3)⇒ (4): 假設 rank(A) = n, 即 A 化為 echelon form 後, 其 pivot 的個數為 n. 考慮將 A 化為 reduced echelon form A^′. 此時 A^′ 由於有 n 個 pivot, 所以每一個 pivot 必分別在 A^′ 前面 n 個 row 上. 而又 A^′ 為 m× n matrix, 有 n 個 column. 所以 A^′ 每一個 pivot 必落在 (i, i)-th entry, 其中 1≤ i ≤ n. 又因為 A^′ 為 reduced echelon form, 此 n 個 pivots 的值皆為 1. 然而 reduced echelon form 每一個 pivot 所在的 column, 除了 pivot 所在位置外, 其他位 置應為 0, 所以我們知 A^′ 必為以下的 matrix A^′=

[ I_n 0

]

, 即 A^′ 的前 n 個 row 就是 I_n. 由 Lemma 2.3.5, 我們知存在 m× m matrix E 使得 EA = A^′. 現若令 E 的 i-th row 為 _iε, 由

row 的觀點看矩陣乘法 (參見圖示 (2.15)), 我們有

EA =











— ₁ε — ...

— _nε — ...

— _mε —









 A =











— ₁ε A — ...

— _nε A — ...

— _mε A —











=











1 ··· 0 ... . .. ...

0 ··· 1

0









 .

現若令 B 為 n× m matrix, 對於 i = 1,...,n, 其 i-th row 為 iε (即 B 為截取 E 的前 n 個 row 的 n× m matrix), 則由前述的矩陣乘法性質知

BA =





— ₁ε — ...

— _nε —



A =





— ₁ε A — ...

— _nε A —



 =







1 ··· 0 ... . .. ...

0 ··· 1





 = Iⁿ.

(4)⇒ (1): 我們利用反證法假設 c ̸= c^′∈ Rⁿ 且 x = c, x = c^′ 皆為 Ax = b 的一組解. 亦 即, Ac = b 且 Ac^′= b. 現已知存在 B∈ Mn×m 使得 BA = I_n, 故得 Bb = B(Ac) = (BA)c = c 且 Bb = B(Ac^′) = (BA)c^′= c^′. 此結果 c = Bb = c^′ 與當初假設 c̸= c^′ 相矛盾, 故得證若 Ax = b

有解, 則解必唯一. 

再次提醒, Theorem 2.4.5, 並不能知道聯立方程組 Ax = b 是否有解. 它告訴我們若已知 Ax = 0 有 nontrivial solution, 則 Ax = b 要不然無解, 要不然會有無窮多解.

Question 2.11. 假設 A∈ Mm×n, b, b^′∈ R^m. 若已知 Ax = b, Ax = b^′ 皆有解, 且 Ax = b 的 解唯一. 是否 Ax = b^′ 的也會唯一?

前 面 已 提 過, 當 A∈ Mm×n, 將 A 化 為 echelon form 後 其 pivot 的 個 數 應 小 於 等 於 min{m,n}. 所以若 pivot 的個數為 n, 則表示 m ≥ n. 換言之, 若 m < n, 我們便知 pivot 的個 數不可能等於 n, 所以 Theorem 2.4.5 中的情況不可能發生. 我們有以下的結論.

Corollary 2.4.6. 假設 A∈ Mm×n, 其中 m < n. 若 b∈ R^m 且聯立方程組 Ax = b 有解, 則解 不唯一 (即必有兩個以上的解). 而且此時, 不會存在 n× m matrix B 使得 BA = In.

Proof. 由前所述, 當 m < n 時 A 化為 echelon form 後, 其 pivot 的個數不可能為 n. 故由 Theorem 2.4.5 知 homogeneous linear system Ax = 0 有 nontrivial solution. 亦即在 Rⁿ 存 在非零向量 c 使得 x = c 為 Ax = 0 之一組解. 所以 Lemma 2.4.4 告訴我們, 若 Ax = b 有解, 則解不唯一.

另一方面 Theorem 2.4.5 也告訴我們若 pivot 的個數不是 n, 則不會存在 n× m matrix B

使得 BA = I_n. 

Theorem 2.4.5 也和 Theorem 2.4.2 一樣是很重要的定理, 它可以告訴我們一些解聯立 方程組的訊息. 例如 Corollary 2.4.6 就是告訴我們當方程式的個數少於未知數的個數時, 聯 立方程組 Ax = b 不可能有唯一解.

2.5. Invertible Matrix 47

2.5. Invertible Matrix

所 謂 invertible matrix 就 是 “可 逆 矩 陣”. 我 們 會 發 現 只 有 square matrix 才 有 可 能 是 invertible matrix, 但並不是所有的 square matrix 都是 invertible matrix. 這一節中我們會 探討有關 invertible matrix 的相關性質, 並介紹判斷一個方陣是否為 invertible 且找出其反 矩陣的方法.

當初我們將聯立方程組用矩陣乘法的方式 Ax = b 來表示, 其中有一個很大的目的就是 希望將解聯立方程式的問題此簡化成類似實數上解 ax = b 的情形. 在實數情況, 當 a̸= 0 時, ax = b 的解就是很簡單的 x = ba⁻¹. 但在矩陣的情形, 我們沒有除法, 所以只能借助乘法 來幫忙. 由於實數中 a⁻¹ 有 a⁻¹a = aa⁻¹= 1 的性質, 所以推廣這個概念至矩陣, 我們便希望 找到矩陣 B 滿足 BA 以及 AB 為 identity. 不過當 A∈ Mm×n 且 m̸= n 時, 由 Corollary 2.4.3 以及 Corollary 2.4.6, 我們知道不可能存在 B 同時滿足 BA 和 AB 皆為 identity matrix (因 為 rank(A) 不可能同時為 m 和 n). 所以我們僅對 m = n, 即 A 為 square matrix 時有以下的 定義.

Definition 2.5.1. 假設 A∈ Mn×n為 n 階 square matrix, 若存在 B∈ Mn×n使得 AB = BA = I_n, 則稱 A 為 invertible. 反之, 我們稱 A 為 non-invertible

再一次強調當 A 不是方陣時, 我們知 A 絕對不是 invertible. 因此當我們不知矩陣 A 的階數時, 絕對不能用存在 B 滿足 BA 為 identity 來說 A 為 invertible, 必須檢查另一邊 AB 亦為 identity 才可. 不過當 A 為 n× n square matrix, 確實檢查單邊就可以確定 A 為 invertible. 我們有以下的性質.

Theorem 2.5.2. 假設 A∈ Mn×n 為 n 階 square matrix. 則下列是等價的.

(1) A 為 invertible matrix.

(2) 存在 B∈ Mn×n 使得 BA = I_n. (3) rank(A) = n.

(4) 存在 C∈ Mn×n 使得 AC = I_n.

Proof. 依 A 為 invertible 的定義, 我們知若 A 為 invertible, 則存在 B∈ Mn×n 使得 BA = I_n. 故 (1)⇒ (2).

由 A 為 n× n matrix 以及 Theorem 2.4.5 知存在 B ∈ Mn×n 使得 BA = I_n 若且唯若 A 化 為 echelon form 後 pivot 的個數為 n. 故 (2)⇔ (3).

同理, 由 A 為 n× n matrix 以及 Theorem 2.4.2 知存在 C ∈ Mn×n 使得 AC = I_n 若且唯若 A 化為 echelon form 後 pivot 的個數為 n. 故 (3)⇔ (4).

最後, 由 A 化為 echelon form 後 pivot 的個數為 n 知存在 B,C∈ Mn×n 使得 BA = I_n 以 及 AC = I_n. 若能證得 C = B, 則由 BA = AB = In 得證 A 為 invertible. 然而由 BA = I_n, 得 (BA)C = I_nC = C. 又由 (BA)C = B(AC) = BI_n= B, 得證 B = C. 故 (3)⇒ (1). 得證本定理. 

當一個 n× n matrix 的 rank 為 n 時, 有的書為了強調這個 rank 和階數相等的特殊情 況, 特別稱之為 nonsingular matrix. 所以由 Theorem 2.5.2 我們知 invertible matrix 就是 nonsingular matrix. 反之, non-invertible matrix 就是 singular matrix. 不過為了讓大家不 被這麼多名詞弄混. 以後我們一律採用 invertible 和 non-invertible 這樣的說法, 而不用 nonsingular 和 singular 這樣的說法.

由 Theorem 2.5.2 的證明我們知若 A∈ Mn×n 且存在 B,C∈ Mn×n 使得 BA = I_n且 AC = I_n, 則 B = C. 我們自然會問有沒有可能存在不同的 B, B^′∈ Mn×n 皆滿足 BA = I_n 以及 B^′A = I_n. 下一個定理告訴我們這樣的方陣其實是唯一的.

Corollary 2.5.3. 假設 A∈ Mn×n 且 B, B^′∈ Mn×n 滿足 BA = I_n 以及 B^′A = In. 則 B = B^′. Proof. 由 Theorem 2.5.2 我們知 A 為 invertible 且由其證明知 BA = AB = In 以及 B^′A = AB^′= In. 故

B = I_nB = (B^′A)B = B^′(AB) = B^′I_n= B^′.

 由 Corollary 2.5.3, 我們知道若 A 為 n× n invertible matrix, 則僅會存在唯一的一個 n× n matrix B 滿足 BA = AB = In. 它和 A 的關係如同在實數上非零實數的乘法的 inverse (乘法反元素), 所以我們給以下的定義.

Definition 2.5.4. 假設 A∈ Mn×n 為 invertible matrix. 我們稱唯一滿足 BA = AB = I_n 的 n× n matrix B 為 A 的 inverse (反矩陣), 且用 A⁻¹ 表示.

給定一 n× n invertible matrix A 由於其反矩陣是唯一的, 所以若要確定 B = A⁻¹ 我們僅 要檢查是否 BA = I_n 或 AB = I_n 即可. 我們有以下之性質

Proposition 2.5.5. 假設 A, B∈ Mn×n. 我們有以下之性質 (1) 若 A 為 invertible, 則 A⁻¹ 亦為 invertible 且

(A⁻¹)⁻¹= A.

(2) A 為 invertible 若且唯若 A^t 為 invertible 且此時 (A^t)⁻¹= (A⁻¹)^t.

(3) A, B 皆為 invertible 若且唯若 AB 為 invertible. 且此時 (AB)⁻¹= B⁻¹A⁻¹.

Proof. 由 Theorem 2.5.2, 我們要說一個 n× n matrix 為 invertible, 只要找到 B ∈ Mn×n 使 得 BA = I_n 或 AB = I_n 且此時由唯一性 (Corollary 2.5.3) 知 B = A⁻¹.

(1) 依定義 A⁻¹ 亦為 n× n matrix 故 Theorem 2.5.2 適用. 利用 A⁻¹A = In, 得知 A⁻¹ 亦 為 invertible 且 (A⁻¹)⁻¹= A.

2.5. Invertible Matrix 49

(2) 依定義 A^t 亦為 n× n matrix 故 Theorem 2.5.2 適用. 由 A⁻¹A = I_n 利用 Proposition 2.2.4 得

In= (A⁻¹A)^t= A^t(A⁻¹)^t

故知 A^t 為 invertible 且 (A^t)⁻¹= (A⁻¹)^t. 反之若 A^t 為 invertible, 由前知 (A^t)^t 為 invertible, 故由利用 Proposition 2.2.4 (A^t)^t= A 得證 A 為 invertible.

(3) 依定義 AB 為 n× n matrix 故 Theorem 2.5.2 適用. 現若 A,B 皆為 invertible, 則由 (AB)B⁻¹A⁻¹= A(BB⁻¹)A⁻¹= AI_nA⁻¹= AA⁻¹= I_n,

得證 AB 為 invertible 且 (AB)⁻¹= B⁻¹A⁻¹. 反之, 若 AB 為 invertible, 且令 C = (AB)⁻¹. 此 時由 (AB)C = I_n 得 A(BC) = I_n, 故由假設 A 為 n× n matrix 以及 Theorem 2.5.2 得證 A 為 invertible. 同理, 由 C(AB) = I_n, 得 (CA)B = I_n, 得證 B 為 invertible.  要注意 Proposition 2.5.5 (3) 中由 AB invertible 推得 A, B 皆為 invertible 是需要用到 A, B 皆為 n×n matrix. 否則當 m ̸= n 時, 在 Theorem 2.4.2 中我們知道有可能 A ∈ Mm×n,C∈ Mn×m

滿足 AC = I_m. 此時 I_m 為 invertible, 但 A,C 皆為 non-invertible. 同樣的, 當 A, B 為方陣時, 因為由 AB 為 invertible 可推得 A, B 皆為 invertible, 故知 BA 亦為 invertible. 也就是說當 A, B 為方陣時 AB 為 invertible 和 BA 為 invertible 是等價的. 但在 A, B 不為方陣時, 若 AB 為 invertible 會導致 BA 不為 invertible.

Question 2.12. 試舉例 A, B 不為 invertible 但 AB 為 invertible. 同時也驗證此時 BA 為 non-invertible.

接下來我們探討如何判別一個具體的 n× n matrix 是否為 invertible, 且若為 invertible 如何找出其 inverse. 這個問題可藉由將方陣利用 elementary row operations 化為 reduced echelon form 來處理. 事實上, 當 A 為 n× n matrix, 由 Theorem 2.5.2 我們知道 A 為 invertible 若且唯若 A 化為 echelon form 後其 pivot 的個數等於 n. 因此我們只要將 A 化為 echelon form 後計算其 pivot 的個數, 便可以知道 A 是否為 invertible. 若 A 為 invertible, 即 pivot 的個數為 n, 此時由於 A 的 reduced echelon form 為 n× n matrix, 故得 A 的 reduced echelon form 為 In. 也就是說我們可以用 elementary row operations 將 A 化為 In. 故由 Lemma 2.3.5 我們知存在 E∈ Mn×n 為一些 elementary matrix 的乘積使得 EA = I_n. 事實上 若將 augmented matrix [A|In]利用 elementary row operations 化為 [I_n|E], 則 EA = In, 故此 時 E 就是 A⁻¹. 我們看以下的例子.

Example 2.5.6. 考慮矩陣

A =







1 0 1 −1 0 −1 −3 4 1 0 −1 2

−3 0 0 −1







我們要決定是否 A 是否為 invertible. 若為 invertible, 要找出 A⁻¹.

我們直接考慮 augmented matrix [A|I4], 利用 elementary row operation 將 A 的部分轉 換成 echelon form. 首先將 1-st row 分別乘上−1, 3 加至 3-rd, 4-th row, 即







1 0 1 −1 1 0 0 0 0 −1 −3 4 0 1 0 0 1 0 −1 2 0 0 1 0

−3 0 0 −1 0 0 0 1













1 0 1 −1 1 0 0 0 0 −1 −3 4 0 1 0 0 0 0 −2 3 −1 0 1 0 0 0 3 −4 3 0 0 1





.

接著將 3-rd row 乘上 3/2 加至 4-th row 得







1 0 1 −1 1 0 0 0 0 −1 −3 4 0 1 0 0 0 0 −2 3 −1 0 1 0 0 0 0 ¹₂ ³₂ 0 ³₂ 1





.

此時 augmented matrix 左半部為 echelon form, 其 pivot 的個數為 4, 故知 A 為 invertible.

我們繼續將左半部化為 reduced echelon form 便可得到 A⁻¹.

先將 4-th row 乘以 2, 然後將所得的 augmented matrix 的 4-th row 分別乘上−3, −4, 1 加至 3-rd, 2-nd 和 1-st row, 即







1 0 1 −1 1 0 0 0 0 −1 −3 4 0 1 0 0 0 0 −2 3 −1 0 1 0 0 0 0 1 3 0 3 2













1 0 1 0 4 0 3 2

0 −1 −3 0 −12 1 −12 −8 0 0 −2 0 −10 0 −8 −6

0 0 0 1 3 0 3 2





.

接著將 3-rd row 乘以 −1/2, 然後將所得的 augmented matrix 的 3-rd row 分別乘上 3, −1 加至 2-nd 和 1-st row, 即







1 0 1 0 4 0 3 2

0 −1 −3 0 −12 1 −12 −8

0 0 1 0 5 0 4 3

0 0 0 1 3 0 3 2













1 0 0 0 −1 0 −1 −1 0 −1 0 0 3 1 0 1 0 0 1 0 5 0 4 3 0 0 0 1 3 0 3 2





.

最後將 augmented matrix 的 2-nd row 乘上 −1. 此時所得 augmented matrix 左半部為 reduced echelon form (即 I₄), 故其右半部為 A⁻¹, 即

A⁻¹=







−1 0 −1 −1

−3 −1 0 −1

5 0 4 3

3 0 3 2





.

由前面討論我們知當 A∈ Mn×n 為 invertible, 則存在 elementary matrices E₁, . . . , E_k 使 得 (E_k···E1)A = I_n. 亦即 A⁻¹= E_k···E1, 由 Proposition 2.5.5 (3), 我們知 E1, . . . , E_k 皆為 invertible, 且由 (A⁻¹)⁻¹= A, 得 A = E₁⁻¹···E_k⁻¹. 事實上這些 elementary matrix E_i 的 inverse 就是將 E_i 還原成 I_n 的 elementary row operation 所對應的 elementary matrix. 也就是說 E_i⁻¹ 亦為 elementary matrix. 因此我們有以下的定理.

Proposition 2.5.7. A 為 invertible matrix 若且唯若 A 為一些 elementary matrices 的乘 積.

2.5. Invertible Matrix 51

Example 2.5.8. 考慮矩陣

A =



 0 2 0 1 −1 0 0 2 1



.

在求 A 的 inverse 的過程中, 首先我們將 1-st row 和 2-nd row 交換. 令此 elementary row operation 所對應的 elementary matrix 為 E₁. 因用相同的 elementary row operation 可將 E1 還原成 I₃, 故 E1= E₁⁻¹, 即



 0 2 0 1 0 0 1 −1 0 0 1 0 0 2 1 0 0 1







 1 −1 0 0 1 0 0 2 0 1 0 0 0 2 1 0 0 1



, E₁= E₁⁻¹=



 0 1 0 1 0 0 0 0 1



.

接 著 將 augmented matrix 的 2-nd row 乘 上 −1 加至 3-rd row. 令此 elementary row operation 所對應的 elementary matrix 為 E₂. 因將 2-nd row 乘上 1 加至 3-rd row 的 elementary row operation 可將 E2 還原成 I₃, 故所得的 augmented matrix 及 E2, E₂⁻¹ 分別

為 

 1 −1 0 0 1 0 0 2 0 1 0 0 0 0 1 −1 0 1



, E₂=



 1 0 0 0 1 0 0 −1 1



, E₂⁻¹=



 1 0 0 0 1 0 0 1 1



.

然後將 augmented matrix 的 2-nd row 乘上 1/2. 令此 elementary row operation 所對應的 elementary matrix 為 E3. 因將 2-nd row 乘上 2 的 elementary row operation 可將 E3 還原 成 I₃, 故所得的 augmented matrix 及 E₃, E₃⁻¹ 分別為



 1 −1 0 0 1 0 0 1 0 ¹₂ 0 0 0 0 1 −1 0 1



, E₃=



 1 0 0 0 ¹₂ 0 0 0 1



, E₃⁻¹=



 1 0 0 0 2 0 0 0 1



.

最後將 augmented matrix 的 2-nd row 乘上 1 加至 1-st row. 令此 elementary row operation 所對應的 elementary matrix 為 E₄. 因將 2-nd row 乘上 −1 加至 3-rd row 的 elementary row operation 可將 E4 還原成 I₃, 故所得的 augmented matrix 及 E4, E₄⁻¹ 分別為



 1 0 0 ¹₂ 1 0 0 1 0 ¹₂ 0 0 0 0 1 −1 0 1



, E₄=



 1 1 0 0 1 0 0 0 1



, E₄⁻¹=



 1 −1 0 0 1 0 0 0 1



.

我們檢查可得

A⁻¹= E₄E₃E₂E₁=





1

2 1 0

1

2 0 0

−1 0 1



, A = E₁⁻¹E₂⁻¹E₃⁻¹E₄⁻¹=



 0 2 0 1 −1 0 0 2 1



.

最後讓我們回到解聯立方程組的問題. 怎樣的 A∈ Mm×n 會使得對任意 b∈ R^m, 聯立方 程組 Ax = b 皆有解且解唯一呢? 由 Theorem 2.4.2 和 Theorem 2.4.5 知此時 rank(A) = m 且 rank(A) = n, 即 m = n. 也就是說 A 必須是 n×n 且 rank(A) = n. 因此由 Theorem 2.5.2 知 A 為 n× n invertible matrix. 事實上我們有以下的等價關係. 由於它們直接套用 Theorem 2.4.2 和 Theorem 2.4.5 就可推得, 我們就不再證明了.

Theorem 2.5.9. 假設 A∈ Mn×n, 令 a1, . . . , an∈ Rⁿ 為 A 的 column vectors. 則下列是等價 的.

(1) A 為 invertible matrix.

(2) Span(a₁, . . . , a_n) =Rⁿ.

(3) 對於任意 b∈ Rⁿ, 聯立方程組 Ax = b 皆有解.

(4) 聯立方程組 Ax = 0 沒有 nontrivial solution.

(5) 對於任意 b∈ Rⁿ, 聯立方程組 Ax = b 皆有解且解唯一.

設 A∈ Mn×n 為 invertible matrix, 則對任意 b∈ Rⁿ, 我們可以利用 A 的反矩陣 A⁻¹ 得到 聯立方程組 Ax = b 的唯一解. 事實上若令 x = A⁻¹b, 此時 Ax = A(A⁻¹b) = (AA⁻¹)b = b. 又 由 Theorem 2.5.9 知此時 Ax = b 的解唯一. 故 x = A⁻¹b 為聯立方程組 Ax = b 唯一的一組 解.

Example 2.5.10. 考慮聯立方程組

x1 +x₃ −x4 = b1

−x2 −3x3 +4x4 = b2

x1 −x3 +2x4 = b3

−3x1 −x4 = b₄

其中 b₁, b2, b3, b4 為任意實數. 由於此時聯立方程組為 Ax = b, 其中 A 為 Example 2.5.6 中 的 4× 4 matrix A 且 b = [b1 b₂ b₃ b₄]^t. 因 A 為 invertible, 故由 Theorem 2.5.9 知, 對任意 實數 b₁, b₂, b₃, b₄, 聯立方程組 Ax = b 必有解且其解唯一. 事實上此唯一解為





 x1

x2

x3

x₄





 = A⁻¹b =







−1 0 −1 −1

−3 −1 0 −1

5 0 4 3

3 0 3 2











 b1

b2

b3

b₄





 =







−b1− b3− b4

−3b1− b2− b4

5b1+ 4b3+ 3b4

3b₁+ 3b₃+ 2b₄





.

———————————– 22 October, 2021