Vector Spaces 對於 finite dimensional vector space 有關於 dimension 的性質, 我們匯集如下

74 3. Vector Spaces

對於 finite dimensional vector space 有關於 dimension 的性質, 我們匯集如下. 再次 強調, 由於這裡我們只考慮 over 一個固定的 field F, 所以我們僅用 dim(V) 來表示其 dimension.

Proposition 3.6.10. 假設 V 為 finite dimensional vector space over F.

(1) 若 {v1, . . . , v_n} 為 V 的 spanning set, 則 dim(V) ≤ n. 特別的, 若此時 v1, . . . , v_n 為 linearly dependent, 則 dim(V ) < n.

(2) 若{v1, . . . , v_n} 為 linearly independent, 則 dim(V) ≥ n. 特別的, 若此時 {v1, . . . , v_n} 不是 V 的 spanning set, 則 dim(V ) > n.

(3) 假設 v₁, . . . , v_n∈ V. 下列的敘述為等價.

(a) v1, . . . , vn 為 V 的一組 basis.

(b) dim(V ) = n 且 {v1, . . . , v_n} 為 V 的 spanning set.

(c) dim(V ) = n 且 {v1, . . . , v_n} 為 linearly independent.

(4) 若 W 為 V 的 subspace, 則 dim(W )≤ dim(V). 特別的, 若 dim(W) = dim(V) 則 W = V .

Proof. 為了方便起見, 我們令 S ={v1, . . . , v_n}.

(1) 依假設 V = Span(S), 故利用 Proposition 3.6.4 知存在 S^′⊆ S 為 V 的 basis. 也就是 說 S^′ 的元素個數就是 V 的 dimension. 然而 S^′ 是 S 的 subset, 所以其元素個數小於等於 S 的元素個數 n, 故得證 dim(V )≤ n. 現若 S 為 linearly dependent, 即表示存在 vi 可寫成 S 中其他元素的線性組合, 因此考慮 ˜S = S\{vi}, 我們仍有 Span( ˜S) = V. 此時 ˜S 的元素個數為 n− 1, 所以再套用前面所證的可得 dim(V) ≤ n − 1 < n.

(2) 依假設 S 是 linearly independent, 故利用 Proposition 3.6.5 知存在某個有限集合 S^′ 使得 S∪ S^′ 為 V 的 basis. 也就是說 S∪ S^′ 的元素個數就是 V 的 dimension. 然而 S⊆ S ∪ S^′, 所以 S∪ S^′ 的元素個數大於等於 S 的元素個數 n, 故得證 dim(V )≥ n. 現若 S 不是 V 的 spanning set, 表示存在 w∈ V 且 w ̸∈ Span(S), 因此考慮 ˜S = S ∪{w}, 我們仍有 ˜S 為 linearly independent (Lemma 3.5.4). 此時 ˜S 的元素個數為 n + 1, 所以再套用前面所證的可得 dim(V )≥ n + 1 > n.

(3) 我們要證明 (a) 可推得 (b), (b) 可推得 (c) 以及 (c) 可推得 (a). 因此知 (a),(b),(c) 是等價的.

(a) ⇒ (b): 假設 S 是 V 的 basis, 當然 S 是 V 的 spanning set. 又由於 S 的元素個 數為 n, 依定義 dim(V ) = n.

(b) ⇒ (c): 由於 S 是 V 的 spanning set, 由前面 (1) 的結果, 若 S 是 linearly de- pendent, 則 dim(V ) < n. 此 與 dim(V ) = n 假 設 相 矛 盾, 故 推 得 S 是 linearly independent.

(c) ⇒ (a): 由於 S 是 linearly independent, 由前面 (2) 的結果, 若 S 不是 V 的 spanning set, 則 dim(V ) > n. 此與 dim(V ) = n 假設相矛盾, 故推得 S 是 V 的 spanning set. 因此得證 S 是 V 的 basis.

(4) 因 W 是 V 的 subspace, 故由 Proposition 3.5.6 知 W 亦為 finite dimensional vector space, 我們假設 S ={v1, . . . , v_n} 為 W 的 basis. 由於 v1, . . . , v_n∈V 且為 linearly independent, 故由 (2) 的結果知 dim(W ) = n≤ dim(V). 而若 dim(V) = n, 則由 S 是 linearly independent 利用 (3)((c) ⇒ (a)) 知 S 也是 V 的 basis, 故得證 W = V.  強調一下, Proposition 3.6.10 告訴我們知道 V 的 dimension 的好處. 若我們知道 dim(V ) 恰好是 n, 則 (3) 告訴我們當要檢查 v₁, . . . , vn 是否為 V 的一組 basis 時, 則僅要檢查它們是 否為 spanning set 或 linearly independent 其中一項就可. 所以我們只要選擇檢查哪一個較 好處理即可. 另外若已知 W 為 V 的 subspace, 要檢查 W 是否為 V , 我們不必再像以前檢查 是否每個 V 中的元素都在 W , 而只要算出 dim(W ) 是否等於 n 即可.

Example 3.6.11. 很容易看出在 P(R) 中 xⁿ, xⁿ⁻¹, . . . , x, 1 為 linearly independent. 這是 因為如果 c_n, . . . , c₁, c₀ ∈ R 使得 cnxⁿ+··· + c1x + c₀1 為零多項式, 則依零多項式的定義, cn, . . . , c1, c0 必全為 0. 現在我們介紹 P(R) 中另一種重要的 linearly independent 的多項式 的建構方法, 稱為 Lagrange interpolation polynomials. 我們僅舉出一個例子, 一般狀況請大 家自行推廣.

給定 a, b, c 三相異實數, 我們希望找到三個二次多項式 p₁(x), p₂(x), p₃(x) 滿足

p₁(a) = 1, p₁(b) = p₁(c) = 0, p₂(b) = 1, p₂(a) = p₂(c) = 0 and p₃(c) = 1, p₃(a) = p₃(b) = 0.

由於 p₁(b) = p1(c) = 0, 我們知 p1(x) 應為 (x− b)(x − c) 的倍式, 也就是存在實數 r 使得 p₁(x) = r(x− b)(x − c). 但又要求 p1(a) = 1, 故代入 x = a 得 r = 1/(a− b)(a − c). 同理可求 出 p₂(x), p3(x) 因此我們有

p1(x) = (x− b)(x − c)

(a− b)(a − c), p2(x) = (x− a)(x − c)

(b− a)(b − c) and p3(x) = (x− a)(x − b) (c− a)(c − b).

我 們 要 說 明 p₁(x), p₂(x), p₃(x) 為 linearly independent. 首 先 觀 察, 若 f (x) = c₁p₁(x) + c2p2(x) + c3p3(x), 則代入 x = a 時可由 p1(a) = 1, p2(a) = p3(a) = 0, 得 f (a) = c1. 同理知 f (b) = c₂, f (c) = c₃. 因此現若 f (x) 為零多項式, 由 f (a) = f (b) = f (c) = 0, 可得 c₁= c₂= c3= 0. 也就是說只有當 c₁= c₂= c₃= 0 時才會使得 c₁p1(x) + c₂p2(x) + c₃p3(x) 為零多項 式, 得證 p₁(x), p2(x), p3(x) 為 linearly independent.

我們知道了 p₁(x), p2(x), p3(x)∈ P2(R) 為 linearly independent, 事實上 p1(x), p2(x), p3(x) 會是 P₂(R) 的 spanning set. 不過要證明這一點, 需用到次數小於 3 的實係數非零多項式 不會有 3 個相異實根這個事實, 說明起來有點麻煩. 不過由於我們已知 dim(P2(R)) = 3, 故由 Proposition 3.6.10 (3) 知 p₁(x), p₂(x), p₃(x) 為 P₂(R) 的一組 basis. 也就是說任何 實係數的次數小於 3 的多項式 f (x) 都可以都可以找到唯一的一組 c1, c₂, c₃ ∈ R 使得 f (x) = c1p1(x) + c2p2(x) + c3p3(x). 事實上代入 x = a, b, c, 我們知道 c1= f (a), c2= f (b), c₃= f (c) 就是這唯一的一組.

76 3. Vector Spaces

同理對於任意 n 個相異實數 a₁, . . . , a_n, 我們有 n 個 n−1 次的多項式 p1(x), . . . , p_n(x) 滿足 pi(a_i) = 1 且當 j̸= i 時, pi(a_j) = 0. 由於 p₁(x), . . . , p_n(x)∈ Pn−1(R) 且為 linearly independent, 故由 dim(Pn−1(R)) = n 知 p1(x), . . . , pn(x) 為 Pn−1(R) 的一組 basis.

找到一個 overF 的向量空間 V 之一組 basis v1, . . . , v_n的好處是, 由 V = Span(v₁, . . . , v_n), 我們知對任意 v∈ V, 皆可找到 c1, . . . , cn∈ F 使得 v = c1v₁+··· + cnv_n. 又因 v1, . . . , vn 為 linearly independent, 我們知這些 c₁, . . . , c_n 是唯一的 (Corollary 3.5.7). 因此當我們固定 v₁, . . . , v_n 這一組 basis, 對任意 V 中一個向量 v, 若 v = c₁v₁+··· + cnv_n, 我們可以用坐標的 方式來表示它, 即 (c₁,··· ,cn). 這樣我們就給了 V 中的向量和 Fⁿ 中的向量之間一個一對一 的對應關係. 換言之, 我們可以將 V 這種抽象的向量空間視為 Fⁿ 這種具體的向量空間. 這 種坐標化的概念, 在之後是非常重要的.

3.7. Column Space and Null space

我們將介紹一個矩陣的 column space, row space 以及 nullspace 並探討如何找到它們的 basis. 我們會發現 column space 和 row space 的 dimension 皆相同且等於矩陣的 rank. 最 後我們探討如何得到一般 subspace 的 basis.

給定一個矩陣, 它的 column space 和 nullspace 和以該矩陣為係數矩陣所形成的聯立方 程組是否有解以及解是否唯一息息相關. 由於 column space 和 null space 的重要性, 我們 將之正式定義如下:

Definition 3.7.1. 假設 A =



   a₁ a₂ ··· an



 為以 R^m 中的向量 a₁, . . . , an 為 column vectors 的 m× n matrix.

(1) 我們稱 Span(a1, . . . , an) 為 A 的 column space, 且用 Col(A) 來表示 A 的 column space.

(2) 我們稱 homogeneous linear system Ax = 0 所有解所成的集合為 A 的 null space 且 用 N(A) 表示 A 的 null space. 即 N(A) ={u ∈ Rⁿ| Au = 0}.

要注意當 A∈ Mm×n, 則 A 的 column space Col(A) 會是 R^m 的 subspace, 而 A 的 null space N(A) 會是 Rⁿ 的 subspace (請自行檢驗). 利用 Lemma 2.4.1 以及 Theorem 2.4.5 我 們馬上有以下的結果.

Proposition 3.7.2. 假設 A 為 m× n matrix 且 b ∈ R^m, 考慮聯立方程組 Ax = b.

(1) Ax = b 有解若且唯若 b∈ Col(A).

(2) 假設 Ax = b 有解則其解唯一若且唯若 N(A) ={0}.

接 下 來 我 們 就 是 要 找 到 一 個 矩 陣 的 column space 以 及 null space 這 兩 個 重 要 的 subspaces 的 basis. 一般來說要找到 R^m 的 subspace V 的一組 basis, 我們會先找 V 的一組 spanning vectors. 然後在其中再挑出仍保持為 spanning vectors 且為 linearly independent

的一組向量. 當只有兩個向量時, 我們可以馬上由它們是否為平行來判斷是否為 linearly independent. 不 過 通 常 有 三 個 以 上 的 向 量 時, 並 不 容 易 直 接 看 出 哪 些 向 量 會 linearly independent, 除非如以下的例子.

Example 3.7.3. 考慮R³ 中

v₁=





 0 3 0 1





,v²=





 2

−5 0 0





,v³=





 0 7

−1 0





.

要說明 v₁, v₂, v₃ 為 linearly independent, 我們必須說明只有當 c₁= c₂= c₃= 0 時, 才會使 得 c₁v₁+ c2v₂+ c3v₃= 0. 然而

c1v₁+ c2v₂+ c3v₃= c1





 0 3 0 1





 + c²





 2

−5 0 0





 + c³





 0 7

−1 0





 =







2c2

3c1− 5c2+ 7c3

−c3

c1





.

所以要使得 c₁v₁+ c2v₂+ c3v₃= 0, 就必須讓 c1v₁+ c2v₂+ c3v₃ 的 1-st entry 2c2, 3-rd entry

−c3 以及 4-th entry c₁ 皆為 0, 即 c₁= c₂= c₃= 0. 得證只有當 c₁= c₂= c₃= 0 時, 才會使 得 c₁v₁+ c2v₂+ c3v₃= 0, 故知 v1, v2, v3 為 linearly independent.

從 Example 3.7.3 我們可以看出來, 當 v₁, . . . , v_n 中每一個向量 v_i 都可以找到一個 entry 不為 0, 而其他向量在該 entry 皆為 0, 則 v1, . . . , v_n 為 linearly independent. (例如 Example 3.7.3 中 v1 的 4-th entry 為 1, 而 v2, v3 的 4-th entry 為 0; v2 的 1-st entry 為 2, 而 v1, v3的 1-st entry 為 0; v₃ 的 3-rd entry 為−1, 而 v1, v₂的 3-th entry 為 0, 就符合這個條件). 此時 假設每個 v_i 的那個非 0 的特殊 entry 為 ai, 由於 c1v₁+··· + cnv_n 在該位置的 entry 為 c_iai, 所以若 c₁v₁+··· + cnv_n= 0, 則必 c_ia_i= 0, 得每一個 c_i 皆為 0. 因此 v₁, . . . , v_n 為 linearly independent.

當 A 為 m× n matrix, A 的 null space N(A) 就是 homogeneous linear system Ax = 0 的 所有解所成的集合. 由於我們已經知道如何找到 Ax = 0 的解, 所以我們就從如何找 null space 的 basis 開始.

回顧我們找 Ax = 0 的解集合的方法為, 利用 elementary row operations 將 A 化為 echelon form (或 reduced echelon form) A^′. 此時 A^′x = 0 的解集合就是 Ax = 0 的解集合, 也就是說 A 和 A^′ 有相同的 null space. 接著我們找出 free variable, 再將每個 free variable 代入任意的實數, 從下往上推得出一組解. 注意在這個過程中, pivot variable 的值會由 free variables 的值所決定, 所以只要定出 free variable 的值, 就可以得到一組解. 現假設 free variables 為 x_i1, . . . , x_ik. 對每一個 j = 1, . . . , k, 我們考慮 x_ij = 1, 其他 free variable 為 0 的 情形, 令這樣推得出來的解為 v_j. 由於 vj 的 i_j-th entry 為 1, 而其他 vi_j′ 的 i_j-th entry 為 0, 由前討論知 v₁, . . . , v_k 為 linearly independent. 而對於任意 r₁, . . . , r_k∈ R, r1v₁+··· + rkv_k 就等同於是將每個 free variables x_i1, . . . , x_ik 分別代 x_i1 = r₁, . . . , x_ik = r_k 所得的解. 換言之 每個解都可以寫成 r₁v₁+··· + rkv_k 的形式, 也就是說 v₁, . . . , vk 是 A 的 null space 的一組 spanning vectors. 我們證明了 v₁, . . . , v_k 就是 A 的 null space 的一組 basis, 也因此得知 A

78 3. Vector Spaces

的 null space 的 dimension 為 free variables 的個數, 亦即 A 的 column 的個數減去 pivot 的 個數, 因此有以下之結果.

Proposition 3.7.4. 假設 A 為 m× n matrix. 若利用 row operations 將 A 化為 echelon form A^′ 後, A^′ 的 pivot 個數為 r, 則 A 的 null space 的 dimension 為 n− r. 假設 A^′x = 0 的 free variables 為 x_i1, . . . , x_ik. 對每一個 j = 1, . . . , k, 我們取 x_ij= 1, 其他 free variable 為 0, 令這樣推得出來的解為 v_j. 則 v1, . . . , v_k 為 A 的 null space 的一組 basis.

由於一個矩陣的 null space 不會因為其化為 echelon form 的不同而改變, 而且 null space 的 dimension 是固定的, 所以 Proposition 3.7.4 也說明了 “不管一個矩陣利用 elementary row operations 所化得的 echelon form 為何, 其 pivot 的個數必相同”, 也就是這個矩陣的 rank.

Example 3.7.5. 考慮 A 的 null space, 其中

A =







2 1 1 0 0 0 1 0 0 1 0 0 1 1 1 0 1 2 1 2 2 −2 1 2





.

將 A 的 2-nd row 分別乘上 −2, −1, −1 加至 1-st, 3-rd 和 4-th row, 然後再將 1-st, 2-nd rows 交換得







1 0 0 1 0 0 0 1 1 −2 0 0 0 1 1 −1 1 2 0 2 2 −3 1 2





.

接著將 2-nd row 分別乘上−1,−2 加至 3-rd 和 4-th row 得







1 0 0 1 0 0 0 1 1 −2 0 0 0 0 0 1 1 2 0 0 0 1 1 2





.

最後將 3-rd row 乘上 −1 加至 4-th row, 得 echelon form







1 0 0 1 0 0 0 1 1 −2 0 0 0 0 0 1 1 2 0 0 0 0 0 0





.

我們就是要找到 homogeneous linear system

x₁ +x₄ = 0

x₂ +x₃ −2x4 = 0

+x₄ +x₅ +2x₆ = 0

所有的解. 由 echelon form 看出 x₁, x2, x4 為 pivot variable, x₃, x5, x6 為 free variable. 現令 x₆= 1, x₅= 0, x₃= 0, 解出 x₄=−2, x2=−4, x1= 2, 而令 x₆= 0, x₅= 1, x₃= 0 解出 x₄=−1,

x₂=−2, x1= 1, 最後令 x₆= 0, x₅= 0, x₃= 1 解出 x₄= 0, x₂=−1, x1= 0. 故得

v₁=









 2

−4 0

−2 0 1









 , v2=









 1

−2 0

−1 1 0









 , v3=









 0

−1 1 0 0 0











為 A 的 null space 的一組 basis. 事實上, 若令 x₆, x5, x3 分別為任意的實數 r, s,t, 則可得 x₄=−2r − s, x2=−4r − 2s −t, x1= 2r + s. 也就是說 A 的 null space 中的向量都可以寫成











2r + s

−4r − 2s −t t

−2r − s s r











= r









 2

−4 0

−2 0 1









 + s









 1

−2 0

−1 1 0









 + t









 0

−1 1 0 0 0











= rv1+ sv2+ tv3.

故知 v₁, v2, v3 為 A 的 null space 的 spanning vectors, 又很容易看出 v₁, v2, v3 為 linearly independent, 得證 v₁, v₂, v₃ 為 N(A) 的一組 basis.

Question 3.11. 試將 Example 3.7.5 中的 A 化為 reduced echelon form. 是否更容易看出 N(A) 的一組 basis 呢?

接下來我們來看如何找 matrix A 的 column space Col(A) 的 basis. 首先一個直接的想 法就是 A 的 column space, 就是使得聯立方程組 Ax = v 有解的 v 所成的集合. 所以我們只 要找出這些 v, 就可以得到 A 的 column space. 我們看以下的例子.

Example 3.7.6. 考慮 Example 3.7.5 中的 4×6 matrix A. 我們要找出 A 的 column vectors 的一組 basis. 假設 b 為 A 的 column space 裡的一個向量, 我們知道此時 Ax = b 有解, 因 此令

b =





 b1

b₂ b₃ b4





,

我們要找到 b₁, b2, b3, b4 的條件使得以下聯立方程組有解.

2x₁ +x₂ +x₃ = b₁

x₁ +x₄ = b₂

x1 +x₂ +x₃ +x₅ +2x₆ = b3

x1 +2x2 +2x3 −2x4 +x5 +2x6 = b4

考慮 augmented matrix [A| b], 利用 Example 3.7.5 相同的 elementary row operations 我們

得 





2 1 1 0 0 0 b1

1 0 0 1 0 0 b2

1 1 1 0 1 2 b3

1 2 2 −2 1 2 b4













1 0 0 1 0 0 b2

0 1 1 −2 0 0 b1− 2b2

0 1 1 −1 1 2 b3− b2

0 2 2 −3 1 2 b4− b2







80 3. Vector Spaces







1 0 0 1 0 0 b₂ 0 1 1 −2 0 0 b1− 2b2

0 0 0 1 1 2 b3+ b2− b1

0 0 0 1 1 2 b4+ 3b2− 2b1













1 0 0 1 0 0 b₂ 0 1 1 −2 0 0 b1− 2b2

0 0 0 1 1 2 b3+ b2− b1

0 0 0 0 0 0 b4− b3+ 2b2− b1





.

由解聯立方程組的方法 (即 1.2 節 (2)(a)(b) 的情形) 知, 聯立方程組 Ax = b 有解若且 唯若 b₄− b3+ 2b2− b1= 0. 換言之, 由所有 b1− 2b2+ b3− b4= 0 的解, 所得的 b 所成的 集合便是 A 的 column space. 所以我們回到求矩陣 B =[

1 −2 1 −1 ]

的 null space.

由於 x₁ 為 pivot variable, x₂, x3, x4 為 free variable. 利用前面求 null space 的 basis 的方 法, 令 x₄= 1, x₃= 0, x₂= 0 解出 x₁= 1, 而令 x₄= 0, x₃= 1, x₂= 0 解出 x₁=−1, 最後令 x4= 0, x₃= 0, x₂= 1 解出 x₁= 2. 故得

v₁=





 1 0 0 1





,v²=







−1 0 1 0





,v³=





 2 1 0 0







為 B 的 null space 的一組 basis, 也就是 A 的 column space 的一組 basis..

注意用這個方法, 若 m× n matrix A 化成 echelon form 後沒有一個 row 全為 0, 就表示 所有的 b∈ R^m 皆會使聯立方程組有解, 故此時 A 的 column space 為R^m.

Example 3.7.6 找 column space 所用的方法缺點就是還要再求另一個矩陣的 null space 才能找到 column space 的 basis. 接下來我們介紹一個更簡捷的方法.

首先注意當我們利用 elementary row operations 將 A 化為 echelon form A^′ 後, ho- mogeneous linear system Ax = 0 和 A^′x = 0 有相同的解集合. 現假設 a₁, . . . , a_n 為 A 的 column vectors, 而 a^′₁, . . . , a^′_n 為 A^′ 的 column vectors. 若 x₁= c₁, . . . , x_n= c_n 為 A^′x = 0 的 一組解, 表示 c₁a^′₁+··· + cna^′_n= 0, 此時由於 x₁= c₁, . . . , x_n= c_n 亦為 Ax = 0 的一組解故我 們亦有 c₁a₁+··· + cna_n= 0. 同理若 c1,··· ,cn∈ R 使得 c1a₁+··· + cna_n= 0, 我們亦會有 c₁a^′₁+··· + cna^′_n= 0. 這告訴我們存在不全為 0 的 c_i 使得 c₁a₁+··· + cna_n= 0 若且唯若存 在不全為 0 的 ci 使得 c₁a^′₁+··· + cna^′_n= 0. 換言之, a1, . . . , an 為 linearly dependent 若且唯 若 a^′₁, . . . , a^′_n 為 linearly dependent. 這也等價於 a₁, . . . , a_n 為 linearly independent 若且唯若 a^′₁, . . . , a^′_n 為 linearly independent. 簡單來說當我們利用 elementary row operations 將一個 矩陣變換到另一個矩陣, 兩個矩陣 column vectors 之間的線性關係是會被保持的. 我們看以 下的例子.

Example 3.7.7. 考慮 Example 3.7.5 中的 4×6 matrix A, 且利用 elementary row operation 將之化為 reduced echelon form A^′. 也就是將 Example 3.7.5 中的 echelon form 的 3-rd row 乘上 2 加到 echelon form 的 2-nd row, 再將 echelon form 的 3-rd row 乘上−1 加到 echelon form 的 1-st row 得

A =







2 1 1 0 0 0 1 0 0 1 0 0 1 1 1 0 1 2 1 2 2 −2 1 2













1 0 0 1 0 0 0 1 1 −2 0 0 0 0 0 1 1 2 0 0 0 0 0 0





 A^′=







1 0 0 0 −1 −2 0 1 1 0 2 4 0 0 0 1 1 2 0 0 0 0 0 0







我們很容易看出 A^′ 的 3 個 pivot 所在的 column vectors a^′₁, a^′₂, a^′₄ 為 linearly independent.

事實上 a^′₁, a^′₂, a^′₄ 每一個都符合有一個非 0 entry (即 pivot 之 entry) 而其他向量在該 entry 為 0. 我們考慮相對應到 A 的 column vectors a1, a2, a4. 它們也會是 linearly independent. 這 是因為若我們考慮新的 4× 3 matrix [a1 a₂ a₄]經由將 A 換成 A^′ 一樣步驟的 elementary row operation 我們會得到 [a^′₁ a^′₂ a^′₄]. 所以依前面的討論知, 因為 a^′₁, a^′₂, a^′₄ 為 linearly independent, 所以 a₁, a₂, a₄ 也會是 linearly independent. 另一方面, 在 A^′ 中我們很容易 看出 a^′₃= a^′₂, a^′₅=−a^′₁+ 2a^′₂+ a^′₄ 以及 a^′₆=−2a^′₁+ 4a^′₂+ 2a^′₄. 所以和剛才同樣理由, 依 elementary row operations 保持線性關係的性質, 我們有 a3= a2, a₅=−a1+ 2a2+ a4 以及 a₆=−2a1+ 4a₂+ 2a₄. 事實上直接檢查得

a₂= a3=





 1 0 1 2





, −a¹+ 2a2+ a4=−





 2 1 1 1





 + 2





 1 0 1 2





 +





 0 1 0

−2





 =





 0 0 1 1





 = a⁵,

−2a1+ 4a₂+ 2a₄=−2





 2 1 1 1





 + 4





 1 0 1 2





 + 2





 0 1 0

−2





 =





 0 0 2 2





 = a⁶.

換言之, a₃, a5, a6∈ Span(a1, a2, a4). 故知 A 的 column space 為 Span(a1, a2, a3, a4, a5, a6) = Span(a1, a2, a4).

再加上 a₁, a₂, a₄ 為 linearly independent, 得證 a₁, a₂, a₄ 是 A 的 column space 的一組 basis.

注意在 Example 3.7.7 中我們為了方便說明將 A 化為 reduced echelon form. 事實上既 然我們知道 column space 的 basis 是由對應到 pivot 所在位置 A 的 column vectors 所組 成, 所以化成 echelon form 知道 pivot 在那些 column 就可以找到 basis 了. 因此除非我們 想要將 A 的其他 column vectors 用這組 basis 來表示, 一般是不需要進一步化成 reduced echelon form. 另外我們要強調的是 column space 的 basis 是要回到 A 的 column vectors 所組成, 而不是由 A 的 echelon form (或 reduced echelon form) A^′ 的 pivot 所在的 column vectors 所組成. 這是因為一般我們在做 elementary row operations 已將 column vectors 各 個 entry 做了調動, 所以 echelon form A^′ 的 column space 已不再是原來 A 的 column space 了.

我們將這個求 column space 的 basis 的方法做一個總結. 首先將 m× n matrix A 利用 elementary row operation 化為 echelon form A^′. 假設 A^′ 的 pivot variables 為 x_i1, . . . , x_ir, 則 由於 A^′ 的 pivot 所在的 column vectors a^′_i

1, . . . , a^′_ir 為 linearly independent 且 elementary row operations 會保持各 column vectors 之間的線性關係, 我們知對應到 A 的 column vectors ai1, . . . , a_ir 亦為 linearly independent. 同理, 由於 A^′ 的其他 column vectors a^′_j 皆符 合 a^′_j ∈ Span(a^′i1, . . . , a^′_ir), 我們得 A 的其他 column vectors a_j 也符合 a_j∈ Span(ai1, . . . , a_ir).

因此得 Span(a1, . . . , a_n) = Span(a_i1, . . . , a_ir). 我們證得了 a_i1, . . . , a_ir 為 A 的 column space 的 spanning vectors 且為 linearly independent, 故 ai1, . . . , air 為 A 的 column space 的一組 basis. 我們有以下的定理.

82 3. Vector Spaces

Proposition 3.7.8. 假設 A∈ Mm×n 且 a₁, . . . , a_n∈ R^m 為 A 的 column vectors. 若利用 elementary row operations 將 A 化為 echelon form A^′ 後, A^′ 的 pivot 個數為 r, 則 A 的 column space 的 dimension 為 r. 假設 A^′ 的 pivot variables 為 x_i1, . . . , xir, 則 ai1, . . . , air 為 A 的 column space 的一組 basis.

相對於矩陣的 column space, 我們也可考慮矩陣的 row space. 我們有以下的定義.

Definition 3.7.9. 假設 A =





— ₁a — ...

— _ma —



 為以 Rⁿ 中的向量 ₁a₁, . . . ,_ma 為 row vectors

的 m× n matrix. 則 A 的 row space 為 Span(1a, . . . ,_ma), 且用Row(A) 來表示.

如何求 A 的 row space 的 basis 呢? 我們可以考慮 A 的 transpose A^t. 因為 A^t 的 column vectors 就是 A 的 row vectors, 求出 A^t 的 column space 的 basis 就等同於求 A 的 row space 的 basis. 所以我們可以用求 column space 的 basis 方法求出 A^t 的 column space 的 basis, 便得到 A 的 row space 的 basis. 不過這個方法有個缺點, 因為我們是換了一個矩陣 A^t 做 row operations, 因此就無法得到和原來 A 的 column space 之間的關係了. 以下介紹的方 法, 便是直接對 A 做 elementary row operations 來求得 A 的 row space 的 basis, 所以我們 可以得到 A 的 row space 和 column space 之間的關係.

這個方法的主要概念是 A 經過 elementary row operations 變換成 A^′ 後, A 和 A^′ 的 row space 是 相 同 的. 這 是 因 為 若 ₁a, . . . ,_ma 為 A 的 row vectors, ₁a^′, . . . ,_ma^′ 為 A^′ 的 row vectors, 則每個 _ia^′ 其實是 ₁a, . . . ,_ma 中的向量互相交換, 或是乘上某個非 0 實數, 或 是 乘 上 某 個 實 數 後 加 到 另 一 個 向 量. 也 就 是 說 每 個 _ia^′ 其 實 是 ₁a, . . . ,_ma 的 線 性 組 合, 所以對所有 i = 1, . . . , m 皆有 ia^′∈ Span(1a, . . . ,_ma). 因此由 Span(1a, . . . ,_ma) 是 Rⁿ 的 subspace 知 Span(₁a^′, . . . ,_ma^′)⊆ Span(1a, . . . ,_ma). 同理, 因 elementary row operation 是可 以還原的, A^′ 也可經由 elementary row operations 換成 A, 所以我們也有 Span(1a, . . . ,_ma)⊆ Span(1a^′, . . . ,ma^′). 得證 Span(1a, . . . ,_ma) =Span(1a^′, . . . ,ma^′), 亦即 A 和 A^′ 有相同的 row space. 我們看以下的例子.

Example 3.7.10. 考慮 Example 3.7.5 中的 4× 6 matrix A, 且利用 elementary row opera- tion 將之化為 reduced echelon form A^′ (參見 Example 3.7.7), 令₁a,₂a,₃a,₄a 為 A 的 row vectors,₁a^′,₂a^′,₃a^′,₄a^′ 為 A^′ 的 row vectors. 亦即

1a = [2 1 1 0 0 0],2a = [1 0 0 1 0 0],3a = [1 1 1 0 1 2],4a = [1 2 2 − 2 1 2],

1a^′= [1 0 0 0 − 1 − 2],2a^′= [0 1 1 0 2 4],3a^′= [0 0 0 1 1 2],4a^′= [0 0 0 0 0 0].

利用 Example 3.7.5 的 elementary row operations, 我們知 A^′ 的 3-rd row3a^′ 是由 A 的 3-rd row 減去 A 的 2-nd row 後再減去 A 的 2-nd row 乘上−2 加到 1-st row 的向量, 亦即

(₃a−2a)− (1a− 22a) =₃a +₂a−1a = [1 1 1 0 1 2] + [1 0 0 1 0 0]− [2 1 1 0 0 0] =3a^′.

而利用 Example 3.7.7 的 elementary row operations, A^′ 的 2-rd row₂a^′ 是由 A 的 2-nd row 乘上−2 加到 A 的 1-st row 後再加上 2 倍的 A^′ 的 3-rd row 的向量, 亦即

(₁a− 22a) +2(₃a +₂a−1a) =2₃a−1a = [2 2 2 0 2 4]− [2 1 1 0 0 0] =2a^′. 而 A^′ 的 1-st row1a^′ 是由 A 的 2-nd row 減去 A^′ 的 3-rd row 的向量, 亦即

2a− (3a +₂a−1a) =₁a−3a = [2 1 1 0 0 0]− [1 1 1 0 1 2] =1a^′.

從 這 裡 我 們 得 Span(1a^′,₂a^′,₃a^′,₄a^′)⊆ Span(1a,₂a,₃a,₄a). 同 理 得 Span(1a,₂a,₃a,₄a)⊆ Span(1a^′,2a^′,3a^′,4a^′) (此處略去不檢查了). 故得 Span(1a,₂a,₃a,₄a) =Span(1a^′,2a^′,3a^′,4a^′), 亦即₁a^′,₂a^′,₃a^′,₄a^′ 為 A 的 row space 的 spanning vectors. 在 echelon form 中, 沒有 pivot 的 row 必為零向量. 現 A^′ 的 pivot 個數為 3, 即 pivot 發生於前 3 個 row 1a^′,₂a^′,₃a^′, 而

4a^′ 為零向量, 所以僅 pivot 所在的 row ₁a^′,₂a^′,₃a^′ 就可以成為 A 的 row space 的 spanning vectors. 現又由於 A^′ 為 reduced echelon form, 每一個 row 中 pivot 所在的位置其他的 row 在該位置皆為 0, 所以1a^′,2a^′,3a^′ 為 linearly independent. 得證₁a^′,2a^′,3a^′ 為 A 的 row space 的一組 basis.

注意在 Example 3.7.10 中我們為了方便說明將 A 化為 reduced echelon form. 事實上 既然 A 的 echelon form 和 reduced echelon form 有相同的 row space, 而它們 pivot 的個 數又相同, 所以由 dimension 的性質, 知 echelon form 中 pivot 所在的 row vectors 也會是 A 的 row space 的一組 basis. 化成 reduced echelon form 的好處是比較容易讓我們將 row space 中的向量寫成這組 basis 的線性組合. 因此因此除非我們想要將 A 的 row space 中 的 vectors 用這組 basis 來表示, 若僅想找到 row space 的 basis 一般是不需要進一步化 成 reduced echelon form. 另外我們要強調的是 row space 的 basis 不可以回到 A 的 row vectors 去找. 這是因為一般我們在做 elementary row operations 已將 row vectors 所在的 位置做了調動, 所以 row operation 並沒有保持 row vectors 之間的線性關係.

我們將這個求 row space 的 basis 的方法做一個總結. 首先將 m× n matrix A 利用 elementary row operation 化為 echelon form A^′. 假設 A^′ 的 pivot 個數為 r, 則由於 A^′ 為 echelon form, A^′ 前 r 個 row vectors ₁a^′, . . . ,ra^′ 為 nonzero vectors. A^′ 其餘的 row vectors 皆為 zero vectors. 由於 elementary row operations 會保持 row space, 我們得 ₁a^′, . . . ,_ra^′ 為 A 的 row space 的 spanning vectors. 又由化為 reduced echelon form 的情形我們知 A 的 row space 的 dimension 為 r, 故由 Proposition 3.6.10 知₁a^′, . . . ,_ra^′ 為 A 的 row space 的一 組 basis. 我們有以下的定理.

Proposition 3.7.11. 假設 A 為 m× n matrix. 若利用 elementary row operations 將 A 化 為 echelon form A^′ 後, A^′ 的 pivot 個數為 r, 則 A 的 row space 的 dimension 為 r 且 A^′ 的 前 r 個 row vectors ₁a^′, . . . ,_ra^′ ( 即 A^′ 中的 nonzero row vectors) 為 A 的 row space 的一組 basis.

———————————– 03 December, 2021