• 沒有找到結果。

Subspaces in R

N/A
N/A
Protected

Academic year: 2022

Share "Subspaces in R"

Copied!
28
0
0

加載中.... (立即查看全文)

全文

(1)

Chapter 5

Subspaces in R m

通常像Rm 這樣, 裡面任意有限多個向量的線性組合仍在 Rm 中 (此稱為封閉性), 而向 量的運算又符合 Proposition 1.2.3 的 8 項規則, 我們便稱之為 vector space. 在Rm 中還有 其他的 vector space, 我們稱之為Rm 的 subspace. 在這一章中我們要探討Rm 中 subspaces 的相關性質.

5.1. Subspace

在這一節中, 我們將正式定義 subspace 並引進 basis 的概念.

Rm中的非空子集 V , 由於它們裡面的向量仍在 Rm 中, Proposition 1.2.3 的 8 項規則中 除了 (3), (4) 兩項外 (即 O∈ V 以及若 v ∈ V, 則 −v ∈ V) 其他的性質皆會符合, 不過若再加 上線性組合的封閉性 (即 V 中任意有限多個向量的線性組合仍在 V 中), 則對於 v∈ V, 我們 便會有 O = 0v∈ V 以及 −v = (−1)v ∈ V. 也就是說此時 V 不只有線性組合的封閉性而且向 量的運算又符合 Proposition 1.2.3 的 8 項規則, 所以它就會像Rm 一樣是一個 vector space 了. 我們有以下的定義.

Definition 5.1.1. 假設 V 為 Rm 的非空子集. 若任意有限多個 V 中的向量之線性組合仍 在 V 中 (即對任意 v1, . . . , vn∈ V 以及 c1, . . . , cn∈ R 皆有 c1v1+··· + cnvn∈ V), 則稱 V 為 Rm的一個 subspace (子空間).

注意依此定義空集合 /0 不是 subspace. 不過 Rm 中的零向量所成的集合{O} 是 Rm 的 subspace, 而 Rm 本身也是 Rm 的 subspace.

回顧一下, 我們用 Span(v1, . . . , vn) 來表示 Rm 中 v1, . . . , vn 的所有線性組合所成的集合 (參見 Definition 1.3.1), 亦即

Span(v1, . . . , vn) ={v ∈ Rm| r1v1+··· + rnvn, for some r1, . . . , rn∈ R}.

所以 V 是Rm 的 subspace 等同於對任意 v1, . . . , vn∈ V 皆有

Span(v1, . . . , vn)⊆ V. (5.1) 97

(2)

依定義要檢查 V 是否為 subspace, 我們必須考慮 V 中任意有限多個向量的線性組合是否仍 在 V 中, 感覺起來很麻煩. 事實上, 下一個定理告訴我們, 只要檢查任兩個向量的線性組合 即可.

Proposition 5.1.2. 假設 V 為 Rm 的子集合, 則 V 為 Rm 的 subspace 若且唯若 O∈ V 且 對任意 u, v∈ V, r ∈ R 皆有 u + rv ∈ V.

Proof. (⇒) : 依定義 V 為非空集合, 故必存在一向量 v ∈ V. 現考慮 0v = O, 依 subspace 的定義 0v∈ V, 故得證 O ∈ V. 同樣的依 subspace 的定義, 對任意 u,v ∈ V, r ∈ R 皆有 u + rv∈ V.

(⇐) : 假設 O ∈ V 且對任意 u,v ∈ V, r ∈ R 皆有 u+rv ∈ V. 由 O ∈ V, 我們知 V 為 Rm的 非空子集. 接著利用式子 (5.1), 我們要證明對任意 v1, . . . , vn∈ V, 皆有 Span(v1, . . . , vn)⊆ V.

我們對向量的個數 n 作數學歸納法. 首先考慮只有一個向量的情形 (即 n = 1), 此時 我 們 要 證 明 若 v1∈ V, 則 Span(v1) ⊆ V. 因為 Span(v1) 中 的 元 素 皆 為 rv1 的 形 式, 我 們要證明對任意 r∈ R 皆有 rv1∈ V. 此時考慮 u = O, v = v1, 我們有 rv1 = O + rv1= u + rv. 依 假 設 知 u + rv∈ V, 得證 n = 1 的情形成立. 現假設 n = k 時成立, 亦即對 任意 v1, . . . , vk ∈ V 皆有 Span(v1, . . . , vk)⊆ V. 我們要證明對任意 v1, . . . , vk, vk+1∈ V 皆有 Span(v1, . . . , vk, vk+1)⊆ V. 然而對任意 w ∈ Span(v1, . . . , vk+1), 我們知存在 c1, . . . , ck, ck+1∈ R 使得 w = c1v1+··· + ckvk+ ck+1vk+1. 此時令 u = c1v1+··· + ckvk, 依歸納假設我們知 u∈ V.

故考慮 r = ck+1∈ R 以及 v = vk+1∈ V, 我們有 w = u + rv ∈ V, 得證 Span(v1, . . . , vk+1)⊆ V.

故 由 數 學 歸 納 法 知, 對 任 意 v1, . . . , vn ∈ V 皆有 Span(v1, . . . , vn)⊆ V, 亦即 V 為 Rm

subspace. 

由 Proposition 5.1.2, 我們知道要檢查 V 是否為 subspace, 我們僅要檢查 (1) O∈ V

(2) u, v∈ V, r ∈ R ⇒ u + rv ∈ V.

是否成立即可.

Example 5.1.3. 設 a, b, c, d∈ R, 考慮 S = {(x,y,z) ∈ R3 | ax + by + cz = d}. 我們想找到 a, b, c, d 使得 S 為 R3 的 subspace. 現若 S 為 subspace, 由於已知 (x, y, z) = (0, 0, 0) = O∈ S, 故知 d = 0. 反之, 若 d = 0 且 u = (x, y, z)∈ S, v = (x, y, z)∈ S 以及對任意 r ∈ R, 則因 ax + by + cz = 0, ax+ by+ cz= 0 可得

a(x + rx) + b(y + ry) + c(z + rz) = (ax + by + cz) + r(ax+ by+ cz) = 0,

得證 u + rv = (x + rx, y + ry, z + rz)∈ S. 由此知當 d = 0 且只有當 d = 0 時, S 為 R3 的 subspace.

注意在 Example 5.1.3 中, 當 a, b, c, d 皆為 0 時 S =R3, 仍為R3 的 subspace.

Rm 中有許多 subspaces, 例如利用 Proposition 1.3.2 我們知道若 v1, . . . , vn∈ Rm, 則 Span(v1, . . . , vn) 是 Rm 的 subspace (事實上 Rm 中的 subspace 都可以寫成這種形式). 給定

(3)

5.1. Subspace 99

一個 m×n matrix A. 我們可以考慮 A 的 column vectors 所展成的集合, 稱之為 A 的 column space. 即若 a1, . . . , an∈ Rm為 A 的 column vectors, 則 Span(a1, . . . , an)為 A 的 column space.

同樣的 A 的 row vectors 所展的的集合, 稱為 A 的 row space. 注意因 A 為 m× n matrix, 故其 column space 會是 Rm 的 subspace, 而 row space 會是 Rn 的 subspace. 另外還有一 個與矩陣 A 相關且重要的 subspace, 它就是 homogeneous linear system Ax = O 所有解所 成的集合, 即 {x ∈ Rn| Ax = O}. 由於 x = O ∈ Rn 為 Ax = O 的一組解. 又若 x = u∈ Rn, x = v∈ Rn 皆為 Ax = O 的解, 則對於任意 r∈ R, 我們有

A(u + rv) = Au + rAv = O,

故知 x = u + rv 亦為 Ax = O 的解. 由 proposition 5.1.2 知 {x ∈ Rn| Ax = O} 會是 Rnsubspace, 我們稱之為 A 的 nullspace.

另一種我們常會接觸的 subspace 是和內積有關. 假設 V ⊆ Rn 為 Rn 的 subspace. 我們 考慮以下的集合

V={x ∈ Rn| x · v = 0, ∀v ∈ V}.

簡單來說 V 就是收集 Rn 中會和所有 V 中的向量垂直的向量所成的集合. 我們也因此稱 V 為 the orthogonal complement of V . 事實上 V 會是Rn 的 subspace.

Proposition 5.1.4. 假設 V⊆ Rn 為 Rn 的 subspace. 則 V 亦為 Rn 的 subspace.

Proof. 首 先 由 內 積 性 質, 我 們 知 對 任 意 v∈ V 皆有 O · v = 0, 故知 O ∈ V. 現 假 設 x, x∈ V 以 及 r∈ R. 利用內積的性質 (Proposition 1.4.2), 對於任意 v ∈ V, 我們有 (x + rx)· v = (x · v) + r(x· v). 再利用 x,x∈ V, 即 x· v = x· v = 0, 得知 (x + rx)· v = 0. 此 即表示對於任意 x, x∈ V 以及 r∈ R, 皆有 x + rx∈ V, 得證 V 為 Rn 的 subspace.  Question 5.1. 假設 S⊆ Rn 為 Rn 的非空子集 (不需假設為 subspace). 令 S={x ∈ Rn| x· v = 0, ∀v ∈ S}. 試證明 S 為 Rn 的 subspace.

給定一 linear transformation T :Rn→ Rm, 也有兩個和 T 有關的 subspace. 一個是Rn 的 subspace ker(T ), 稱為 T 的 kernel, 其定義為

ker(T ) ={v ∈ Rn| T(v) = O}.

首先因 T 為 linear transformation, 故 T (O) = O, 知 O∈ ker(T). 而對於任意 v,v∈ ker(T) 以及 r∈ R, 我們有 T(v + rv) = T (v) + rT (v) = O, 故得 v + rv∈ ker(T), 得證 ker(T) 為 Rn 的 subspace.

另一個是 Rm 的 subspace im(T ), 即 T 的 image, 其定義為 im(T ) ={w ∈ Rm| w = T(v) for some v ∈ Rn}.

同樣的, 對於 O∈ Rm, 因取 O∈ Rn 會使得 T (O) = O, 故知 O∈ im(T). 另一方面, 若 w, w∈ im(T), 表示存在 v,v∈ Rn 使得 w = T (v), w= T (v), 故對任意 r ∈ R, w + rw= T (v) + rT (v) = T (v + rv). 因 v + rv ∈ Rn, 故知 w + rw ∈ im(T), 得證 im(T) 為 Rm 的 subspace.

(4)

以後我們會學到一個 linear transformation 的 image 和 kernel, 分別會和一個矩陣的 column space 以及 nullspace 有關. 在此就不多談了.

5.2. Orthogonal Complement, Column Space and Nullspace

給定一個 m× n matrix A, 我們曾經探討過以 A 為係數矩陣所成的聯立方程組 Ax = b, 何時有解及其解是否唯一的問題. 在這一節中我們將利用上一節中所提的幾個 subspaces, 再一次探討這些問題.

5.2.1. Orthogonal Complement. 首先我們探討有關 orthogonal complement 的基本性 質.

給定 Rn 的一個 subspace V , 要探討 w∈ Rn 是否在 V 中, 依定義我們必須檢查 V 中 的所有向量 v 是否都會和 w 垂直 (即滿足 w· v = 0). 然而這樣處理的方法在現實上是很困 難的, 因為 V 若不是 {O} 則會有無窮多個元素. 不過若我們知道 V = Span(v1, . . . , vk), 則 就可以很快地知道 w 是否屬於 V 了. 事實上因為以下的定理, 我們只要檢查 w 是否和 v1, . . . , vk 這 k 個向量垂直即可.

Lemma 5.2.1. 假設 V = Span(v1, . . . , vk). 則 w∈ V 若且唯若 w· vi= 0,∀i = 1,...,k.

Proof. 假設 w∈ V. 依定義 w 和 V 中所有向量都垂直. 然而依定義 V = Span(v1, . . . , vk), 所以對於 i = 1, . . . , k, vi 皆為 V 中的向量. 故得證 w· vi= 0.

現假設 w· vi= 0, ∀i = 1,...,k. 由於 V = Span(v1, . . . , vk),故對於任意 V 中的向量 v, 皆 存在 c1, . . . , ck∈ R 使得 v = c1v1+··· + ckvk. 故由內積的性質 Proposition 1.4.2, 得

w· v = w · (c1v1+··· + ckvk) = c1(w· v1) +··· + ck(w· vk) = 0.

得證 w 和 V 中所有的向量皆垂直, 即 w∈ V. 

當 V 為Rn 的 subspace 時, 既然 V 也是 Rn 的 subspace, 我們當然有興趣知道 (V) 又會是怎樣的 subspace? 依定義, 我們有 V ⊆ (V), 也就是說 V 中任意的向量都會在 (V). 事實上, 任取 v∈ V, 我們要說明 v 會和 V 中所有的向量皆垂直, 如此便得證 v 是 (V) 中的向量了. 然而任取 w∈ V, 由於 w 和 V 中的向量皆垂直, 當然有 w· v = 0. 故得 證 v 和所有 V 中的向量皆垂直.

大家或許會好奇是否會 V = (V) 呢? 以後我們會知道當 V 是 Rn 的 subspace 時, 這 是對的. 目前我們先考慮一種特殊的情況會使得 V = (V). 首先, 我們需要一個簡單的定 理.

Lemma 5.2.2. 假設 V,W 為 Rn 的 subspaces 且滿足 W ⊆ V, 則 V⊆ W.

Proof. 我們要說明任意 V 中的向量 v 皆會在 W 中, 亦即 v 會和 W 中所有的向量皆垂 直. 現任取 w∈ W, 由於 W ⊆ V, 故知 w ∈ V. 然而 v∈ V, 故依定義 v 會和 V 中所有的向 量垂直. 因此得 v· w = 0. 我們證得了 v 會和 W 中所有的向量皆垂直, 故得 v∈ W. 得證

V⊆ W. 

(5)

5.2. Orthogonal Complement, Column Space and Nullspace 101

我們所謂的特殊情況就是 V 本身是另一個 subspace 的 orthogonal complement. 此時 我們會有以下的結果.

Proposition 5.2.3. 假設 V 為Rn 的 subspace 且存在 U 亦為Rn 的 subspace 滿足 V = U. 則 V = (V).

Proof. 不管是否存在 U 使得 V = U, 前面我們已知 V⊆ (V). 所以這裡我們將利用 V = U 的假設證明 (V)⊆ V.

由於 U 為 Rn 的 subspace, 我們有 U⊆ (U). 故由 V = U 的假設知 U⊆ V. 此時 套用 Lemma 5.2.2, 得 (V)⊆ U, 因此再用一次 V = U 的假設得證 (V)⊆ V. 由此知

V = (V). 

5.2.2. Column Space and Nullspace. 給定一個矩陣, 它的 column space 和 nullspace 和以該矩陣為係數矩陣所形成的聯立方程組是否有解以及解是否唯一息息相關.

首先我們介紹與方程組 Ax = b 是否有解有關的 subspace, 即 A 的 column space. 正式 定義如下:

Definition 5.2.4. 假設 A =

 a1 a2 ··· an

 為以 a1, . . . , an 為 column vectors 的 m× n

matrix. 則稱 Span(a1, . . . , an)為 A 的 column space. 我們用 C(A) 來表示 A 的 column space.

要注意, 這裡因為 A 為 m× n matrix, 所以 A 的 column vectors a1, . . . , an 皆為Rm 中的 vectors, 因此 C(A) = Span(a1, . . . , an) 會是Rm的 subspace.

A 的 column space 會和聯立方程組 Ax = b 有關的主要原因是在 Lemma 3.4.1 中我們 知道 Ax = b 為 consistent 是和 b∈ Span(a1, . . . , an) 等價的. 也因此套用 column space 的定 義, 我們可以將 Lemma 3.4.1 改寫如下.

Lemma 5.2.5. 假設 A∈ Mm×n 且 b∈ Rm. 則 Ax = b 為 consistent 若且唯若 b∈ C(A).

當然了, 單純只是定義的關係改寫 Lemma 3.4.1 成 Lemma 5.2.5 並無太大意義. 等到後 面我們介紹其他的 subspace 後, 便能體會使用 column space 的方便性了.

Question 5.2. 假設 A∈ Mm×n. 試說明 rank(A) = m 若且唯若 C(A) =Rm. 又若 rank(A) = 0, 則 C(A) 為何?

另一個和 Ax = b 的解是否唯一有關的 subspace, 就是 A 的 nullspace. 其定義如下:

Definition 5.2.6. 假設 A∈ Mm×n. 則 homogeneous linear system Ax = O 所有解所成的集 合, 稱為 A 的 nullspace. 我們用 N(A) 表示 A 的 nullspace, 即 N(A) ={x ∈ Rn| Ax = O}.

特別要注意的是當 A 為 m× n matrix, C(A) 會是 Rm 的 subspace, 而 N(A) 是 Rn 的 subspace. 不要弄混淆了.

由 Theorem 3.4.6 以及 nullspace 的定義, 我們也可得以下的性質.

(6)

Lemma 5.2.7. 假設 A∈ Mm×n, b∈ Rm 且假設 Ax = b 為 consistent. 則 Ax = b 的解唯一 若且唯若 N(A) ={O}.

這裡有一項同學常犯的錯誤是將 N(A) ={O} 誤以為是 N(A) = /0. 要注意 N(A) 是 Rn的 subspace, 所以不可能會是空集合.

Question 5.3. 假設 A∈ Mm×n. 若 rank(A) = n, 則 N(A) 為何?

雖然 column space 和 nullspace 分別與聯立方程組是否有解和解是否唯一有關, 不過有 趣的是一個矩陣的 column space 和另一個矩陣的 nullspace 是有關的. 例如在 Proposition 2.4.1 中我們知道給定一 m× n matrix A, 如果 rank(A) = r < m 則存在一個 (m − r) × m 的 matrix B, 使得 Ax = b 有解若且唯若 y = b 為 By = O 的一組解. 然而利用 Lemma 5.2.5, 若 b∈ C(A), 可得 Ax = b 有解, 故 b ∈ N(B). 反之亦然, 故有以下之性質.

Lemma 5.2.8. 假設 A∈ Mm×n. 若 rank(A) = r < m, 則存在 B∈ M(m−r)×m 使得 C(A) = N(B).

再次強調, 在 Lemma 5.2.8 中因 A∈ Mm×n所以 C(A) 是Rm的 subspace, 而 B∈ M(m−r)×m

所以 N(B) 也會是 Rm 的 subspace.

另一方面若 v∈ N(A), 表示 v 滿足 Av = O, 因此利用矩陣乘法的定義, 若1a, . . . ,ma∈ Rm 為 A 的 row vector, 則 對 於 i = 1, . . . , m, 皆 有 ia· v = 0. 因此由 Lemma 5.2.1, 得 v ∈ Span(1a, . . . ,ma). 反之, 若 v∈ Span(1a, . . . ,ma), 則依矩陣乘法定義可得 Av = O, 亦即 v∈ N(A). 因此我們證得了 N(A) = Span(1a, . . . ,ma). 然而 A 的 row vector 會是 AT 的 column vector, 也就是說依定義我們有 Span(1a, . . . ,ma) = C(AT), 因此得到以下的結果.

Proposition 5.2.9. 對於任意矩陣 A 皆有

N(A) = C(AT).

注意, 在 Proposition 5.2.9 中當 A∈ Mm×n 時 N(A) 會是 Rn 的 subspace. 此時由於 AT∈ Mn×m, 所以 C(AT) 也會是Rn 的 subspace. 一般我們稱 C(AT) 為矩陣 A 的 row space.

回顧 (AT)T= A, 所以將 Proposition 5.2.9 的 A 以 AT 取代, 可得以下肢結果.

Corollary 5.2.10. 對於任意矩陣 A 皆有

N(AT) = C(A).

當 A∈ Mm×n 且 rank(A) = m 時, 由 Proposition 2.4.1 知對任意 v∈ Rm 聯立方程組 Ax = v 皆有解. 此時由 Lemma 5.2.5 得 C(A) =Rm. 現若考慮 B 為 m× m 的零矩陣, 我們 有 N(B) =Rm, 所以此時我們依然有 C(A) = N(B). 因此結合 Lemma 5.2.8, 我們知對任意 矩陣 A 皆存在矩陣 B 使得 C(A) = N(B). 然而 Proposition 告訴我們 N(B) = C(BT), 故知 C(A) = C(BT). 因此利用 Proposition 5.2.3 可得 (C(A))= C(A). 也因此得證以下重要的 定理.

(7)

5.3. Basis 103

Theorem 5.2.11. 對於任意矩陣 A 皆有

C(A) = N(AT).

Proof. 我們知 (C(A))= C(A). 故由 Corollary 5.2.10 得知 C(A) = (C(A))= (N(AT)).

 Question 5.4. 試證明對於任意矩陣 A 皆有 N(A) 等於 A 的 row space.

5.3. Basis

在 Rm 中我們曾介紹過所謂 standard basis e1, . . . , em, 這一組向量它的特點就是 Rm 的 相量都可以寫成 e1, . . . , em 的線性組合, 而且寫法唯一. 因為這組 standard basis 的存在, 我們可以將 Rm 的向量坐標化, 而推得 Rm 上很多性質. 我們自然有興趣知道是否 Rm 的 subspace 中可找到類似的一組向量有同樣的性質, 因此我們有以下的定義.

Definition 5.3.1. 假設 V 為Rm 的 subspace. 若 v1, . . . , vn∈ V, 且任意 v ∈ V, 皆存在唯一 的 c1, . . . , cn∈ R 使得 c1v1+··· + cnvn= v, 則稱 v1, . . . , vn 為 V 的一組 basis (基底).

Definition 5.3.1 很容易讓我們了解定義 basis 的目的, 不過要直接利用這個定義找出 basis 會有困難, 所以我們必需找到和此定義等價卻又較容易處理的條件. 首先若考慮以 v1, . . . , vn∈ Rm 為 column vectors 的 m× n matrix A, 即

A =

 v1 v2 ··· vn

.

由於 v = c1v1+··· + cnvn 等同於 x1= c1, . . . , xn= cn 是聯立方程組 Ax = v 的一組解, 所以對 任意 v∈ V, 存在唯一的 c1, . . . , cn∈ R 使得 c1v1+··· + cnvn= v, 就等同於對任意 v∈ V 聯立 方程組 Ax = v 皆有解且其解唯一. 所以我們馬上有以下的性質.

Proposition 5.3.2. 假設 V 為 Rm 的 subspace 且 v1, . . . , vn∈ V. 令 A 為以 v1, . . . , vncolumn vectors 的 m× n matrix. 則 v1, . . . , vn 是 V 的一組 basis 若且唯若對任意 v∈ V, 聯 立方程組 Ax = v 皆有解且其解唯一.

注意, 並不是只要一個 m× n matrix A 會滿足對任意 v ∈ V, 聯立方程組 Ax = v 皆有解 且解唯一, 則 A 的 column vectors 就會是 V 的一組 basis. 我們還需要 A 的 column vectors 皆在 V 內才行. 也就是說形成 V 的一組 basis 的 vectors 也都必須在 V 中才行. 否則若無 此要求, V 中的所有向量都可以用 Rm 的 standard basis 唯一表示, 那麼 standard basis 會 是 Rm 中所有 subspace 的 basis, 那麼談 basis 就沒甚麼意思了!

當我們實際上有一組向量 v1, . . . , vn, 我們就可利用 Proposition 5.3.2 以及之前學過的聯 立方程組有解且解唯一的等價條件來判斷 v1, . . . , vn 是否為 V 的一組 basis. 不過這個方法

(8)

在處理抽象的一般情況就不好處理了, 所以我們還要另一個比較好處理的等價條件來判斷一 組向量是否為 basis.

首 先 當 v1, . . . , vn ∈ V, 由於 V 為 Rm 的 subspace, 我 們 知 Span(v1, . . . , vn)⊆ V. 又 當 v1, . . . , vn 為 V 的 一 組 basis 時, 由 於 對 任 意 v∈ V 皆存在 c1, . . . , cn∈ R 使得 v = c1v1+··· + cnvn, 亦即對任意 v∈ V 皆滿足 v ∈ Span(v1, . . . , vn). 依此得 V ⊆ Span(v1, . . . , vn), 故此時我們有 V = Span(v1, . . . , vn). 對於有這樣性質的 v1, . . . , vn, 我們給它一個特殊名稱.

Definition 5.3.3. 假設 V 為 Rm 的 subspace. 若 v1, . . . , vn∈ Rm 滿足 Span(v1, . . . , vn) = V , 我們稱 v1, . . . , vn 為 V 的一組 spanning vectors.

注意若 v1, . . . , vn 為 V 的一組 spanning vectors, 則 v1, . . . , vn∈ V. 這是因為 v1, . . . , vn Span(v1, . . . , vn), 故由 V = Span(v1, . . . , vn) 得 v1, . . . , vn∈ V.

另一方面當 v1, . . . , vn 為 V 的一組 basis 時, 由於任意 v∈ V 皆存在唯一的 c1, . . . , cn∈ R 使得 c1v1+··· + cnvn= v, 而又因 V 為 subspace, 我們知 O∈ V, 故當 v = O 時, 存在唯一的 c1, . . . , cn∈ R 使得 c1v1+···+cnvn= O. 然而已知當 c1=··· = cn= 0 時 c1v1+···+cnvn= O, 故由唯一性知, 不可能會有其他的 c1, . . . , cn∈ R 會使得 c1v1+··· + cnvn= O. 換言之, 只有 當 c1=··· = cn= 0 才有可能滿足 c1v1+··· + cnvn= O. 對於有這樣性質的 v1, . . . , vn, 我們 給它一個特殊名稱.

Definition 5.3.4. 假設 v1, . . . , vn∈ Rm. 若 v1, . . . , vn 滿足只有當 c1=··· = cn= 0 才有可能 使得 c1v1+··· + cnvn= O, 我們稱 v1, . . . , vn 為 linearly independent.

注意若令 A 為以 v1, . . . , vn 為 column vectors 的 m× n matrix, 則 v1, . . . , vn 為 linearly independent 就表示 homogeneous linear system Ax = O 沒有 nontrivial solution. 這是因為 若存在 x1= c1, . . . , xn= cn 是 Ax = O 的 nontrivial solution, 表示 c1, . . . , cn 不全為 0 使得 c1v1+··· + cnvn= O, 此與 v1, . . . , vn 為 linearly independent 相矛盾.

關於 spanning vectors 以及 linear independence 的性質, 我們會在下一節更深入討論.

由上面的討論與定義, 我們知若 v1, . . . , vn∈ V 為 V 的一組 basis, 則 v1, . . . , vn 是 V 的 spanning vectors 且為 linearly independent. 事實上這兩個條件和 basis 是等價的, 我們有 以下的定理.

Proposition 5.3.5. 假設 V 為Rm 的 subspace 且 v1, . . . , vn∈ V. 則 v1, . . . , vn 是 V 的一組 basis 若且唯若 v1, . . . , vn 是 V 的 spanning vectors 且為 linearly independent.

Proof. 我們僅剩下要證明若 v1, . . . , vn 是 V 的 spanning vectors 且為 linearly independent 則 v1, . . . , vn 是 V 的一組 basis. 我們想利用 Proposition 5.3.2, 也就是令 A 為以 v1, . . . , vn

為 column vectors 的 m× n matrix, 我們要證明對任意 v ∈ V, 聯立方程組 Ax = v 皆有解且 其解唯一.

首先因 v1, . . . , vn為 V 的一組 spanning vectors, 我們知 v1, . . . , vn∈ V, 亦即 A 的 column vectors 皆在 V 中. 接著依定義 V = Span(v1, . . . , vn) = C(A), 故由 Lemma 5.2.5 知對所 有 v∈ V, 聯立方程組 Ax = v 皆有解. 再加上若 v1, . . . , vn 為 linearly independent, 表示

(9)

5.4. Spanning Vectors and Linear dependence 105

homogeneous linear system Ax = O 沒有 nontrivial solution. 因此由 Theorem 3.4.6 可得聯 立方程組 Ax = v 的解唯一. 故由 Proposition 5.3.2 知此時 v1, . . . , vn 為 V 的一組 basis.  Question 5.5. 假設 V 為 Rm 的 subspace 且 v1, . . . , vn∈ V. 令 A 為以 v1, . . . , vn 為 column vectors 的 m× n matrix. 若 v1, . . . , vn 為 V 的一組 basis, 則 A 的 column space 為何? A 的 nullspace 為何?

5.4. Spanning Vectors and Linear dependence

我們介紹了 spanning vectors 以及 linear independence 的定義. 在這一節中, 我們將進 一步探討它們的性質.

5.4.1. Spanning Vectors. 給定Rm 中的一個 subspace V , 我們知道 v1, . . . , vn∈ Rm, 要成 為 V 的 spanning vectors 的先決條件就是 v1, . . . , vn∈ V. 所以要找的 V 的 spanning vectors, 我們需要在 V 中找到合適的向量再一一加入.

一般來說, 當向量的個數不夠多時, 是無法形成 spanning vectors 的. 例如由 Corollary 3.4.4 我們知, 當 n < m 時,Rm中任意 n 個向量就無法形成Rm的 spanning vectors. 當原來的 向量 v1, . . . , vn 個數不夠, 我們加入新的向量 vn+1 後所形成的 subspace Span(v1, . . . , vn, vn+1) 當然會包含原來的 subspace Span(v1, . . . , vn), 但並不一定會比它大, 下一個定理就是告訴我 們如何可以將原來的 subspace 擴大.

Lemma 5.4.1. 假設 v1, . . . , vn, vn+1∈ Rm. 我們有 Span(v1, . . . , vn)⊆ Span(v1, . . . , vn, vn+1), 且 Span(v1, . . . , vn)̸= Span(v1, . . . , vn, vn+1) 若且唯若 vn+1̸∈ Span(v1, . . . , vn).

Proof. 首先 Span(v1, . . . , vn, vn+1) 是 Rm 的 subspace, 又 v1, . . . , vn∈ Span(v1, . . . , vn, vn+1), 故由式子 (5.1) 知

Span(v1, . . . , vn)⊆ Span(v1, . . . , vn, vn+1). (5.2) 同理若 vn+1∈ Span(v1, . . . , vn),則由 Span(v1, . . . , vn)是Rm的 subspace, 以及 v1, . . . , vn, vn+1 Span(v1, . . . , vn) 得知

Span(v1, . . . , vn, vn+1)⊆ Span(v1, . . . , vn). (5.3) 此時由式子 (5.2), (5.3) 知

Span(v1, . . . , vn) = Span(v1, . . . , vn, vn+1).

故得證當 Span(v1, . . . , vn)̸= Span(v1, . . . , vn, vn+1) 時必有 vn+1̸∈ Span(v1, . . . , vn).

反之, 若 vn+1̸∈ Span(v1, . . . , vn),則因 vn+1∈ Span(v1, . . . , vn, vn+1),得證 Span(v1, . . . , vn)̸=

Span(v1, . . . , vn, vn+1). 

假 設 V 為 Rn 的 subspace. 當 v1, . . . , vn ∈ V 不是 V 的 spanning vectors 時, 由於 Span(v1, . . . , vn)̸= V, 我們可以在 V 中選取 vn+1 滿足 vn+1̸∈ Span(v1, . . . , vn). 此時 Lemma 5.4.1 告訴我們, Span(v1, . . . , vn, vn+1) 會比 Span(v1, . . . , vn) 大, 所以我們有機會這樣一直下 去, 而找到 V 的一組 spanning vectors.

(10)

5.4.2. Linear Dependence. 我們介紹過一組向量為 linearly independent 的定義, 而一 組向量為 linearly dependent 的意思與 linear independent 的意思相反, 我們一般稱為 “線 性相關”.

一組向量為 linearly dependent, 指的是這一組向量之間有關係, 也就是說其中有一個向 量是其他向量的線性組合. 例如假設 v1, . . . , vn 為 linearly dependent, 就表示其中有一個 vi 可以寫成 v1, . . . , vi−1, vi+1, . . . , vn 的線性組合. 每次要提有一個 vi 是其他向量的線性組合有 點麻煩. 不過若我們更進一步觀察, 此時 vi= r1v1+··· + rn−1vn−1+ rn+1vn+1+··· + rnvn, 其 中這些 rj 皆為實數. 所以我們得

r1v1+··· + rn−1vn−1− vi+ rn+1vn+1+··· + rnvn= O.

也就是說我們找到一組不全為 0 的實數 c1, . . . , cn 使得 c1v1+···+cnvn= O. 反之, 若存在一 組不全為 0 的實數 c1, . . . , cn 使得 c1v1+··· + cnvn= O. 我們假設 ci̸= 0, 此時得

vi=−c1

ci

v1+··· +−ci−1

ci

vi−1+−ci+1

ci

vi+1+··· +−cn

ci

vn,

也就是說 vi 可以寫成 v1, . . . , vi−1, vi+1, . . . , vn 的線性組合. 由此可知, 存在一組不全為 0 的 實數 c1, . . . , cn使得 c1v1+···+cnvn= O 就等同於 v1, . . . , vn這一組向量之間有關係. 由於這 個方式來表達線性相關不必敘述其中哪一個向量是其他向量的線性組合, 較為簡潔. 一般就 以這個方式來定義線性相關.

Definition 5.4.2. 假設 v1, . . . , vn∈ Rm, 若存在一組不全為 0 的實數 c1, . . . , cn 使得 c1v1+··· + cnvn= O,

則稱 v1, . . . , vn 為 linearly dependent.

當 v1, . . . , vn∈ Rm 不符合 Definition 5.4.2, 即無法找到一組不全為 0 的實數 c1, . . . , cn

使得 c1v1+··· + cnvn= O, 此 時 表 示 v1, . . . , vn 之間沒有任何的線性關係. 這也就是為 何在 Definition 5.3.4 中將這個情形稱為 linearly independent 的原因. 可以看出 linearly independent 和 linear dependent 是完全相反的概念. 若令 A 為以 v1, . . . , vn 為 column vectors 的 m×n matrix. 我們知道 v1, . . . , vn為 linearly independent 就等同於 homogeneous linear system Ax = O 沒有 nontrivial solution, 所以 v1, . . . , vn 為 linearly dependent 就等同 於 homogeneous linear system Ax = O 有 nontrivial solution.

通常當我們要證明一組向量 v1, . . . , vn 為 linearly independent, 我們有以下兩個方法: 第 一個方法就是先設 c1v1+··· + cnvn= O, 再證明此時 c1, . . . , cn 必全為 0. 第二種方法, 就是 所謂的反證法, 亦即先假設 v1, . . . , vn 為 linearly dependent (也就是說假設存在不全為 0 的 實數 c1, . . . , cn 使得 c1v1+··· + cnvn= O), 再推得矛盾. 第一個方法通常在有具體的向量時 使用, 而處理抽象的情形大多使用第二種方法, 如下面的例子.

Example 5.4.3. 假設 v1, . . . , vn∈ Rm 為 linearly independent. 這表示 v1, . . . , vn 之間沒 有線性關係. 因此可以理解若我們在 v1, . . . , vn 中移除 vn, 則 v1, . . . , vn−1 這一組向量應 仍為 linearly independent. 要證明這一個事實, 若我們用第一個方法, 很難由 c1v1+··· + cn−1vn−1= O 推得 c1, . . . , cn−1 必全為 0. 然而若利用第二個方法, 即假設存在不全為 0 的實

(11)

5.4. Spanning Vectors and Linear dependence 107

數 c1, . . . , cn−1 使得 c1v1+··· + cn−1vn−1= O. 此時令 cn= 0, 我們得到一組不全為 0 的實數 c1, . . . , cn 使得

c1v1+··· + cn−1vn−1+ cnvn= c1v1+··· + cn−1vn−1= O.

此與 v1, . . . , vn∈ Rm 為 linearly independent 的假設相矛盾, 故得證 v1, . . . , vn−1 為 linearly independent. 大家應可以看出, 我們其實是證明了當 v1, . . . , vn−1∈ Rm為 linearly dependent 時, 加入任意的 vn∈ Rn 後, v1, . . . , vn−1, vn 也是 linearly dependent.

在 Example 5.4.3 中, 我們知道當 v1, . . . , vn∈ Rm 這一組向量為 linearly independent 時, 在這一組向量中移除一些向量, 仍不會改變其 linearly independent 的性質. 但若加 入新的向量情況可能改變. 下一個定理就是告訴我們何時加入新的向量仍會保持 linearly independent.

Lemma 5.4.4. 假設 v1, . . . , vn, vn+1∈ Rm. 若已知 v1, . . . , vn 為 linearly independent, 則 v1, . . . , vn, vn+1 為 linearly independent 若且唯若 vn+1̸∈ Span(v1, . . . , vn).

Proof. 如果 vn+1∈ Span(v1, . . . , vn),表示 v1, . . . , vn, vn+1 之間有線性關係, 即為 linearly de- pendent. 故知若 v1, . . . , vn, vn+1 為 linearly independent, 不可能會有 vn+1∈ Span(v1, . . . , vn) 的情形發生. 得證 vn+1̸∈ Span(v1, . . . , vn).

反之, 假設 vn+1̸∈ Span(v1, . . . , vn) 我們要證明 v1, . . . , vn, vn+1 為 linearly independent.

利用反證法, 即設 v1, . . . , vn, vn+1 為 linearly dependent, 也就是說存在一組不全為 0 的實數 c1, . . . , cn, cn+1 使得 c1v1+··· + cnvn+ cn+1vn+1= O. 我們知此時 cn+1 必為 0, 否則由

vn+1= −c1

cn+1

v1+··· + −cn

cn+1

vn,

會得到 vn+1∈ Span(v1, . . . , vn)之矛盾. 故此時因 cn+1= 0, 得 c1, . . . , cn 是一組不全為 0 的實 數使得

c1v1+··· + cnvn= c1v1+··· + cnvn+ cn+1vn+1= O,

亦即 v1, . . . , vn 為 linearly dependent. 這和已知的假設 v1, . . . , vn 為 linearly independent 相 矛盾, 故得證 v1, . . . , vn, vn+1 為 linearly independent.  假設 V 為 Rn 的 subspace, 且 v1, . . . , vn∈ V 為 linearly independent. 如果 v1, . . . , vn是 V 的 spanning vectors, 則我們可以在 V 中選取 vn+1 滿足 vn+1̸∈ Span(v1, . . . , vn). 此時 Lemma 5.4.1 告訴我們 v1, . . . , vn, vn+1 仍保持 linearly independent.

一般來說, 當向量的個數太多時, 就不會是 linearly independent 了. 例如由 Corollary 3.4.8 我們知, 當 n > m 時,Rm 中任意 n 個向量就一定會 linearly dependent. 我們可以將這 個事實推廣到更一般的情況.

Lemma 5.4.5. 假設 w1, . . . , wk∈ Rm. 若 v1, . . . , vn∈ Span(w1, . . . , wk) 且 n > k, 則 v1, . . . , vn

為 linearly dependent.

(12)

Proof. v1, . . . , vn∈ Span(w1, . . . , wk) 表示存在 ci j 其中 1≤ i ≤ k, 1 ≤ j ≤ n 使得 v1 = c1 1w1 + c2 1w2 + ··· + ck 1wk

...

vn = c1 nw1 + c2 nw2 + ··· + ck nwk. 現令 A =

 v 1 v2 ··· v n

,B =

 w 1 w2 ··· w k

 分別為以 v1, . . . , vn 為 column vectors 以及以 w1, . . . , wk 為 column vectors 的矩陣. 又若令 C = [ci j]為 k× n matrix, 則依矩陣乘 法的定義我們有 A = BC. 前面已知 v1, . . . , vn 為 linearly dependent 等同於 homogeneous system Ax = O 有 nontrivial solution. 然 而 由 於 C 為 k× n matrix 且 k < n, 我們得 rank(C)≤ k < n. 也就是說 C 的 rank 小於 C 的 column 的個數. 因此由 Corollary 2.4.8 知 homogeneous system Cx = O 有 nontrivial solution. 也就是說存在 x̸= O 使得 Cx = O. 此 時由 Ax = (BC)x = B(Cx) = BO = O, 得 Ax = O 有 nontrivial solution. 故得證 v1, . . . , vn

linearly dependent. 

Question 5.6. 假設 v1, . . . , vn 為 linearly independent. 若 w1, . . . , wk∈ Span(v1, . . . , vn) 且 k < n, 試證明 Span(w1, . . . , wk)̸= Span(v1, . . . , vn).

5.5. Dimension of subspace

我們定義過什麼是一個 Rm 的 subspace 的 basis, 但還不知道它是否存在. 在這一節 中我們將證明只要是 Rm 中 nonzero subspace 都會有 basis. 並證明形成一個 subspace 的 basis 之向量個數是固定的, 因而定義此個數為這個 subspace 的 dimension. 接著我們會探 討一些與 dimension 相關的性質.

假設 V 為Rm 的 subspace. 若 V ={O}, 此時 O 為 V 中唯一的元素, 所以 O 會是 V 的 spanning vector. 但是 O 本身不是 linearly independent, 這是因為我們可以找到 c̸= 0 使 得 cO = O. 所以此時 V 是沒有 basis 的. 而當 V̸= {O} 時, 表示存在 v1∈ V 且 v1̸= O. 此 時考慮 V1= Span(v1). 若 V1= V , 則知 v1 為 V 的 spanning vector, 又 v1 本身是 linearly independent, 所以知 v1 是 V 的 basis. 而若 V1̸= V, 表示存在 v2∈ V 且 v2̸∈ V1= Span(v1).

此時考慮 V2= Span(v1, v2). 注意由 Lemma 5.4.1, 我們知 V1⊆ V2 且 V1̸= V2, 也就是說 V2

比 V1 大. 另一方面 Lemma 5.4.4 也告訴我們 v1, v2 為 linearly independent. 現若 V2= V , 則知 v1, v2 為 V 的 spanning vectors, 再加上它們為 linearly independent, 我們得 v1, v2是 V 的一組 basis. 而若 V2̸= V, 則繼續上面的步驟, 因此我們有以下的定理.

Theorem 5.5.1. 假設 V 為Rm的 subspace 且 V ̸= {O}, 則存在 v1, . . . , vn∈ V, 其中 n ≤ m, 為 V 的一組 basis.

Proof. 我們延續前面的符號, 當 V2̸= V 時, 繼續處理下去. 當然了, 因為 m 不知有多大, 我 們不可能如前這樣一步一步講下去, 這裡就可以用數學歸納法了. 我們必須說明按照前面的 方法繼續下去, 在第 i 次時找出的 vectors v1, . . . , vi 皆為 linearly independent, 而且這個步 驟一定會停止, 也就是說一直下去一定會有一個 n 滿足 n≤ m 且 Span(v1, . . . , vn) = V .

(13)

5.5. Dimension of subspace 109

利用數學歸納法, 現假設第 k 次時所得的 v1, . . . , vk 為 linearly independent (別忘了我們 知 k = 1 成立). 令 Vk= Span(v1, . . . , vk). 若 Vk= V , 表示 v1, . . . , vk 為 V 的 spanning vectors, 再加上它們為 linearly independent, 得證 v1, . . . , vk 為 V 的一組 basis. 而若 Vk ̸= V, 則由 Vk ⊆ V 知必存在 vk+1∈ V 且 vk+1̸∈ Vk. 此時考慮 v1, . . . , vk, vk+1, 由 v1, . . . , vk 為 linearly independent 且 vK+1̸∈ Vk 利用 Lemma 5.4.4 得知 v1, . . . , vk, vk+1 為 linearly independent.

我們用數學歸納法證得了用這個步驟所得的 vectors 為 linearly independent.

接著我們要證明, 依這個步驟一定會有 n≤ m, 使得 Span(v1, . . . , vn) = V . 現假設到 第 m 次時, 仍無法得 Span(v1, . . . , vm) = V , 依前面數學歸納法我們知 v1, . . . , vm 為 linearly independent. 此時存在 vm+1 ∈ V 且 vm+1̸∈ Span(v1, . . . , vm), 故再次由 Lemma 5.4.4 知 v1, . . . , vm, vm+1 為 linearly independent. 然而 v1, . . . , vm+1∈ V 所以當然 v1, . . . , vm+1∈ Rm, 因 此 由 Corollary 3.4.8 知 v1, . . . , vm+1 這 m + 1 個 向 量 必 為 linearly dependent. 此 與 v1, . . . , vm, vm+1 為 linearly independent 相矛盾. 矛盾發生的原因在於我們假設到第 m 次 時仍無法得 Span(v1, . . . , vm) = V , 因此知一定存在 n≤ m 使得 v1, . . . , vn 為 V 的 spanning vectors. 再 加 上 已 證 得 v1, . . . , vn 為 linearly independent, 得 證 v1, . . . , vn 為 V 的 一 組

basis. 

從 Theorem 5.5.1 的證明我們也知道, 若 v1. . . vk∈ V 且為 linearly independent, 則我們 可以將 v1, . . . , vk 擴大成 V 的一組 basis. 也就是說若 v1, . . . , vk 不是 V 的 spanning vectors, 我們便可利用前述的方法, 找到 vk+1, . . . , vn ∈ V 使得 v1, . . . , vk, vk+1, . . . , vn 為 V 的一組 basis.

Theorem 5.5.1 告訴我們的是 basis 的存在性, 接下來我們要探討的是和 basis 有關的唯 一性. 當然了我們很容易看出一個Rm 的 subspace 其 basis 是不唯一的. 例如

[ 1 0

] ,

[ 0 1

] 和

[ 1 1

] ,

[ −1 1

]

都是R2 的 basis.

不過若 v1, . . . , vn 是 Rm 的一組 basis, 由 Corollary 3.4.4 知如果 n < m, 則 v1, . . . , vn 不 可能是 Rm 的 spanning vectors, 故得 n≥ m. 然而若 n > m, 由 Corollary 3.4.8 知 v1, . . . , vn 不可能為 linearly independent, 故知 n = m. 也就是說所有Rm 的 basis 皆由 m 個向量所組 成. 我們可以將此結果推廣成以下之定理.

Theorem 5.5.2. 假設 V 為Rm 的 subspace. 若 v1, . . . , vn 和 w1, . . . , wk 皆為 V 的 basis, 則 n = k.

Proof. 我們利用反證法, 假設 n̸= k. 不失一般性, 我們假設 n > k. 此時由於 w1, . . . , wkV 的 spanning vectors, 故 v1, . . . , vn∈ V = Span(w1, . . . , wk). 因為 n > k 利用 Lemma 5.4.5 得 v1, . . . , vn 為 linearly dependent. 此與 v1, . . . , vn 為 V 的 basis 相矛盾. 矛盾發生於我們假

設 n̸= k, 故得證 n = k. 

(14)

Theorem 5.5.2 告訴我們組成 V 的一組 basis 的向量個數是固定的. 也就是說若找到 n 個向量形成 V 的 basis, 則 V 其他的 basis 一定也會是由 n 個向量所組成. 由於這個重要的 結果我們有以下的定義.

Definition 5.5.3. 假設 V 是Rm 的 subspace. 組成 V 的一組 basis 的向量個數稱為 V 的 dimension (維度), 用 dim(V ) 來表示.

例如Rm 的 basis 皆由 m 個向量所組成, 所以我們有 dim(Rm) = m.

我們曾提過由 Theorem 5.5.1 的證明, 我們知道 V 中任一組 linearly independent 的向 量都可以依保持 linearly independent 的方式一個一個加入向量直至形成 spanning vectors 為止. 另一方面, V 中的任一組 spanning vectors, 我們也可以依保持 spanning vectors 的方 式一個一個將不需要的向量移除直至它們為 linearly independent 為止. 利用這樣的概念, 我們有以下的定理.

Proposition 5.5.4. 假設 V 為 Rm 的 subspace 且 v1, . . . , vn∈ V.

(1) 若 v1, . . . , vn 為 V 的 spanning vectors, 則 dim(V )≤ n. 特別的, 若此時 v1, . . . , vnlinearly dependent, 則 dim(V ) < n.

(2) 若 v1, . . . , vn 為 linearly independent, 則 dim(V )≥ n. 特別的, 若此時 v1, . . . , vn是 V 的 spanning vectors, 則 dim(V ) > n.

Proof. 假設 dim(V ) = k, 且令 w1, . . . , wk 為 V 的一組 basis.

(1) 若 v1, . . . , vn 為 V 的 spanning vectors, 表示 Span(v1, . . . , vn) = V . 由於 w1, . . . , wkV 的一組 basis, 故有 w1, . . . , wk∈ Span(v1, . . . , vn) 且 w1, . . . , wk 為 linearly independent. 現 若 k > n, 則 Lemma 5.4.5 告訴我們 w1, . . . , wk 為 linearly dependent. 造成矛盾, 故得證 dim(V ) = k≤ n. 現若 v1, . . . , vn 為 linearly dependent, 表示 v1, . . . , vn 中有一個向量是其 他向量的線性組合. 不失一般性我們假設此向量為 vn, 亦即 vn∈ Span(v1, . . . , vn−1). 此時 Lemma 5.4.1 告訴我們 Span(v1, . . . , vn−1) = Span(v1, . . . , vn−1, vn) = V , 亦即 v1, . . . , vn−1 為 V 的 spanning vectors. 套用剛才已證的結果知 dim(V )≤ n − 1, 故得證 dim(V) < n.

(2) 假設 v1, . . . , vn∈ V 為 linearly independent. 因 w1, . . . , wk 為 V 的一組 basis, 故有 Span(w1, . . . , wk) = V , 亦即 v1, . . . , vn∈ Span(w1, . . . , wk). 現若 n > k, 由 Lemma 5.4.5 會得到 v1, . . . , vn∈ V 為 linearly dependent 之矛盾. 故得證 n ≤ k = dim(V). 現若 v1, . . . , vn 不是 V 的 spanning vectors, 表示存在 vn+1∈ V 但 vn+1̸∈ Span(v1, . . . , vn) 此時 Lemma 5.4.4 告訴 我們 v1, . . . , vn, vn+1 仍為 linearly independent. 套用剛才已證的結果知 dim(V )≥ n + 1, 故

得證 dim(V ) > n. 

當我們要說明 v1, . . . , vn 為 V 的一組 basis, 依定義我們必須檢查 v1, . . . , vn 為 V 的 spanning vectors 以及它們是 linearly independent 這兩個條件. 不過若我們知道 dim(V ) 恰 好是 n, 下一個定理告訴我們僅要檢查 spanning vectors 或 linearly independent 其中一項 就可.

(15)

5.5. Dimension of subspace 111

Corollary 5.5.5. 假設 V 為 Rm 的 subspace 且 v1, . . . , vn∈ V. 下列的敘述為等價.

(1) v1, . . . , vn 為 V 的一組 basis.

(2) dim(V ) = n 且 v1, . . . , vn 為 V 的 spanning vectors.

(3) dim(V ) = n 且 v1, . . . , vn 為 linearly independent.

Proof. (1)⇒ (2): 由 v1, . . . , vn 為 V 的一組 basis, 我們知 V 的 basis 需由 n 個向量所組成, 故得 dim(V ) = n. 又組成 basis 的向量需為 spanning vectors, 故 v1, . . . , vn 為 V 的 spanning vectors. 得證 (1)⇒ (2).

(2)⇒ (3): 因 v1, . . . , vn 為 V 的 spanning vectors, 所 以 由 Proposition 5.5.4 (1) 知 dim(V )≤ n. 現若 v1, . . . , vn 不是 linearly independent, 則再由 Proposition 5.5.4 (1) 會得 到 dim(V ) < n. 此與假設 dim(V ) = n 矛盾, 故知 v1, . . . , vn 為 linearly independent. 得證 (2)⇒ (3).

(3)⇒ (1): 因 v1, . . . , vn為 linearly independent, 所以由 Proposition 5.5.4 (2) 知 dim(V )≥ n. 現若 v1, . . . , vn不是 V 的 spanning vectors, 則再由 Proposition 5.5.4 (2) 會得到 dim(V ) >

n. 此與假設 dim(V ) = n 矛盾, 故知 v1, . . . , vn 為 V 的 spanning vectors. 得證 v1, . . . , vn 為 V

的一組 basis, 故知 (3)⇒ (1). 

回顧 Theorem 5.5.1 告訴我們若 V 為Rm的 subspace, 則組成 V 的 basis 的向量個數會 小於等於 m, 所以我們有 dim(V )≤ m, 也就是說 dim(V) ≤ dim(Rm). 這個結果可以推廣到以 下更一般的狀況.

Corollary 5.5.6. 假設 V,W 皆為 Rm 的 subspaces 且 V ⊆ W, 則 dim(V) ≤ dim(W). 此時 dim(V ) = dim(W ) 若且唯若 V = W .

Proof. 假設 dim(V ) = n 且 v1, . . . , vn 為 V 的 basis. 由於 v1, . . . , vn∈ V 且 V ⊆ W, 我們 得 v1, . . . , vn∈ W. 現因 v1, . . . , vn∈ W 為 linearly independent 故由 Proposition 5.5.4 (2) 得 dim(V ) = n≤ dim(W).

如果 V = W , 自然由 dimension 的唯一性知 dim(V ) = dim(W ). 反之, 若 dim(V ) = dim(W ) 但 V ̸= W. 此時表示 v1, . . . , vn∈ W 為 linearly independent 但不是 W 的 spanning vectors, 故由 Proposition 5.5.4 (2) 得 dim(V ) = n < dim(W ). 此與假設 dim(V ) = dim(W ) 不合, 得證

V = W . 

注意一般來說 dim(V ) = dim(W ) 並不代表 V = W . 例如在R2 中若 v̸= O, 則 Span(v) 就 是 dimension 為 1 的 subspace. 然而只要 w̸= O 且和 v 不平行, 就會有 Span(v) ̸= Span(w), 但它們皆為 dimension 1 的 subspace. 所以 Corollary 5.5.6 中我們需要 V ⊆ W 這個前提才 能由 dim(V ) = dim(W ) 得到 V = W .

(16)

5.6. More on Column Space and Nullspace

給定一個矩陣, 我們將介紹如何找到該矩陣的 column space, row space 以及 nullspace 的 basis. 我們會發現 column space 和 row space 的 dimension 皆相同且等於矩陣的 rank.

最後我們再探討如何得到一般 subspace 的 basis.

一般來說要找到Rm的 subspace V 的一組 basis, 我們會先找 V 的一組 spanning vectors.

然後在其中再挑出仍保持為 spanning vectors 且為 linearly independent 的一組向量. 當只 有兩個向量時, 我們可以馬上由它們是否為平行來判斷是否為 linearly independent. 不過通 常有三個以上的向量時, 並不容易直接看出哪些向量會 linearly independent, 除非如以下的 例子.

Example 5.6.1. 考慮

v1=



 0 3 0 1



,v2=



 2

−5 0 0



,v3=



 0 7

−1 0



.

要說明 v1, v2, v3 為 linearly independent, 我們必須說明只有當 c1= c2= c3= 0 時, 才會使 得 c1v1+ c2v2+ c3v3= O. 然而

c1v1+ c2v2+ c3v3= c1



 0 3 0 1



 + c2



 2

−5 0 0



 + c3



 0 7

−1 0



 =



2c2 3c1− 5c2+ 7c3

−c3

c1



.

所以要使得 c1v1+ c2v2+ c3v3= O, 就必須讓 c1v1+ c2v2+ c3v3 的 1-st entry 2c2, 3-rd entry

−c3 以及 4-th entry c1 皆為 0, 即 c1= c2= c3= 0. 得證只有當 c1= c2= c3= 0 時, 才會使 得 c1v1+ c2v2+ c3v3= O, 故知 v1, v2, v3 為 linearly independent.

從 Example 5.6.1 我們可以看出來, 當 v1, . . . , vn 中每一個向量 vi 都可以找到一個 entry 不為 0, 而其他 vj 在該 entry 皆為 0, 則 v1, . . . , vn 為 linearly independent. (例如 Example 5.6.1 中 v1 的 4-th entry 為 1, 而 v2, v3 的 4-th entry 為 0; v2 的 1-st entry 為 2, 而 v1, v3的 1-st entry 為 0; v3 的 3-rd entry 為−1, 而 v1, v2的 3-th entry 為 0, 就符合這個條件). 此時 假設每個 vi 的那個非 0 的特殊 entry 為 ai, 由於 c1v1+··· + cnvn 在該位置的 entry 為 ciai, 所以若 c1v1+··· + cnvn= O, 則必 ciai = 0, 得每一個 ci 皆為 0. 因此 v1, . . . , vn 為 linearly independent.

當 A 為 m×n matrix, A 的 nullspace 就是 homogeneous linear system Ax = O 的所有解 所成的集合. 由於我們已經知道如何找到 Ax = O 的解, 所以我們就從如何找 nullspace 的 basis 開始.

回顧我們找 Ax = O 的解集合的方法為, 利用 elementary row operations 將 A 化為 echelon form (或 reduced echelon form) A. 此時 Ax = O 的解集合就是 Ax = O 的解集合, 也就是說 A 和 A 有相同的 nullspace. 接著我們找出 free variable, 再將每個 free variable 代入任意的實數, 從下往上推得出一組解. 注意在這個過程中, pivot variable 的值會由 free

(17)

5.6. More on Column Space and Nullspace 113

variables 的值所決定, 所以只要定出 free variable 的值, 就可以得到一組解. 現假設 free variables 為 xi1, . . . , xik. 對每一個 j = 1, . . . , k, 我們考慮 xij= 1, 其他 free variable 為 0 的情 形, 令這樣推得出來的解為 vj. 由於 vj 的 ij-th entry 為 1, 而其他 vij′ 的 ij-th entry 為 0, 由 前討論知 v1, . . . , vk 為 linearly independent. 而對於任意 r1, . . . , rk∈ R, r1v1+··· + rkvk 就等 同於是將每個 free variables xi1, . . . , xik 分別代 xi1 = r1, . . . , xik= rk 所得的解. 換言之每個解 都可以寫成 r1v1+··· + rkvk 的形式, 也就是說 v1, . . . , vk 是 A 的 nullspace 的一組 spanning vectors. 我們證明了 v1, . . . , vk 就是 A 的 nullspace 的一組 basis, 也因此得知 A 的 nullspace 的 dimension 為 free variables 的個數, 亦即 A 的 column 的個數減去 pivot 的個數, 因此有 以下之結果.

Proposition 5.6.2. 假設 A 為 m× n matrix. 若利用 row operations 將 A 化為 echelon form A 後, A 的 pivot 個數為 r, 則 A 的 nullspace 的 dimension 為 n− r. 假設 Ax = O 的 free variables 為 xi1, . . . , xik. 對每一個 j = 1, . . . , k, 我們取 xij= 1, 其他 free variable 為 0, 令這樣推得出來的解為 vj. 則 v1, . . . , vk 為 A 的 nullspace 的一組 basis.

由於一個矩陣的 nullspace 不會因為其化為 echelon form 的不同而改變, 而且 nullspace 的 dimension 是固定的, 所以 Proposition 5.6.2 也對於 “不管一個矩陣利用 row operations 所化得的 echelon 為何, 其 pivot 的個數必相同” 這個事實給了另一個證明.

Example 5.6.3. 考慮 A 的 nullspace, 其中

A =



2 1 1 0 0 0 1 0 0 1 0 0 1 1 1 0 1 2

1 2 2 −2 1 2



.

將 A 的 2-nd row 分別乘上 −2, −1, −1 加至 1-st, 3-rd 和 4-th row, 然後再將 1-st, 2-nd rows 交換得



1 0 0 1 0 0

0 1 1 −2 0 0

0 1 1 −1 1 2

0 2 2 −3 1 2



.

接著將 2-nd row 分別乘上−1,−2 加至 3-rd 和 4-th row 得



1 0 0 1 0 0

0 1 1 −2 0 0

0 0 0 1 1 2 0 0 0 1 1 2



.

最後將 3-rd row 乘上 −1 加至 4-th row, 得 echelon form



1 0 0 1 0 0

0 1 1 −2 0 0

0 0 0 1 1 2 0 0 0 0 0 0



.

(18)

我們就是要找到 homogeneous linear system

x1 +x4 = 0

x2 +x3 −2x4 = 0

+x4 +x5 +2x6 = 0

所有的解. 由 echelon form 看出 x1, x2, x4 為 pivot variable, x3, x5, x6 為 free variable. 現令 x6= 1, x5= 0, x3= 0, 解出 x4=−2, x2=−4, x1= 2, 而令 x6= 0, x5= 1, x3= 0 解出 x4=−1, x2=−2, x1= 1, 最後令 x6= 0, x5= 0, x3= 1 解出 x4= 0, x2=−1, x1= 0. 故得

v1=







 2

−4 0

−2 0 1







, v2=







 1

−2 0

−1 1 0







, v3=







 0

−1 1 0 0 0







為 A 的 nullspace 的一組 basis. 事實上, 若令 x6, x5, x3 分別為任意的實數 r, s,t, 則可得 x4=−2r − s, x2=−4r − 2s −t, x1= 2r + s. 也就是說 A 的 nullspace 中的向量都可以寫成







2r + s

−4r − 2s −t t

−2r − s s r







= r







 2

−4 0

−2 0 1







+ s







 1

−2 0

−1 1 0







+ t







 0

−1 1 0 0 0







= rv1+ sv2+ tv3.

故知 v1, v2, v3 為 A 的 nullspace 的 spanning vectors, 又很容易看出 v1, v2, v3 為 linearly independent, 得證 v1, v2, v3 為 A 的 nullspace 的一組 basis.

Question 5.7. 試將 Example 5.6.3 中的 A 化為 reduced echelon form. 是否更容易看出 nullspace 的一組 basis 呢?

接下來我們來看如何找 matrix A 的 column space 的 basis. 首先一個直接的想法就是 A 的 column space, 就是使得聯立方程組 Ax = v 有解的 v 所成的集合. 所以我們只要找出這 些 v, 就可以得到 A 的 column space. 過去我們曾介紹過以 A 為係數矩陣的聯立方程組的 constrain equations 就可以找到這些 v. 不過這個方法有點麻煩, 等一下我們會給一個更好 的方法, 這裡就僅用例子回顧一下這個方法.

Example 5.6.4. 考慮 Example 5.6.3 中的 4×6 matrix A. 我們要找出 A 的 column vectors 的一組 basis. 假設 b 為 A 的 column space 裡的一個向量, 我們知道此時 Ax = b 有解, 因 此令

b =



b1

b2

b3

b4



,

參考文獻

相關文件

elementary row operations reduced echelon form,. echelon form Gauss

augmented matrix [A |I 4 ], elementary row operation A

, A echelon form ( reduced echelon form) pivot column vectors.. elementary row operations column

若我們能知道有 k 個 row 的矩陣一 定能利用 elementary row operations 化為 echelon form 這個事實且利用這個事實證得有 k + 1 個 row 的矩陣一定能利用 elementary row

elementary row operations reduced echelon form,.. echelon form Gauss

利用這種說法一個 vector space 的 一組 basis 利用 Proposition 1.5.4 便可以說成就是該 vector space 中所有 spanning set 的 minimal element; 也可以說是該 vector

反之, 有了 parametric equation, 我們可利用這些在 R n 的 direction vectors, 利 用解聯立方程組的方法求出和這些 direction vectors 垂直的 normal vectors,

由於 reduced echelon form 每一個 row 除了該 row 的 pivot 外, 只剩 free variables (其他的 pivot variable 所在的 entry 皆為 0), 所以可以很快地看出解的形式.. 而我們又知