Linearly Dependence and Independence

利用 Lemma 2.4.6, 我們馬上可知若 S₁⊆ S2, 則 Span(S₁)⊆ Span(S2). 這當然可直接用 定義來證明, 不過利用 Lemma 2.4.6, 我們就可以直接套用, 而省去許多繁瑣的論證. 這是 因為 Span(S2) 是 V 的 subspace 又 S₁⊆ S2⊆ Span(S2), 故套用 Lemma 2.4.6 (考慮 S = S₁, W = Span(S₂) 的情形) 得證 Span(S₁)⊆ Span(S2). 利用這個概念我們也可以很快的處理 Span 對兩集合交集及聯集的影響.

當 S₁, S2 是 V 的 subsets, 我們可以考慮 Span(S1∩ S2) 和 Span(S1)∩ Span(S2) 的關係.

由於 S₁∩ S2⊆ S1, 我們有 Span(S₁∩ S2)⊆ Span(S1). 同理 Span(S₁∩ S2)⊆ Span(S2). 由於 Span(S1∩ S2) 同時包含於 Span(S1) 和 Span(S2) 可推得 Span(S1∩ S2)⊆ Span(S1)∩ Span(S2).

不過反向 Span(S1∩ S2)⊇ Span(S1)∩ Span(S2) 就不一定成立, 主要原因是取集合的交集 遠比 Span 後再取交集小的多. 例如在 R² 上考慮 S₁ ={(1,1)}, S2={(2,2)}. 我們有 S1∩S2= /0 所以 Span(S1∩S2) = Span( /0) ={0}; 不過 Span(S1) ={(r,r) | r ∈ R} = Span(S2),所 以 Span(S₁∩ S2) ={0} ( Span(S1)∩ Span(S2).

接下來我們看聯集的情況. 因為 S₁⊆ S1∪S2 且 S₂⊆ S1∪S2, 我們有 Span(S1)⊆ Span(S1∪ S₂) 以 及 Span(S₂)⊆ Span(S1∪ S2), 所 以 當 然 Span(S₁)∪ Span(S2)⊆ Span(S1∪ S2). 不 過 Span(S1)∪Span(S2)比起 Span(S1∪S2)太小了, 事實上我們知道 Span(S1)∪Span(S2)在大多數 的情況甚至不是 subspace (Proposition 2.3.6). 不過 Proposition 2.3.8 告訴我們 Span(S₁) + Span(S2)是包含 Span(S1)和 Span(S2)最小的 subspace, 因此由 Span(S1∪ S2) 包含 Span(S1) 和 Span(S₂) 且是 subspace 得 Span(S₁) + Span(S₂)⊆ Span(S1∪ S2). 另一方面 Span(S₁∪ S2) 是包含 S₁∪ S2 最小的 subspace, 然而 S₁⊆ Span(S1) + Span(S₂) 且 S₂⊆ Span(S1) + Span(S₂), 再加上 Span(S1) + Span(S2)是 subspace, 所以我們也有 Span(S1∪ S2)⊆ Span(S1) + Span(S2).

因此證得 Span(S₁∪ S2) = Span(S₁) + Span(S₂). 我們總結以上的結果如下.

Proposition 2.4.7. 假設 V 為 vector space over F 且 S1, S₂ 皆為 V 的 subsets.

(1) 若 S₁⊆ S2, 則 Span(S₁)⊆ Span(S2).

(2) Span(S₁∩ S2)⊆ Span(S1)∩ Span(S2).

(3) Span(S₁∪ S2) = Span(S₁) + Span(S₂).

2.5. Linearly Dependence and Independence 37

解 v₁, v₂ 就夠了. 當 v₃∈ Span(v1, v₂) 表示存在 r₁, r₂∈ F 使得 v3= r₁v₁+ r₂v₂, 此時表示 v₃ 和 v₁, v₂, 是有關係的, 我們稱 v₁, v₂, v₃ 是 linearly dependent (線性相依或線性相關). 不過 要注意 v₃∈ Span(v1, v2)並不表示 v₁∈ Span(v2, v3). 我們看以下的例子.

Example 2.5.1. 在R² 中考慮 v₁= (1, 0), v2= (1, 1), v3= (2, 2). 我們有 v3∈ Span(v1, v2), 因為 v₃= (2, 2) = 0(1, 0) + 2(1, 1) = 0v₁+ 2v₂ ∈ Span(v1, v₂). 不過 v₁̸∈ Span(v2, v₃), 因為 (1, 0) 無法寫成 (1, 1) 和 (2, 2) 的線性組合.

因此當我們要檢查 v₁, v₂, v₃ 之間是否有線性關係, 不能只檢查是否 v₃∈ Span(v1, v₂) 還要檢查是否 v₁∈ Span(v2, v3) 以及 v₂∈ Span(v1, v3). 不過分開檢查這三種情況有點麻 煩. 我們再深入看一下這三種情況代表甚麼. 當 v₁∈ Span(v2, v₃), 表示存在 r, s∈ F 使得 v₁= rv₂+ sv₃, 也就是說 1v1+ (−r)v2+ (−s)v3= 0. 同理, v₂∈ Span(v1, v₃)和 v₃∈ Span(v1, v₂) 分別表示存在 r^′, s^′∈ F 和 r^′′, s^′′∈ F 分別使得 v2= r^′v₁+ s^′v₃ 和 v₃= r^′′v₁+ s^′′v₂. 也就是說 當 (1) v₁∈ Span(v2, v₃), (2) v₂∈ Span(v1, v₃) 或 (3) v₃∈ Span(v1, v₂) 其中有一個發生時, 我 們會有相對應的

1v1 + (−r)v2 + (−s)v3 = 0 (1) (−r^′)v1 + 1v2 + (−s^′)v3 = 0 (2) (−r^′′)v1 + (−s^′′)v2 + 1v3 = 0 (3)

這三種可能的情況發生, 其中 r, s, r^′, s^′, r^′′, s^′′∈ F. 不過不管 (1), (2), (3) 哪一種情況發生, 總有一個 v_i 其前面的係數是 1, 不為 0. 也就是說我們可找到不全為 0 的 c1, c2, c3 使得 c₁v₁+ c₂v₂+ c₃v₃= 0. 反之若能找到 c₁, c₂, c₃ 不全為 0 使得 c₁v₁+ c₂v₂+ c₃v₃= 0, 我們 就可將前面係數 c_i 不等於 0 的 vi 寫成另兩個向量的線性組合. 例如若 c₁̸= 0, 則可得 v₁= (−c^′₁c₂)v₂+ (−c^′₁c₃)v₃, 其中 c^′₁為 c₁ 的乘法反元素 (因 c₁̸= 0). 由此可知, 存在 c1, c₂, c₃ 不全為 0 使得 c1v₁+ c₂v₂+ c₃v₃= 0 和前面所提 (1), (2), (3) 三種情況是等價的, 因此我們 用此方法來定義 v₁, v2, v3 為 linearly dependent.

讓我們把以上概念推廣到任意多個向量的情況. 我們稱一組向量為 linearly dependent, 指的是這一組向量之間有關係, 也就是說其中有一個向量是其他向量的線性組合. 例如假設 v₁, . . . , v_n 為 linearly dependent, 就表示其中有一個 v_i 可以寫成 v₁, . . . , v_i−1, v_i+1, . . . , v_n 的線 性組合. 每次要提有一個 v_i 是其他向量的線性組合有點麻煩. 不過若我們更進一步觀察, 此 時 v_i= r₁v₁+··· + rn−1v_n−1+ r_n+1v_n+1+··· + rnv_n, 其中這些 r_j 皆為實數. 所以我們得

r₁v₁+··· + rn−1v_n−1+ (−1)vi+ r_n+1v_n+1+··· + rnv_n= 0.

也就是說我們找到一組不全為 0 的實數 c₁, . . . , c_n 使得 c₁v₁+··· + cnv_n= 0. 反之, 若存在一 組不全為 0 的實數 c1, . . . , c_n 使得 c₁v₁+··· + cnv_n= 0. 我們假設 c_i̸= 0, 此時令 c^′_i 為 c_i 的 乘法反元素 (即 c_ic^′_i= 1), 可得

v_i= (−c1c^′_i)v1+··· + (−ci−1c^′_i)vi−1+ (−ci+1c^′_i)vi+1+··· + (−cnc^′_i)vn,

也就是說 v_i 可以寫成 v₁, . . . , vi−1, vi+1, . . . , vn 的線性組合. 由此可知, 存在一組不全為 0 的 實數 c₁, . . . , c_n 使得 c₁v₁+··· + cnv_n= 0 就等同於 v₁, . . . , v_n 這一組向量之間有關係. 由於這

個方式來表達線性相關不必敘述其中哪一個向量是其他向量的線性組合, 較為簡潔. 一般就 以這個方式來定義線性相關.

Definition 2.5.2. 假設 V 是一個 vector space overF, 且 v1, . . . , v_n∈ V, 若存在一組不全為 0 的 c1, . . . , cn∈ F 使得

c₁v₁+··· + cnv_n= 0,

則稱 v₁, . . . , vn為 linearly dependent (線性相依或線性相關). 反之, 若 v₁, . . . , vn不是 linearly dependent, 則稱為 linearly independent (線性獨立).

這個定義可以推廣到 V 的任意子集合. 若 S⊆ V, 且 S 中存在相異 v1, . . . , v_n∈ S 使得 v₁, . . . , vn 為 linearly dependent, 則稱集合 S 為 linearly dependent; 反之, 若 S 不是 linearly dependent, 表示任意的一組相異向量 v₁, . . . , v_n∈ S 皆為 linearly independent, 則稱 S 為 linearly independent. 在此定義之下空集合 /0 是 linearly independent, 因為我們無法在 /0 中找到任何 v₁, . . . , v_n 是 linearly dependent. 另一方面, 若 0∈ S, 則 S 一定是 linearly dependent. 因為 0 本身一個元素就是 linearly dependent. 原因是 10 = 0, 所以我們找到一 個係數不為 0 的 0 的線性組合. 因此依定義 S 為 linearly dependent.

一般來說, 除了上述 S = /0 和 0∈ S 這兩種情況外, 要說明 S 是否為 linearly independent 並不是馬上能看出來的. 通常當我們要證明一組向量 v₁, . . . , v_n 為 linearly independent, 我 們有以下兩個方法: 第一個方法就是先設 c₁v₁+··· + cnv_n= 0, 再證明此時 c1, . . . , cn 必全為 0. 第二種方法, 就是所謂的反證法, 亦即先假設 v₁, . . . , v_n 為 linearly dependent (也就是說 假設存在不全為 0 的 c1, . . . , c_n∈ F 使得 c1v₁+··· + cnv_n= 0), 再推得矛盾. 第一個方法通常 在有具體的向量時使用, 而處理抽象的情形大多使用第二種方法, 如下面的例子.

Example 2.5.3. 假設 V 為 vector space over F 且 v1, . . . , v_n∈ V 為 linearly independent.

這表示 v₁, . . . , vn 之間沒有線性關係. 因此可以理解若我們在 v₁, . . . , vn 中移除 v_n, 則 v₁, . . . , v_n−1 這一組向量應仍為 linearly independent. 要證明這一個事實, 若我們用第一個方 法, 很難由 c₁v₁+··· + cn−1v_n−1= 0 推得 c1, . . . , cn−1 必全為 0. 然而若利用第二個方法, 即 假設存在不全為 0 的實數 c₁, . . . , c_n−1 使得 c₁v₁+··· + cn−1v_n−1= 0. 此時令 c_n= 0, 我們得 到一組不全為 0 的實數 c1, . . . , c_n 使得

c₁v₁+··· + cn−1v_n−1+ c_nv_n= c₁v₁+··· + cn−1v_n−1= 0.

此與 v₁, . . . , v_n∈ R^m 為 linearly independent 的假設相矛盾, 故得證 v₁, . . . , v_n−1 為 linearly independent. 大家應可以看出, 我們其實是證明了當 v1, . . . , vn−1∈ R^m為 linearly dependent 時, 加入任意的 v_n∈ Rⁿ 後, v₁, . . . , v_n−1, v_n 也是 linearly dependent.

Question 2.8. 假設 V 為 vector space over F 且 S ⊆ S^′⊆ V. 試說明以下的對錯.

(1) 若 S 為 linearly independent, 則 S^′ 為 linearly independent.

(2) 若 S 為 linearly dependent, 則 S^′ 為 linearly dependent.

(3) 若 S^′ 為 linearly independent, 則 S 為 linearly independent.

(4) 若 S^′ 為 linearly dependent, 則 S 為 linearly dependent.

2.5. Linearly Dependence and Independence 39

在 Example 2.5.3 中, 我們知道當 v₁, . . . , v_n∈ V 這一組向量為 linearly independent 時, 在這一組向量中移除一些向量, 仍不會改變其 linearly independent 的性質. 但若加入 新的向量情況可能改變. 下一個定理就是告訴我們何時加入新的向量仍會保持 linearly independent.

Lemma 2.5.4. 假設 V 為 vector space overF 且 v1, . . . , vn, vn+1∈V. 若已知 v1, . . . , vn為 lin-early independent, 則 v₁, . . . , v_n, v_n+1為 linearly independent 若且唯若 v_n+1̸∈ Span(v1, . . . , v_n).

Proof. 如果 vn+1∈ Span(v1, . . . , vn),表示 v₁, . . . , vn, vn+1 之間有線性關係, 即為 linearly de-pendent. 故知若 v₁, . . . , v_n, v_n+1 為 linearly independent, 不可能會有 v_n+1∈ Span(v1, . . . , v_n) 的情形發生. 得證 v_n+1̸∈ Span(v1, . . . , v_n).

反之, 假設 v_n+1̸∈ Span(v1, . . . , v_n) 我們要證明 v₁, . . . , v_n, v_n+1 為 linearly independent.

利用反證法, 即設 v₁, . . . , vn, vn+1 為 linearly dependent, 也就是說存在一組不全為 0 的實數 c₁, . . . , c_n, c_n+1 使得 c₁v₁+···+cnv_n+ c_n+1v_n+1= 0. 我們知此時 c_n+1 必為 0, 否則由 c_n+1̸= 0 知存在 c^′_n+1∈ F 使得 cn+1c^′_n+1= 1 此時

v_n+1= (−c1c^′_n+1)v₁+··· + (−cnc^′_n+1)v_n,

會得到 v_n+1∈ Span(v1, . . . , v_n) 之矛盾. 因此由 c_n+1= 0, 得 c₁, . . . , c_n 不全為 0 且使得 c₁v₁+··· + cnv_n= 0,

亦即 v₁, . . . , v_n 為 linearly dependent. 這和已知的假設 v₁, . . . , v_n 為 linearly independent 相 矛盾, 故得證 v₁, . . . , vn, vn+1 為 linearly independent.  我們常常看到一個 vector space 中, 若一個集合中向量的個數太多時, 就不會是 linearly independent 了. 例如在 R² 中任意 3 個向量 v1, v2, v3 就一定會 linearly dependent. 這事 實的原因便是我們在找 c₁, c₂, c₃∈ R 使得 c1v₁+ c₂v₂+ c₃v₃= 0, 就等同於解聯立方程組 x1v₁+ x₂v₂+ x₃v₃= (0, 0). 這是有三個未知數 x₁, x₂, x₃但僅有兩個方程式的齊次聯立方程組, 我們知道一定有無窮多解, 也就是說存在 c₁, c2, c3∈ R 不全為 0 使得 c1v₁+ c2v₂+ c3v₃= 0.

因此 v₁, v₂, v₃ 一定是 linearly dependent. 我們可以利用這個概念證明以下著個重要的定理.

Lemma 2.5.5. 設 V 為 vector space overF 且 v1, . . . , vn∈V. 若 w1, . . . , wm∈ Span(v1, . . . , vn) 且 m > n, 則 w₁, . . . , w_m 為 linearly dependent.

Proof. 由於 w1, . . . , w_m∈ Span(v1, . . . , v_n),因此對任意 j = 1, . . . , m, wj 都可以寫成 v₁, . . . , v_n 的 linear combination. 也就是說, 存在 a_{1, j}, . . . , a_{i, j}, . . . , a_{n, j}∈ R 使得

w_j= a_{1, j}v₁+··· + ai, jv_i+··· + an, jv_n.

現在我們要找到 c₁, . . . , cm∈ R 不全為 0 使得 c1w₁+··· + cmw_m= 0, 便證得 w1, . . . , wm 為 linearly dependent. 現將 c₁w₁+···+cmw_m中每一個 w_j換成 v₁, . . . , v_n的 linear combination 後會等於

(c₁a_1,1+··· + cma_1,m)v₁+··· + (c1a_i,1+··· + cma_i,m)v_i+··· + (c1a_m,1+··· + cma_m,m)v_m. (2.1)

因 此 若 我 們 能 找 到 c₁, . . . , c_m∈ F 使得式子 (2.1) 中每個 vi 的 係 數 等 於 0, 便 可 得 到 c1w₁+··· + cmw_m= 0. 因此我們只要找到聯立方程組

















a_1,1x₁+··· + a1,mx_m = 0 ...

a_i,1x₁+··· + ai,mx_m = 0 ...

a_n,1x₁+··· + an,mx_m = 0

的一組解 x₁= c₁, . . . , x_m= c_m, 就可以使得 c1w₁+··· + cmw_m= 0. 然而這個 homogeneous linear system 的方程式個數 n 少於未知數個數 m. 也就是說將它對應的矩陣化為 echelon form 時, 其 pivot 的個數 (小於等於 n) 必少於 variables 的個數 m, 也就是存在著 free variables, 因此由此方程組有 x1=··· = xn= 0 這一組解知此方程組有其他解 (參考 Lemma 1.3.3), 即存在不全為 0 的 c₁, . . . , c_m∈ F 使得 x1 = c₁, . . . , x_m= c_m 為其一組解. 故得證

w₁, . . . , w_m 為 linearly dependent. 

Question 2.9. 假設 v1, . . . , vn 為 linearly independent. 若 w₁, . . . , wk∈ Span(v1, . . . , vn) 且 k < n, 試證明 Span(w₁, . . . , w_k)̸= Span(v1, . . . , v_n).

假設 W 為 V 的 subspace, 且 w₁, . . . , wn∈ W 為 linearly independent. 如果 w1, . . . , wn

不是 W 的 spanning vectors (即 Span(w₁, . . . , w_n)( W), 則我們可以在 W 中選取 wn+1 滿 足 w_n+1̸∈ Span(w1, . . . , wn). 此時 Lemma 2.5.4 告訴我們 w1, . . . , wn, wn+1 仍保持 linearly independent. 利用這個概念我們可以回答 finitely generated vector space 的 subspace 也是 finitely generated.

Proposition 2.5.6. 假設 V 為 finitely generated vector space. 若 W 為 V 的 subspace, 則 W 為 finitely generated vector space.

Proof. 依 V 為 finitely generated 的假設, 存在 v₁, . . . , v_n∈ V 滿足 Span(v1, . . . , v_n) = V . 由 於{0} = Span(0) 為 finitely generated, 我們僅需要考慮 W ̸= {0} 的情況. 我們用反證法, 假 設 W 不是 finitely generated. 現任取 w₁∈ W 其中 w1̸= 0. 由於 W 不是 finitely generated, 我們知 Span(w₁)̸= W, 亦即存在 w2∈ W 且 w2̸∈ Span(w1). 由 Lemma 2.5.5 知 w₁, w₂ 為 linearly independent. 同理, 因 W 不是 finitely generated, 我們知 Span(w1, w2)̸= W 亦即 存在 w₃∈ W 且 w3̸∈ Span(w1, w₂). 由 Lemma 2.5.4 知 w₁, w₂, w₃ 為 linearly independent.

這樣一直下去, 利用數學歸納法假設我們得 w₁, . . . , w_k∈ W 為 linearly independent. 由於 Span(w1, . . . , w_k)̸= W, 存在 wk+1∈ W 且 wk+1̸∈ Span(w1, . . . , w_k). 因此再由 Lemma 2.5.4 知 w₁, . . . , w_k, w_k+ 為 linearly independent. 我們利用數學歸納法證明了, 若 W 不是 finitely generated, 則對任意 m∈ N, 皆存在 w1, . . . , wm∈ W 為 linearly independent. 然而這在 m > n 是會造成矛盾的. 因為此時由於 w₁, . . . , w_m∈ W ⊆ V = Span(v1, . . . , v_n), Lemma 2.5.5 告訴我 們 w₁, . . . , w_m 必為 linearly dependent. 因此知 W 為 finitely generated vector space.  Question 2.10. 利用在 P(F) 中對於任意 n ∈ N, xⁿ, xⁿ⁻¹, . . . , x, 1 為 linearly independent, 證明 P(F) 不是 finitely generated vector space.