第五章 線性組合與向量空間
最後更新日期:2009 年 2 月 10 日
本章介紹線性組合(linear combination),探討幾個基本向量可以組合成什麼 樣的向量集合,倒過來,某個特定向量集合需要幾個基本向量來表示。這裡 提到,組合結果之向量集合的正式名稱是向量空間(vector space),而這些基 本向量集合的名稱為基底(basis),我們比較熟悉的基底是座標系統(coordinate system)。我們希望某特定基底能組合的向量空間越大越好,所以要討論拓展
(span)的概念;相反的,對某特定向量空間,其基底的元素數目越少越好,
因此有必要瞭解線性獨立(linear independence)的觀念。最後,一個向量空 間的座標系統(基底)不是只有唯一的一個,座標變換(change of coordinate)
討論不同基底轉換間衍生的現象。本章的內容安排如下:
5.1 線性組合 5.2 拓展與線性獨立 5.3 向量空間、基底與維度 5.4 矩陣的秩
5.5 座標系統與座標變換
5.1 線性組合
我們先從線性系統來看線性組合(linear combination)的作用。考慮以下線性系統
2 3 7
4 1 , 9
⎡ ⎤ ⎡ ⎤
= =⎢ ⎥ =⎢ ⎥
⎣ ⎦ ⎣ ⎦
Ax b 其中 A b
令x=
[
x1 x2]
T,這個線性系統可以寫成以下型式1
1 2
2
2 3 7 2 3 7
4 1 9 4 1 9
x x x
x
⎡ ⎤
⎡ ⎤ ⎡ ⎤ ⎡ ⎤ ⎡ ⎤ ⎡ ⎤
= ⇒ ⎢ ⎥⎢ ⎥=⎢ ⎥ ⇒ ⎢ ⎥ +⎢ ⎥ =⎢ ⎥
⎣ ⎦⎣ ⎦ ⎣ ⎦ ⎣ ⎦ ⎣ ⎦ ⎣ ⎦ Ax b
其中 A 的兩個行向量
[
2 4]
T、[
3 1 看成裝配的基本元素,決策變數]
T x 、1 x 是權重;2線性系統的意義是,決定權重x 、1 x ,好讓這兩個元素的權重和等於右手邊值2
[
7 9]
T。這裡的『權重和』就是線性組合。
定義 (線性組合)
令v v1, 2,…,vk∈Rn,若存在c c1, 2,…,ck∈R,使
1 1 2 2
n k k
c c c R
= + + + ∈
v v v v (5-1)
則稱 v 為v v1, 2,…,vk之線性組合(linear combination)。 █
題外話 以上(5-1)線性組合的定義中涉及的集合不是 n 階行向量Mn×1,而是 n 階實數 空間R ,正式的定義會指定為一般向量空間(vector space)n 。事實上,Mn×1、R 都n 是向量空間。還沒正式定義向量空間之前,把它想像為一個集合就是了。例如本章 中我們大部分的例子都說v∈Rn,但把它想像為v∈Mn×1也通。 █
題外話 (5-1)的定義涉及兩個運算:向量和與純量積;這兩個運算在我們熟悉的實數 空間所相對的是加法+ 與乘法× 。如果我們將應用範圍擴展到一般的向量空間,則 這兩個運算符號會是⊕ 與 。底下作簡單整理
+ × +
⊕ 一般向量空間
實數
行向量 純量積
這就是數學的作法:將簡單具體的東西抽象化,希望能涵蓋更廣泛的應用範圍。雖 然,再怎麼抽象化,還是不能違反原來的東西。不要被自己唬了,記得回來對應我 們已經知道的簡單內容,這樣偶而會發現數學的抽象也是有美感的。 █
例題
5-1 (線性組合)考慮以下兩向量:
2 3 4 , 1
⎡ ⎤ ⎡ ⎤
⎢ ⎥ ⎢ ⎥
⎣ ⎦ ⎣ ⎦
(1)若權重分別為c1= 、1 c2 = ,其線性組合為何? 2 (2)需要什麼權重,其線性組合才會是
[
7 9]
T?【解答】
線性組合為
1 2
2 3 2 3 8
4 1 4 2 1 6 c ⎡ ⎤ c ⎡ ⎤ ⎡ ⎤ ⎡ ⎤ ⎡ ⎤
+ = + =
⎢ ⎥ ⎢ ⎥ ⎢ ⎥ ⎢ ⎥ ⎢ ⎥
⎣ ⎦ ⎣ ⎦ ⎣ ⎦ ⎣ ⎦ ⎣ ⎦
第二部分為求以下線性系統的解
1 1
1 2
2 2
2 3 7 2 3 7 2
4 1 9 4 1 9 1
c c
c c
c c
⎡ ⎤ ⎡ ⎤
⎡ ⎤ ⎡ ⎤ ⎡ ⎤ ⎡ ⎤ ⎡ ⎤ ⎡ ⎤
+ = ⇒ ⎢ ⎥= ⇒ ⎢ ⎥=
⎢ ⎥ ⎢ ⎥ ⎢ ⎥ ⎢ ⎥ ⎢ ⎥ ⎢ ⎥
⎣ ⎦ ⎣ ⎦ ⎣ ⎦ ⎣ ⎦⎣ ⎦ ⎣ ⎦ ⎣ ⎦ ⎣ ⎦
█
例題
5-2 (線性組合——多重解的情況)考慮以下兩向量:
1 2 1 , 3 2 1
⎡ ⎤ ⎡ ⎤
⎢ ⎥ ⎢ ⎥
⎢ ⎥ ⎢ ⎥
⎢ ⎥ ⎢ ⎥
⎣ ⎦ ⎣ ⎦
若權重可以為任意值,c c1, 2∈ ,其線性組合的結果為何? R
【解答】
假設線性組合的結果為
[
x y z ,則線性組合可以寫成以下線性系統以及其增廣]
T矩陣:
1 2
1 2 1 2
1 3 1 3
2 1 2 1
x x
c c y y
z z
⎡ ⎤ ⎡ ⎤ ⎡ ⎤ ⎡ ⎤
⎢ ⎥+ ⎢ ⎥ ⎢ ⎥= ⇒ ⎢ ⎥
⎢ ⎥ ⎢ ⎥ ⎢ ⎥ ⎢ ⎥
⎢ ⎥ ⎢ ⎥ ⎢ ⎥ ⎢ ⎥
⎣ ⎦ ⎣ ⎦ ⎣ ⎦ ⎣ ⎦
以三種列運算轉換該增廣矩陣
( ) ( )
( ) ( ) ( ) ( )
( ) ( )
2 1 1 2 2
3 2 1 3 3 2
1 2 1 2 1 0 3 2
1 3 0 1 0 1
2 1 0 3 2 0 0 3 5
x x x y
y y x y x
z z x z y x
− −
− +
⎡ ⎤ ⎡ ⎤ ⎡ − ⎤
⎢ ⎥ ⎯⎯⎯⎯→ ⎢ − ⎥ ⎯⎯⎯⎯→ ⎢ − ⎥
⎢ ⎥ ⎢ ⎥ ⎢ ⎥
⎢ ⎥ ⎢ − − ⎥ ⎢ + − ⎥
⎣ ⎦ ⎣ ⎦ ⎣ ⎦
此線性系統有解的條件為
3 5 0 z+ y− x=
亦即,線性組合的結果為三維空間的平面:
[ ]
{
x y z T z+3y−5x=0, x y z, , ∈R}
█
例題
5-3 (線性組合——多重解的情況)考慮以下兩向量:
2 3 4 , 6
⎡ ⎤ ⎡ ⎤
⎢ ⎥ ⎢ ⎥
⎣ ⎦ ⎣ ⎦
需要什麼權重,其線性組合才會是
[
0 0]
T?【解答】
假設權重分別為c 、1 c ,則線性組合可以寫成以下線性系統以及其增廣矩陣: 2
1 2
2 3 0 2 3 0
4 6 0 4 6 0
c ⎡ ⎤ c ⎡ ⎤ ⎡ ⎤ ⎡ ⎤
+ = ⇒
⎢ ⎥ ⎢ ⎥ ⎢ ⎥ ⎢ ⎥
⎣ ⎦ ⎣ ⎦ ⎣ ⎦ ⎣ ⎦
以三種列運算轉換該增廣矩陣
( ) ( ) ( )
1
21 3 2 4 1 3
2 2
2 3 0 1 0 1 0
4 6 0 4 6 0 0 0 0
⎡ ⎤ − ⎡ ⎤
⎡ ⎤
⎯⎯⎯→ ⎢ ⎥ ⎯⎯⎯⎯→ ⎢ ⎥
⎢ ⎥
⎣ ⎦ ⎣ ⎦ ⎣ ⎦
該線性系統的解為
1 3 2
2 0
c + c =
即滿足本齊次系統的權重為二維空間的直線:
[ ]
{
c1 c2 T 2c1+3c2=0, c c1, 2∈R}
█
題外話 例題 5-2 與例題 5-3 是處理線性組合的兩個典型題目。前者給定權重(一般 都是任意實數)下找所有可能的線性組合的集合,該動作與該結果,一個動詞一個 名詞,都稱為拓展(span);後者則指定線性組合的目標,然後找所有可能的各組 權重,這些權重集合稱為解空間(solution space)。一般我們指定組合目標是原點,
也就是說,我們需求解齊次系統(homogenous system),這個特殊的(齊次系統)
解空間稱為零空間(null space)。搞清楚以上幾個術語在線性系統的角色當然重要,
然而,不要忘了練習例題 5-2 與例題 5-3 的求解技巧。 █
5.2 拓展與線性獨立
本節介紹拓展(span)與線性獨立(linear independence)的概念。兩者都涉及一組向量
{
1, 2, , k}
S= v v … v ,v v1, 2,…,vk∈Rn,以及線性組合的操作。拓展討論經由對 S 集合內 之向量的線性組合,所能產生之最大向量集合(向量空間)。線性獨立討論 S 內之向量 能否由其它向量以線性組合的方式表示。
定義 (拓展)
令S = v v
{
1, 2,…,vk}
,v v1, 2,…,vk∈Rn,則所有可能線性組合的集合{
1 1 2 2}
spanS = v=cv +c v + +ckvk vi∈S c, i∈R i, =1,…,n (5-2)
稱 span S 為 S 的拓展(span)。 █
驗證拓展的程序 當S= v v
{
1, 2,…,vk}
的拓展涵蓋某向量空間V ,亦即 spanS ⊇ V我們稱 S 拓展V ( S spans V )。驗證一個向量集合 S 是否拓展某向量空間V 是我 們常常碰到的工作,其程序如下:
(1)寫出V 的任意向量 v ; (2)測試以下線性系統
[
v1 v2 vk v]
若有解,則 S 可拓展V ,反之則否。 █
例題
5-4 (驗證拓展)驗證以下 S 是否拓展V 。
1 2
1 , 3 , 3 5 0, , , 2 1
x
S V y z y x x y z R
z
⎧ ⎫
⎧⎡ ⎤ ⎡ ⎤ ⎫ ⎡ ⎤
⎪ ⎪
⎪⎢ ⎥ ⎢ ⎥ ⎪ ⎢ ⎥
=⎨⎢ ⎥ ⎢ ⎥ ⎬ =⎨⎢ ⎥ + − = ∈ ⎬
⎪⎢ ⎥ ⎢ ⎥⎣ ⎦ ⎣ ⎦ ⎪ ⎪⎢ ⎥⎣ ⎦ ⎪
⎩ ⎭ ⎩ ⎭
【解答】
令v=
[
r s 5r−3s]
T∈V r s, , ∈R為V 的任意向量,測試以下線性系統( ) ( )
( ) ( ) ( ) ( )
( ) ( )
2 1 1 2 2
3 2 1 3 3 2
1 2 1 2 1 0 3
1 3 0 1 0 1
2 1 5 3 0 3 3 3 0 0 0
r r r s
s s r s r
r s r s
− −
− +
⎡ ⎤ ⎡ ⎤ ⎡ − ⎤
⎢ ⎥ ⎯⎯⎯⎯→ ⎢ − ⎥ ⎯⎯⎯⎯→ ⎢ − ⎥
⎢ ⎥ ⎢ ⎥ ⎢ ⎥
⎢ − ⎥ ⎢ − − ⎥ ⎢ ⎥
⎣ ⎦ ⎣ ⎦ ⎣ ⎦
此系統有解,因此 S 可以拓展V 。 █
例題
5-5 (驗證拓展)驗證以下 S 是否拓展R 。 3
1 3 1 2 , 2 , 4 4 8 6 S
⎧⎡ ⎤ ⎡ ⎤ ⎡ ⎤⎫
⎪⎢ ⎥ ⎢ ⎥ ⎢ ⎥⎪
= ⎨⎢ ⎥ ⎢ ⎥ ⎢ ⎥⎬
⎪⎢ ⎥ ⎢ ⎥ ⎢ ⎥⎣ ⎦ ⎣ ⎦ ⎣ ⎦⎪
⎩ ⎭
【解答】
令v=
[
x y z]
T∈R3, , ,x y z∈R,測試以下線性系統5 1 3
2 2 4
1 1 1
2 4 2
1 3 1 1 3 1 1 0
2 2 4 0 4 2 2 0 1
4 8 6 0 4 2 4 0 0 0 2
x x x y
y y x y x
z z x z y x
⎡ + ⎤
⎡ ⎤ ⎡ ⎤
⎢ ⎥
⎢ ⎥ → ⎢ − − ⎥ → ⎢ − − + ⎥
⎢ ⎥ ⎢ ⎥
⎢ ⎥
⎢ ⎥ ⎢ − − ⎥ − −
⎣ ⎦ ⎣ ⎦ ⎣ ⎦
此系統無解,因此 S 無法拓展R 。 3 █
當一組向量S= v v
{
1, 2,…,vk}
可以拓展某向量空間V ,則 S 就具備有成為V 之座標 系統的可能。任意v∈V 可以寫成1 1 2 2 k k, 1, , k
c c c c c R
= + + + ∈
v v v v …
也就是說,我們可以用
(
c c1, 2,…,ck)
來表示(represent) v 。現在我們有興趣的是,是否 只有唯一的一個(
c c1, 2,…,ck)
來陳現 v ?我們用另外一個角度來看這個問題。若 S 成為 座標系統,則v v1, 2,…,vk就是座標軸,座標軸的數目當然越少越好。好了,現在問題是,在可以拓展向量空間V 的條件下,我們可不可以縮減 S 的元素數目?線性獨立(linear independence)的概念就是討論以上問題的結論。
定義 (線性獨立)
令S = v v
{
1, 2,…,vk}
,v v1, 2,…,vk∈Rn,若存在c c1, 2,…,ck∈R,其中至少有一i 0
c ≠ ,使
1 1 2 2 k k
cv +c v + +c v =0 (5-3)
則稱 S 或v v1, 2,…,vk為線性相依(linear dependent)。若 S 不是線性相依,則稱其 為線性獨立(linear independent)。也就是說,若 S 為線性獨立,則(5-3)成立的唯一 條件為c1=c2 = =ck = ;反之亦然。 0 █
驗證線性獨立的程序 當S= v v
{
1, 2,…,vk}
為線性獨立,則1 1 2 2 k k
cv +c v + +c v =0
的唯一解為c1=c2= =ck = 。驗證一個向量集合 S 是否線性獨立,主要在測試以0 下線性系統
[
v1 v2 vk 0]
若只有瑣碎解,則 S 為線性獨立,反之(有多重解)則為線性相依。 █
例題
5-6 (驗證線性獨立)驗證以下 S 是否線性獨立。
1 3 1 2 , 2 , 4 4 8 6 S
⎧⎡ ⎤ ⎡ ⎤ ⎡ ⎤⎫
⎪⎢ ⎥ ⎢ ⎥ ⎢ ⎥⎪
= ⎨⎪⎩⎢ ⎥ ⎢ ⎥ ⎢ ⎥⎢ ⎥ ⎢ ⎥ ⎢ ⎥⎣ ⎦ ⎣ ⎦ ⎣ ⎦⎬⎪⎭
【解答】
測試以下線性系統
5 2 1 2
1 3 1 0 1 3 1 0 1 0 0
2 2 4 0 0 4 2 0 0 1 0
4 8 6 0 0 4 2 0 0 0 0 0
⎡ ⎤
⎡ ⎤ ⎡ ⎤
⎢ ⎥
⎢ ⎥ → ⎢ − ⎥ → ⎢ − ⎥
⎢ ⎥ ⎢ ⎥
⎢ ⎥
⎢ ⎥ ⎢ − ⎥
⎣ ⎦ ⎣ ⎦ ⎣ ⎦
此系統有多重解(第三行沒有帶頭一),因此 S 為線性相依。 █
題外話 例題 5-6 中因為第三行沒有帶頭一,因此 S 不是線性獨立,這時,我們知道 這 S 中的第三個向量可以表示成其它向量的線性組合
1 2
1 3 1
2 2 4
4 8 6
c c
⎡ ⎤ ⎡ ⎤ ⎡ ⎤
⎢ ⎥+ ⎢ ⎥ ⎢ ⎥=
⎢ ⎥ ⎢ ⎥ ⎢ ⎥
⎢ ⎥ ⎢ ⎥ ⎢ ⎥
⎣ ⎦ ⎣ ⎦ ⎣ ⎦
驗證這個線性組合是否成立的線性系統如下
5 2 1 2
1 3 1 1 3 1 1 0
2 2 4 0 4 2 0 1
4 8 6 0 4 2 0 0 0
⎡ ⎤
⎡ ⎤ ⎡ ⎤
⎢ ⎥
⎢ ⎥ → ⎢ − ⎥ → ⎢ − ⎥
⎢ ⎥ ⎢ ⎥
⎢ ⎥
⎢ ⎥ ⎢ − ⎥
⎣ ⎦ ⎣ ⎦ ⎣ ⎦
得到c1= 52,c2 = − 。怎麼驗證過程與例題 5-6 的一模一樣?本來就是! 12 █
例題
5-7 (驗證線性獨立)驗證以下 S 是否線性獨立。
2 3 5 1 , 6 , 4 3 9 2 S
⎧⎡ ⎤ ⎡ ⎤ ⎡ ⎤⎫
⎪⎢ ⎥ ⎢ ⎥ ⎢ ⎥⎪
= ⎨⎢ ⎥ ⎢ ⎥ ⎢ ⎥⎬
⎪⎢ ⎥ ⎢ ⎥ ⎢ ⎥⎣ ⎦ ⎣ ⎦ ⎣ ⎦⎪
⎩ ⎭
【解答】
測試以下線性系統
3 5 3 5
2 2 2 2
9 3 1
2 2 3
9 11
2 2
2 3 5 0 1 0 1 0
1 6 4 0 0 0 0 1 0
3 9 2 0 0 0 0 0 7 0
⎡ ⎤ ⎡ ⎤
⎡ ⎤
⎢ ⎥ ⎢ ⎥
⎢ ⎥ → ⎢ ⎥ → ⎢ ⎥
⎢ ⎥
⎢ ⎥ ⎢ ⎥
⎢ ⎥ − −
⎣ ⎦ ⎣ ⎦ ⎣ ⎦
此系統有唯一解(三個變數都有帶頭一),因此 S 為線性獨立。 █
5.3 向量空間、基底與維度
本節正式定義向量空間(real vector space),我們熟悉的R 就是一個向量空間。這裡討n 論的是R 的一般性質,所以呢,當對向量空間的抽樣意義感到糊塗的時候,將『向量n 空間』換成R 來想就對了。基底(basis)用我們熟悉的語言來說,就是座標軸的集合。n 亦即,基底是向量空間的部分集合,向量空間內的任意元素都可以用唯一的方式表示
(represent)成基底元素的線性組合。
向量空間是一個集合,伴隨著這個集合有兩個運算:⊕ 、 (就是實數的 + 、× , 或向量的加法、純量積),這兩個運算必須滿足洋洋灑灑的 10 個特性。不要慌,這些特 性都是我們耳熟能詳的舊古董:(加法)封閉性、交換率、結合率、單位元素、反元素,
(乘法)封閉性、結合率、分配率、單位元素等。
定義 (向量空間)
對於一個集合V ,以及有關該集合元素的兩個運算,⊕ 與 ,若這兩個運算滿足 以下性質:( , ,u v w∈V , ,c d∈ ) R
( )
α u⊕ ∈v V 。(封閉性)( )
a u⊕ = ⊕v v u 。(交換率)( )
b u⊕(
v⊕w) (
= u⊕v)
⊕w 。(結合率)( )
c 存在0∈V ,使得u⊕ = ⊕ =0 0 u u 。(單位元素存在)( )
d 對任意u∈V ,存在− ∈u V ,使得u⊕ − =u 0 。(反元素存在)( )
β c u∈V 。(封閉性)( )
e c(
u⊕v)
=c u⊕c v 。(分配率)( )
f(
c+d)
u=c u⊕d u 。(分配率)( )
g c(
d u) ( )
= cd u 。(結合率)( )
h 1 u=u 。(單位元素存在)則V 與⊕ 、 形成一個向量空間(real vector space)。 █
按照定義,實數集 R 與+、× 形成向量空間,但我們常省略兩個運算,直接稱 R 是 一個向量空間。另外,我們會碰到必須證明某個集合是否為向量空間的情況,證明過成 分成兩個步驟:
(1)好好寫清楚該集合,以及兩個運算的定義;
(2)驗證
( )
α 、( )
β 以及( )
a ~( )
h 等十個性質成立。例題
5-8 (驗證向量空間)令V =
{ (
x y z x y z, ,)
, , ∈R}
,且定義(
x y z, ,) (
⊕ x y z′ ′ ′, ,) (
= x+x y′, +y z′, +z′) (
, ,) (
, ,)
c x y z = cx y z 請證明V 為一向量空間。
【證明】
由
(
x+x y′, +y z′, +z′)
∈V,(
cx y z, ,)
∈ 得知V( )
α 、( )
β 成立。由( ) ( ) ( )
( ) ( ) ( )
, , , , , ,
, , , , , ,
x y z x y z x x y y z z
x x y y z z x y z x y z
′ ′ ′ ′ ′ ′
⊕ = + + +
′ ′ ′ ′ ′ ′
= + + + = ⊕
( ) ( ) ( ) ( ) ( )
( )
( ) ( )
( ) ( ) ( )
1 1 1 2 2 2 3 3 3 1 1 1 2 3 2 3 2 3
1 2 3 1 2 3 1 2 3
1 2 1 2 1 2 3 3 3
1 1 1 2 2 2 3 3 3
, , , , , , , , , ,
, ,
, , , ,
, , , , , ,
x y z x y z x y z x y z x x y y z z x x x y y y z z z x x y y z z x y z
x y z x y z x y z
⎡ ⎤
⊕⎣ ⊕ ⎦= ⊕ + + +
= + + + + + +
= + + + ⊕
⎡ ⎤
=⎣ ⊕ ⎦⊕
得知
( )
a 、( )
b 成立。令加法單位元素0=(
0, 0, 0)
,反元素−(
x y z, ,) (
= − − − ,x, y, z)
則
( )
c 、( )
d 成立。由( ) ( ) ( )
( )
( ) ( )
( ) ( )
, , , , , ,
, , , , , ,
, , , , c x y z x y z c x x y y z z
cx cx y y z z cx y z cx y z c x y z c x y z
′ ′ ′ ′ ′ ′
⎡ ⊕ ⎤= + + +
⎣ ⎦
′ ′ ′
= + + +
′ ′ ′
= ⊕
′ ′ ′
= ⊕
故
( )
e 成立。但是( ) ( ) ( ( ) ) ( )
( ) ( ) ( ) ( ) ( )
( ) ( ) ( ) ( )
, , , , , ,
, , , , , , , , , 2 , 2
, , , , , ,
c d x y z c d x y z cx dx y z
c x y z d x y z cx y z dx y z cx dx y z c d x y z c x y z d x y z
⎧ + = + = +
⎪⎨
⊕ = ⊕ = +
⎪⎩
⇒ + ≠ ⊕
故
( )
f 不成立,V 不是一個向量空間。 █從定義來證明一個集合是否向量空間,需要一一檢驗十個性質,非常麻煩。但是如
果存在另一個相近、已知是向量空間的集合,那麼只要檢驗兩個封閉性性質是否成立,
就可以證明該新集合是否為向量空間。以上是我們討論次空間(subspace)的用意。
定義 (次空間)
令集合V ,以及兩個運算,⊕ 與 ,為一向量空間。若V 之子集W ,W ⊆V W, ≠ ∅,
與運算⊕ 、 也是向量空間,則稱W 為V 的次空間(subspace)。 █
定理
5-1 (次空間)令集合V ,以及兩個運算,⊕ 與 ,為一向量空間,又令W 為V 之子集,W V⊆ , 且W ≠ ∅ ,若以下兩性質成立
( )
α u⊕ ∈v V( )
β c u∈V則W 為V 之次空間(subspace),反之亦然。 █
例題
5-9 (驗證向量空間)令W=
{ (
x y z, ,)
z+3y−5x=0, x y z, , ∈R}
,請證明W 為一向量空間。【證明】
我們用向量空間R 來輔助證明。 3
首先,很容易看出W =
{ (
x y z, ,)
z+3y−5x=0, x y z, , ∈R}
⊆R3。其次,令
(
x y z, ,) (
, x y z', ,′ ′ ∈)
W c, ∈ ,則 R( ) ( ) ( )
( ) ( ) ( ) ( ) ( )
( ) ( )
2 2 2
, , , , , ,
3 5 3 5 3 5 0 0 0
, , , ,
x y z x y z x x y y z z
z z y y x x z y x z y x
x y z x y z W
′ ′ ′
+ = + + +
′ ′ ′ ′ ′ ′
+ + + − + = + − + + − = + =
′ ′ ′
⇒ + ∈
故加法封閉性成立。又
( ) ( )
( )
( )
, , , ,
3 5 3 5 0 0
, ,
c x y z cx cy cz
cz cy cx c z y x c c x y z W
=
+ − = + − = × =
⇒ ∈
故純量積封閉性也成立。因為W⊆R3,且加法封閉性與純量積封閉性都成立,故W
為R 之次空間;亦即,W 也是向量空間。 3 █
已經定義向量空間,接下來處理如何描述一個向量空間。我們先選出一組基本
定義 (基底)
令V 為一個向量空間,S=
{
v v1, 2,…,vk}
⊆V,若( )
a S 拓展V( )
b S 為線性獨立則稱 S 為向量空間V 的一個基底(basis)。 █
例題
5-10 (驗證基底)令S = v v v ,其中
{
1, 2, 3}
v1=(
1,0,1)
、v2 =(
1, 2, 2)
、v3 =(
0, 2, 2)
,請證明 S 為R 的3 一個基底。【證明】
(1)證明 S 拓展R 。令3 R 的任意元素為4
(
x y z w, , ,)
, , , ,x y z w∈ ,測試以下線性系統 R1 2
1 2
1 1 0 1 1 0 1 1 0
0 2 2 0 2 2 0 1 1
1 2 2 0 1 2 0 0 1
x x x
y y y
z z x z x y
⎡ ⎤
⎡ ⎤ ⎡ ⎤
⎢ ⎥
⎢ ⎥ → ⎢ ⎥ → ⎢ ⎥
⎢ ⎥ ⎢ ⎥
⎢ ⎥
⎢ ⎥ ⎢ − ⎥ − −
⎣ ⎦ ⎣ ⎦ ⎣ ⎦
該系統有解,故 S 拓展R 。 3
(2)證明 S 為線性獨立。測試以下線性系統
1 1 0 0 1 1 0 0 1 1 0 0 0 2 2 0 0 2 2 0 0 1 1 0 1 2 2 0 0 1 2 0 0 0 1 0
⎡ ⎤ ⎡ ⎤ ⎡ ⎤
⎢ ⎥ → ⎢ ⎥ → ⎢ ⎥
⎢ ⎥ ⎢ ⎥ ⎢ ⎥
⎢ ⎥ ⎢ ⎥ ⎢ ⎥
⎣ ⎦ ⎣ ⎦ ⎣ ⎦
該系統有唯一的瑣碎解,故 S 為線性獨立。
綜合(1) S 拓展R 、(2) S 為線性獨立,故知 S 為3 R 的一個基底。 3 █
定理
5-2 (基底表示之唯一性)令S = v v
{
1, 2,…,vn}
為向量空間V 的一個基底,則任何V 上的元素都可以由 S 的元 素以唯一的線性組合表示。【證明】
因為 S 拓展V ,故對任意v∈V ,存在c c1, 2,…,cn∈R,使得
1 1 2 2 n n
c c c
= + + +
v v v v
假設有另外一個表示方式
1 1 2 2 n n
d d d
= + + +
v v v v
其中d d1, 2,…,dn∈R。將以上兩式將減,結果如下
(
c1 d1)
1(
c2 d2)
2(
cn dn)
n− = = − + − + + −
v v 0 v v v
因 S 為線性獨立,故ci−di =0, 1≤ ≤ ,即i n ci=di, 1≤ ≤ ,也就是說 v 只有唯一的i n
一種表示方式。 █
定理
5-3 (建構 span S 的基底)令S = v v
{
1, 2,…,vn}
,其中vi,1≤ ≤i n不全為零,且令W=sapnS,則存在某 S 的部分集合 S′ ⊆ 為W 的一個基底。 S █
題外話 雖然沒有定理 5-3 的證明,以下我們提供由S =
{
v v1, 2,…,vk}
⊆Rn來建構 sapnW = S 基底的程序,由該程序可以想像如何證明定理 5-3。
為了驗證 S 是否線性獨立,我們檢測以下線性系統
[
v1 v2 vk 0]
以三種基本列運算,盡量找出每一列的帶頭一後,若有某變數行沒有帶頭一,表示 該系統有多重解,亦即 S 不是線性獨立。現在,刪除 S 中相對於沒有帶頭一之各行 位置的元素向量,假設剩下的集合為 S′ ,則 S′ 為W=sapnS的一個基底。(我們可
以證明 spanS′ =spanS。) █
例題
5-11 (建構基底)就以下集合 S ,請找出一個 span S 的基底。
1 3 1 2 , 2 , 4 4 8 6 S
⎧⎡ ⎤ ⎡ ⎤ ⎡ ⎤⎫
⎪⎢ ⎥ ⎢ ⎥ ⎢ ⎥⎪
= ⎨⎪⎩⎢ ⎥ ⎢ ⎥ ⎢ ⎥⎢ ⎥ ⎢ ⎥ ⎢ ⎥⎣ ⎦ ⎣ ⎦ ⎣ ⎦⎬⎪⎭
【解答】
測試以下線性系統
5 2 1 2
1 3 1 0 1 3 1 0 1 0 0
2 2 4 0 0 4 2 0 0 1 0
4 8 6 0 0 4 2 0 0 0 0 0
⎡ ⎤
⎡ ⎤ ⎡ ⎤
⎢ ⎥
⎢ ⎥ → ⎢ − ⎥ → ⎢ − ⎥
⎢ ⎥ ⎢ ⎥
⎢ ⎥
⎢ ⎥ ⎢ − ⎥
⎣ ⎦ ⎣ ⎦ ⎣ ⎦
第三行沒有帶頭一,刪除 S 之第三個元素後之集合
1 3 2 , 2 4 8 S
⎧⎡ ⎤ ⎡ ⎤ ⎫
⎪⎢ ⎥ ⎢ ⎥ ⎪
′ = ⎨⎢ ⎥ ⎢ ⎥ ⎬
⎪⎢ ⎥ ⎢ ⎥⎣ ⎦ ⎣ ⎦ ⎪
⎩ ⎭
為 span S 的一個基底。 █
本節已經介紹向量空間與基底,最後,我們來探討基底的元素數目。我們已經知道 一個向量空間可以有一個以上的基底,然而,這些不同基底的元素數目是否相同呢?答 案是肯定的,這個相同的數目就是我們熟知的維度(dimension)。
定理
5-4 (基底與線性獨立集合之元素數目)令S = v v
{
1, 2,…,vn}
為向量空間V 的基底,若T ={
w w1, 2,…,wm}
⊆V 且 T 為線性獨 立,則 m n≤ 。【證明】
因 S 是基底, T 中元素wi∈T,1≤ ≤i m可以表示成
1 1 2 2
i =ci +ci + +cni n
w v v v
考慮以下線性系統
1 1 2 2 m m
dw +d w + +d w =0 將w 代入替換 i
1 1 2 2
1 1 1
n n n
i i i i m im i
i i i
d c d c d c
= = =
⎛ ⎞ ⎛ ⎞ ⎛ ⎞
⇒ ⎜ ⎟+ ⎜ ⎟+ + ⎜ ⎟=
⎝
∑
v ⎠ ⎝∑
v ⎠ ⎝∑
v ⎠ 01 1 2 2
1 1 1
m m m
j j j j j nj n
j j j
d c d c d c
= = =
⎛ ⎞ ⎛ ⎞ ⎛ ⎞
⇒ ⎜⎜ ⎟⎟ +⎜⎜ ⎟⎟ + +⎜⎜ ⎟⎟ =
⎝
∑
⎠v ⎝∑
⎠v ⎝∑
⎠v 0 因S = v v{
1, 2,…,vn}
線性獨立,故1 2
1 1 1
0
m m m
j j j j j nj
j j j
d c d c d c
= = =
⎛ ⎞ ⎛ ⎞ ⎛ ⎞
= = = =
⎜ ⎟ ⎜ ⎟ ⎜ ⎟
⎜ ⎟ ⎜ ⎟ ⎜ ⎟
⎝
∑
⎠ ⎝∑
⎠ ⎝∑
⎠1 1 2 2 m m
d d d
⇒ c + c + + c =0 (5-4)
其中,cj=
(
c1j,c2j,…,cnj)
T, 1≤ ≤j m。(5-4)中有 m 個變數、 n 個等式,若 m n> , 則該線性系統一定為多重解,亦即 T 為線性相依。這違反 T 為線性獨立的假設,因此得證 m n≤ 。 █
定理
5-5 (基底有相同元素數目)令S = v v
{
1, 2,…,vn}
與T = w w{
1, 2,…,wm}
皆為向量空間V 的基底,則 n m= 。【證明】
利用定理 5-4,若 S 為基底、T 為線性獨立,則 m n≤ ;若T 為基底、S 為線性獨立,
則 n m≤ 。現在兩者同時成立,故 m n= 。 █
定義 (維度)
一個向量空間V 的維度(dimension)為其基底之元素數目,標示為 dimV 。若
{ }
V = 0 ,則其維度為零,亦即dim
{ }
0 =0。 █例題
5-12 (維度)就以下集合 S ,若W =spanS,請計算向量空間W 之維度 dimW 。
1 3 1 2 , 2 , 4 4 8 6 S
⎧⎡ ⎤ ⎡ ⎤ ⎡ ⎤⎫
⎪⎢ ⎥ ⎢ ⎥ ⎢ ⎥⎪
= ⎨⎢ ⎥ ⎢ ⎥ ⎢ ⎥⎬
⎪⎢ ⎥ ⎢ ⎥ ⎢ ⎥⎣ ⎦ ⎣ ⎦ ⎣ ⎦⎪
⎩ ⎭
【解答】
測試以下線性系統
5 2 1 2
1 3 1 0 1 3 1 0 1 0 0
2 2 4 0 0 4 2 0 0 1 0
4 8 6 0 0 4 2 0 0 0 0 0
⎡ ⎤
⎡ ⎤ ⎡ ⎤
⎢ ⎥
⎢ ⎥ → ⎢ − ⎥ → ⎢ − ⎥
⎢ ⎥ ⎢ ⎥
⎢ ⎥
⎢ ⎥ ⎢ − ⎥
⎣ ⎦ ⎣ ⎦ ⎣ ⎦
第三行沒有帶頭一,刪除 S 之第三個元素後之集合
1 3 2 , 2 4 8 S
⎧⎡ ⎤ ⎡ ⎤ ⎫
⎪⎢ ⎥ ⎢ ⎥ ⎪
′ = ⎨⎢ ⎥ ⎢ ⎥ ⎬
⎪⎢ ⎥ ⎢ ⎥⎣ ⎦ ⎣ ⎦ ⎪
⎩ ⎭
為 span S 的一個基底。故 dimW = 。 2 █
5.4 矩陣的秩
本節我們將焦點轉回到我們一直關心的線性系統:
1 1
, m n× , n×, m×
= ∈ ∈ ∈
Ax b A M x M b M (5-5)
當然,我們是用向量空間的觀點來看(5-5)。與(5-5)之係數矩陣 A 有關的向量空間有三 個:列空間(row space)、行空間(column space)、與零空間(null space)。我們對這些 空間的維度有興趣。
定義 (列空間、行空間)
令A=⎡ ⎤⎣ ⎦aij ∈Mm n× ,v v1, 2,…,vm為 A 之列向量,w w1, 2,…,wn為 A 之行向量,則
{
1 2}
span v v, ,…,vm ⊆Rn稱為 A 之列空間(row space),而span
{
w w1, 2,…,wn}
⊆Rm稱為 A 之行空間(column space)。 █
定義 (解空間、零空間)
令A=⎡ ⎤⎣ ⎦aij ∈Mm n× 、x∈Mn×1、b∈Mm×1,則線性系統Ax=b 之解V =
{
x Ax=b 稱}
為Ax=b 之解空間(solution space),而齊次系統Ax=b 之解W =
{
x Ax=0 稱為 A}
之零空間(null space)。 █
定義 (秩、零度)
令A=⎡ ⎤⎣ ⎦aij ∈Mm n× ,V 、W 、 N 分別為 A 之列空間、行空間、與零空間,則前兩 者的維度 dimV 、 dimW 分別稱為 A 之列秩(row rank)、行秩(column rank),統 稱為 A 之秩(rank),記為 rank A ;後者的維度 dim N 稱為 A 之零度(nullity),記
為 nullity A 。 █
定理
5-6 (列秩與行秩相等)令A=⎡ ⎤⎣ ⎦aij ∈Mm n× ,則 A 的列秩與行秩相等。
【證明】
尋找 A 列空間之基底的過程,為以三種基本列運算,轉換下列增廣矩陣
[
A 0]
(5-6)至約化列梯形矩陣(事實上,盡量找出每列的帶頭一即可)。 A 中有帶頭一的各列 即形成 A 列空間之基底。而尋找 A 行空間之基底的過程也是轉換(5-6),這次,A 中 有帶頭一的各行即形成 A 行空間之基底。我們發現,列空間的基底與行空間的基
底都是來自相同的帶頭一,因此這兩個空間有相同的維度。 █
例題
5-13 (列空間與行空間的基底、秩)就以下矩陣 A ,請寫出列空間基底、行空間基底、列秩、與行秩。
1 3 1 2 2 4 4 8 6
⎡ ⎤
⎢ ⎥
= ⎢ ⎥
⎢ ⎥
⎣ ⎦
A
【解答】
以三種基本列運算,轉換以下增廣矩陣
5 2 1 2
1 3 1 0 1 3 1 0 1 0 0
2 2 4 0 0 4 2 0 0 1 0
4 8 6 0 0 4 2 0 0 0 0 0
⎡ ⎤
⎡ ⎤ ⎡ ⎤
⎢ ⎥
⎢ ⎥ → ⎢ − ⎥ → ⎢ − ⎥
⎢ ⎥ ⎢ ⎥
⎢ ⎥
⎢ ⎥ ⎢ − ⎥
⎣ ⎦ ⎣ ⎦ ⎣ ⎦
有帶頭一者為第一、二列,或第一、二行,故其列空間與行空間分別為
[ ] [ ]
{ }
1 3span 1 3 1 , 2 2 4 , span 2 , 2 4 8
⎧⎡ ⎤ ⎡ ⎤⎫
⎪⎢ ⎥ ⎢ ⎥⎪
⎨⎢ ⎥ ⎢ ⎥⎬
⎪⎢ ⎥ ⎢ ⎥⎣ ⎦ ⎣ ⎦⎪
⎩ ⎭
其秩為rankA=2。 █
例題
5-14 (零空間與零度)就以下矩陣 A ,請寫出其零空間與零度。
1 3 1 2 2 4 4 8 6
⎡ ⎤
⎢ ⎥
= ⎢ ⎥
⎢ ⎥
⎣ ⎦
A
【解答】
以三種基本列運算,轉換以下增廣矩陣
5 2 1 2
1 3 1 0 1 3 1 0 1 0 0
2 2 4 0 0 4 2 0 0 1 0
4 8 6 0 0 4 2 0 0 0 0 0
⎡ ⎤
⎡ ⎤ ⎡ ⎤
⎢ ⎥
⎢ ⎥ → ⎢ − ⎥ → ⎢ − ⎥
⎢ ⎥ ⎢ ⎥
⎢ ⎥
⎢ ⎥ ⎢ − ⎥
⎣ ⎦ ⎣ ⎦ ⎣ ⎦
其解為
1
3 1 2 2
3
5 2
5 1 1
2 2 2
5
, , , 1 ,
1 2
x
x t x t x t x t t R s s R
x
⎡− ⎤ −
⎡ ⎤ ⎡ ⎤
⎢ ⎥
⎢ ⎥ ⎢ ⎥
= = − = ⇒ =⎢ ⎥=⎢ ⎥ ∈ ⇒ =⎢ ⎥ ∈
⎢ ⎥
⎢ ⎥ ⎢ ⎥⎣ ⎦
⎣ ⎦ ⎣ ⎦
x x
故零空間為
5 span 1
2
⎧⎡ ⎤− ⎫
⎪⎢ ⎥⎪
⎨⎢ ⎥⎬
⎪⎢ ⎥⎣ ⎦⎪
⎩ ⎭
其零度為nullityA=1。 █
定理
5-7 (矩陣秩與零度之和與行數相等)令A=⎡ ⎤⎣ ⎦aij ∈Mm n× ,則 rankA+nullityA=n。
【證明】
我們檢視增廣矩陣
[
A 0 之約化列梯形矩陣,然後由有帶頭一之列來形成行空間]
基底,由沒有帶頭一之行來決定零空間的基底。因此,行空間的維度加上零空間的 維度應等於 A 之行數,亦即, rankA+nullityA=n。 █
例題
5-15 (零空間與零度)就以下矩陣 A ,請寫出其零空間與零度。
1 3 1 2 2 2 4 5 4 8 6 9
⎡ ⎤
⎢ ⎥
= ⎢ ⎥
⎢ ⎥
⎣ ⎦
A
【解答】
以三種基本列運算,轉換以下增廣矩陣
5 11
2 4
1 1
2 4
1 3 1 2 0 1 3 1 2 0 1 0 0
2 2 4 5 0 0 4 2 1 0 0 1 0
4 8 6 9 0 0 4 2 1 0 0 0 0 0 0
⎡ ⎤
⎡ ⎤ ⎡ ⎤
⎢ ⎥
⎢ ⎥ → ⎢ − ⎥ → ⎢ − − ⎥
⎢ ⎥ ⎢ ⎥
⎢ ⎥
⎢ ⎥ ⎢ − ⎥
⎣ ⎦ ⎣ ⎦ ⎣ ⎦
其解為
1
2
3
4
5 11
2 4
1 1
2 4
5 11
1 1
, , , ,
2 0
1 0
0 4
0 1
x
x s t s t R u v u v R
x x
− −
⎡− ⎤ ⎡− ⎤
⎡ ⎤ ⎡ ⎤ ⎡ ⎤
⎢ ⎥ ⎢ ⎥
⎢ ⎥ ⎢ ⎥ ⎢ ⎥
⎢ ⎥ ⎢ ⎥
⎢ ⎥ ⎢ ⎥ ⎢ ⎥
=⎢ ⎥=⎢ ⎥ +⎢ ⎥ ∈ ⇒ =⎢ ⎥ +⎢ ⎥ ∈
⎢ ⎥ ⎢ ⎥
⎢ ⎥ ⎢ ⎥ ⎢ ⎥
⎢ ⎥ ⎢ ⎥ ⎣ ⎦ ⎣ ⎦
⎣ ⎦ ⎣ ⎦ ⎣ ⎦
x x
故零空間為
5 11 1 1 span ,
2 0 0 4
⎧⎡ ⎤ ⎡− − ⎤⎫
⎪⎢ ⎥ ⎢ ⎥⎪
⎪⎢ ⎥ ⎢ ⎥⎪
⎨⎢ ⎥ ⎢ ⎥⎬
⎪⎢ ⎥ ⎢ ⎥⎪
⎪⎣ ⎦ ⎣ ⎦⎪
⎩ ⎭
其零度為nullityA=2。 █
題外話(解空間的維度) 一般線性系統(非齊次系統)
= , ≠ Ax b b 0
可能會有多重解、唯一解、或無解。判斷這些狀況的依據為以下兩矩陣的秩
錯誤! 物件無法用編輯功能變數代碼來建立。
以及錯誤! 物件無法用編輯功能變數代碼來建立。之行數 n 間的互相關係:
( )
[ ]( )
[ ]( )
[ ]1 2 3
r r
r r n
r r n
>
= =
= <
A b A A A b A b A
:無解
:唯一解
:多重解
當然,我們由定義知道
( )
1 、( )
2 之解空間的維度為零。 █例題
5-16 (線性系統無解之情況)請驗證下列線性系統無解。
1 3 1 2 2 2 4 5 4 8 6 8
⎡ ⎤
⎢ ⎥
⎢ ⎥
⎢ ⎥
⎣ ⎦
【解答】
以三種基本列運算,轉換以下增廣矩陣
5 11
2 4
1 1
2 4
1 3 1 2 1 3 1 2 1 0 2 2 4 5 0 4 2 1 0 1
4 8 6 8 0 4 2 0 0 0 0 1
⎡ ⎤
⎡ ⎤ ⎡ ⎤
⎢ ⎥
⎢ ⎥ → ⎢ − ⎥ → ⎢ − − ⎥
⎢ ⎥ ⎢ ⎥
⎢ ⎥
⎢ ⎥ ⎢ − ⎥ −
⎣ ⎦ ⎣ ⎦ ⎣ ⎦
即r[ ]A b = >3 rA =2,故此系統無解。 █
例題
5-17 (線性系統無解之特殊解與齊次解)請寫出下列線性系統的一般解。
1 3 1 2 2 2 4 5 4 8 6 9
⎡ ⎤
⎢ ⎥
⎢ ⎥
⎢ ⎥
⎣ ⎦
【解答】
以三種基本列運算,轉換以下增廣矩陣
5 11
2 4
1 1
2 4
1 3 1 2 1 3 1 2 1 0 2 2 4 5 0 4 2 1 0 1
4 8 6 9 0 4 2 1 0 0 0 0
⎡ ⎤
⎡ ⎤ ⎡ ⎤
⎢ ⎥
⎢ ⎥ → ⎢ − ⎥ → ⎢ − − ⎥
⎢ ⎥ ⎢ ⎥
⎢ ⎥
⎢ ⎥ ⎢ − ⎥
⎣ ⎦ ⎣ ⎦ ⎣ ⎦
齊次系統的解為
1
2
3
5 1 , 2
h
x
x s s R
x
⎡ ⎤ ⎡ ⎤−
⎢ ⎥ ⎢ ⎥
=⎢ ⎥ ⎢ ⎥= ∈
⎢ ⎥ ⎢ ⎥⎣ ⎦
⎣ ⎦ x
我們也可以驗證
11 4
1 4
0
p
⎡ ⎤
⎢ ⎥
= ⎢ ⎥
⎢ ⎥
⎣ ⎦
− x
是線性系統的一個解。我們稱x 為齊次解(homogeneous solution)h ,x 為特殊解p
(particular solution)。一個線性系統若有解,其一般解可以寫成齊次解加上特殊 解,如下所示
11 4
1 4
5 1 ,
0 2
p h s s R
⎡ ⎤ ⎡ ⎤−
⎢ ⎥ ⎢ ⎥
= + =⎢ ⎥ ⎢ ⎥+ ∈
⎢ ⎥ ⎢ ⎥⎣ ⎦
⎣ ⎦
− x x x
以上特殊解、齊次解都不是唯一的,各任取一個就可以了。列如
3 5
2 2
1 2 1 2
0 ,
1
p h t t R
⎡ ⎤ ⎡− ⎤
⎢ ⎥ ⎢ ⎥
= + =⎢ ⎥ ⎢+ ⎥ ∈
⎢ ⎥ ⎢⎣ ⎥⎦
⎣ ⎦ x x x
請驗證⎡⎣32 0 12⎤⎦ 也是一個特殊解。 T █