128 5. Operators on Inner Product Spaces
由 minimal polynomial 定義知µT(T ) = O, 故由 Lemma 5.4.1, 得µT(T∗) = (µT(T ))∗= O, 故知µT∗(x)|µT(x). 同理由 (T∗)∗= T , 得µT(x)|µT∗(x), 再將兩邊多項式的係數取 conjugate 得 µT(x)|µT∗(x). 得證 µT∗(x) =µT(x). 有關 linear operator 的 decomposition, 最重要的便是 T -invariant subspace. 現若 W 為 T -invariant subspace, 我們自然會問 W 是否為 T∗-invariant subspace. 一般來說這不一定 對, 但我們有以下之結果.
Lemma 5.4.3. 若 T : V → V 為 linear operator, 則 W ⊆ V 為 T-invariant subspace 若且唯 若 W⊥⊆ V 為 T∗-invariant subspace.
Proof. 假設 W 為 T -invariant, 要說明 W⊥為 T∗-invariant, 就是要說明對任意 w′∈W⊥皆有 T∗(w′)∈ W⊥. 然而若 w∈ W, 則由 T(w) ∈ W 以及 w′∈ W⊥, 得⟨w,T∗(w′)⟩ = ⟨T(w),w′⟩ = 0.
此即證明 T∗(w′)∈ W⊥, 故 W⊥ 為 T∗-invariant.
反 之, 若 W⊥ 為 T∗-invariant, 則 由 上 面 所 證 (W⊥)⊥ = W 為 (T∗)∗-invariant, 即 T -
invariant.
給定一個 inner product space V , 及其 subspace W , 最直接的 decomposition 為 V = WW⊥. 所以當 W 為 T -invariant 時, 我們自然會問是否 W⊥ 亦為 T -invariant. 利用 Lemma 5.4.3, 這剛好回答了何時 W 亦為 T∗-invariant.
Corollary 5.4.4. 假設 T : V → V 為 linear operator 且 W ⊆ V 為 T-invariant subspace.
則 W⊥ 為 T -invariant subspace 若 且 唯 若 W 為 T∗-invariant subspace. 另 外 若 W 為 T -invariant 和 T∗-invariant, 則
(T|W)∗= T∗|W.
Proof. 由 Lemma 5.4.3, 我們知 W⊥ 為 T -invariant 等價於 W = (W⊥)⊥ 為 T∗-invariant. 此 時對任意的 w, w′∈ W 皆有
⟨T|W(w), w′⟩ = ⟨T(w),w′⟩ = ⟨w,T∗(w′)⟩ = ⟨w,T∗|W(w′)⟩,
得證 (T|W)∗= T∗|W.
接 下 來 我 們 探 討 幾 個 特 殊 的 linear operator 及 其 adjoint 間 的 關 係. 首 先 回 顧 若 V = W1⊕W2, 則對任意 v∈ V, 皆存在唯一的 w1∈ W1, w2∈ W2 使得 v = w1+ w2. 此時我們 定義 πW1,W2 : V → V, 為 πW1,W2(v) = w1. 我們稱 πW1,W2 為 projection on W1 along W2. 要注 意, 若 V = W1⊕W2′, 其中 W2̸= W2′, 則 πW1,W2̸=πW1,W2′.
Question 5.19. 如上所述, πW2,W1(v) 為何? 並說明若 V = W1⊕W2= W1⊕W2′ 但 W2̸= W2′ 則 πW1,W2 ̸=πW1,W2′.
當 V 是 finite dimensional inner product space, 我們可由 V = W1⊕W2推得 V = W1⊥⊕W2⊥. 這是因為若 w∈ W1⊥∩W2⊥, 則對任意 v∈ V, 我們有 v = w1+ w2, 其中 w1∈ W1, w2∈ W2, 故
5.4. The Adjoint of Linear Operators 129
得 ⟨v,w⟩ = ⟨w1, w⟩ + ⟨w2, w⟩ = 0. 由 Lemma 5.1.4 得知 w = OV. 再由
dim(W1⊥+W2⊥) = dim(W1⊥) + dim(W2⊥) = dim(W2) + dim(W1) = dim(V ), 得證 V = W1⊥⊕W2⊥. 利用此我們可以得到 πW1,W2 的 adjoint πW∗1,W2.
Proposition 5.4.5. 若 V = W1⊕W2, 則 V = W1⊥⊕W2⊥ 且 πW∗1,W2 =πW⊥
2 ,W1⊥.
Proof. 前面已知 V = W1⊥⊕W2⊥, 故對任意 v, v′∈ V, 我們知存在 w1∈ W1, w2∈ W2 以及 w′1∈ W1⊥, w′2∈ W2⊥ 滿足 v = w1+ w2, v′= w′1+ w′2. 此時
⟨πW1,W2(v), v′⟩ = ⟨w1, w′1+ w′2⟩ = ⟨w1, w′2⟩.
另一方面
⟨v,πW2⊥,W1⊥(v′)⟩ = ⟨w1+ w2, w′2⟩ = ⟨w1, w′2⟩.
得證⟨πW1,W2(v), v′⟩ = ⟨v,πW2⊥,W1⊥(v′)⟩, ∀v,v′∈ V, 即πW∗1,W2 =πW2⊥,W1⊥. 我們知道在 inner product space 中最常用的 decomposition 就是 V = WW⊥. 此時我們 稱 projectionπW,W⊥ 為 orthogonal projection on W . 為了方便, 以後我們都會把 orthogonal projection on W 用πW 來表示 (因為它僅和 W 有關). 利用 Proposition 5.4.5, 我們馬上有 以下之結果.
Corollary 5.4.6. 設 V 是 finite dimensional inner product space 且 W 為其 subspace. 令 πW : V → V 為 orthogonal projection on W, 則 πW =πW◦2 且 πW∗ =πW.
Proof. 對任意 v∈ V, 我們有 v = w + w′, 其中 w∈ W,w′∈ W⊥, 故
πW◦2(v) =πW(πW(v)) =πW(πW(w + w′)) =πW(w) =πW(v),∀v ∈ V.
得證πW =πW◦2. 另一方面, 利用 Proposition 5.4.5 以及 (W⊥)⊥= W , 我們有 πW∗ =πW,W∗ ⊥=π(W⊥)⊥,W⊥=πW,W⊥=πW.
Question 5.20. 試證明對任意 v∈ V,πW 就是 Proposition 5.1.12 中提的 projection projW. 一個 linear operator T : V → V 若滿足 T◦2= T , 則稱為 idempotent. 由 Corollary 5.4.6 的證明我們知道任何的 projection 皆為 idempotent (不需 orthogonal projection 之假設).
至於 T∗= T 的性質, 我們稱為 self-adjoint. 一般的 projection 不會是 self-adjoint, 除非它 是 orthogonal projection, 這是由於我們有下結果.
Proposition 5.4.7. 假設 T : V → V 為 linear transformation 滿足 T◦2= T , 則下列敘述為 等價:
(1) T 為 orthogonal projection.
(2) T∗= T .
130 5. Operators on Inner Product Spaces
(3) Ker(T ) = Im(T )⊥. (4) Im(T ) = Ker(T )⊥.
Proof. 首先我們說明若 T 為 idempotent (即 T◦2= T ), 則 T =πIm(T ),Ker(T ). 這需先證明 V = Im(T )⊕ Ker(T). 事實上 dim(V) = dim(Im(T)) + dim(Ker(T)), 所以只要證明
Im(T )∩ Ker(T) = {OV},
則由 Im(T ) + Ker(T )⊆ V, 可得 V = Im(T) ⊕ Ker(T). 然而若 v ∈ Im(T), 表示存在 w ∈ V 使得 v = T (w), 故由 T◦2= T , 得 T (v) = T◦2(w) = T (w) = v. 若再加上 v∈ Ker(T) 可得 v = T (v) = OV. 現已知 V = Im(T )⊕ Ker(T), 故對任意 v, 皆存在 w ∈ Im(T),w′∈ Ker(T) 使 得 v = w + w′. 可得 T (v) = T (w) + T (w′) = T (w). 但前面已知若 w∈ Im(T), 則 T(w) = w, 故知 T (v) = w. 此和 projection on Im(T ) along Ker(T ) 即πIm(T ),Ker(T ) 對 v 的作用相同, 故 得證 T =πIm(T ),Ker(T ).
現 由 Corollary 5.1.14, 我 們 知 道 Ker(T ) = Im(T )⊥ 若 且 唯 若 Im(T ) = Ker(T )⊥ (即 (3)⇔ (4)). 而又若 Ker(T) = Im(T)⊥ 則 πIm(T ),Ker(T )=πIm(T ),Im(T )⊥, 得證 T =πIm(T ),Ker(T ) 為 orthogonal projection (即 (3)⇒ (1)). 又若 T 為 orthogonal projection, 則由 Corollary 5.4.6 知 T∗= T (即 (1)⇒ (2)). 最後利用 Proposition 5.3.8(1) 知若 T∗= T , 則 Im(T ) = Ker(T )⊥ (且 Ker(T ) = Im(T )⊥) (即 (2)⇒ (3)(4)) 得證本定理.
一般來說, 我們可以將一個 finite dimensional inner product space 寫成 orthogonal direct sum V = W1 ··· Wk, 此時 Wi⊥=⊕j̸=iWj. 若令 πi 為 orthogonal projection on Wi (即πi=πWi), 則很容易看出
π1+··· +πk= idV.
我們稱此為 orthogonal resolution of the identity. 注意此時我們有 πi◦2=πi,πi∗=πi 以及當 i̸= j 時, πi◦πj= O. 事實上, 我們有以下之結果.
Lemma 5.4.8. 假設 V 為 finite dimensional inner product space 且 W1,W2為 V 的 subspace.
令 π1,π2 分別為 orthogonal projection on W1,W2. 則下列為等價:
(1) W1⊥ W2. (2) π1◦π2= O.
(3) π2◦π1= O.
Proof. 對於任意 v∈V, 由於π1(v)∈W1, 故若 W1⊥W2, 則π1(v)∈W2⊥. 得證π2(π1(v)) = OV,
∀v ∈ V 即 π1◦π2= O. 同理可得 π2◦π1= O.
現對任意 w1∈ W1, w2∈ W2, 我們有⟨w1, w2⟩ = ⟨π1(w1),π2(w2)⟩ = ⟨w1,π1∗(π2(w2))⟩. 因 π1
為 orthogonal projection, 由 Corollary 5.4.6 知 π1∗=π1. 故若 π1◦π2= O, 則 ⟨w1, w2⟩ =
⟨w1, OV⟩ = 0, 得證 W1⊥ W2. 同理若π2◦π1= O 亦可得 W1⊥ W2.
5.4. The Adjoint of Linear Operators 131
回顧過去我們提過, 若對於 linear operator T : V → V, 我們可以找到 V 的一組 basis 是由 T 的 eigenvectors 所組成, 則表示 T 是 diagonalizable. 特別的, 若存在一組 T 的 eigenvectors 形成 V 的一組 orthogonal basis (或 orthonormal basis), 則我們有以下的定義.
Definition 5.4.9. 假設 V 是一個 finite dimensional inner product space over F 且 T : V→V 為 linear operator. 若存在一組 T 的 eigenvectors 形成 V 的一組 orthogonal basis (或 orthonormal basis), 則我們稱 T 為 unitary diagonalizable (當 F =R 時, 有的書會特別稱 T 為 orthogonal diagonalizable).
當 A 是一個 n×n matrix over F, 若考慮 Fn上的 standard inner product, 存在一組 A 的 eigenvectors 為 Fn 的一組 orthogonal basis (或 orthonormal basis), 則我們稱 A 為 unitary diagonalizable (當 F =R 時, 有的書會特別稱 A 為 orthogonal diagonalizable).
在此特別說明, 當一個 matrix A 為 unitary diagonalizable 時, 在 F =C 的情況即表示存 在一個 matrix P 滿足 P∗= P−1 使得 P∗AP 為一個 diagonal matrix. 這樣的矩陣 P 是由那 些 eigenvectors 所成的 orthonormal basis 所組成的, 我們稱為 unitary matrix. 而在 F =R 的情況, 表示存在一個 matrix P 滿足 Pt = P−1 使得 PtAP 為一個 diagonal matrix. 這樣 的矩陣 P 是由那些 eigenvectors 所成的 orthonormal basis 所組成的, 我們稱為 orthogonal matrix. 這就是 unitary diagonalizable (或 orthogonal diagonalizable) 名稱的由來. 為了方 便起見, 我們不去區分 unitary diagonalizable 或 orthogonal diagonalizable, 一律用 unitary diagonalizable 來稱之. 接下來我們來探討 unitary diagonalizable linear operator 的特性.
Proposition 5.4.10. 假設 V 是一個 finite dimensional inner product space over F 且 T : V → V 為 linear operator. 則下列是等價的.
(1) T 為 unitary diagonalizable.
(2) 存在相異 λ1, . . . ,λk∈ F 使得 V = Eλ1 ··· Eλk, 其中 Eλi, 為λi 的 eigenspace, 即 Eλi={v ∈ V | T(v) =λiv}.
(3) 存在 λ1, . . . ,λk∈ F 使得 T =λ1π1+··· +λkπk, 其中 πi 為 orthogonal projection 且 滿足 πi◦πj= O, ∀i ̸= j.
Proof. 假設 T 為 unitary diagonalizable, 假設 {v1, . . . , vn} 為 T 的一組 eigenvectors 所組 成的 orthogonal basis. 將其適當重排使得相同 eigenvalue 的 eigenvectors 擺在一起, 我 們假設 v1, . . . , vl1 為 eigenvalue 為 λ1 的 eigenvectors, vl1+1, . . . , vl2 為 eigenvalue 為 λ2 的 eigenvectors, 依此類推 (其中每個λi 皆相異). 我們要說明 Wi= Span({vli−1+1, . . . , vli}) 等於 Eλi. 事實上 Wi⊆ Eλi, 又由 T 為 diagonalizable 知 V = Eλ1⊕ ··· ⊕ Eλk. 我們有
dim(V ) = dim(W1) +··· + dim(Wk)≤ dim(Eλ1) +··· + dim(Eλk) = dim(V ),
得 證 dim(Wi) = dim(Eλi), 即 Wi = Eλi. 很 自 然 的, 對 於 i̸= j 我們有 Wi ⊥ Wj, 故 得 證 V = Eλ1 ··· Eλk. 反 之, 若 V = Eλ1 ··· Eλk, 則 考 慮 每 個 Eλi 上 的 一 組 orthogonal basis, 由於這些 Eλi 上的 orthogonal basis 可組成 V 的一組 orthogonal basis, 且皆為 T 的 eigenvectors. 得證 (1)⇔ (2).