Operators on Inner Product Spaces

(1)

Operators on Inner Product Spaces

在這一章中我們談論在 inner product spaces 中的 linear operators 的性質. 由於 inner product spaces 比一般 vector spaces 有更豐富的結構, 所以我們可以更深入的探討這情況下的 linear operators. 我們談論的是常用的 inner product spaces, 所以這一章中的 vector spaces 皆為 vector space overC 或是 R.

5.1. Inner Product Spaces

在這一節中, 我們簡單介紹 inner product space 的定義及基本性質. 首先回顧熟悉的 Real inner product space.

Deﬁnition 5.1.1. 令 V 為一個 vector space overR. 若函數 ⟨, ⟩ : V ×V → R 滿足以下的性 質, 便稱為 V 的一個 inner product.

(1) ⟨v,w⟩ = ⟨w,v⟩, ∀v,w ∈ V.

(2) ⟨rv + sw,u⟩ = r⟨v,u⟩ + s⟨w,u⟩, ∀u,v,w ∈ V and r,s ∈ R.

(3) ⟨v,v⟩ ≥ 0, ∀v ∈ V. 而且 ⟨v,v⟩ = 0 若且唯若 v = OV. 此時我們稱 V 為 real inner product space.

至於 complex 的情形, 首先回顧, 若 z∈ C, 我們用 z 表示 z 的 conjugate (共軛複數).

Deﬁnition 5.1.2. 令 V 為一個 vector space overC. 若函數 ⟨, ⟩ : V ×V → C 滿足以下的性 質, 便稱為 V 的一個 inner product.

(1) ⟨v,w⟩ = ⟨w,v⟩, ∀v,w ∈ V.

(2) ⟨rv + sw,u⟩ = r⟨v,u⟩ + s⟨w,u⟩, ∀u,v,w ∈ V and r,s ∈ C.

(3) ⟨v,v⟩ ≥ 0, ∀v ∈ V. 而且 ⟨v,v⟩ = 0 若且唯若 v = OV.

107

(2)

此時我們稱 V 為 complex inner product space.

注意, 一個 vector space 可以有不同的 inner product. 當我們說 V 是一個 inner product space, 表示我們已給定某一個 inner product.

Example 5.1.3. 在 Rⁿ 中我們定義

⟨(x1, . . . , xn), (y1, . . . , yn)⟩ = x1y1+··· + xnyn,

此為 Rⁿ 的 standard inner product. 在此 inner product 之下, 我們稱 Rⁿ 為 n-dimensional Euclidean space.

在 Cⁿ 中我們定義

⟨(x1, . . . , xn), (y1, . . . , yn)⟩ = x1y1+··· + xnyn,

此為 Cⁿ 的 standard inner product. 在此 inner product 之下, 我們稱 Cⁿ 為 n-dimensional unitary space.

Question 5.1. 假設 V 是一個 over C 的 inner product space. 若將 V 看成是 vector space over R, 是否 V 為 over R 的 inner product space?

注意在 real inner product space 的情形, 由於 (1) 的對稱性, 利用 (2) 對於任意的 u, v, w∈ V 以及 r,s ∈ R 我們有

⟨u,rv + sw⟩ = r⟨u,v⟩ + s⟨u,w⟩.

因此對任意的 v, v^′, w, w^′∈ V 以及 r,r^′, s, s^′∈ R 我們有

⟨rv + r^′v^′, sw + s^′w^′⟩ = r⟨v,sw + s^′w^′⟩ + r^′⟨v^′, sw + s^′w^′⟩

= rs⟨v,w⟩ + rs^′⟨v,w^′⟩ + r^′s⟨v^′, w⟩ + r^′s^′⟨v^′, w^′⟩ (5.1) 不過在 complex 的情形, 則由 (1), (2) 對於任意的 u, v, w∈ V 以及 r,s ∈ C 我們有

⟨u,rv + sw⟩ = ⟨rv + sw,u⟩ = r⟨v,u⟩ + s⟨w,u⟩ = r⟨u,v⟩ + s⟨u,w⟩.

因此對於任意的 v, v^′, w, w^′∈ V 以及 r,r^′, s, s^′∈ C 我們有

⟨rv + r^′v^′, sw + s^′w^′⟩ = r⟨v,sw + s^′w^′⟩ + r^′⟨v^′, sw + s^′w^′⟩

= rs⟨v,w⟩ + rs^′⟨v,w^′⟩ + r^′s⟨v^′, w⟩ + r^′s^′⟨v^′, w^′⟩ (5.2) 在 inner product 的定義中,⟨v,v⟩ = 0 若且唯若 v = OV, 這一個性質稱為 non-degenerate.

它可以確保我們有以下之性質.

Lemma 5.1.4. 若 V 是一個 inner product space 且 v∈ V 滿足 ⟨v,w⟩ = 0, ∀w ∈ V, 則 v = O_V.

Proof. 只要選取 w = v, 則有⟨v,v⟩ = 0. 故由 inner product 的定義知 v = OV.

(3)

Lemma 5.1.4 告訴我們一個判定 V 中元素是否為 O_V 的方法. 現若 v, u∈ V, 滿足

⟨v,w⟩ = ⟨u,w⟩, ∀w ∈ V, 則由

⟨v − u,w⟩ = ⟨v,w⟩ − ⟨u,w⟩ = 0 得知 v = u. 所以我們有以下簡單但有用的性質.

Corollary 5.1.5. 設 V 是一個 inner product space. 若 v, u∈ V 滿足 ⟨v,w⟩ = ⟨u,w⟩, ∀w ∈ V, 則 v = u.

Lemma 5.1.4 也可以幫助我們了解 linear operator, 以下的性質將來會很有用. 要注意在 real 和 complex 的不同.

Proposition 5.1.6. 設 V 是一個 inner product space 且 T : V → V 為 linear operator.

(1) 當 V 是一個 real inner product space, 若 ⟨T(v),w⟩ = 0, ∀v,w ∈ V 則 T 為 zero mapping.

(2) 當 V 是一個 complex inner product space, 若 ⟨T(v),v⟩ = 0, ∀v ∈ V 則 T 為 zero mapping.

Proof. 給定任意 v∈ V, 因 ⟨T(v),w⟩ = 0, ∀w ∈ V, 故由 Lemma 5.1.4 知 T(v) = OV. 因為對任意 v∈ V 皆成立, 故 T = O.

至於 complex 的情形, 利用等式 (5.2) 對於任意的 v, w∈ V 以及 r ∈ C 我們有 0 = ⟨T(rv + w),rv + w⟩

= ⟨rT(v) + T(w),rv + w⟩

= rr⟨T(v),v⟩ + r⟨T(v),w⟩ + r⟨T(w),v⟩ + ⟨T(w),w⟩

= r⟨T(v),w⟩ + r⟨T(w),v⟩

當我們分別代 r = 1 和 r =√

−1, 可得 ⟨T(v),w⟩ + ⟨T(w),v⟩ = 0 和 ⟨T(v),w⟩ − ⟨T(w),v⟩ = 0.

依此得⟨T(v),w⟩, ∀v,w ∈ V. 故由前面結論知 T = O.

當 V 是一個 inner product space, 不管是 over R 或是 over C, 我們都會有以下的 Cauchy-Schwarz inequality.

Lemma 5.1.7. 假設 V 是一個 inner product space over F, 其中 F =R 或 C. 若對於任意 v∈ V 我們定義 ∥v∥ =√

⟨v,v⟩, 則對於任意 v,w ∈ V, 皆有

|⟨v,w⟩| ≤ ∥v∥∥w∥.

而且|⟨v,w⟩| = ∥v∥∥w∥ 若且唯若 v,w 其中有一個為 OV 或是存在 r∈ F 使得 v = rw.

Proof. 當 v, w 其中有一個為 O_V, 很容易知道等式成立. 所以我們假設 v, w 皆不為 O_V. 對 於任意 r∈ F, 當 F 為 R 時利用式子 (5.1) 我們有

0≤ ⟨v − rw,v − rw⟩ = ⟨v,v⟩ − 2r⟨v,w⟩ + r²⟨w,w⟩.

(4)

此時令 r =⟨v,w⟩/⟨w,w⟩, 我們有

⟨v,w⟩²

⟨w,w⟩ ≤ ⟨v,v⟩.

當 F 為C 時利用式子 (5.2) 我們有

0≤ ⟨v − rw,v − rw⟩ = ⟨v,v⟩ − r⟨w,v⟩ − r⟨v,w⟩ + rr⟨w,w⟩.

此時令 r =⟨v,w⟩/⟨w,w⟩ (注意 r = ⟨v,w⟩/⟨w,w⟩, 因為 ⟨w,w⟩ ∈ R), 我們有

⟨v,w⟩⟨v,w⟩

⟨w,w⟩ ≤ ⟨v,v⟩.

因為在 F =C 時 ⟨v,w⟩⟨v,w⟩ = |⟨v,w⟩|² 故得證此 inequality.

最後若等式成立表示存在 r∈ F 會使得 ⟨v − rw,v − rw⟩ = 0 此即 v = rw. 給定一個 inner product 之後, 我們就可以定義所謂的 norm. 這是因為我們有以下的性質:

Proposition 5.1.8. 假設 V 是一個 inner product space over F (F =R 或 C). 若對於任意 v∈ V 我們定義 ∥v∥ =√

⟨v,v⟩, 則我們有以下的性質:

(1) ∥v∥ ≥ 0 而且 ∥v∥ = 0 若且唯若 v = OV.

(2) 對於任意 r∈ F 以及 v ∈ V, 皆有 ∥rv∥ = |r|∥v∥.

(3) 對於任意 v, w∈ V, 皆有 ∥v + w∥ ≤ ∥v∥ + ∥w∥.

Proof. (1) 直接由 inner product 的性質 (3) 可得, 而 (2) 由式子 (5.1), (5.2) 可得, 所以我 們僅證明 (3). 由⟨v + w,v + w⟩ = ⟨v,v⟩ + 2⟨v,w⟩ + ⟨w,w⟩, 以及 Lemma 5.1.7 我們知

∥v + w∥²=⟨v + w,v + w⟩ ≤ ∥v∥²+ 2∥v∥∥w∥ + ∥w∥²= (∥v∥ + ∥w∥)²,

得證∥v + w∥ ≤ ∥v∥ + ∥w∥.

Proposition 5.1.8 (3) 的性質就是所謂的三角不等式 (triangle inequality). 一個 vector space V , 若存在一個函數 ∥ ∥ : V → R 滿足 Proposition 5.1.8 的三個性質便稱為 normed linear space, 而函數 ∥ ∥ 便稱作是一個 norm. 所以一個 inner product space 可以利用 Proposition 5.1.8 所定出的 norm 使之成為一個 normed linear space. 另外有了 norm 對 於任意 v, w∈ V, 我們可以定出 v,w 的距離 (distance) d(v,w) = ∥v − w∥. 而存有 distance 的 vector space 我們稱為 metric space. 所以 inner product space 也會是 metric space. 在 metric space 中有了距離, 我們便可定義 sequence 的收斂與發散. 不過這不屬於本講義所要談論的課題, 我們就不多談.

Question 5.2. 假設 V 是一個 inner product space. 試利用 Proposition 5.1.8 所定出的 norm 證明 parallelogram law, 即對於任意 v, w∈ V 皆有

∥v + w∥²+∥v − w∥²= 2∥v∥²+ 2∥w∥².

(5)

Inner product space 不只讓我們得到 metric space, 另一個重要的性質就是垂直 (orthogonal) 的概念. 我們有以下的定義.

Deﬁnition 5.1.9. 假設 V 是一個 inner product space. 若 v, w∈ V 滿足 ⟨v,w⟩ = 0, 則稱 v, w 為 orthogonal, 用 v⊥ w 來表示.

若 {v1, . . . , v_n} 為 V 的一組 basis 且對任意 i ̸= j 皆有 vi⊥ vj, 則我們稱 {v1, . . . , v_n} 為 V 的一組 orthogonal basis. 若 orthogonal basis 中任意的 vi 皆滿足 ∥vi∥ = 1, 我們稱之為 V 的一組 orthonormal basis.

注意若⟨v,w⟩ = 0, 則 ⟨w,v⟩ = 0, 所以 v ⊥ w 亦等同於 w ⊥ v.

Question 5.3. ⊥ 是否為一個 equivalent relation? 它符合哪些 equivalent relation 的條件?

依定義若 {w1, . . . , wn} 為 V 的一組 orthogonal basis, 令 vi= _∥w¹

i∥w_i, 則 {v1, . . . , vn} 就 是 V 的一組 orthonormal basis.

有一組 orthogonal basis (或 orthonormal basis){v1, . . . , vn} 的好處便是對於任意 v ∈ V 我們可以很快的將 v 寫成 {v1, . . . , v_n} 的 linear combination. 這是因為若 v = c1v₁+··· + cnv_n, 則利用

⟨v,vi⟩ = c1⟨v1, vi⟩ + ··· + cn⟨vn, vi⟩ = ci⟨vi, vi⟩, 可得

c_i= ⟨v,vi⟩

⟨vi, v_i⟩.

當 V 為 ﬁnite dimensional 時, 我們可以利用 Gram-Schmidt orthogonalization process 找到 V 的一組 orthogonal basis (或 orthonormal basis). 在此僅略述一下這個 process.

首先任取 w₁∈ V \ {OV} 且令 v1= w1. 接著選取 w2∈ V \ Span({w1}), 且令 v₂= w₂−⟨w2, v₁⟩

⟨v1, v₁⟩v₁.

注意此時⟨v1, v2⟩ = 0 且 Span({v1, v2}) = Span({w1, w2}). 接下來如果 Span({v1, v2}) = V, 則 {v1, v₂} 就是 V 的一組 orthogonal basis. 否則再找到 w3∈ V \ Span({w1, w₂}), 然後令

v₃= w₃−

(⟨w3, v₁⟩

⟨v1, v₁⟩v₁+⟨w3, v₂⟩

⟨v2, v₂⟩v₂ )

.

注意此時 ⟨v1, v₃⟩ = ⟨v2, v₃⟩ = 0 且 Span({v1, v₂, v₃}) = Span({w1, w₂, w₃}). 如此一直下去, 也 就是說找到 w_i∈ V \ Span({w1, . . . , wi−1}), 然後令

v_i= w_i−

(⟨wi, v₁⟩

⟨v1, v1⟩v₁+··· + ⟨wi, v_i₋₁⟩

⟨vi−1, vi−1⟩v_i₋₁ )

.

注意此時 ⟨v1, v_i⟩ = ··· = ⟨vi−1, v_i⟩ = 0 且 Span({v1, . . . , v_i}) = Span({w1, . . . , w_i}). 由於 V 是 ﬁnite dimensional, 這個程序一定會停止. 亦即找到 {v1, . . . , v_n} 為 V 的一組 orthogonal basis. 再次強調, 在前面過程中如果我們將每個 v_i 乘上 ∥vi∥⁻¹ 就得到 orthonormal basis.

另一方面, 若原本已有 V 的一組 basis{w1, . . . , wn}, 則由於 wi∈ V \Span({w1, . . . , wi−1}), 所 以直接套用上面的 process, 就可以得到 V 的一組 orthogonal basis.