第五章 實驗結果
第一節 Indian Pines Site 資料集
實驗依據本研究提出的半監督式特徵萃取演算法,因針對未知樣本權重的 定義不同,可分為「鄰居系統結合空間資訊之線性區別分析(SLDA_MRF)」、「後 驗機率結合空間資訊之線性區別分析(SLDA_GC) 」、「距離測度結合空間資訊 之線性區別分析(SLDA_kNN) 」,以下分別說明其在 Indian Pines Site 資料集上 的實驗結果。
壹、鄰居系統結合空間資訊之線性區別分析
表5-1 所呈現的實驗數據為本研究所提出的 SLDA_MRF 與不同的特徵萃取 技術分別搭配三種單一分類器,在三個case 下所得到的最高分類正確率,其中 括號內的數字表示萃取的維度數。以下為了方便說明實驗的結果,所以僅挑選 每個特徵萃取法搭配任一分類器中最高的分類正確率來進行效能的分析,而在 表格中以灰底呈現的數字即是主要用以比較的數據,並列出使用交互驗證法來 挑選 及 的二個參數值。
由表5-1 的實驗可知:在 Indian Pines Site 的資料集上,LDA 最高的分類正 確率分別為60.78% (case1)、69.44% (case2)、89.00% (case3);SDA 最高的分類 正確率分別為71.11% (case1)、74.67% (case2)、79.00% (case3);SELF 最高的分 類正確率分別為75.00% (case1)、82.67% (case2)、85.78% (case3);SLDA_MRF 最高的分類正確率分別為74.89% (case1)、82.89% (case2)、90.78% (case3)。
表5-1 為在 Indian Pines Site 的資料集上不同特徵萃取法搭配三種單一分類器在 三個case 下的最高分類正確率
Classification Accuracy % (dimensionality) Feature
Extraction Classifier
Case 1 Case 2 Case 3
但差距並不算大,且在 case2 及 case3 的情況下,SLDA_MRF 的分類效能就相 對較SELF 要來的好。
(a) LDA+SVM (case 1) (b) SDA+SVM (case 1)
(c) SELF+GC (case 1) (d) SLDA_MRF +SVM (case 1) 圖5-1 圖(a)-(d)為 Indian Pines Site 資料集在 case1 中,分別使用不同的特徵萃取 法來搭配任一分類器的thematic maps。
(a) LDA+SVM (case 2) (b) SDA+GC (case 2)
(c) SELF+GC (case 2) (d) SLDA_MRF +SVM (case 2) 圖5-2 圖(a)-(d)為 Indian Pines Site 資料集在 case2 中,分別使用不同的特徵萃取 法來搭配任一分類器的thematic maps。
(a) LDA+SVM (case 3) (b) SDA+SVM (case 3)
(c) SELF+SVM (case 3) (d) SLDA_MRF +SVM (case 3) 圖5-3 圖(a)-(d)為 Indian Pines Site 資料集在 case3 中,分別使用不同的特徵萃取 法來搭配任一分類器的thematic maps。
圖5-1 到 5-3 是分別針對三個不同 case 下所呈現的實驗分類圖,其是依據 上表中灰底的最高分類正確率所繪製的圖,即每個case 皆有四張圖,分別列出 不同的特徵萃取法搭配哪種分類器具有較佳的辨識率。從中觀察可知,隨著訓 練樣本數的增加,任何的特徵萃取法皆能有效的提升分類的效果,且無論何種 特徵萃取技術在搭配SVM 的情況下,多數都有較佳的分類正確率。在 case1 的 分類圖下,其中Grass / Pasture、Grass / Trees 及 Hay – windrowed 這三類,其分 類的結果皆較傳統的線性區別分析好。
貳、後驗機率結合空間資訊之線性區別分析
表5-2 所呈現的實驗數據為本研究所提出的 SLDA_GC 及 SLDA_kNN 與不 同的特徵萃取法分別搭配高斯分類器及 k 最近鄰二種單一的分類器,在三個 case 下所得到的最高分類正確率,而在SLDA_kNN 的方法中,k 最近鄰是實驗在 5NN 及 15NN 的情況下,主要是想嘗試當找尋不同的鄰近個數是否對分類的正確率 會有所影響,其中括號內的數字表示萃取的維度數。以下為了方便說明實驗的 結果,所以僅挑選在不同分類器下搭配任一特徵萃取法中最高的分類正確率來 進行效能的分析,而在表格中以灰底呈現的數字即是主要用以比較的數據,並 列出使用交互驗證法來挑選 及 的二個參數值。
由表5-2 的實驗結果可知:在 Indian Pines Site 的資料集上,以高斯分類器 搭配不同的特徵萃取法而言,最高的分類正確率分別為75.00% (case1)、82.67%
(case2)、87.78% (case3);以 k 最近鄰分類器搭配不同的特徵萃取法而言,最高 的分類正確率分別為68.78% (case1)、78.67% (case2)、88.56% (case3)。
表5-2 為在 Indian Pines Site 的資料集上 GC 及 1NN 分別搭配不同特徵萃取法在 三個case 下的最高分類正確率
Classification Accuracy % (dimensionality) Classifier Feature
Extraction Case 1 Case 2 Case 3
下搭配 k 最近鄰分類器,卻表現的不如其他的特徵萃取法來的好。
綜觀本研究所提出的SLDA_GC 及 SLDA_kNN 二個方法,無論是搭配高斯 分類器或 k 最近鄰分類器相較於傳統的 LDA,在小樣本的情況下,都有較佳的 分類正確率,而在大樣本的情況下,SLDA_kNN 的方法,其分類的效果仍然略 高於LDA;但此二種方法,相較於 SELF 搭配高斯分類器,在有限的小樣本下,
表現的就不甚理想。
(a) LDA (case 1) (b) SDA (case 1)
(c) SELF (case 1) (d) SLDA_GC (case 1)
圖5-4 圖(a)-(d)為 Indian Pines Site 資料集在 case1 中,分別使用不同特徵萃取法 來搭配高斯分類器的thematic maps。
(a) LDA (case 2) (b) SDA (case 2)
(c) SELF (case 2) (d) SLDA_GC (case 2)
圖5-5 圖(a)-(d)為 Indian Pines Site 資料集在 case2 中,分別使用不同特徵萃取法 來搭配高斯分類器的thematic maps。
(a) LDA (case 3) (b) SDA (case 3)
(c) SELF (case 3) (d) SLDA_GC (case 3)
圖5-6 圖(a)-(d)為 Indian Pines Site 資料集在 case3 中,分別使用不同特徵萃取法 來搭配高斯分類器的thematic maps。
圖 5-4 到 5-6 為本研究所提出的 SLDA_GC 與不同的特徵萃取技術搭配高 斯分類器所呈現的實驗結果,針對三個不同的case 下得到的最高分類正確率所 繪製的圖,即每個case 皆有四張圖,分別是不同的特徵萃取法搭配高斯分類器 具有的辨識率。從中觀察可知,在case1 及 case2 的情況下,SELF 的方法在分 類Corn – no till、Corn – min till 及 Soybean – min till 的類別上,與其他的方法相 較之,具有較為明顯的分類效果。
(a) LDA (case 1) (b) SDA (case 1)
(c) SELF (case 1) (d) SLDA_kNN (case 1)
圖5-7 圖(a)-(d)為 Indian Pines Site 資料集在 case1 中,分別使用不同特徵萃取法 來搭配 kNN 分類器的 thematic maps。
(a) LDA (case 2) (b) SDA (case 2)
(c) SELF (case 2) (d) SLDA_kNN (case 2)
圖5-8 圖(a)-(d)為 Indian Pines Site 資料集在 case2 中,分別使用不同特徵萃取法 來搭配 kNN 分類器的 thematic maps。
(a) LDA (case 3) (b) SDA (case 3)
(c) SELF (case 3) (d) SLDA_kNN (case 3)
圖5-9 圖(a)-(d)為 Indian Pines Site 資料集在 case3 中,分別使用不同特徵萃取法 來搭配 kNN 分類器的 thematic maps。
圖5-7 到 5-9 為本研究所提出的 SLDA_kNN 與不同的特徵萃取技術搭配 k 最近鄰分類器所呈現的實驗結果,針對三個不同的case 下得到的最高分類正確 率所繪製的圖,即每個case 皆有四張圖,分別是不同的特徵萃取法搭配 k 最近 鄰分類器具有的辨識率。從中觀察可知,在case1 及 case2 的情況下,SELF 的 方法在分類Woods 及 Grass / Pasture 的類別上,相較於其他的特徵萃取法,其 呈現分類的情況皆不甚理想。