本章將討論有關於所提出演算法的實驗結果,從 Washington DC Mall 資料集經 由實驗 1 至 3 所得的平均辨識正確率和標準差,列於表 5-1、5-2 及 5-3,執行時 間的結果於表 5-4。圖 5-1、5-2 及 5-3 顯示表 5-1 的比較圖表,圖 5-4、5-5 及 5-6 則是表 5-2,表 5-3 的比較則是顯示在圖 5-7、5-8 和 5-9,表 5-4 時間上的比較於 圖 5-10。Indian Pine Site 資料集的實驗 4 至 6 結果,在表 5-5、5-6 及 5-7 為平均 辨識正確率和標準差的結果,執行時間結果於表 5-8。實驗 4 的表 5-5 的比較結 果顯示於圖 5-11、5-12 及 5-13,實驗 5 的表 5-5 的結果則列示於圖 5-14、5-15 和 5-16,實驗 6 的比較結果則列於圖 5-17、5-18 及 5-19,而訓練時間的比較則是於 圖 5-20。教育測驗資料集的實驗 7 和實驗 8 的結果,在表 5-9 及 5-10 為平均辨識 正確率和標準差的結果,執行時間結果於表 5-11。實驗 7 的表 5-9 的比較結果顯 示於圖 5-21、5-22 及 5-23,實驗 8 的表 5-10 的結果則列示於圖 5-24、5-25 和 5-26,
而訓練時間的比較則是於圖 5-27。另外為顯示不同分類器具不同的維度偏好,以 Washington DC Mall 在實驗 3 且分類器個數為 100 (B=100) 情形下,使用
RSM_KS、WRSM_KS1 及 WRSM_KS2 的 qdc、knnc 及 svc 的 R 分佈與 W 分佈 於圖 5-28、圖 5-30 及圖 5-29 的圖形,看出分類器具不同的維度偏好情形。在表 5-12、5-13 與 5-14 則是隨機子空間方法使用網格法可得的最佳維度,此外圖 5-31 是 Washington DC Mall 的部份紅外線空照圖影像,可用來作為測試所提出之演算 法的運作效能,所用的分類器是實驗 3 且分類器個數為 100 (B=100)的分類器,所 得結果。圖 5-32 和 5-33 是 knnc 和 svc 單一分類器的分類結果圖用來與本研究所 提方法比較,圖 5-34、5-35 和 5-36 是分別是使用 RSM_KS、WRSM_KS1 及 WRSM_KS2 的 qdc 分類後結果分類結果圖。而圖 5-37、5-38 及 5-38 則是對應的 分類器換成 knnc 的分類結果分類結果圖。最後是圖 5-39、5-40 與 5-41 則是 svc 的分類結果分類結果圖。本研究發現如下所示:
1. 大部份的實驗結果顯示所提出的自動維度選取方法能解決子空間維度選 擇問題。
2. 在 Washington DC Mall 資 料 集 中 , 大 部 份 實 驗 的 WRSM_KS1 及 WRSM_KS2 表現得比單一分類器及 RSM_grid 法好。
3. 在 Indian Pine Site 資料集中,各方法的實驗表現和 RSM_grid 大致相同。
4. 當訓練樣本點數小時(實驗 1 及實驗 4),分類器個數 B 參數需較大才能得 到較好的結果。在實験 2、實驗 3、實驗 5 及實驗 6 時,使用較小的分類 器個數 B 值就能得到滿意的結果,訓練樣本點數越多的實驗,所需要的分 類器個數就越少。
5. 在時間的花費上,所提出的演算法在實驗 1 至實驗 6 中,與網格法比較,
所需的時間較少,如圖 5-10 及 5-20。
6. 顯示 Washington DC Mall 的實驗 3 且分類器個數為 100 的情形下,圖 5-28 至圖 5-30 為維度重要分佈 R 及特徵重要分佈 W,可看出每個分類器有不 同的子維度偏好,qdc 使用較低維度,knnc 和 svc 則是需要比較高的維度。
7. 由 Washington DC Mall 的部份空照圖上來看,圖 5-34 至圖 5-41 以本研究 所提出的方法分類後的結果,和圖 5-32 及 5-33 的單一分類器分類結果相 比,顯示改善分類的效果。
表 5-1 Washington DC Mall辨識正確率的平均及標準差(實驗 1) Classifier qdc knnc (k = 1) svc
Algorithm B accuracy std accuracy std accuracy std Single 1 0.143 0.0000 0.838 0.0170 0.830 0.0181 RSM_grid 20 0.925 0.0112 0.833 0.0176 0.805 0.0230 RSM_KS 20 0.923 0.0126 0.856 0.0144 0.830 0.0374 WRSM_KS1 20 0.935 0.0094 0.849 0.0160 0.832 0.0474 WRSM_KS2 20 0.930 0.0100 0.907 0.0172 0.818 0.0526 RSM_grid 50 0.935 0.0149 0.856 0.0172 0.821 0.0118 RSM_KS 50 0.931 0.0083 0.858 0.0153 0.836 0.0317 WRSM_KS1 50 0.941 0.0087 0.857 0.0161 0.815 0.0457 WRSM_KS2 50 0.936 0.0115 0.911 0.0189 0.770 0.0620 RSM_grid 100 0.935 0.0110 0.867 0.0141 0.816 0.0185 RSM_KS 100 0.932 0.0097 0.859 0.0182 0.824 0.0384 WRSM_KS1 100 0.943 0.0101 0.856 0.0160 0.810 0.0435 WRSM_KS2 100 0.937 0.0124 0.912 0.0162 0.764 0.0894
0.70
qdc knnc svc
Single
qdc knnc svc
Single
qdc knnc svc
Single
表 5-2 Washington DC Mall辨識正確率的平均及標準差(實驗 2) Classifier
qdc knnc (k=1) svc
Algorithm B accuracy std accuracy std accuracy std
Single 1 0.143 0.0000 0.880 0.0194 0.873 0.0116
RSM_grid 20 0.950 0.0088 0.886 0.0174 0.869 0.0203
RSM_KS 20 0.945 0.0105 0.893 0.0193 0.878 0.0130
WRSM_KS1 20 0.952 0.0099 0.887 0.0192 0.893 0.0127
WRSM_KS2 20 0.938 0.0100 0.934 0.0147 0.914 0.0070
RSM_grid 50 0.952 0.0118 0.897 0.0161 0.867 0.0227
RSM_KS 50 0.948 0.0100 0.897 0.0193 0.878 0.0152
WRSM_KS1 50 0.955 0.0109 0.894 0.0178 0.896 0.0122
WRSM_KS2 50 0.942 0.0113 0.935 0.0152 0.914 0.0113
RSM_grid 100 0.955 0.0110 0.902 0.0155 0.938 0.0089
RSM_KS 100 0.951 0.0123 0.897 0.0210 0.880 0.0133
WRSM_KS1 100 0.957 0.0106 0.896 0.0171 0.895 0.0127
WRSM_KS2 100 0.943 0.0120 0.934 0.0155 0.913 0.0119
0.70
qdc knnc svc
Single
qdc knnc svc
Single
qdc knnc svc
Single
表 5-3 Washington DC Mall辨識正確率的平均及標準差(實驗 3)
Classifier qdc knnc (k = 1) svc
Algorithm B accuracy std accuracy std accuracy std
Single 1 0.143 0.0000 0.923 0.0101 0.931 0.0073
RSM_grid 20 0.961 0.0069 0.939 0.0092 0.943 0.0066 RSM_KS 20 0.953 0.0122 0.936 0.0073 0.932 0.0058
WRSM_KS1 20 0.959 0.0064 0.931 0.0090 0.938 0.0068 WRSM_KS2 20 0.939 0.0092 0.952 0.0113 0.942 0.0087
RSM_grid 50 0.961 0.0070 0.940 0.0069 0.944 0.0056
RSM_KS 50 0.957 0.0102 0.938 0.0107 0.930 0.0057 WRSM_KS1 50 0.960 0.0076 0.934 0.0099 0.937 0.0072
WRSM_KS2 50 0.938 0.0088 0.953 0.0109 0.942 0.0088
RSM_grid 100 0.962 0.0078 0.942 0.0086 0.945 0.0056 RSM_KS 100 0.956 0.0124 0.940 0.0089 0.931 0.0060 WRSM_KS1 100 0.961 0.0089 0.937 0.0115 0.939 0.0069
WRSM_KS2 100 0.938 0.0079 0.953 0.0106 0.942 0.0092
0.70
qdc knnc svc
Single
qdc knnc svc
Single
qdc knnc svc
Single
表 5-4 Washington DC Mall實驗平均訓練時間
實驗 1 實驗 2 實驗 3
Algorithm B qdc knnc svc qdc knnc svc qdc knnc svc Single 1 9.5 0.8 0.2 8.9 2.2 0.4 8.7 25.3 0.9
RSM_grid 20 6.8 16.6 2.6 15.8 78.7 12.2 86.3 1139.1 110.2 RSM_KS 20 1.4 4.4 2.7 1.7 10.7 5.4 3.1 54.0 13.0
WRSM_KS1 20 1.3 5.1 2.7 1.6 12.7 5.0 2.9 48.7 10.7 WRSM_KS2 20 1.5 4.2 3.5 1.9 10.1 7.1 5.0 45.2 14.0
RSM_grid 50 15.7 41.7 6.2 45.1 220.1 32.5 221.2 2698.3 280.7 RSM_KS 50 3.7 11.4 6.6 4.7 27.2 13.2 9.3 130.8 30.2
WRSM_KS1 50 3.7 12.3 6.6 4.7 34.1 12.4 8.6 120.2 26.5 WRSM_KS2 50 4.2 10.8 8.3 5.3 26.0 15.0 12.1 111.5 32.3
RSM_grid 100 98.2 199.9 16.9 252.2 959.6 74.3 1333.5 4872.7 843.3 RSM_KS 100 6.4 22.1 12.8 7.9 55.2 27.1 18.4 260.1 59.0
WRSM_KS1 100 6.3 24.4 12.9 8.9 66.8 25.7 17.4 240.4 54.2 WRSM_KS2 100 7.4 21.1 16.0 10.6 50.1 28.6 22.4 224.2 63.6
注記:時間單位為秒(s)
1
表 5-5 Indian Pine Site 辨識正確率的平均及標準差(實驗 4)
Classifier qdc knnc (k = 1) svc
Algorithm B accuracy std accuracy std accuracy std Single 1 0.111 0.0000 0.692 0.0127 0.789 0.0130
RSM_grid 20 0.787 0.0177 0.692 0.0141 0.739 0.0186 RSM_KS 20 0.753 0.0195 0.693 0.0129 0.796 0.0147 WRSM_KS1 20 0.763 0.0209 0.694 0.0126 0.803 0.0144 WRSM_KS2 20 0.717 0.0305 0.693 0.0147 0.798 0.0149
RSM_grid 50 0.810 0.0167 0.697 0.0170 0.748 0.0219 RSM_KS 50 0.782 0.0175 0.695 0.0146 0.799 0.0142 WRSM_KS1 50 0.793 0.0219 0.694 0.0142 0.806 0.0129 WRSM_KS2 50 0.752 0.0282 0.695 0.0160 0.804 0.0170
RSM_grid 100 0.817 0.0180 0.699 0.0147 0.748 0.0231 RSM_KS 100 0.803 0.0154 0.696 0.0143 0.801 0.0122 WRSM_KS1 100 0.812 0.0157 0.694 0.0127 0.808 0.0117 WRSM_KS2 100 0.780 0.0232 0.696 0.0172 0.806 0.0164
0.60
qdc knnc svc
Single
qdc knnc svc
Single
qdc knnc svc
Single
表 5-6 Indian Pine Site 辨識正確率的平均及標準差(實驗 5)
Classifier qdc knnc (k = 1) svc
Algorithm B accuracy std accuracy std accuracy std
Single 1 0.111 0.0000 0.739 0.0116 0.833 0.0117
RSM_grid 20 0.848 0.0111 0.750 0.0100 0.773 0.0162
RSM_KS 20 0.824 0.0166 0.741 0.0111 0.830 0.0141
WRSM_KS1 20 0.833 0.0116 0.741 0.0107 0.835 0.0123
WRSM_KS2 20 0.805 0.0231 0.747 0.0095 0.827 0.0138
RSM_grid 50 0.860 0.0105 0.750 0.0105 0.773 0.0172
RSM_KS 50 0.856 0.0118 0.743 0.0111 0.833 0.0150
WRSM_KS1 50 0.860 0.0106 0.743 0.0110 0.836 0.0142
WRSM_KS2 50 0.838 0.0125 0.746 0.0089 0.829 0.0120
RSM_grid 100 0.869 0.0119 0.753 0.0109 0.774 0.0169
RSM_KS 100 0.866 0.0110 0.743 0.0104 0.833 0.0154
WRSM_KS1 100 0.868 0.0109 0.742 0.0106 0.835 0.0143
WRSM_KS2 100 0.849 0.0114 0.745 0.0089 0.830 0.0133
0.60
qdc knnc svc
Single
qdc knnc svc
Single
qdc knnc svc
Single
表 5-7Indian Pine Site 辨識正確率的平均及標準差(實驗 6) Classifier qdc knnc (k = 1) svc
Algorithm B accuracy std accuracy std accuracy std Single 1 0.111 0.0000 0.794 0.0097 0.880 0.0121
RSM_grid 20 0.887 0.0133 0.807 0.0091 0.887 0.0102 RSM_KS 20 0.870 0.0071 0.799 0.0112 0.872 0.0168 WRSM_KS1 20 0.874 0.0079 0.801 0.0105 0.873 0.0130 WRSM_KS2 20 0.850 0.0082 0.803 0.0103 0.866 0.0217
RSM_grid 50 0.898 0.0079 0.811 0.0100 0.890 0.0103 RSM_KS 50 0.888 0.0070 0.802 0.0105 0.872 0.0155 WRSM_KS1 50 0.891 0.0078 0.801 0.0109 0.875 0.0123 WRSM_KS2 50 0.865 0.0083 0.806 0.0105 0.865 0.0209
RSM_grid 100 0.899 0.0108 0.811 0.0101 0.890 0.0104 RSM_KS 100 0.897 0.0070 0.802 0.0108 0.872 0.0160 WRSM_KS1 100 0.896 0.0080 0.801 0.0096 0.874 0.0133 WRSM_KS2 100 0.872 0.0086 0.807 0.0102 0.866 0.0197
0.60
qdc knnc svc
Single
qdc knnc svc
Single
qdc knnc svc
Single
表 5-8Indian Pine Site 實驗平均訓練時間
實驗 4 實驗 5 實驗 6
Algorithm B qdc knnc svc qdc knnc svc qdc knnc svc Single 1 22.0 3.1 0.5 20.3 7.8 0.8 20.9 55.1 2.0 RSM_grid 20 10.5 49.0 6.7 39.7 308.7 46.3 238.7 3731.8 445.9
RSM_KS 20 3.0 13.9 6.0 3.4 32.1 10.8 8.6 135.4 28.1 WRSM_KS1 20 2.6 13.8 5.2 3.3 32.3 8.5 6.4 129.0 19.2 WRSM_KS2 20 2.7 13.7 4.7 3.3 32.2 8.2 6.9 131.8 22.5
RSM_grid 50 27.6 126.8 16.1 74.1 600.2 76.2 388.2 6784.1 388.2 RSM_KS 50 6.6 34.1 13.6 8.3 79.8 24.4 18.0 335.7 66.2 WRSM_KS1 50 6.4 34.0 12.3 8.2 81.1 21.0 15.6 323.6 47.8 WRSM_KS2 50 6.5 34.0 12.2 8.3 81.4 21.3 16.2 330.2 53.9
RSM_grid 100 167.6 576.4 43.0 440.6 2864.0 169.5 1000.5 14836.7 1606.5 RSM_KS 100 12.9 68.4 26.8 16.8 159.7 46.8 33.7 671.7 128.8 WRSM_KS1 100 12.6 68.0 24.9 16.4 163.5 41.6 30.8 646.9 96.2 WRSM_KS2 100 12.8 68.2 24.6 16.7 163.9 42.8 31.3 660.6 104.7
注記:時間單位為秒(s)
1
表 5-9 教育測驗資料辨識正確率的平均及標準差(實驗 7) Classifier qdc knnc (k = 1) svc
Algorithm B accuracy std accuracy std accuracy std
Single 1 0.076 0 0.481 0.0215 0.667 0.0305
RSM_grid 20 0.079 0.0361 0.249 0.0389 0.485 0.0425 RSM_KS 20 0.094 0.0388 0.146 0.0237 0.332 0.0654
WRSM_KS1 20 0.098 0.0550 0.153 0.0258 0.362 0.0644 WRSM_KS2 20 0.079 0.0354 0.191 0.0934 0.364 0.1184
RSM_grid 50 0.095 0.0390 0.257 0.0187 0.527 0.0390
RSM_KS 50 0.091 0.0333 0.140 0.0143 0.387 0.0729 WRSM_KS1 50 0.095 0.0478 0.162 0.0267 0.400 0.0941
WRSM_KS2 50 0.079 0.0367 0.181 0.0723 0.401 0.1293
RSM_grid 100 0.095 0.0391 0.257 0.0150 0.553 0.0193
RSM_KS 100 0.096 0.0348 0.142 0.0132 0.408 0.0726 WRSM_KS1 100 0.101 0.0408 0.153 0.0149 0.416 0.0722
WRSM_KS2 100 0.069 0.0187 0.190 0.0677 0.387 0.1109
0.00 0.40 0.60 0.80 1.00
qdc knnc svc
Single
qdc knnc svc
Single
qdc knnc svc
Single
表 5-10 教育測驗資料辨識正確率的平均及標準差(實驗 8) Classifier qdc knnc (k = 1) svc
Algorithm B accuracy std accuracy std accuracy std Single 1 0.077 0 0.528 0.0178 0.780 0.0226
RSM_grid 20 0.067 0.0021 0.264 0.0534 0.778 0.0234
RSM_KS 20 0.116 0.0532 0.274 0.0557 0.612 0.0418 WRSM_KS1 20 0.100 0.0610 0.321 0.0539 0.608 0.0572
WRSM_KS2 20 0.114 0.0515 0.343 0.0814 0.627 0.0480
RSM_grid 50 0.067 0.0019 0.314 0.0632 0.808 0.0191 RSM_KS 50 0.120 0.0554 0.295 0.0449 0.672 0.0334
WRSM_KS1 50 0.112 0.0520 0.363 0.0341 0.655 0.0339 WRSM_KS2 50 0.128 0.0547 0.371 0.0670 0.669 0.0417
RSM_grid 100 0.069 0.0130 0.346 0.0625 0.811 0.0236
RSM_KS 100 0.119 0.0586 0.309 0.0425 0.672 0.0386 WRSM_KS1 100 0.097 0.0436 0.390 0.0348 0.682 0.0264
WRSM_KS2 100 0.110 0.0511 0.379 0.0642 0.677 0.0336
0.00 40 60 80 1.00
qdc knnc svc
Single
qdc knnc svc
Single
qdc knnc svc
Single
表 5-11 教育測驗資料實驗平均訓練時間
實驗 7 實驗 8
Algorithm B qdc knnc svc qdc knnc svc Single 1 0.5 0.8 6.1067 0.3 1.6 33.4 RSM_grid 20 0.1 0.1 0.1 0.1 0.1 0.1
RSM_KS 20 1.6 5.9 1.2 1.9 10.5 2.1 WRSM_KS1 20 1.6 5.9 1.4 1.9 10.2 2.1 WRSM_KS2 20 1.6 5.9 3.6 1.8 9.8 2.1
RSM_grid 50 0.1 0.1 0.1 3.5 5.2 5.4 RSM_KS 50 2.8 13.7 2.4 3.3 24.2 4.3 WRSM_KS1 50 2.8 13.7 2.7 3.2 24.5 4.3 WRSM_KS2 50 2.8 13.7 7.6 3.2 23.1 4.4
RSM_grid 100 2.2 0.1 0.1 3.2 7.6 6.4 RSM_KS 100 4.8 26.9 4.9 6.0 46.9 7.6 WRSM_KS1 100 4.9 26.9 5.1 6.8 44.6 8.3 WRSM_KS2 100 4.9 49.6 12.7 5.7 45.8 8.4 注記:時間單位為秒(s)
-1
Single RSM_grid RSM_KS WRSM_KS1 WRSM_KS2
圖 5-27 教育測驗資料訓練時間比較圖
5 5
Density (×10-2) Density (×10-2)
4
Dimensional of Subspace Dimensional of Subspace
(b) R 分佈(knnc)
Dimensional of Subspace
1 191 39 77 115
Dimensional of Subspace 1
Density (×10)-2 4 3 2 1 0
1 39 77 115 153 191
Dimensional of Subspace
(b) R 分佈 (knnc) (a) R 分佈 (qdc)
191
77 115 153
Dimensional of Subspace 39
Density (×10-2) 4 3
5
Dimensional of Subspace
1 191 39 77
Dimensional of Subspace
1 191
Dimensional of Subspace
1 191
(e) R 分佈 (svc) (f) W 分佈(svc)
圖 5-30 WRSM_KS1 在 W 為辨識正確率下,qdc,knnc 及 svc 的 R 分佈
表 5-12 Washington DC Mall 網格法的最佳維度
B 20 50 100
分類器 實驗 1
qdc 10 10 10
knnc 20 5 5
svc 20 20 20
分類器 實驗 2
qdc 15 15 15
knnc 25 20 25
svc 40 40 15
分類器 實驗 3
qdc 40 35 40
knnc 70 85 70
svc 70 65 50
表 5-13 Indian Pine Site 網格法的最佳維度
B 20 50 100
分類器 實驗 4
qdc 10 10 15
knnc 15 20 20
svc 20 20 20
分類器 實驗 5
qdc 15 15 20
knnc 15 15 25
svc 40 40 40
分類器 實驗 6
qdc 25 35 35
knnc 25 20 15
svc 95 100 100
表 5-14 教育測驗資料網格法的最佳維度
B 20 50 100
分類器 實驗 7
qdc 5 5 5
knnc 10 10 10
svc 10 10 10
分類器 實驗 8
qdc 5 10 10
knnc 10 10 15
svc 20 20 20
圖 5-31 Washington DC Mall 部份紅外線空照圖影像
圖 5-32 knnc 的分類結果
圖 5-33 svc 的分類結果
圖 5-34 RSM_KS 使用 qdc 的分類結果
圖 5-35 WRSM_KS1 使用 qdc 的分類結果
圖 5-36 WRSM_KS2 使用 qdc 的分類結果
圖 5-37 RSM_KS 使用 knnc 的分類結果
圖 5-38 WRSM_KS1 使用 knnc 的分類結果
圖 5-39 WRSM_KS2 使用 knnc 的分類結果
圖 5-40 RSM_KS 使用 svc 的分類結果
圖 5-41 WRSM_KS1 使用 svc 的分類結果
圖 5-42 WRSM_KS2 使用 svc 的分類結果