• 沒有找到結果。

ICALS 系統測試與評估

3-1 前言

ICALS 系統在完成之初,即讓四位研究生完成測試動作,最後分析其測試 結果,證實在學習效果與操作介面皆達到初期預定之理想目標。

當個人測試結果與預期相符後,進而將測試對象轉向班級,以求更客觀且 可信的系統測試。而測試之對象為兩個班級來作比較研究,一個班級將以ICALS 作教學工具,另一班級則不使用,再來分析比較兩者間之差異。理想的情況下,

有使用ICALS 系統進行學習之班級應該有較佳的學習成效,反之該班若無較佳 的學習成效,將進一步的分析原因加以改善。

本研究中所發展的數值地形模型,也將會分別讓個人與班級兩個不同對象 作測試,再次分析評估其教學效果與操作介面,以提供日後ICALS 系統進一步 擴充多元功能之發展指標與方向。

3-2 ICALS 系統測試範例:中華大學校園北區局部地形

在本節測試範例中之測試對象分別為土木系二年級甲班與乙班兩班學生,將 直接運用ICALS 系統進行教學,以暸解學生使用該系統之學習成效與使用情況。

在此測試中,我們將記錄每班參與測驗人數及電腦測驗成績(RMS值),以利 日後分析。RMS值以定量方式轉換出該次成績指標,做為學生操作ICALS系統學 習效果之依據。本研究中將以RMS值為主軸,客觀地分析評估此系統之各項成 效,做為日後研發新一代ICALS系統及改進之參考依據。

本測試中有少數之學生無法在規定時間內完成,此項因素將的造成RMS 值 的大小相差甚大,造成統計圖表數值範圍過大不易分析。為了使統計圖表較易觀 察分析,將RMS 值取對數(Log10),讓 RMS 值以較平穩化的統計圖表呈現,將 有利於分析評估。

3-2-1 測試例題

本測試例題之相關說明如表3-1 所示。

表3-1 例題資料與測試相關規則

測試資料

本測試範例之數值地形資料採用中華大學北區校園局部地形,取用範圍如圖 3-1,載入之數值地形資料如附錄 A,範圍縮小至 X 範圍(1030∼1110)、Y 範圍 (1000∼1080),三角網 X 範圍(1035∼1105)、三角網 Y 範圍(1005∼1075)。

測試對象 土木工程學系二年級甲班(實驗組)與乙班(對照組),依既有的測量實習分組為單 位,每週二組。

測試背景

在九十一年上學期教學中利用教學交叉測試,將不同班級分成實驗組與對照 組。在系統操作前,統一為學生講解數值地形模型之觀念,及如何操作ICALS 系統進行數值地形測量(上課講義如附錄 B)。

測試時間 各50 分鐘 記錄資料 誤差均方根(RMS)

圖3-1 中華大學北區校園局部地形測試範圍

3-2-2 甲班 ICALS 電腦測驗成績

甲班ICALS 電腦測驗成績如表 3-2 及圖 3-2。

表3-2 測驗結果統計(附錄 A) 甲班測試結果統計量表 個數 62

平均數 7.58 標準差 15.44 RMS最大值 64.54 RMS最小值 0.18

RMS

70.5 67.5 64.5 61.5 58.5 55.5 52.5 49.5 46.5 43.5 40.5 37.5 34.5 31.5 28.5 25.5 22.5 19.5 16.5 13.5 10.5 7.5 4.5 1.5

甲班ICALS系統測試之RMS值

50

40

30

20

10

0

標準差 = 15.44 平均數 = 7.6 N = 62.00

圖3-2 甲班 RMS 值統計圖表

由上圖3-2 統計圖表中可以看出,在甲班的測驗結果中,呈現三個族群。最 左側的分佈學生人數代表著,大多數的學生可以在第一次就可以輕易的學會操作 此系統及完成數值地形測量之測驗。而中間所表示的是較不不熟悉此單元之觀 念,仍需進一步地額外教授單元內容,而右側則代表極少數的學生是根本沒有完 成此次的測驗。

甲班ICALS 電腦測驗成績取對數如表 3-3 及圖 3-3。

表3-3 測驗結果統計 甲班測試結果取對數統計量表 個數 62

平均數 0.24 標準差 0.75 最小值 -0.75 最大值 1.81

LOG

1.81 1.67 1.53 1.39 1.26 1.12 .98 .84 .71 .57 .43 .29 .16 .02 -.12 -.26 -.39 -.53 -.67 -.81

RMS值取對數

12

10

8

6

4

2

0

標準差 = .75 平均數 = .24 N = 62.00

圖3-3 甲班 RMS 值取對數統計圖表

將取對數之RMS 值以統計圖表呈現如圖 3-3,將不難發現取對數後之分佈 狀況,更可以明顯看出分為三個大族群。最左側表示學生在一定時間內能順利操 作軟體並正確完成此測驗。中間及右側則分別是完成但尚未熟悉數值地形測量及 未操作完成。

3-2-3 乙班 ICALS 電腦測驗成績

乙班ICALS 電腦測驗成績如表 3-4 及圖 3-4。

表3-4 測驗結果統計(附錄 B) 乙班測試結果統計量表

個數 38

平均數 0.26 標準差 0.27 最小值 0.11 最大值 1.84

RMS

1.89 1.80 1.70 1.61 1.52 1.42 1.33 1.23 1.14 1.05 .95 .86 .77 .67 .58 .48 .39 .30 .20 .11

乙班ICALS系統測試之RMS值

30

20

10

0

標準差 = .27 平均數 = .26 N = 38.00

圖3-4 乙班 RMS 值統計圖表

在乙班的統計圖表3-4中和甲班不同的是只有二個族群,幾乎所有的學生皆 在限定的時間內完成了測驗。在右測只有極少數的學生沒有完成或測驗結果不 良。乙班在本研究中是扮演著對照組(傳統教學),而乙班在結束了為期四週的數 值地形測量之後,轉而進行ICALS之測驗。在分析圖表中,可以輕易的發現,乙 班測驗之RMS值普遍地比甲班來得低,也就是誤差均方根較小,相對的成績較 為優良。

乙班ICALS電腦測驗成績取對數如表3-5及圖3-5。

表3-5 測驗結果取對數統計 乙班測試結果取對數統計量表

個數 38

平均數 -0.64 標準差 0.1981 最小值 -0.94 最大值 0.27

LOG

.28 .21 .14 .07 .00 -.07 -.13 -.20 -.27 -.34 -.41 -.48 -.55 -.62 -.68 -.75 -.82 -.89 -.96 -1.03

RMS值取對數

14

12

10

8

6

4

2 0

標準差 = .20 平均數 = -.65 N = 38.00

圖3-5 乙班 RMS 值取對數統計圖表

對乙班ICALS電腦測驗成績取對數後如圖3-5,在圖中仍是分為兩個族群來 分析,乙班的測試結果分顯示良好,圖3-5左方的同學都能在規定的時間內完成,

並測驗成績也相對的較高,只有極少的學生不能在規定的時間內完成。

3-2-4甲乙班ICALS電腦測驗成績合倂取對數

合併甲乙班測試結果取對數如表3-6及圖3-6。

表3-6 合併甲乙班測驗結果取對數統計 甲乙班測試結果取對數統計量表

個數 100

平均數 -0.09 標準差 0.74 最小值 -0.94 最大值 1.81

LOG

1.75 1.53 1.30 1.07 .84 .61 .38 .15 -.08 -.31 -.55 -.77 -1.00

甲乙班RMS值取對數

20

15

10

5

0

標準差 = .74 平均數 = -.10 N = 100.00

圖3-6 甲乙班合併 RMS 值取對數統計圖表

把甲乙兩班RMS值加以合併後,可以觀察到更大的樣本,以利進一步客觀 分析,基於範圍變化頗大仍然進行取對數,如圖3-6所示。在此圖中把RMS值分 為三大類群來分析如下:

優等

最左測也就是RMS值較低(成績為優等)群中占全部人數之61%,此類 群是能在規定之時間內完成ICALS測驗,並且佈設要點與編輯不規則 三角網之觀念正確。

甲等

中間類群則是次於左側類群(成績為甲等)占全部人數之34%,此類群是 在規定時間內完成,但是在佈設要點與編輯不規則三角網之觀念尚未 非常地正確建立,導致選擇過多或過少的要點或編製三角網不正確等 等。

乙等

最右側是RMS值中較高(成績為乙等),也就是成績相對較低著,占全 部人數5%。此類群絕大部份皆是在規定時間內未完成此項作業,且在 設置要點與編製不規則三角網方面的觀念仍然在摸索階段,這些學生 需要更多的時間學習及教師從旁教導。

若把優等與甲等之人數累加後高達95%,也就是說明ICALS系統不論在操作 介面之親和性或使用之學習效果普遍地都能達到預期的效果。

3-2-5 測量學學科考試與ICALS電腦測驗成績之關連性

分析測量學學科考試與ICALS電腦測驗成績之關連性,將以公式3-1[8]來計 算。

( )( )

( ) ( )

n y y n

n y y N

CORRELATIO

n

i i n

i i n

i

i i

=

=

=

×

=

1

2 1

2 1

χ χ

χ χ

………...(3-1)

N

CORRELATIO :為相關係數 n:學生人數

χ

i:每個學生學科考試成績

χ

:學生學科考試平均

y :每個學生ICALS電腦測驗RMS值 i

y :學生ICALS電腦測驗RMS值平均

相關係數是介於-1至1之間的數,在研究中是指成對變數觀察值即(X,Y),X 即為測量學學科考試成績,Y則是ICALS系統測驗之RMS值。倘若相關係數愈趨 近於1或等於1表示完全正相關;若愈趨近於-1或等於-1,則是完全負相關,0則 表示完全不相關。

在測量學學科考試與ICALS電腦測驗成績及ICALS電腦測驗成績與測量實 習之相關係數分析上,若愈趨近於-1代表其相關性愈良好,因為若當RMS值愈低 (電腦測驗成績愈高)時,理當學科考試成績與測量實習成績應愈高,也就是負相 關。可是當分析間接法地形測量與直接法地形測量之相關係數時,就要愈接近1 代表其相關性愈良好,當間接法地形測量成績愈高分時,相對的直接法地形測量 成績也應該愈高分。

甲班學科考試與ICALS電腦測驗成績表,如表3-7(附錄C)。

表3-7 甲班成績表

學號 RMS 第二次學科考試 8704155 1.597 62 8804155 0.253 45 8804163 1.458 70 8804167 0.355 72

b09004131 7.091 45 b09004217 2.61 25 b09004219 2.175 25 b09004223 3.979 80

相關係數 0.18

乙班學科考試與ICALS電腦測驗成績表,如表3-8(附錄D)。

表3-8 乙班成績表

學生學號 RMS 第二次學科考試 8504613 0.21 63 B09004002 0.203 35 B09004004 0.215 10 B09004010 0.27 10

B09004126 0.337 20 B09004128 0.242 42 B09004130 1.844 25 B09004230 0.25 50

相關係數 -0.13

在學科考試與ICALS電腦測驗成績相關係數中,可以觀察出無直接的關係。

此學科考試內容中TIN地形測量相關概念的考題並未占太多的比重,故可能難以

客觀分析是否有其相關。

3-2-6 ICALS電腦測驗成績與測量實習之關連性

a. 全組 ICALS 第一名成績者與 TIN 測量實習單元分組成績如表 3-9 與 3-10。

甲班之相關係數(表 3-9)趨近於 0 表示無相關,而乙班之相關係數-0.61(表 3-10) 其相關性稍顯著。

表3-9 甲班全組第一名成績 表 3-10 乙班全組第一名成績

組別 學號 ICALS TIN

1 b09004047 0.188 75 2 b09004033 0.241 70 3 b09004005 0.271 80 4 8804009 1.177 55 5 8804162 0.182 65 6 8804080 0.214 0 7 b9004065 1.706 60 8 b90040059 0.177 45

相關係數 0.06

b. 全組 ICALS 平均分數與 TIN 測量實習單元分組成績如表 3-11 與 3-12。

甲班之相關係數(表 3-11)0.42 無顯著相關;而乙班之相關係數-0.44(表 3-12)亦無 顯著相關。

表3-11 甲班全組平均分數 表3-12 乙班全組平均分數

組別 學號 ICALS TIN

1 B09004230 0.25 55 2 B09004032 0.158 50 3 B09004038 0.171 50 4 8804613 0.21 55 5 B09004052 0.189 65 6 B09004056 0.142 65 7 B09004024 0.114 95

相關係數 -0.61

組別 ICALS TIN

1 27.87 75

2 9.94 70

3 3.23 80

4 1.89 55

5 1.77 65

6 1.59 0

7 8.69 60

8 0.69 45

相關係數 0.42

組別 ICALS TIN 1 0.25 55 2 0.21 50 3 0.52 50 4 0.23 55 5 0.23 65 6 0.23 65 7 0.19 95 相關係數 -0.44

c. 全組 ICALS 成績前二名者平均與測量實習單元分組成績如表 3-13 與 3-14。

甲班之相關係數(表 3-13)趨近於 0 表示無相關,而乙班之相關係數-0.62(表 3-14)其相關性稍顯著。

表3-13 甲班全組前二名高分平均 表3-14 乙班全組前二名高分平均

組別 ICALS TIN

1 0.318 75 2 0.3105 70 3 0.2905 80 4 1.8935 55 5 0.177 65 6 0.2335 0 7 2.0225 60 8 0.0885 45 相關係數 0.07

ICALS電腦測驗成績與測量實習之關連性分析結果並不令人滿意,也就是先 使用ICALS系統的班級(甲班),在學習成效上並無明顯的成效,其可能之原因於 本節最後一起來討論。

組別 ICALS TIN

1 0.25 55 2 0.162 50 3 0.181 50 4 0.216 55 5 0.194 65 6 0.1605 65 7 0.1235 95 相關係數 -0.62

3-2-7間接法地形測量與直接法地形測量之關連性

(1)甲班間接法地形測量與直接法地形測量相關係數如表3-15(附錄E)。

表3-15 甲班關聯性

學生學號 組別 間接法 直接法 8704155 4 85 55 8704625 3 60 80 8804007 6 80 0 8804009 4 85 55

: :

B09004217 4 85 55 B09004219 4 85 55 B09004223 7 40 60 C08904043 6 80 0

相關係數 -0.06

(2)乙班間接法地形測量與直接法地形測量相關係數如表3-16(附錄F)。

表3-16 乙班關聯性

學生學號 組別 間接法 直接法 8804613 4 55 60 B08904210 1 0 0 B09004002 5 65 80 B09004004 6 65 70

: :

B09004210 1 0 0 B09004218 1 0 0 B09004230 1 55 60 C09003042 4 55 60

相關係數 0.95

間接法地形測量與直接法地形測量相關係數分析結果,甲班為-0.06(表3-15) 無相關,乙班為0.95(表3-16)極高度相關。乙班極高度的相關性說明了,若TIN地 形測量之學習成績良好,相對的直接法地形測量也會有較佳的學習成績。

3-3 ICALS系統測試範例:中華大學校園南區局部地形

中華大學校園南區是在九十一學年第二學期才完成,所以先讓四位研究生作 初步的測試,以利提供日後進行班級教學時之經驗準則與改善依據。

3-3-1 測試例題

本測試例題之相關說明如表3-17 所示。

表3-17 例題資料與測試相關規則

測試資料

本測試範例之數值地形資料採用中華大學南區校園地形,取用範 圍如圖3-2,載入之數值地形資料如附錄

C,其中範圍為:X 範圍

(880∼990)、Y 範圍(675∼790),三角網 X 範圍(890∼980)、三角 網Y 範圍(685∼775),三角網範圍如圖 3-2 虛線方框。

測試對象 土木工程學系研究所,四位研究生。

測試背景 在系統操作前,為學生講解數值地形模型之相關觀念,及如何操 作ICALS 系統進行數值地形測量(上課講義如附錄 B)。

測試時間 各 60 分鐘

記錄資料 誤差均方根(RMS)、測試結束時間

相關文件