第三章 閱讀理解成效形成性評量預測暨回饋機制設計
第二節 以決策樹發展閱讀理解成效形成性評量預測暨回饋機制
(pre-processing)。除了剔除不完整的資料外,採用 R 計算出的社會網路指標也 需要事前進行正規化等前置處理程序。其中程度中心度(degree centrality)計算 方法如公式 3-1(Freeman, 1979)所示:
(公式 3-1)
其中 CD(n )代表第 ni i個使用者的程度中心度,d(n )為節點i n 所擁有的連結i 數。因為不同社會網路間的中心度無法做比較,需要進行正規化,程度中心度 的正規化如公式 3-2(Nieminen, 1974)所示,其中 g 代表此網路內的人數。
(公式 3-2)
中介中心度(betweenness centrality)如公式 3-3(Freeman, 1977)。
(公式 3-3)
‧
3-4(Anthonisse, 1971)所示:(公式 3-4)
接近中心度(closeness centrality)如公式 3-5(Freeman, 1979)。
(公式 3-5) 接近中心度的正規化應除以(g-1)-1,也就是應乘以(g–1),如公式 3-6(Sabidussi, 1966)所示。
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
28
1993),故本研究採用之。圖 3-5 為 Weka 基於中心度指標及 PageRank 建立決 策樹進行學習成效預測之示意圖。
圖 3-5 Weka 建立決策樹示意圖
為了初步驗證本研究規劃取得的學習者在合作閱讀標註系統上的標註互動 記錄與類型以及社會網路指標,是否能建立一足夠準確度之閱讀理解成效形成 性評量預測模型,本研究透過二次先導實驗取得宜蘭縣某一國小五年級學生利 用合作閱讀標註系統進行 PIRLS 文章閱讀學習之標註互動記錄與類型以及社會 網路指標,並進行初步的預測正確率驗證。以下針對建立此一閱讀理解成效形 成性評量預測模型所需包括取得學習者在合作閱讀標註系統上的標註互動與類 型資料、計算社會網路指標與建立決策樹等三個步驟進行說明:
1. 取得學習者在合作閱讀標註系統上的互動與標註類型資料
從合作閱讀標註系統中取得學習者互動資料的方式如圖 3-6 所示,圖中為學 習者的互動記錄,數字為學習者的 ID。此外,合作閱讀標註系統也會記錄包括 標註數量、回應數量與閱讀理解成效等學習者其他相關資訊,作為建立決策樹
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
29
發展閱讀理解成效形成性評量預測模型的依據(如圖 3-7 所示)。
圖 3-6 閱讀者彼此之間的互動記錄
圖 3-7 學習者其他資料
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
30
2. 計算社會網路指標
本研究使用 R 軟體,以取得學習者彼此之間的互動資料為輸入,計算出包 括程度中心度(degree centrality)、中介中心度(betweenness centrality)、接近 中心度(closeness centrality)與 PageRank 等社會網路指標,並進行正規化(如 圖 3-8 所示)。
圖 3-8 社會網路指標計算結果
3. 建立決策樹
上述獲得的學習者在合作閱讀標註系統上的互動與標註類型資料,以及社 會網路指標,即可作為基於 C4.5 決策樹發展閱讀理解成效形成性評量預測模型 的特徵。在兩次先導實驗的蒐集數據中,使用上述四個社會網路指標特徵與性別 作為 Weka 中 C4.5 決策樹建立閱讀理解成效形成性評量預測模型,在使用等寬 分割法與等深分割法不同資料前處理方式的情況下,共產生三棵決策樹。第一棵 決策樹可正確預測閱讀理解成效的正確率為 63%(如圖 3-9 所示),而主要影響 閱讀理解成效的社會網路指標為中介中心度(betweenness centrality)、程度中心 度(degree centrality)與 PageRank(如圖 3-10 所示),共產生以下六條規則:
Rule I - 1:IF 性別 = Girl and Degree <= 0.576923 and Pagerank <= 0.035547 and Betweenness <= 0.02174, then 閱讀理解成效 = Low.
Rule I - 2:IF 性別 = Girl and Degree <= 0.576923 and Pagerank <= 0.035547 and Betweenness > 0.02174, then 閱讀理解成效 = High.
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
31
Rule I - 3:IF 性別 = Girl and Degree <= 0.576923 and Pagerank > 0.035547, then 閱讀理解成效 = High.
Rule I - 4:IF 性別 = Girl and Degree > 0.57692, then 閱讀理解成效 = Low.
Rule I - 5:IF 性別 = Boy and Betweenness <= 0.024469, then 閱讀理解成效
= Low.
Rule I - 6:IF 性別 = Boy and Betweenness > 0.024469, then 閱讀理解成效 = High.
圖 3-9 建立決策樹 I 之結果
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
32
圖 3-10 決策樹 I 視覺化結果
第二顆決策樹正確預測閱讀理解成效的正確率為 60%(如圖 3-11 所示),
而主要影響閱讀理解成效的社會網路指標為程度中心度(degree centrality)與 PageRank , 其 中 又 將 程 度 中 心 度 分 為 往 內 ( in-degree centrality ) 與 往 外
(out-degree centrality)兩個方向(如圖 3-12 所示),分為以下六個規則:
Rule II - 1:IF 性別 = Girl and In-Degree <= 0.333333, then 閱讀理解成效 = High.
Rule II - 2:IF 性別 = Girl and In-Degree > 0.333333 and Pagerank > 0.041894 and In-Degree <= 0.481481, then 閱讀理解成效 = High.
Rule II - 3:IF 性別 = Girl and In-Degree > 0.333333 and Pagerank > 0.041894
性別
Degree Betweenness
= 女性 = 男性
<= 0.024469 > 0.024469
低閱讀理解成效 高閱讀理解成效
<= 0.576923 > 0.576923
低閱讀理解成效 Pagerank
<= 0.035547 > 0.035547
高閱讀理解成效 Betweenness
<= 0.02174 > 0.02174
低閱讀理解成效 高閱讀理解成效
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
33
and In-Degree <= 0.481481, then 閱讀理解成效 = High.
Rule II - 4:IF 性別 = Girl and In-Degree > 0.333333 and Pagerank > 0.041894 and In-Degree > 0.481481, then 閱讀理解成效 = Low.
Rule II - 5:IF 性別 = Boy and Out-Degree <= 0.333333, then 閱讀理解成效 = Low.
Rule II - 6:IF 性別 = Boy and Out-Degree > 0.333333, then 閱讀理解成效 = High.
圖 3-11 建立決策樹 II 之結果
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
34
圖 3-12 決策樹 II 視覺化結果
第三顆決策樹正確預測閱讀理解成效的正確率為 82%(如圖 3-13 所示),
而 主 要 影 響 閱 讀 理 解 成 效 的 社 會 網 路 指 標 為 中 介 中 心 度 ( betweenness centrality)、接近中心度(closeness centrality)與 PageRank,其中又接近中心度 為往內(in-closeness centrality)的方向(如圖 3-14 所示),分為以下五個規則:
Rule III - 1:IF Betweenness <= 0.067702 and In-Closeness <= 0.586957 and In-Closeness <= 0.5625 and Pagerank <= 0.015601, then 閱讀理解成效 = High.
Rule III - 2:IF Betweenness <= 0.067702 and In-Closeness <= 0.586957 and In-Closeness <= 0.5625 and Pagerank > 0.015601, then 閱讀理解成效 = Low.
Rule III - 3:IF Betweenness <= 0.067702 and In-Closeness <= 0.586957 and
性別
In-Degree Out-Degree
= 女性 = 男性
<= 0.333333 > 0.333333
低閱讀理解成效 高閱讀理解成效
<= 0.333333 > 0.333333
高閱讀理解成效 Pagerank
> 0.041894
<= 0.041894
低閱讀理解成效 In-Degree
> 0.481481
<= 0.481481
低閱讀理解成效 高閱讀理解成效
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
35
In-Closeness > 0.562, then 閱讀理解成效 = High.
Rule III - 4:IF Betweenness <= 0.067702 and In-Closeness > 0.586957, then 閱 讀理解成效 = Low.
Rule III - 5:IF Betweenness > 0.067702, then 閱讀理解成效 = High.
圖 3-13 建立決策樹 III 之結果
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
36
圖 3-14 決策樹 III 視覺化結果
由上述三棵決策樹規則中可以得知,多數低閱讀理解成效結果皆與社會網 路指標過低有關,即太少與他人互動,不過當學習者為女性時其程度中心度
(degree centrality)或是往內的程度中心度(in-degree centrality)過高,以及當 學 習 者 中 介 中 心 度 ( betweenness centrality ) 過 低 時 其 往 內 的 接 近 中 心 度 (in-closeness centrality)或是 Pagerank 過高,學習者會被分類為低閱讀理解成效學 習者。此結果可以看出,當學習者發表含有錯誤的標註,會導致許多學習者参 與此標註的討論與修正,導致這四個指標過高的情況。前述三顆決策樹基於社 會網路指標所產生的評量規則皆不同,為了提高其評量的正確率,本研究決定同 時納入三棵決策樹作為閱讀理解成效形成性評量預測模型建議之依據,並以
Betweenness
In-Closeness 高閱讀理解成效
<= 0.586957 > 0.586957
低閱讀理解成效 In-Closeness
<= 0.5625 > 0.5625
高閱讀理解成效 Pagerank
<= 0.015601 > 0.015601
高閱讀理解成效 低閱讀理解成效
> 0.067702
<= 0.067702
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
37
Bagging 演算法(boot aggregating)的概念,將三棵決策樹之預測結果皆納入考 慮,並且進行投票,以多數決方式決定最終的預測結果(如圖 3-15 所示)。
圖 3-15 決策樹投票示意圖
二、 回饋機制設計
閱讀理解成效形成性評量預測模型建置完成後,即可將此一預測模型與合 作閱讀標註系統進行整合,並據此進一步發展預測低閱讀理解成效學習者的回 饋機制,發展為具閱讀理解成效形成性評量預測暨回饋機制之合作閱讀標註系 統,以輔助學習者提升閱讀理解成效與互動討論層次。
回饋機制主要分為對教師與對學習者的回饋。對教師的回饋主要為將預測 出閱讀理解成效過低之學習者名單提供給教師(如圖 3-16 所示),讓教師做進 一步的處理。教師能利用系統瞭解學習者學習成效不佳的「可能原因」,並且列 出該學習者值得去互動的學習者。
決策樹 I 預測結果:高
決策樹 II 預測結果:低
決策樹 III 預測結果:高
進行投票:「高」、「低」、「高」
投票結果:閱讀理解成效為
「高」
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
38
圖 3-16 系統示意圖
在學習者使用端,也提供了系統回饋給學習者的機制,係本研究主要的回饋 機制。當教師決定將系統閱讀理解成效形成性評量預測模型開啟後,學習者端 即會取得系統回饋。學習者能從「該跟誰互動」功能,得到系統推薦的學習者人 選與熱門標註。系統所推薦的學習者人選條件為與該學習者尚未互動過,並且 閱讀理解成效形成性評量預測模型預測出為閱讀理解成效高之學習者(如圖 3-17 所示)。學習者除了可以藉由與推薦的學習者人選進行互動,以提高社會網路指 標之外,也能觀看與吸收較優質的標註內容。而當系統所推薦的學習者人選超 過 3 人以上,即會自動隨機挑出 3 人作為推薦人選,以減少學習者的選擇困難與 資訊焦慮。
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
39
圖 3-17 系統示意圖
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
40