• 沒有找到結果。

DIF 偵測方法對於 DIF 偵測效果的影響

第四章 研究結果與討論

第三節 DIF 偵測方法對於 DIF 偵測效果的影響

本節將延續前兩節的討論結構,並將純化程序的效果納入考量,以回應本研 究最後的研究問題:「DIF偵測方法(是否為IRT取向、有無加入純化程序)是否 會影響不同遺失樣態下之DIF偵測效果?」。以下依α值與power值分別來呈現各組 情境的DIF偵測結果。

. α 值

(一) 各組人數為 500 人

表4-3-1 顯示各組人數為 500 人時,未使用單一插補法,於不同遺失樣態下,

以MH 法、MH-P 法、Lord 法與 Lord-P 法偵測 DIF 試題的 α 值。從無遺失情境來 看,可發現隨著 DIF 試題比率增加、DIF 程度增強,純化程序可有效降低 α 值。

也就是當有加入純化程序時,無 DIF 試題的誤判率有明顯的改善。有遺失資料的 結果顯示,在各種遺失情境下,除了MAR I 的遺失樣態外,純化程序都能有效地 降低 α 值,且隨著 DIF 試題比率增加、DIF 程度增強,純化程序對於 α 值的改善 效果會較為明顯。

在MAR I 的遺失情境下,若以 MH 法作為 DIF 偵測方法,會因為兩組的題數

基準不同等而導致 α 值異常地高。前文的研究結果顯示單一插補能有效改善此遺

表4-3-2 不同遺失樣態下及有無加入純化程序時,各組人數為 500 人的 α 值

有效地降低 α 值。此與過去的研究結果相吻合,在大樣本數、高 DIF 試題比率與

而更會導致不準確的能力配對與估算。此時只有進行純化程序是沒有效用的,必

法有效地偵測DIF 試題,尚需要單一插補法來處理遺失值。

舊無法改善將所有試題都判斷為有 DIF 的結果。然而,此外所有的遺失情境,在

失情境,進而改善能力配對與估計的問題,MH 法或 MH-P 法才能夠有效地偵測出

效用的,必須先以單一插補法來處理遺失值,其後以MH-P 法分析才有助於 power

水準,以下將針對有無純化與其他變項之間的交互作用效果作討論。有無純化與 遺失機制(𝐹 = 4.867,𝑝 < .01)、遺失比率(𝐹 = 5.28,𝑝 < .05)、有無插補

(𝐹 = 11.50,𝑝 < .01)之間都有顯著的交互作用效果,表示需要進一步探討這三 個變項與有無純化間的關係。

表4-3-9 在 MH 法時,以 α 值為依變項的四因子變異數分析摘要表

變異來源 SS df MS F

遺失機制 (A) 13.47 3 4.491 2821.21***

遺失比率 (B) .00 1 .00 1.134 有無插補 (C) 1.99 1 1.99 1248.66***

有無純化 (D) .06 1 .06 36.57***

A×B .01 3 .01 2.853* A×C 13.30 3 4.43 2784.24***

A×D .02 3 .01 4.867**

B×C .01 1 .01 6.79* B×D .01 1 .01 5.28* C×D .02 1 .02 11.50**

誤差 .51 319 .00

***p < .001, **p < .01, *p < .05

圖 4-3-1 在 MH 法時,有無純化與不同遺失機制的 α 值

從圖 4-3-1 可以看出,在多數遺失情境下,以 MH 法進行 DIF 分析時,加入 純化程序可以略微降低無DIF 試題的誤判率。但在 MAR I 遺失機制下,純化程序 對於α 值的影響卻是相反的,其 α 值反而會升高。由於 MAR I 遺失情境是針對焦 點組作答反應隨機抽取遺失值,因而焦點組與參照組是不同的題數基準,加上MH 法是以測驗總分作為配對變項,導致不準確的能力配對與估計。純化程序的作用

0   0.1   0.2   0.3   0.4   0.5   0.6   0.7   0.8   0.9   1  

無純化 有純化

α

MCAR   MAR  I   MAR  II   MAR  III   無遺失

在於避免測驗總分受到DIF 試題的汙染,但沒有辦法解決 MAR I 情境下兩組題數 不同的問題。因此,即便是加入純化程序的 MH 法,仍無法有效改善 α 值異常高 的情形。其他三種遺失情境下,以 MH 法進行 DIF 分析時,無論是否加入純化程 序,三者間的無DIF 試題誤判率都差不多。

下圖4-3-2 顯示,在無遺失情境下使用 MH 法進行 DIF 偵測時,純化程序有助 於降低無 DIF 試題的誤判率。對於遺失情境而言,無論遺失比率高低,純化程序 也都能降低 α 值。相較之下,有遺失情境的 α 值比無遺失情境來得高,而遺失比 率高低間的差異並不明顯。

圖 4-3-2 在 MH 法時,有無純化與遺失比率的 α 值

下圖4-3-3 顯示在遺失情境下,以 MH 法作為偵測 DIF 偵測方法,無論是否進 行單一插補來處理遺失值,加入純化程序後 α 值都會降低。此外,無論是否加入 純化程序,單一插補後的α 值都會較高。

表 4-3-10 是針對遺失機制、遺失比率、有無插補與有無純化程序進行四因子 變異數分析的結果,依變項為無DIF 試題的誤判率,以 Lord 法作為 DIF 偵測方法。

結果顯示有無插補(𝐹 = 25.22,𝑝 < .001)與有無純化(𝐹 = 74.08,𝑝 < .001)

兩個變項皆有主要效果存在,亦即是否以單一插補法處理遺失值與是否加入純化 程序來進行 DIF 偵測,其間的 α 值有顯著差異。此外,兩兩變項間都沒有交互作 用效果存在。

0   0.1   0.2   0.3   0.4   0.5   0.6   0.7   0.8   0.9   1  

無純化 有純化

α

0%   10%   30%  

圖 4-3-3 在 MH 法時,有無純化與有無插補的 α 值

表4-3-10 在 Lord 法時,以 α 值為依變項的四因子變異數分析摘要表

變異來源 SS df MS F

遺失機制 (A) .00 3 .00 .10 遺失比率 (B) .00 1 .00 1.41 有無插補 (C) .05 1 .05 25.22***

有無純化 (D) .16 1 .16 74.08***

A×B .00 3 .00 .928

A×C .00 3 .00 .25

A×D .00 3 .00 .69

B×C .01 1 .01 2.56 B×D .00 1 .00 1.41 C×D .01 1 .01 3.59 誤差 .67 319 .00

***p < .001

表4-3-11 在 MH 法時,以 power 值為依變項的四因子變異數分析摘要表

變異來源 SS df MS F

遺失機制 (A) .43 3 .14 4.94**

遺失比率 (B) .22 1 .22 7.59**

有無插補 (C) 1.44 1 1.44 50.99***

有無純化 (D) .08 1 .08 2.85 A×B .87 3 .29 10.03***

A×C .35 3 .12 4.02 A×D .22 3 .07 2.52 B×C .09 1 .09 3.07 B×D .09 1 .09 2.97 C×D .08 1 .08 2.67 誤差 7.23 251 .03

***p < .001, **p < .01

0   0.1   0.2   0.3   0.4   0.5   0.6   0.7   0.8   0.9   1  

無純化 有純化

α

無插補 有插補

表 4-3-11 是針對遺失機制、遺失比率、有無插補與有無純化程序進行四因子 變異數分析的結果,依變項為正確偵測DIF 試題的比率,以 MH 法作為 DIF 偵測 方法。結果顯示,遺失機制(𝐹 = 4.94,𝑝 < .01)、遺失比率(𝐹 = 7.59, < .01)與有 無插補(𝐹 = 50.99,𝑝 < .001)等變項的主要效果皆有達到顯著水準,唯獨有無 純化沒有顯著的主要效果,表示以 MH 法偵測 DIF 試題時,是否加入純化程序的 power 值間沒有顯著差異。另一方面,儘管有無純化與其他變項間的交互作用效果 也沒有達到顯著性,以下仍針對有無純化與其他三個變項的關係進行討論。

圖 4-3-4 在 MH 法時,有無純化與不同遺失機制的 power 值

從圖4-3-4 可看出,除了 MAR I 情境之外,其他遺失機制下以 MH 法偵測 DIF 試題,power 值都會因為加入純化程序而略微提升。另一方面,無論是否加入純化 程序,無遺失情境時的power 值是最佳的,次者依序為 MAR II、MAR III 與 MCAR 遺失機制。MCAR 遺失機制是針對所有作答反應隨機抽取遺失值,其遺失資料量 是MAR 類遺失資料量的兩倍,因此在同樣的遺失比率下,其遺失資料量較多,因 此power 值較低。

此外,此圖顯示在MAR I 情境下以 MH 法偵測 DIF 試題,power 值因為加入純化 程序而提升的效果較明顯。當沒有純化程序時,MAR I 遺失情境的 power 值稍遜 於MAR II,但加入純化程序後的 power 值比無遺失情境還來得高。

下圖4-3-5 顯示,無論是否加入純化程序,無遺失情境的 power 值都是最高的,

且當遺失比率較高時,power 值也會變得較低。當遺失比率為 10%時,加入純化程

0   0.1   0.2   0.3   0.4   0.5   0.6   0.7   0.8   0.9   1  

無純化 有純化

power

MCAR   MAR  I   MAR  II   MAR  III   無遺失

序的前後差異較明顯,亦即較能有效提升正確判斷DIF 試題的機率。

圖 4-3-5 在 MH 法時,有無純化與遺失比率的 power 值

下圖4-3-6 顯示,若以 MH 法偵測 DIF 試題時,無論是否使用單一插補處理遺 失資料,加入純化程序都能提升power 值。因為資料插補後,power 值會隨著樣本 數增加而升高,所以對於無插補資料而言,純化程序對於 power 值的改善效果較 為明顯。

圖 4-3-6 在 MH 法時,有無純化與有無插補的 power 值

表 4-3-12 是針對遺失機制、遺失比率、有無插補與有無純化程序進行四因子 變異數分析的結果,依變項為正確偵測DIF 試題的比率,以 Lord 法作為 DIF 偵測 方法。結果顯示,四個變項各自沒有主要效果,兩兩變項間也沒有交互作用效果 存在。由於 Lord 法是 IRT 取向的 DIF 偵測方法,其具有能力估計不變性,因此

0   0.1   0.2   0.3   0.4   0.5   0.6   0.7   0.8   0.9   1  

無純化 有純化

power

0%   10%   30%  

0   0.1   0.2   0.3   0.4   0.5   0.6   0.7   0.8   0.9   1  

無純化 有純化

power

無插補 有插補

DIF 偵測結果不受到這些變項的影響。

表4-3-12 在 Lord 法時,以 power 值為依變項的四因子變異數分析摘要表

變異來源 SS df MS F

遺失機制 (A) .01 3 .01 .31 遺失比率 (B) .04 1 .04 2.51 有無插補 (C) .00 1 .00 .16 有無純化 (D) .04 1 .04 2.84

A×B .01 3 .00 .14

A×C .00 3 .00 .04

A×D .00 3 .00 .01

B×C .00 1 .00 .04

B×D .00 1 .00 .00

C×D .00 1 .00 .04

誤差 3.899 251 .02

. 小結

對於多數遺失情境而言,加入純化程序能有效改善 DIF 偵測的結果。並且,

當樣本數較高、DIF 試題比率較高、DIF 程度較高的條件下,純化程序的改善作用 也會較為明顯。值得注意的是,在MAR I 遺失情境下使用 MH 法偵測 DIF 試題時,

因為此遺失機制是以焦點組為遺失資料,因而參照組與焦點組的題數不同,加上 MH 法是以測驗總分作為配對變項,便導致不準確的能力配對與估計。所以光是透 過純化程序,其能力配對時題數不同的問題沒有解除,並無法改善 α 值異常高的 現象。也表示若在MAR I 情境下,使用 MH 法進行來偵測 DIF 試題,單一插補的 處理有其必要性。