我國 TIMSS 2003 抽樣設計與施測情形
羅珮華
國立臺灣師範大學 科學教育中心壹、前言
我 國 自 1997 年 起 參 加 由 國 際 教 育 學 習 成 就 調 查 委 員 會 (The International Association for the Evaluation of Education Achievement , 簡 稱 IEA) 主 辦 的 TIMSS 1999( 或 稱 TIMSS-R)計 畫 之 後,持 續 參 加 由 IEA 辦 理 的 國 際 數 學 與 科 學 教 育 成 就 趨 勢 調 查 2003 (Trends in International Mathematics and Science Study 2003,簡 稱 TIMSS 2003), 調 查 對 象 包 括 國 小 四 年 級 及 國 中 二 年 級 學 生。TIMSS 計 畫 期 望 能 每 四 年 辦 理 成 就 調 查 一 次 , 以 便 各 國 能 夠 長 期 對 其 教 育 成 果 監 控 並 進 行 趨 勢 研 究 。 TIMSS 2003 調 查 的 結 果:我 國 國 二 學 生 科 學 學 習 成 就 平 均 成 績 的 國 際 排 名 為 第 二 名 , 與 第 一 名 的 新 加 坡 無 顯 著 差 異 ; 國 二 學 生 數 學 平 均 成 績 的 國 際 排 名 為 第 四 名 , 與 新 加 坡 有 顯 著 差 異 , 但 與 韓 國 和 香 港 無 顯 著 差 異 。 我 國 小 四 學 生 科 學 學 習 成 就 平 均 成 績 的 國 際 排 名 為 第 二 名 , 與 第 一 名 的 新 加 坡 有 顯 著 差 異 ; 數 學 平 均 成 績 的 國 際 排 名 為 第 四 名 , 與 新 加 坡 和 香 港 有 顯 著 差 異 , 但 與 日 本 無 顯 著 差 異 。 國 二 科 學 各 學 科 內 容 領 域 平 均 成 績 的 國 際 排 名 分 別 如 下 : 生 命 科 學 第 二 名 , 化 學 第 一 名 , 物 理 第 三 名 , 地 球 科 學 第 四 名 , 環 境 科 學 第 二 名 。 國 二 數 學 各 分 科 內 容 領 域 平 均 成 績 的 國 際 排 名 分 別 如 下 : 數 第 四 名 , 代 數 第 三 名 , 測 量 第 四 名 , 幾 何 與 香 港 並 列 第 二 名 , 資 料 呈 現 與 分 析 第 四 名 ; 小 四 科 學 各 學 科 內 容 領 域 平 均 成 績 的 國 際 排 名 分 別 如 下 : 生 命 科 學 第 三 名 , 物 質 科 學 第 三 名 , 地 球 科 學 第 一 名 ; 小 四 數 學 各 分 科 內 容 領 域 平 均 成 績 的 國 際 排 名 分 別 如 下 : 數 第 三 名 , 數 型 和 關 係 第 三 名 , 測 量 第 四 名 , 幾 何 第 四 名 , 資 料 呈 現 與 分 析 第 三 名 。 這 個 成 果 顯 示 我 國 數 學 和 科 學 教 育 一 直 有 不 錯 的 水 準 ( 張 秋 男 等 人 , 2005)。 本 文 目 的 希 望 將 執 行 單 位 在 執 行 TIMSS 2003 計 畫 的 一 個 過 程 資 料 提 供 給 研 究 人 員 參 考,相 關 內 容 來 自 TIMSS 2003 計 畫 報 告 和 相 關 操 作 手 冊 與 技 術 報 告 與 資 料 。貳、TIMSS 2003 調查研究主要內容
本 研 究 屬 於 調 查 研 究 和 量 的 分 析 。 在 國 際 學 者 合 作 下 , 各 項 問 卷 及 試 題 均 有 嚴 謹 的 設 計 , 以 控 制 其 品 質 。 本 計 畫 依 IEA 和 美 國 波 士 頓 學 院 國 際 研 究 中 心 ( International Study Center, Boston College, 簡 稱 ISC) 規 定 之 方 法 , 針 對 我 國 國 小 四 年 級 和 國 中 二 年 級 學 生 之 數 學 與 科 學 學 習 成 就 進 行 調 查 工 作 。 首 先 我 國 依 規 定 指 定 一 個 全 國 性 的 國 家 中 心 (nationalcenter)負 責 推 動 全 部 研 究 工 作 , 國 科 會 公 開 徵 求 研 究 團 隊 , 由 國 立 臺 灣 師 範 大 學 科 學 教 育 中 心 獲 得 承 辦 此 計 畫 ; 由 計 畫 主 持 人 國 立 臺 灣 師 範 大 學 理 學 院 張 秋 男 院 長 擔 任 國 家 研 究 聯 絡 人 (national research coordinator,簡 稱 NRC)負 責 執 行 調 查 工 作 與 協 調 所 有 工 作 , 並 派 員 參 加 國 際 NRC 會 議 , 商 討 有 關 國 際 試 題 開 發 、 測 驗 架 構 分 析 、 工 具 製 訂 、 各 種 問 卷 修 訂 、 施 測 樣 本 之 取 樣 、 蒐 集 與 處 理 數 據 、 施 測 活 動 暨 報 告 、 成 果 分 析 及 所 有 相 關 行 政 工 作 。 主 要 工 作 內 容 如 下 : 1. 界 定 研 究 對 象 : TIMSS 研 究 目 的 在 探 討 課 程 與 教 學 對 學 生 學 習 的 有 效 性,因 此 測 驗 時,希 望 受 測 對 象 分 別 為 已 接 受 八 年 和 四 年 學 校 教 育 者,因 為 各 國 學 生 的 入 學 年 齡 不 同,因 此 各 國 受 測 學 生 年 級 稍 有 不 同 , 但 大 多 數 國 家 TIMSS 2003 抽 測 學 生 是 八 年 級 學 生 和 國 小 四 年 級 學 生 。 這 個 界 定 與 之 前 TIMSS 受 測 對 象 的 定 義 是 可 以 比 較 的 。 2. 抽 樣:依 TIMSS 2003 之 規 定,各 國 使 用 由 德 國 資 料 處 理 中 心 ( Data Processing Center , 簡 稱 DPC ) 開 發 WinW3S 軟 體 來 處 理 抽 樣 和 記 錄 學 生 出 缺 席 情 形 , 由 加 拿 大 統 計 局 ( Statistics Canada) 負 責 與 各 國 確 定 抽 樣 計 畫 和 完 成 抽 樣 表 格,並 為 各 國 抽 出 試 測 和 實 測 的 受 測 學 校 和 候 補 學 校,同 時 加 拿 大 統 計 局 負 責 將 各 國 抽 樣 資 料 計 算 成 各 國 測 驗 的 加 權 資 料 。 3. 編 排 測 驗 題 本 : TIMSS 2003 測 驗 架 構 包 含 預 期 學 生 在 學 校 的 數 學 及 科 學 課 中 可 能 學 到 學 科 內 容 、 操 作 或 行 為 表 現 , 測 驗 題 本 採 輪 測 設 計 (rotated test booklet design), 每 一 本 測 驗 題 本 包 含 數 學 與 科 學 試 題 。 試 測 時 八 年 級 有 5 本 測 驗 題 本,四 年 級 有 7 本 測 驗 題 本 ; 實 測 時 八 年 級 和 四 年 級 各 有 12 本 測 驗 題 本 。 每 位 學 生 只 考 其 中 一 本 測 驗 題 本。實 測 四 年 級 有 313 題 試 題,八 年 級 有 383 題 試 題,各 年 級 分 別 將 試 題 區 分 為 14 個 數 學 群 組 ( M01-M14) 和 14 個 科 學 群 組( S01-S14),預 期 每 個 群 組 試 題 四 年 級 學 生 需 花 12 分 鐘 完 成 , 八 年 級 學 生 需 花 15 分 鐘 完 成 ; 每 個 題 本 分 成 兩 部 分,每 部 分 由 3 個 群 組 組 成 , 學 生 完 成 第 一 部 分 測 驗 後,可 以 休 息 片 刻 再 繼 續 進 行 第 二 部 分 測 驗。各 個 測 驗 題 本 內 試 題 群 組 排 列 方 式 如 下 表 一 所 示 。 4. 測 驗 時 間 安 排:測 驗 日 期 由 受 測 學 校 與 各 國 家 中 心 排 定,測 驗 過 程 分 兩 階 段 進 行 , 四 年 級 的 測 驗 時 間 為 72 分 鐘 , 每 一 階 段 測 驗 時 間 為 36 分 鐘 , 中 間 休 息 10-20 分 鐘 ; 八 年 級 的 測 驗 時 間 為 90 分 鐘 , 每 一 階 段 測 驗 時 間 為 45 分 鐘 , 中 間 休 息 10-20 分 鐘,各 執 行 施 測 學 校 可 以 視 情 況 調 整。完 成 測 驗 後 學 生 需 填 寫 一 份 問 卷,以 作 為 探 討 學 生 成 就 高 低 的 依 據 。 5. 問 卷 內 容 範 圍:包 含 有 學 生、教 師、學 校 及 課 程 四 種 問 卷,以 收 集 有 關 學 生 學 習、教 師 教 學、學 校 行 政 設 施 與 課 程 資
表一、TIMSS 2003 八年級和四年級測驗題本內試題群組排列方式 (資料來源:Martin, et al., 2004) 第一部分 第二部分 測驗題本 第一區 第二區 第三區 第四區 第五區 第六區 1 M01 M02 S06 S07 M05 M07 2 M02 M03 S05 S08 M06 M08 3 M03 M04 S04 S09 M13 M11 4 M04 M05 S03 S10 M14 M12 5 M05 M06 S02 S11 M09 M13 6 M06 M01 S01 S12 M10 M14 7 S01 S02 M06 M07 S05 S07 8 S02 S03 M05 M08 S06 S08 9 S03 S04 M04 M09 S13 S11 10 S04 S05 M03 M10 S14 S12 11 S05 S06 M02 M11 S09 S13 12 S06 S01 M01 M12 S10 S14 料。學生背景問卷由學生回答有關於對 數學與科學的態度、教室活動、家庭背 景及學校外之活動;被取樣之學生的數 學和科學教師回答有關教學重點、教學 經驗、使用之教科書、教育程度與專業 訓練及他們對數學或科學主題是否教過 的看法;學校校長回答有關學校規模、 學校資源、數學和科學課程及教師支持 情形。課程問卷由 NRC 負責填寫,用以 分析測驗內容與各國課程配合情形。 6. 調 查 工 具 翻 譯:國 際 之 調 查 工 具 原 為 英 文 , 我 國 必 須 將 試 題 和 問 卷 翻 譯 成 中 文 , 並 將 譯 本 送 至 IEA 確 認 翻 譯 的 正 確 性 和 送 至 ISC 確 認 排 版 後 , 才 可 以 印 製 和 施 測 。 7. 施 測:每 一 國 家 依 據 TIMSS 2003 訓 練 手 冊 來 訓 練 人 員 進 行 施 測 工 作,包 括 學 校 聯 絡 人 和 監 試 人 員,並 利 用 抽 查 訪 視 測 驗 來 監 控 施 測 品 質 。 8. 非 選 擇 題 評 分:在 TIMSS 1999 中 的 非 選 擇 題 稱 為 自 由 反 應 試 題 ( free- response item), TIMSS 2003 中 稱 為 建 構 反 應 試 題 ( constructed-response item )。 這 是 用 診 斷 式 評 分 系 統 來 評 分,每 一 題 試 題 的 給 分 標 準 以 兩 位 數 字 碼 給 分,第 一 位 數 字 表 示 回 答 的 正 確 性 和 得 分 , 其 中 等 於 〝 1〞 時 表 示 該 題 得 分 為 一 分 , 等 於 〝 2〞 時 表 示 該 題 得 分 為 二 分 , 等 於 〝 7〞 時 表 示 該 題 答 案 錯 誤 得 分 為 零 。 第 二 位 數 字 代 表 答 案 類 型,包 括 用 來 定 出 特 別 答 案、策 略、共 同 錯 誤 與 迷 思 概 念 等,由 國 際 研 究 中 心 提 供 評 分 指 引。例 如 10、11、12、13、 14、 … 19 和 20、 21、 22、 23、 24、 …
29 為 正 確 的 評 分 碼 ; 錯 誤 答 案 類 型 包 括 70、71、72、73、74、… 78 等 答 案 , 79 用 來 表 示 非 評 分 標 準 指 引 所 標 示 的 其 他 不 正 確 答 案 ( 包 含 刪 掉 / 擦 掉 , 塗 鴉 , 難 以 辨 認 或 無 效 的 嘗 試 )。 評 分 碼 99 用 來 表 示 空 白 沒 有 作 答 。 9. 國 際 資 料 庫 建 立:由 DPC 開 發 WinW3S 和 WinDEM 軟 體 給 TIMSS 參 與 國 家 使 用 , 各 國 利 用 WinW3S 來 處 理 班 級 抽 樣 和 記 錄 學 生 出 缺 席 情 形 , 再 用 WinDEM 軟 體 配 合 來 進 行 學 生 作 答 數 據 輸 入。各 國 完 成 資 料 輸 入 之 後 將 檔 案 送 交 DPC 彙 整 , ISC 匯 集 各 國 資 料 之 後,開 始 分 析 數 據,配 合 抽 樣 加 權,以 IRT 量 尺 方 式 產 生 每 位 學 生 的 數 學 與 科 學 量 尺 分 數 。 10. IEA 和 ISC 出 版 國 際 數 學 報 告、國 際 科 學 報 告 和 技 術 報 告,並 提 供 資 料 庫 相 關 說 明 給 各 界 使 用 。
參、我國 TIMSS 2003 抽樣設計
TIMSS 調查 中各國 的抽 樣工作 都是 在 加 拿 大 統 計 局 的 指 導 下 進 行 。 我 國 學 制 正 式 教 育 始 於 國 小 一 年 級 , 因 此 在 測 驗 時 已 接 受 八 年 和 四 年 學 校 教 育 者 , 分 別 為 國 中 二 年 級 學 生 和 國 小 四 年 級 學 生 , 所 以 我 國 TIMSS 2003 受測對 象為 國中二 年級 學生和 國小四年級學生。TIMSS 2003 的抽樣模式 沿用 TIMSS 1999 年的階層群集抽樣設計 與 機 率 等 比 例 (probabilities-proportional- to-size,簡 稱 PPS)系統 抽樣 方法 來 抽 取 受 測學校。由於 TIMSS 的分析焦點在於學生 的 學 習 成 就 和 影 響 學 習 的 因 素 , 因 此 探 討 的 對 象 階 層 包 含 了 學 生 、 班 級 和 學 校 , 而 這些階層就成了抽樣單位。TIMSS 2003 的 抽 樣 設 計 要 求 各 階 層 抽 樣 時 , 都 必 須 符 合 抽樣的正確性和調查資料品質的要求。一、學校抽樣
TIMSS 2003 全 體 抽 樣 設 計 主 要 採 用 二 階 分 層 群 集 抽 樣 設 計 , 第 一 階 抽 樣 單 位 是 學 校 , 我 國 依 照 國 際 排 除 受 測 的 規 定 , 將 啟 聰 、 啟 明 、 啟 智 、 華 僑 中 學 和 戲 曲 學 校 等 特 殊 學 校 列 於 排 除 受 測 名 單 。 扣 除 排 除 學 校 名 單 之 後 的 所 有 公 私 立 國 民 中 學 、 完 全 中 學 、 附 設 國 中 部 學 校 , 即 是 我 國 八 年 級 學 校 抽 樣 的 母 群 ; 全 部 公 私 立 國 民 小 學 是 我 國 四 年 級 學 校 抽 樣 的 母 群 。 TIMSS 的 抽 樣 分 層 變 數 分 為 外 顯 的 (explicit)和 內 隱 的 (implicit) , 我 國 TIMSS 2003 沿 用 TIMSS 1999 的分層 變數,選擇 了二 個分層 變數:地理上分區和學校大小。 我 國 將 學 校 依 所 在 地 的 地 理 位 置 分 為 五區:(1)北區(Region 1):新竹以北, 含宜蘭;(2)中區(Region 2):苗栗以南 至雲林;(3)南區(Region 3):嘉義以南 至屏東;(4)東區(Region 4):臺東和花 蓮;(5)離島地區(Region 5):。在 1999 年時我國首次參與 TIMSS 研究,因考量正 式 測 驗 實 施 時 的 費 用 、 複 雜 度 、 困 難 度 、 地 理 因 素 與 特 小 型 學 校 等 各 種 因 素 , 所 以 排除離島地區的學校受測;但在 2003 年已 經 克 服 可 能 遇 到 的 困 難 , 所 以 離 島 學 校 也 在抽樣母群中。學 校 大 小 是 用 學 校 八 年 級 或 四 年 級 班 級 數 來 區 分 , 將 學 校 分 為 大 、 中 、 小 三 型 學 校 , 其 中 國 中 八 年 級 班 級 數 在 13 班 ( 含 )以 上 者 為 大 型 學 校,6-12 班 者 為 中 型 學 校 , 5 班 ( 含 ) 以 下 者 為 小 型 學 校 ; 小 學 四 年 級 班 級 數 在 8 班( 含 )以 上 者 為 大 型 學 校,3-7 班 者 為 中 型 學 校,2 班( 含 ) 以 下 者 為 小 型 學 校 。 我 國 的 受 測 學 校 名 單 是 由 加 拿 大 統 計 局 抽 取 的 , 因 為 我 國 學 制 一 致 , 並 無 使 用 外 顯 分 層 變 數 抽 樣 , 我 國 的 抽 樣 過 程 加 拿 大 統 計 局 除 了 用 我 國 指 定 的 二 個 內 隱 分 層 變 數 之 外 , 加 拿 大 統 計 局 在 八 年 級 另 增 加 男 校 、 女 校 和 男 女 混 合 校 作 為 分 層 變 數 , 這 項 資 料 記 載 在 國 際 資 料 庫 使 用 手 冊 中 , 若 要 查 看 我 國 在 TIMSS 2003 資 料 中 抽 樣 的 內 隱 分 層 變 數 , 可 參 考 表 二 代 碼 的 對 照 與 說 明 ; 為 避 免 受 測 樣 本 不 足 , 加 拿 大 統 計 局 在 抽 樣 過 程 中 將 我 國 受 測 年 級 班 級 人 數 少 於 8 人 的 學 校 排 除 ; 抽 取 受 測 學 校 時 , 同 時 也 將 每 個 受 測 學 校 的 第 一 順 位 和 第 二 順 位 候 補 學 校 名 單 抽 取 出 來 , 如 果 原 被 抽 到 的 受 測 學 校 無 法 施 測 時 , 必 須 由 候 補 學 校 受 測 , 不 可 任 意 選 擇 學 校 受 測 ( Martin, Mullis, & Chrostowski, 2004)。
表二、我國 TIMSS 2003 抽樣過程使用之內隱分層變數代碼與說明(資料來源:Martin, 2005) 註:有*符號之代碼,表示在此區域中沒有抽到受測學校,因此該代號不會出現在資料檔中。 八 年 級 四 年 級 內 隱 分 層 變 數 代 碼 (IDSTRATI) 內 隱 分 層 變 數 代 碼 說 明
(Implicit Stratum Label)
內 隱 分 層 變 數 代 碼 (IDSTRATI) 內 隱 分 層 變 數 代 碼 說 明 (Implicit Stratum Label) 1* 北 區 ( Region 1) 男 校 1 北 區 ( Region 1) 2 北 區 ( Region 1) 女 校 2 中 區 ( Region 2) 3 北 區 ( Region 1) 男 女 混 合 校 3 南 區 ( Region 3) 4* 中 區 ( Region 2) 女 校 4 東 區 ( Region 4) 5 中 區 ( Region 2) 男 女 混 合 校 5* 離 島 地 區 ( Region 5) 6* 南 區 ( Region 3) 男 校 7 南 區 ( Region 3) 女 校 8 南 區 ( Region 3) 男 女 混 合 校 9 東 區 ( Region 4) 男 女 混 合 校 10 離 島 地 區 ( Region 5) 男 女 混 合 校
二、班級抽樣
第 二 階 抽 樣 單 位 是 受 測 學 校 內 的 班 級 。 每 一 個 國 家 都 是 根 據 加 拿 大 統 計 局 提 供 的 受 測 學 校 名 單 進 行 班 級 抽 樣 工 作 , 這 個 階 段 是 利 用 WinW3S 軟 體 進 行 隨 機 抽 樣 。 通 常 在 每 一 個 受 測 學 校 抽 出 一 個 受 測 班 級 , 但 是 有 些 學 校 也 許 會 因 為 一 個 班 級 學 生 人 數 太 少 而 需 要 抽 出 一 班 以 上 的 學 生 來 受 測 。 當 我 國 從 加 拿 大 統 計 局 收 到 受 測 學 校 名 單 後 , 即 開 始 與 各 受 測 學 校 聯 繫 , 告知學校有關 TIMSS 調查的目的與過程, 並 尋 求 學 校 的 支 持 與 配 合 , 由 受 測 學 校 提 供 學 校 受 測 年 級 的 班 級 名 單 與 學 生 人 數 , 以 供 進 行 班 級 抽 樣 。 受 測 班 級 挑 選 出 來 之 後 , 再 向 各 個 學 校 收 集 受 測 學 生 個 人 姓 名 、 性 別 和 出 生 年 月 等 資 料 , 以 便 製 作 測 驗 紀 錄 表 格 , 並 請 學 校 轉 知 學 生 即 將 接 受 此 一 調 查 。 雖 然 校 內 抽 樣 過 程 由 我 國 自 己 進 行 , 但 仍 接 受 國 際 監 控 , 於 抽 樣 完 成 時 將抽樣電腦程式寄回 DPC 確認所有抽樣過 程是否符合規定。 學 校 內 排 除 受 測 學 生 的 條 件 主 要 有 三 項 :(1)學 習 遲 緩 的 學生 : 此 類 學生 是 指經 由 校 長 或 其 它 教 職 員 〝 專 業 〞 意 見 認 定 學 習 遲 緩 的 學 生 , 或 者 是 經 由 心 理 醫 師 認 定 為 學 習 遲 緩 的 學 生 。 這 類 學 生 包 括 情 緒 性 或 心 智 上 不 能 照 著 一 般 的 測 驗 說 明 去 做 的 學 生 。 學 業 成 績 不 良 或 管 教 上 有 問 題 的 學 生 不 可 用這 個 原 因 將之 排 除 。(2)肢 體 殘障 學 生 : 這 類 學 生 指 為 永 久 性 的 身 體 殘 障 , 導 致 無 法 參 加 TIMSS 測 驗 或 者 無 法 像 正 常 學 生 一 般 進 行 測 驗 者 。 如 果 肢 體 雖 然 殘 障 , 可 以 與 正 常 學 生 一 起 回 答 測 驗 問 題 者 仍 須 被 包 含 在 測 驗 之 內 。 (3) 母 語 有 困 難 者 : 學 生 實 質 上 無 法 讀 或 說 測 驗 使 用 的 語 言 , 而 且 在 考 試 狀 態 下 無 法 克 服 語 言 障 礙 者 。 尤 其 是 學 習 本 測 驗 所 使 用 的 語 言 的 時 間未逾一年者。 TIMSS 的抽 樣設計 希望 每題試 題在 各 國至少有 400 個有效樣本,因此各國每個 年級至少抽測 150 校,3000 至 4500 位學生 接 受 測 驗 , 各 國 被 抽 測 的 學 校 至 少 要 有 85%參與率,而各國 全體 學生至 少要 有 85% 參 與 率 , 受 測 班 級 學 生 的 參 與 率 如 果 低 於 75%,則該 班成績 不被 採計。 TIMSS 2003 調查過 程中,我 國得 到 所 有 受 測 學 校 的 配 合 , 因 此 學 校 參 與 率 為 100%,僅少數學生於測驗當日缺席,八年 級和四年級全體學生參與率皆達 99%。我 國實測時,八年級和四年級各有 150 校接 受 調 查 , 每 校 一 班 參 加 測 驗 , 有 效 樣 本 八 年級為 5379 位學生,四年級為 4661 位學 生(詳見表三)。從國際報告得知英國八年 級調查只有 54%學校接受測驗,雖然學生 參 與 率 達 85% , 計 算 後 整 體 參 與 率 為 46%,仍不 符合 TIMSS 調查的 抽樣 要求, 因 此 英 國 八 年 級 學 生 成 績 不 被 列 入 國 際 評 比 。 英 國 四 年 級 調 查 有 82% 學 校 接 受 測 驗,學生參與率達 93%,計算後整體參與 率為 76%,符合 TIMSS 調查的抽樣要求, 因此四年級學生成績可以列入國際評比。三、班級內學生抽樣
第 三 階 抽 樣 單 位 是 受 測 班 級 內 學 生 抽樣 , 對 大 多 數 國 家 和 受 測 學 校 而 言 , 都 只 需 進 行 到 第 二 階 抽 樣 , 被 抽 到 的 受 測 班 級 內 所 有 學 生 都 必 須 接 受 測 驗 。 但 若 因 為 該 班 學 生 人 數 過 多 , 考 量 測 驗 所 需 費 用 或 其 他 因 素 , 可 以 只 抽 取 部 分 學 生 進 行 測 驗 , 這時就繼續使用 WinW3S 軟體提供的班級 內 學 生 抽 樣 功 能 , 從 各 班 學 生 名 單 隨 機 抽 取受測學生。
肆 、 TIMSS 2003 抽 樣設 計 班 級 內
的群集效應
TIMSS 2003 原則上以班級作為抽樣單 位 , 因 此 會 有 班 級 內 的 群 集 效 應 存 在 , TIMSS 以各國各年級的 班級平均人 數做為 群集大小,並選定班級內的相關是 0.3,根 據抽樣設計表決定抽樣的學校數量,決定各 國至少都從受測學生母群中選取 150 所學 校,每校一個班級接受測驗調查,這樣可以 在學校和班級層次產生 95%的信賴區間,而 且標準差在± 16%以內。為了避免抽樣的精 確性下降,藉由以前 TIMSS 的經驗,對於 影 響 群 集 效 應 的 班 級 內 相 關 係 數 進 行 評 估 (表四)。若班級內相關增高,表示調查的 可信度較差,這時可能需要考量分層變數的 適當性,或借重增加抽樣樣本數來提高調查 的信度(Foy & Joncas, 2001)。我國 TIMSS 2003 年的調查班級內的相關皆低於 0.3,顯 示我國抽樣有很好的精確性。表 三 、 我 國 TIMSS 2003 抽 測 與 受 測 人 數 統 計 ( 資 料 來 源 : Martin, et al., 2004) 受 測 班 級 數 有 效 受 測 學 生 人 數 抽 測 學 生 人 數 特 殊 因 素 排 除 人 數 退 學 人 數 缺 席 人 數 總 計 無 效 人 數 四 年 級 150 4661 4793 88 11 33 132 八 年 級 150 5379 5525 37 54 55 146
表 四 、 各 國 TIMSS 2003 調 查 班 級 內 的 相 關 係 數 ( 資 料 來 源 : Foy, et al., 2005) 四 年 級 八 年 級 國 家 數 學 科 學 數 學 科 學 亞 美 尼 亞 Armenia 0.305 0.334 0.204 0.270 澳 大 利 亞 Australia 0.278 0.238 0.523 0.409 巴 林 Bahrain - - 0.150 0.099 比 利 時 Belgium (Flemish) 0.163 0.148 0.699 0.567 波 札 那 Botswana - - 0.172 0.193 保 加 利 亞 Bulgaria - - 0.419 0.435 加 拿 大 ( 安 大 略 省 ) Canada (ON) 0.230 0.197 0.171 0.145 加 拿 大 ( 魁 北 克 省 ) Canada (QC) 0.145 0.111 0.409 0.308 智 利 Chile - - 0.474 0.310
四 年 級 八 年 級 國 家 數 學 科 學 數 學 科 學 臺 灣 Chinese Taipei 0.139 0.092 0.285 0.252 賽 普 魯 斯 Cyprus 0.100 0.109 0.068 0.105 埃 及 Egypt - - 0.275 0.263 英 格 蘭 England 0.263 0.223 0.712 0.567 愛 沙 尼 亞 Estonia - - 0.251 0.211 迦 納 Ghana - - 0.356 0.331 香 港 Hong Kong (SAR) 0.257 0.216 0.568 0.447
匈 牙 利 Hungary 0.252 0.199 0.340 0.258 印 尼 Indonesia - - 0.554 0.475 伊 朗 Iran 0.296 0.259 0.318 0.244 以 色 列 Israel - - 0.334 0.269 義 大 利 Italy 0.349 0.333 0.311 0.288 日 本 Japan 0.053 0.040 0.167 0.120 約 旦 Jordan - - 0.255 0.201 韓 國 Korea - - 0.091 0.072 拉 脫 維 亞 Latvia 0.247 0.244 0.254 0.204 黎 巴 嫩 Lebanon - - 0.456 0.426 立 陶 宛 Lithuania 0.259 0.176 0.261 0.206 馬 其 頓 Macedonia - - 0.397 0.406 馬 來 西 亞 Malaysia - - 0.535 0.508 摩 爾 多 瓦 Moldova 0.410 0.360 0.346 0.313 摩 洛 哥 Morocco 0.355 0.278 0.103 0.129 荷 蘭 Netherlands 0.181 0.154 0.706 0.608 紐 西 蘭 New Zealand 0.359 0.357 0.478 0.443 挪 威 Norway 0.118 0.110 0.119 0.097 巴 勒 斯 坦 Palestinian Nat. Auth. - - 0.186 0.177
菲 律 賓 Philippines 0.514 0.456 0.546 0.480 羅 馬 尼 亞 Romania - - 0.376 0.382 俄 羅 斯 Russian Federation 0.462 0.433 0.349 0.332 沙 烏 地 阿 拉 伯 Saudi Arabia - - 0.207 0.184 蘇 格 蘭 Scotland 0.195 0.184 0.658 0.496 塞 爾 維 亞 Serbia - - 0.144 0.138
四 年 級 八 年 級 國 家 數 學 科 學 數 學 科 學 新 加 坡 Singapore 0.555 0.503 0.765 0.806 斯 洛 伐 克 Slovak Rep. - - 0.319 0.274 斯 洛 維 尼 亞 Slovenia 0.114 0.114 0.110 0.074 南 非 South Africa - - 0.641 0.600 西 班 牙 ( 巴 斯 克 人 國 家 ) Spain (Basque) - - 0.198 0.128 瑞 典 Sweden - - 0.406 0.313 敘 利 亞 Syria - - 0.264 0.222 突 尼 西 亞 Tunisia 0.359 0.331 0.199 0.142 美 國 United States 0.326 0.338 0.609 0.533 葉 門 Yemen 0.441 0.393 - -
伍、我國 TIMSS 2003 實測施測情
形
TIMSS 2003 調查的 主要 工作與 時程 如下 : 1. 91 年 9 月 組 成 測 驗 翻 譯 工 作 小 組 , 進 行 翻 譯 與 修 訂 實 測 調 查 工 具。翻 譯 實 測 之 工 具 , 包 括 國 小 四 年 級 測 驗 題 本 共 12 本 、 四 年 級 學 校 問 卷 、 四 年 級 教 師 問 卷、四 年 級 學 生 問 卷、國 中 二 年 級 測 驗 題 本 共 12 本 、 國 中 二 年 級 學 校 問 卷、國 中 二 年 級 數 學 教 師 問 卷、國 中 二 年 級 科 學 教 師 問 卷、國 中 二 年 級 學 生 問 卷 。 2. 由 加 拿 大 統 計 局 提 供 實 測 受 測 學 校 名 單 , 國 小 四 年 級 及 國 中 二 年 級 各 150 所 學 校,開 始 與 受 測 學 校 聯 絡,調 查 這 些 學 校 九 十 一 學 年 度 受 測 年 級 的 班 級 數、班 級 名 稱、各 班 學 生 人 數,準 備 進 行 班 級 抽 樣 。 3. 由 科 教 中 心 依 國 際 測 驗 總 部 規 定,使 用 WinW3S 軟 體 進 行 班 級 抽 樣,分 別 從 每 校 抽 出 一 班 作 為 施 測 對 象 。 4. 調 查 受 測 班 級 學 生 名 單,製 作 受 測 學 校 之 教 師 追 蹤 表 與 學 生 追 蹤 表 。 5. 92 年 3 月 IEA 和 ISC 確 認 所 有 翻 譯 工 具 後 才 印 製 調 查 工 具 。 6. 參 加 國 家 聯 絡 人 會 議,接 受 自 由 反 應 試 題 評 分 訓 練 , 並 帶 回 閱 卷 評 分 相 關 資 料 。 7. 92 年 3 月 底 至 5 月 初 分 北 、 中 、 南 區 辦 理 實 測 受 測 學 校 聯 絡 人 及 監 試 人 員 講 習 會,邀 請 受 測 學 校 聯 絡 人 及 監 試 人 員 參 加,使 其 了 解 本 計 畫 之 目 的 與 施 測 時 進 行 之 程 序、注 意 事 項、及 測 驗 工 具 保 密 等 相 關 工 作 。 8. 指 定 國 中 二 年 級 150 所 學 校 於 民 國 92 年 5 月 19 日 至 30 日 舉 行 實 測,國 小 四 年 級 150 所 學 校 於 民 國 92 年 5 月 26 日 至 6 月 6 日 舉 行 實 測,科 教 中 心 派 出 15 位 觀 察 員 抽 訪 國 中 和 國 小 各 15 所 受 測 學 校,訪 視 各 受 測 學 校 測 驗 之 程 序 是否 有 依 規 定 進 行。國 際 測 驗 總 部 委 託 國 際 觀 察 員 小 組,代 表 IEA,抽 訪 國 中 和 國 小 各 15 所 受 測 學 校 。 因 此 共 有 60 所 學 校 有 觀 察 員 共 同 監 試 測 驗。每 位 學 生 必 須 填 寫 一 份 問 卷 和 試 題,受 測 班 級 之 數 學 與 科 學 課 程 教 師 需 分 別 填 寫 一 份 問 卷,校 長 或 由 校 長 指 定 專 人 填 寫 一 份 學 校 問 卷。測 驗 後 由 學 校 聯 絡 人 負 責 將 所 有 測 驗 材 料 送 回 科 教 中 心 。 9. 辦 理 自 由 反 應 試 題 評 分 研 習 會,邀 請 數 學、物 理、化 學、生 物、地 球 科 學、環 境 科 學 等 科 的 閱 卷 教 授 、 教 師 、 研 究 生,分 科 研 討 診 斷 式 評 分 系 統,開 始 閱 卷 。 10. 92 年 6 月 初 開 始 進 行 各 種 問 卷 、 試 題 答 案 之 輸 入 訓 練 與 輸 入 工 作 , 使 用 由 DPC 提 供 之 WinDEM 軟 體 輸 入 各 種 資 料 。 8 月 中 旬 完 成 實 測 閱 卷 工 作 。 11. 92 年 9 月 中 旬 完 成 各 種 問 卷 、 試 題 答 案 之 輸 入,經 複 檢 資 料 後 於 九 月 底 將 資 料 送 至 DPC 進 行 分 析 。 12. 92 年 9 月 完 成 資 料 輸 入 相 關 表 格 , 並 分 送 至 ISC 和 DPC。 13. 92 年 9 月 完 成 電 腦 閱 卷 IEA Trend Scoring Reliability。 14. 92 年 9 月 完 成 電 腦 閱 卷 IEA Cross- Country Scoring Reliability。
15. 92 年 10 月 完 成 實 測 NRC 報 告 , 並 送 至 ISC 和 DPC。 16. 92 年 10 月 完 成 Curriculum 問 卷 填 寫 。
陸、參考文獻
張 秋 男 、 邱 美 虹 、 李 田 英 、 楊 文 金 、 譚 克 平 、 曹 博 盛 、 林 碧 珍 、 蔡 文 煥 、 張 美 玉 、 張 俊 彥 、 方 泰 山 、 洪 志 明 、 洪 有 情、林 陳 涌、張 永 達、張 子 超 、 張 殷 榮 、 羅 珮 華 ( 2005)。「 國 際 數 學 與 科 學 教 育 成 就 趨 勢 調 查 2003」 期 末 報 告 。 行 政 院 國 家 科 學 委 員 會 補 助 專 題 研 究 計 畫 成 果 報 告 。 國 立 臺 灣 師 範 大 學 科 學 教 育 中 心 。 Martin, M., Mullis, I., & Chrostowski, S.(Eds.). (2004). TIMSS 2003 Technical Report. TIMSS & PIRLS International Study Center, Lynch School of Education, Boston College.
Martin, M. (Ed.). (2005). TIMSS 2003 User Guide for the International Database – Supplement2. TIMSS & PIRLS International Study Center, Lynch School of Education, Boston College.
Foy, P. & Joncas, M. (2001). Trends in International Mathematics and Science Study 2003 School Sampling Manual. Statistics Canada.
Foy, P. (2005). Trends in International Mathematics and Science Study 2007 School Sampling Manual. TIMSS & PIRLS International Study Center, Lynch School of Education, Boston College.