• 沒有找到結果。

(五) 探討實作評量和其他評量工具得分間的相關

N/A
N/A
Protected

Academic year: 2021

Share " (五) 探討實作評量和其他評量工具得分間的相關"

Copied!
15
0
0

加載中.... (立即查看全文)

全文

(1)

附錄一 訪談問題專家意見表

實作評量在國中學術性向優異班招生鑑定之效度研究

【訪談問題及編碼架構】

敬愛的教授:

學生慧娟目前是台師大特教系研究所資優組的學生,正在進行上述題目之論文研究工作,素聞教授在此領域之專 業精研,懇請給予慧娟指導及改進的意見,相信在教授的寶貴意見下,更能增加論文研究的廣度和深度。

本研究的目的為: (此處所指實作評量為應用於”學術性向優異招生鑑定”所使用之實作評量) (一) 分析現階段台灣北區實作評量題本的內容,以瞭解實作評量所評之學生能力為何?。

(二) 分析現階段台灣北區資優學生鑑定工具中,實作評量的設計是否符合資優鑑定的精神及內涵。

(三) 分析實作評量測驗對學生入學後相關專長學業成就表現上的預測性。

(四) 比較資優鑑定錄取組學生和未錄取組學生,在入學後的專長學科成就、科展、競試、作品發表等表現上的差異。

(五) 探討實作評量和其他評量工具得分間的相關。

(六) 了解參與實作評量之學生、家長、教師、行政人員等,對實作評量之有效性的看法。

因此,在研究方法上,希望能藉由訪談蒐集更多的參考資料,關於訪談的題目設計,是依據研究者所閱讀的文獻、

工作上的實務經

驗及參與實作評量的相關會議所蒐集來的資料,再加以整理設計的。而編碼的系統則是參照研究目的、研究問題及假 設,再列出大項、訪談綱要等。

懇請教授撥冗,就研究的目的來看「訪談問題和編碼架構」需要增補或是修改的地方,教授的不吝指導,將會是 敦促慧娟成長的最大動力和支持,也是本研究最有價值的參考意見,勞煩教授的地方,千萬感謝!!

順頌 教安 學生 慧娟敬上

實作評量在國中學術性向優異班招生鑑定之效度研究

【訪談問題綱要及編碼系統】

專 家 意 見 (以 3 表示)

編碼 大 項 訪 談 問 題 說 明

合適 不合適 修改意見 1、實施觀察期的功能為何? 為什麼要實施觀察期?

2、觀察期實施的時間在何時? 在實作評量前或後?

3、觀察期實施多久的時間?

4、觀察員由那些人擔任? 教師、協同教師、同儕等

5、觀察期預定篩選出多少比率的學生進行實 作評量(複試)?

6、觀察期實施的方式? a 上課進行觀察或主題式活動進 行觀察

b 進行時有多少觀察員觀察 幾個學生的反應?

O 觀察期

7、如何選擇觀察的項目? 如學習態度、參與精神、作業完

成能力、、、等

(2)

8、觀察期所採用的工具為何? a 學習單 b 觀察記錄表 c 作品 d 其它 9、觀察期的記錄或評分方式,如何做成取決

的標準?

a 篩選的標準是什麼?

b 標準又是如何訂定出來的。

10、參與觀察期的人員是否曾提出那些看法 或意見?

1、實作評量題目命題的單位是? a 命題單位由誰決定?

b 以往曾由那些單位命題或協助 命題。

2、實作評量命題的人員是? a 學術單位 b 小學老師 c 本校教師 d 他校國中教師 3、實作評量命題的過程是? a 辦理相關研習後再命題

b 小組命題後再選題 c 由命題人員自行決定 4、實作評量命題、審題、選題的方式是如何

進行的?

a 命題、審題分別專人負責 b 命題、審題同樣人員負責 5、實作評量命題的原則有那些? a 未事先訂定題型、範圍、題目數

等,由命題人員決定。

b 事先訂定題型、範圍、題目數等 原則。

6、實作評量設計的題目數約為?

7、實作的評量的題型包括那些類別? a 包括那些題型?

b 總共有幾類大題?

8、題目的結構強度如何? 強弱結構性命題的比率?

9、實作評量題型的特色? 是否觀察到課本以外的東西?

如:實驗精神、解決問題能力 10、實作評量在命題上容易受到那些

限制?

那些類別較不易命成實作題型,

原因為何?

M 命題

11、在命題的類型上,是否和性向測驗、成 就測驗有所區隔?

比較明顯的區隔是什麼?

專 家 意 見 (以 3 表示) 編碼 大 項 訪 談 問 題 說 明

合適 不合適 修改意見 P 實施程序 1、實作評量分段施測的原則? a 會因為那些原因而分段?

b 分幾段? 如何分?

(3)

2、實作評量預試的方式為何? a 受試是如何採樣?

b 預試結果是否進行分析?

c 對正式施測會有什麼影響?

3、實作評量實施的時間大約是多久? a 時間長度?

b 於何時段進行之?(上午、下 午、假日、課後、、等)

4、實作評量所需要的場地會有什麼特別 的需求嗎?

5、和一般測驗比較起來,實作評量通 常會需要準備那些器材或設備?

a 語文優異班需要?

b 數理優異班需要?

6、實作評量是否以標準化測驗程序來 實施?

a 是否召開主試會議。

b 指導語、程序、評分標準的標 準化。

c 以標準化程序來實施會遇到的 問題是什麼?

7、實作評量實施時,作業過程是如何進 行觀察與記錄的?

a 是否設計有觀察記錄表。

b 多少老師觀察多少學生?

c 觀察時,允許老師和學生有互 動式問答嗎?如何進行?

8、實作評量測驗在經費的使用上是否足 夠?

a 花費在那一部份的費用最龐 大?

b 所收取甄試費是否夠用?

c 學生、家長對費用的反應?

9、參與實作的人員曾經反應過實施程序 上有什麼困難或限制嗎?

專 家 意 見 (以 3 表示) 編碼 大 項 訪 談 問 題 說 明

合適 不合適 修改意見 1、受試應答的方式和以往有何不同? 應答方式的不同會造成什麼樣

的影響?

A 應答方式

2、受試學生曾經提出過什麼樣的反應或 意見。

專 家 意 見 (以 3 表示) 編碼 大 項 訪 談 問 題 說 明

合適 不合適 修改意見 1、評分前是否有評分者訓練?

S 評分

2、實作評量的閱卷方式如何進行? 集中同時閱卷、分別閱卷

(4)

3、閱卷前是否訂有評分標準? a 評分標準是何時訂定的(命題 時、預試後、閱卷同時討論) b 評分標準是如何訂定的。

c 在配分上是否經過討論。

4、對爭議性得分的處理方式? a 評分的一致性如何?是否常出 現爭議性的給分。

b 對爭議性的得分如何作最後 的判別。

專 家 意 見 (以 3 表示) 編碼 大 項 訪 談 問 題 說 明

合適 不合適 修改意見 1、每年甄試完後,會建立那些資料?

2、實作評量題目的檢討?

3、實作評量實施方式的檢討?

4、評分的檢討?

5、檢討報告運用的情形?

F 追縱檢討

6、參與實作工作者的建議?

專 家 意 見 (以 3 表示) 編碼 大 項 訪 談 問 題 說 明

合適 不合適 修改意見 1、和以往使用個別智力測驗的差別?

2、學生入學後的整體表現? 較為優異突出、較為遜色或是沒 有差別

3、初審、初試學生在實作評量上的差異 性如何?

(通過初審的學生不必參加性 向、成就測驗的初試)

4、學生在科展、競試、作品等方面的表 現如何?

I 鑑別度

5、學生的學習態度和以智力測驗為鑑定 工具時,是否有差別?

專 家 意 見 (以 3 表示) 編碼 大 項 訪 談 問 題 說 明

合適 不合適 修改意見 1、實作評量題型外洩的情況? 和以前使用個別智力的情況比

較起來?

2、補習是否有助於實作分數的獲得?

C 保密性

3、補習班是否容易取得實作題目?

整體性建議:

(5)

附錄二 提供實作評量訪談問題效度評鑑之專家學者名錄 (依姓名筆劃排列)

吳毓瑩【國立臺北師範學院教育心理與諮商學系教授】

呂金燮【國立臺北師範學院特殊教育學系副教授】

郭靜姿【國立臺灣師範大學特殊教育學系教授】

陳美芳【國立臺灣師範大學特殊教育學系教授】

潘裕豐【國立臺灣師範大學特殊教育學系副教授】

蔡崇建【國立臺灣師範大學特殊教育學系教授】

簡茂發【大學入學考試中心主任】

本研究訪談問題承蒙以上專家學者提供寶貴之意見,在此特致謝忱!

(6)

附錄三 專家評定意見彙整表

實作評量在國中學術性向優異班招生鑑定之效度研究

~訪談問題及編碼架構【專家評定意見彙整表】

編號 通過

%

刪除

%

修改

% 修 改 建 議 修 改 結 果 O1 100 0 0 1、加問為什麼是這樣的決

定,原來背後的想法?

2、以數字代號表示較制式化 的答案。

3、和研究目的的相關性。

經核對各校實作評量程序後 發現,實作評量本身並不包含 觀察項目, 若有觀察記錄表 也不列入評分項目 ,因而取 消「觀察」本大項的所有訪談 題目。

O2 100 0 0 1、加問為什麼是這樣的決 定,原來背後的想法?

同上

O3 100 0 0 1、加問為什麼是這樣的決 定,原來背後的想法?

同上

O4 86 0 14 1、加問為什麼是這樣的決 定,原來背後的想法?

同上

O5 100 0 0 1、加問為什麼是這樣的決 定,原來背後的想法?

同上

O6 100 0 0 同上 O7 100 0 0 同上 O8 100 0 0 同上 O9 100 0 0 同上 O10 100 0 0 同上

M1 100 0 0 M2 86 0 14 1、那些專業研發單位?

M3 86 0 14 1、和 M1 這二題關係為何?

2、命題計分人員的專業性,

領域專業、測驗專業。

綜合專家意見,將 M1、M2 和 M3 合併為「參與實作命題 的人員有那些?

M4 100 0 0 M5 100 0 0 M6 100 0 0

M7 86 0 14 1、實作評量的指導原則是什 麼?

採納專家建議,在說明中加入

「實作評量的指導原則是什 麼」?

(7)

M8 86 0 14 1、題目數與評量時間之配 合。

採納專家建議,加入「題目數 與評量時間之配合」

M9 100 0 0

M10 86 0 14 1、由專業檢驗的可能性? 採納專家建議,另補充專家檢 驗的佐證資料。

M11 86 0 14 1、由專業檢驗的可能性? 採納專家建議,另補充專家檢 驗的佐證資料。

M12 86 0 14 1、由專業檢驗的可能性? 採納專家建議,另補充專家檢 驗的佐證資料。

M13 71 0 29 1、由專業檢驗的可能性?

2、題意不明確,宜說清楚。

採納專家建議,另補充專家檢 驗的佐證資料。

將題目修改為「您覺得實作評 量是在測學生的什麼能力?」

P1 100 0 0 P2 100 0 0 P3 100 0 0 P4 100 0 0 P5 100 0 0

P6 86 14 0 1、和效度的”意義”面有關? 綜合專家意見,改為「施測前 有否說明實施程序」?

P7 86 14 0 1、和效度的”意義”面有關? 由於觀察大項已刪除,仍保此 細項以瞭解觀察實施狀況 P8 100 0 0

P9 100 0 0 1、是否加「施測前有否說明」

一項。

綜合專家意見,將 P6、P9 兩 題合併修改。

A1 100 0 0 A2 100 0 0 S1 100 0 0

S2 86 0 14 1、閱卷方式宜修改為「評分 方式」

採納專家建議,將閱卷方式改 為「評分方式」

S3 86 0 14 1、取消「閱卷前」 採納專家建議,取消「閱卷前」

S4 100 0 0

F1 86 14 0 1、和研究的關係? 文獻探討發現追縱檢討,可以 重新檢視「決策的有效性」 因此仍保留此大題。

F2 86 14 0 1、和研究的關係?

F3 86 14 0 1、和研究的關係?

(8)

F5 86 14 0 1、和研究的關係?

F6 86 14 0 1、和研究的關係?

I1 57 14 29 1、已多年未使用個別智力測 驗,如何比較?

2、期待什麼?

3、實作評量的主旨何在?與 個別智力測驗區隔有何用 意?

實作評量在資優鑑定工具上 的運用,主要是取代原來智力 測驗,仍保留此題。

I2 71 0 29 1、整體表現是指什麼?

2、實作評量的能力表現是否 在課程中有能見度?

採納專家建納,改為「實作評 量的能力表現是否在課程中 有能見度」

I3 86 0 14 1、如此差異之比較分析,有 何意義?

第一關有初審制學生(未參加 性向、成就測驗即進入複 試),此題在比較二種不同甄 試管道入學生在入學後學業 上的表現差異如何。

I4 86 0 14

I5 57 29 14 1、可能缺乏參照指標。 採納專家建議,改為「學生入 學後的學習態度如何?」

C1 71 14 14 1、「外洩」改為「保密」,以 棄除預設立場。

2、和研究目的的相關性。

採納專家建議,將題目修改為

「實作評量題目保密的情形 如何」?

C2 71 14 14 1、補習意涵不清楚,可用「模 擬習作」替代之。

採納專家建議,修改題目成

「模擬習作是否有助於分數 的獲得」?

※整體性建議:

1、本研究是否僅限於實作評量的現況調查? 若不限於此,是否宜提出最佳實作 評量的架構及命題指標,以作為檢視的依據。

2、若有合理的試題架構,訪談的內容可更深入、更具體。

3、效度之指標是什麼?訪談的內容強度亦與此項設定有關。

4、合計有八大項 51 題,在說明或使用之前是否考慮其訪談時間。研究的題目很 有意義,也具有創新性與引導性。至於如何引導過去以紙筆測驗導向的評量,

逐漸轉變或加入實作評量的評量方式,這個研究具有可參考性,因此,對於 實作評量的探討,一首重其程序如何進行(請再詳加考慮其細節),二實作評 量的內容,如訪談內容外,是否尚有再加強之處,也請一併思考(如學生本身

(9)

對實作評量的感受如何)。

5、大致妳的訪談題目個別性看沒法說不合適,但就整體效度探究總是有些模 糊,實作效度建議妳從目的、構念---->評量方式、題目內容、題型---->結 果代表性---->結果的詮釋意義---->決策---->預測。或以 Linn 所提的內容品 質、複雜度、概化程度、公平性---等九點來思考會比較具體。這個訪談的 焦點是放在那兒?

6、實作評量樣本進行專家審查的可能性?

7、能編號(數字代號)則不必再作文字編碼,以利統計分析。

8、文字編碼部份,需以實際 data 進行。

9、是否針對特定年度進行研究?

10、從「意義面」看命題、計分人員的專業性,領域專業和測驗專業 11、個別項目評估外,宜有整合性的專業評斷。

12、量化統計可供實徵性驗證,另須參酌數據進行深切的詮釋,就其設計的要點 及實施的可行性加以探討。

(10)

附錄四 訪談問題定稿

實作評量在國中學術性向優異班招生鑑定之效度研究

【訪談問題定稿】

專 家 意 見 (以3表示)

大 項 訪 談 問 題 細 項

合適 刪除 修改 修 改 意 見

1、實作評量題目命題的單位是由誰決定的? 誰決定 W

2、以往曾請過那些單位命題? 單位 U

3、實作評量命題的人員是教授、中學教師、小學 教師或其它人?

人員 P

4、實作評量命題是經過那些過程和步驟? 過程 Pr 5、實作評量如何進行審題工作? 審題 E 6、實作評量題目如何進行選題工作? 選題 Ch 7、實作評量命題的原則是什麼?

(是否事先訂定題型、範圍、題數數等,或是由 命題人員自行決定)

原則 Pi

8、實作評量設計的題目數約有多少? 數量 A 9、實作評量的題型包括那些類別? 類型 Ca 10、題目的結構強度如何?

(強弱結構性命題的比率)

結構 S

11、實作評量題型的特色?

(是否能測到其它評量所無法測得的項目)

特色 F

12、實作評量在命題上容易受到那些限制?(那些 類別較不易命題成實作題型)

限制 L 命題

(M)

13、在命題的類型上,是否和性向測驗、成就測 驗有所區隔?

區隔 D

(11)

專 家 意 見 (以3表示) 大 項 訪 談 問 題 細 項

合適 刪除 修改 修 改 意 見

1、 實作評量分段施測的原則?

(會因為那些因素而分段施測,分幾段?

如何分?)

分段 S

2、 實作評量預試的方式為何?

(受試如何採樣,預試結果是否進行分析 ---)

預試 P

3、 實作評量實施的時間大約是多久?

(時間多長? 在什麼時段實施之?)

時間 T

4、實作評量所需要的場地會有什麼特別的需求 嗎?

場地 Fi

5、和一般測驗比較起來,實作評量通 常會需要準備那些器材或設備?

設備 I

6、實作評量是否以標準化測驗程序來 實施?(主試會議、指導語、程序、評分 標準的標準化)

標準化程序 St

7、實作評量實施時,作業過程是如何進行觀察 與記錄的?(是否設計有觀察記錄表、有多 少老師觀察多少學生? 觀察時允許老師和 學生對話嗎?)

觀察記錄 Os

8、實作評量測驗在經費的使用上是否足夠?

(花費在那一部份最多? 收費夠用嗎? 家長 對收費的反應?)

經費 Fe 實施程序

(P)

9、參與實作的人員曾經反應過實施程序上有什 麼困難或限制嗎?

反應 R

(12)

專 家 意 見 (以3表示) 大 項 訪 談 問 題 細 項

合適 刪除 修改 修 改 意 見 1、受試應答的方式和以往有何不同? 應答 A

應答方式

(A) 2、受試學生曾經提出過什麼樣的反應或意見。 意見 S

專 家 意 見 (以3表示) 大 項 訪 談 問 題 細 項

合適 刪除 修改 修 改 意 見 1、評分前是否有評分者訓練? 評分者訓練 T

2、實作評量的閱卷方式如何進行?

(集中閱卷、分別閱卷)

閱卷 Sc

3、 閱卷前是否訂有評分標準?

(評分標準是如何訂定的? 何時訂定的?

在配分上是否經過討論)

評分標準 St 評分

(S)

4、 對爭議性得分的處理方式?

(爭議性得分是否常出現? 評分一致性 如何? 爭議性得分的處理?)

爭議得分 A

專 家 意 見 (以3表示) 大 項 訪 談 問 題 說 明

合適 刪除 修改 修 改 意 見 1、每年甄試完後,會建立那些資料? 資料 D

2、實作評量題目的檢討? 題目檢討 I 3、實作評量實施方式的檢討? 實施檢討 P

4、評分的檢討? 評分檢討 Sc

5、檢討報告運用的情形? 運用 U 追縱

檢討 (F)

6、參與實作工作者的建議? 建議 Su

(13)

專 家 意 見 (以3表示) 大 項 訪 談 問 題 細 項

合適 刪除 修改 修 改 意 見 1、和以往使用個別智力測驗的差別? 個測差別 Dt

2、學生入學後的整體表現?

(較為出色、遜色、沒有差別)

整體表現 Pt

3、初審、初試學生在實作評量上的差異性 如何?

差異 Di

4、學生在科展、競試、作品等方面的表現 如何?

表現 Pe 鑑別度

(I)

5、學生的學習態度和以智力測驗為鑑定工 具時,是否有差別?

態度 A

專 家 意 見 (以3表示) 大 項 訪 談 問 題 細 項

合適 刪除 修改 修 改 意 見 1、 實作評量題型保密的情況?

(和以前使用個別智力測驗相較)

外洩 S 保密性

(C)

2、補習是否有助於實作分數的獲得? 補習 C

整體性建議:

(14)

附錄五 訪談名單

實作評量訪談名單

學 校 姓 名 性 別 身 份 訪談時間 代 號

郭○○ 女 特教組長 93.12.14 KWTF931214 曾○○ 男 數資班學生(建中) 93.12.17 KWSM931217

○○國中

曾○○ 女 數資班學生(中山) 93.12.18 KWSF931218 陳○○ 女 數資班數學教師 93.11.23 JCTF931123

○○國中

吳○○ 男 落選組學生(建中) 93.12.9 JCSM931209 呂○○ 女 英資班導師 93.12.13 LSTF931213

○○國中

侯○○ 女 英資班學生(內湖) 93.12.18 LSSF931218 馮○○ 女 國資班教師 94.01.19 CCTF940119 林○○ 男 國資班學生(建中) 93.12.16 CCSM931216

○○國中

李○○ 女 國資班學生(北一) 93.12.19 CCSF931219

(15)

附錄六 教師座談會---會議編號清單

日 期 星 期 名 稱 編 號 備 註 93/4/30

五 數學組選題會議 MM930430 93/5/3

一 英文組選題會議 EM930503 93/5/4

二 自然組選題會議 SM930504 93/5/14

五 數學組修題會議 MM930514 93/5/31

一 英文組修題會議 EM930531 93/6/1

二 自然組選題會議 SM930601 93/6/4

五 數學組修題會議 MM930604 93/6/15

二 自然組最後修題選題會

SM930615

93/6/25

四 數學組最後修題選題會

MM930625

93/12/10

五 數學組集中閱卷會議 MM931211 93/12/13

一 英文組集中閱卷會議 EM931213 93/12/14

二 自然組集中閱卷會議 SM931214

參考文獻

相關文件

作品主題需與商業與管理群專業課程相關,說明書內容包括摘要、關

在 第一講的開始, 我們就明確地指出: 線性代數是研究線性空間, 即向量空間、 模和其上 的線性變換以及與之相關的問題的數學學科。 這一講中,

我們一般所探究的不僅是科學及其經驗 方式的問題―我們所探究的是人的世

差不多都能把佛法說得頭頭是道。遺憾的是大都沒有實證

《中邊分別論》「真實品」的三性思想之探討.

分類法,以此分類法評價高中數學教師的數學教學知識,探討其所展現的 SOTO 認知層次及其 發展的主要特徵。本研究採用質為主、量為輔的個案研究法,並參照自 Learning

Assessment for learning for Enhancing Critical Thinking Skills and

結合地方政府及民間團體,提具促進特定對象及就業弱勢者就業