第八章 結論與建議
能力本位取向的觀點今日已經成為技術與職業教育及訓練的核心概念,
全世界工業先進國家,紛紛投入大量的人力與資源進行能力本位取向的能力 標準相關研究發展工作。這些研發工作的主軸,包含了對新觀點的討論、新 方法的研擬、以及效能的推廣。研發結果出現了多元化的能力標準模式與建 構,各種能力分析方法的實施,以及應用於各個國家組織及各種專業的經驗。
能力標準之建構是技職教育與訓練發展的趨勢,能力分析是發展能力標 準的主要方法與關鍵因素。能力分析方法通常被用來分析職場的工作需求,
以發展某個職業或工作的內涵、技能操作及相關知識等,因此,在技術職業 教育與訓練課程的發展上,佔有極重要的地位。能力分析之過程及結果必須 經過適當的效度分析過程,才能能有效的運用於學校及職場之教育訓練及人 力規劃。
本研究之主要目的有三,第一個目的是經由文獻資料之分析建構能力分 析之效度分析的綜合架構;第二個目的是建立實際案例----以功能分析方法對 幼兒保育專業進行能力分析,並以綜合架構為參考基礎,對此案例之能力分 析方法、過程及結果做效度分析;第三個目的是討論案例結果,並提出對「幼 兒保育專業」功能分析結果、效度分析綜合架構、功能分析方法、研究方法 以及後續研究之建議。
經由上述分析、歸納及實證性的探討,以下第一節為效度分析綜合架構 之結論,第二節為以「幼兒保育專業」例進行功能分析及效度分析之結論,
第三節則提出各項建議。
第一節 效度分析綜合架構
本研究第一個研究目的是「經由文獻資料之分析,建構能力分析之效度 分析的綜合架構」,主要原因是有鑑於能力分析之效度分析重要性,目前除了
缺乏共同的規範外,我國也並未對此項工作給予足夠重視,提出效度分析之 綜合架構,目的與期望可分三方面說明:
一、在提醒實施能力分析工作者必須在規劃之始就將效度分析列入正式程 序中,否則能力分析結果不可推廣運用;
二、對於未曾進行效度分析缺乏類似經驗者可得到基礎參考;
三、本研究所提出之綜合架構僅為初步研究成果,雖有進行實際案例,但 尚需要從不同專業、不同能力分析之經驗中持續給予修定檢驗,俾使 此綜合架構更完整有價值。
基於上述說明所建構之效度分析綜合架構,主要結論如下。
壹、效度分析之理論基礎
本研究效度分析所依據之理論基礎包括兩個部分:1.能力標準之評估觀 點:功能分析學者Mansfield(1996)所提出,包括兩種評估向度:總結性評 估(Summative Evaluation)和形成性評估(Formative Evaluation)。2.評估研 究:研究方法學者Neuman(1997 )所提出,可分為兩種向度:形成性評估 研究及總結性評估研究。
效度分析是屬於評估研究的一種應用型式,也是對能力標準評估的分析 方法,以評估研究為理論基礎可建構出效度分析之架構。
形成性評估就是在計畫或方案實施初期及整個過程,做需求評量及損益 分析,以便決定:1.計畫或方案是否執行;2.瞭解執行方式是否合宜。從形成 評估可發展出形成性效度分析,內容包括:1.對能力分析之方法之可行性的 分析;2.對能力分析實施過程之有效性的分析。
總結性評估是為決定結果是否能符合原先所設定的目標,必須:1.檢視 方案的最後成果;2.判斷對計畫或方案進行過程的瞭解與監督。從總結性評 估可發展出總結性效度分析,內容包括:1. 對能力分析結果之有效性驗證;
2. 配合對形成性分析之結果的整合。
貳、效度分析綜合架構之內涵
本研究依據所蒐集之資料經過統整分析與歸納,得到能力分析之效度分 析綜合架構,藉以作為進行各種能力分析時效度分析之參考基礎。此綜合架 構共分為五個部分說明其內涵與運作方式:
一、效度分析之時機與程序
效度分析實施時機必須配合能力分析之籌備、專家會議進行、以及結果 彙整之需要來安排。實施效度分析之先後程序為:形成性效度分析(對方法之 分析,應安排於能力分析規劃階段)→形成性效度分析(對過程之分析)→效度分 析初步成果報告→總結性效度分析→最後成果報告。
二、能力分析成果及相關資料
進行效度分析時,所需要之能力分析資料必須包括下列幾類資料。
(一)能力分析進行過程之相關資料 包括了籌備與過程兩方面。
1. 籌備階段相關資料
這是舉行能力分析會議之前的一切籌備事項,籌備相關資料往往是登載 在該類能力分析指導手冊內之必要規範,執行時,只要依據辦理並把實際工 作登錄下來,就可提供相當完整的資料。
2. 能力分析過程相關資料
會議進行時所有現場活動之記錄與資料,除了書面記錄外,最好有錄音 或全程錄影,可提供最清晰的第一手資料。
(二)能力分析之結果
能力分析之結果主要用於總結性之效度分析,此結果呈現方式可能因不 同方法而不同,無論是技能成份模式如DACUM 之結果,包含了該目標職業 或工作所需要的職務、任務、與操作,以及相關的知識、技能、與態度,或
是工作能力模式如功能分析的結果,包括了關鍵目的、主要功能、次要功能、
以及功能單元等項目,都應該全部提供為總結性評價的資料。
三、形成性效度分析與總結性效度分析
(一)形成性效度分析 1. 對能力分析方法之分析
除了參考先前的研究外,在每一次實施能力分析之前,都可對所使用之 能力分析方法再做一次評價與分析,有下列三種方法可以同時使用,或視情 況選擇一種或兩種:量化評量,是指以量表方式瞭解使用者的評價;焦點團 體,實施焦點團體可以對量化評量之結果提出較深入之討論;深度訪談,是 為了尋求該能力分析方法之專家的意見。量化評量、焦點團體、及深度訪談 三種對方法之分析沒有一定的實施順序,如何運用端視能力分析方法之特質 以及所分析之專業的性質而定。
2. 對能力分析過程之分析
對過程之分析是對過程之有效性的討論,也屬於程序效度,有下列二種 方法可以同時使用,或視情況選擇一種都可:焦點團體,主要在探討能力分 析過程之有效性,焦點團體的討論過程應有書面及錄音或錄影記錄,以備分 析及深度訪談之參考;深度訪談,是為了尋求曾參與該次能力分析會議者的 意見。焦點團體及深度訪談二種對過程之分析沒有一定的實施順序,如何運 用端視能力分析方法之特質以及所分析之專業的性質而定。
(二)總結性效度分析
總結性效度分析目的在對能力分析結果之有效性的驗證,以下三種方法 可以同時使用,或視情況選擇一種或兩種:問卷調查,目的在瞭解職場工作 者對能力分析結果之觀點;焦點團體,目的在瞭解職場工作者對能力分析結 果之觀點;深度訪談,尋求未曾參與該次能力分析會議者的意見。問卷調查、
焦點團體及深度訪談三種對結果之效度分析分析沒有一定的實施順序,如何 運用端視能力分析方法之特質以及所分析之專業的性質而定。
(三)應用策略
在上列各項效度分析工作之考量時,應考量兩種應用策略作為使用分析 方法的選擇以及實施程序的規劃,這兩種應用策略包括「依據能力分析模式 之種類的應用策略」,以及「依據專業性質的應用策略」。
四、效度分析初步成果與應用
經由兩種效度分析後,只要這兩種效度在可接受之範圍內,該次能力分 析之結果即屬可運作,可繼續發展課程或作為測驗標準等。如果效度分析結 果在某些項目上得到之認可太低,在得到初步成果後,可以依據分析資料對 能力分析結果進行修改
五、重複效度分析
但有時源於環境因素改變,有重複再分析的需要,兩種策略可資運用。
其一,設定階段性之重複效度分析,對能力分析結果之運用在初始的規範中,
就明訂每隔一段時間必須重新做效度驗證;其二,依據社會變遷需要進行重 複效度分析
效度分析綜合架構分別以三個圖(圖 6-1,圖 6-3,圖 6-4)呈現其運作 方式與相互關係。
第二節 「幼兒保育專業」之功能分析與效度分析
本研究第二個目的是建立實際案例----以功能分析方法對幼兒保育專業 進行能力分析,並以綜合架構為參考基礎,對此案例之能力分析方法、過程 及結果做效度分析,以下說明。
壹、「幼兒保育專業」功能分析
功能分析會議係以功能分析學者 Mansfield(1996 )之著作 Towards a competent workforce 為主要之參考依據,並參酌田振榮(民 92)與其團隊所
發展出來之功能分析法操作手冊進行之,以下說明該次能力分析之過程及結 果。
一、功能分析會議之組成
(一)參與人員:
包括來自台北、台中、花蓮之幼兒保育專家學界專家共八人,以及業界 專家一人,另有功能分析方法發展專家二人
(二)功能分析師:由研究者擔任。
二、功能分析會議
(一)先期準備:
確認參與專家名單後,提供給其中一半專家初步之空白功能圖與功能分 析基本原則,請這些專家先行思考並嘗試填寫功能圖。
(二)功能分析會議:
共進行約三個小時,其中包括半小時專家參閱相關資料以及由功能分析 師對分析方法之說明與討論,另外約二個半小時由功能分析師引導與會專家 討論幼兒保育專業之關鍵目的、主要功能與功能模組(包括次要功能與功能 單元)。
三、功能分析會議結果
功能分析會議結果得到功能圖(圖7-1),內容包括:
(一)關鍵目的:培育全人發展之幼兒
(二)主要功能與次要功能:
1. 促進嬰幼兒身體、智能、情緒及社會發展:
(1)規劃安全、衛生、溫馨、有秩序的生活環境;
(2)規劃多元、豐富、創新、互動的學習環境;
(3)提供多元、趣味化、生活化、活動化之適性學習經驗;
(4)獲得教保相關之專業知能及資格(工作人員);
(5)持續專業業成長。
2. 提昇家庭親職功能:
(1)評估親職之需求;
(2)設計與實施親職教育相關活動;
(3)評鑑親職教育成效。
3. 整合運用社區幼兒資源:
(1)了解社區可運用的資源;
(2)連結社區可運用的資源;
(3)使用社區可運用的資源;
(4)評量社區可運用的資源。
貳、「幼兒保育專業」之效度分析結果
「幼兒保育專業」功能分析之結果依據效度分析綜合架構之建議,進行 效度分析,分為形成性效度分析與總結性效度分析。
一、形成性效度分析:
包括對能力分析方法之分析以及對能力分析過程之分析,以下分別說明 之。
(一)對能力分析方法之效度分析結果
以量化評量及深度訪談進行。在量化評量上,評量者對方法的重要性之 同意度從 75.4%到 91.8%。深度訪談之綜合結論為:多數受訪者認為功能分 析是可以適用於各種職業的分析方法;先期準備可縮短會議時間;受過系統 訓練的使用者能接受此種方法與觀念;功能分析師必須接受完整的訓練;適 合以專家會議的形式來進行,花費合理可接受;特定時間內進行此方式應具 有穩定性;功能圖有相當的效力。
(二)對能力分析過程之效度分析結果
以深度訪談進行。受訪者對本次功能分析會議進行過程之功能分析師的 表現、會議籌備工作、會議場地安排、會議進行時間、會議進行過程以及參 與會議之專家學者的代表性都給予肯定與接受。
二、總結性效度分析
以問卷調查進行。瞭解 813 名幼兒保育職場人員對功能圖內容之同意 度,結果包括兩個反應向度,在「工作的重要性」向度中,同意度從 96.2%
到80.4%。在「工作出現的頻率」向度中,同意度從 88.8%到 61.6%。對「工 作的重要性」之同意度比「工作出現的頻率」之同意度,整體較高,顯示受 訪者認為幼兒保育專業應該做到的事項,但在實際經驗中所觀察到的情形卻 比理想低。
參、「幼兒保育專業」效度分析之討論
一、效度分析結果的討論
整體而言,受訪者對本次功能分析之方法及進行過程可接受,對「幼兒 保育功能圖」中之能力單元適用於職場的同意度全部超過 80%,出現於目前 工作中的同意度超過60%。
二、效度分析所採用之方法的討論
(一)效度分析方法選擇:
本案例所採用之效度分析方法均能適用於「幼兒保育專業功能分析」之 效度分析。
(二)精簡原則:
在選擇效度分析方法時,必須衡度人力物力與財力,儘量以最有效又最 精簡的原則來設計。
(三)時間因素:
在能力分析後之訪談最好不要相隔超過一個月,而且適當的紀錄務必存 留,以補充受訪者記憶不足。
(四)效度分析的程序
「對能力分析方法之效度分析」應放在能力分析規劃階段,也就是最開 始階段,若所選用方法若受到質疑,就應該另選他種方法。
三、分析師的討論
分析師在整個能力分析過程是關鍵人物,其意見是重要的資訊。基於分 析師本身的角色功能以及全程參與的經驗,在效度分析時,應將分析師的觀 點放入,分析師在對方法及過程上的觀點必然可以成為形成性效度分析之重 要參考資料。
在形成性效度分析工作中,不論採用哪些方法分析,務必要將分析師設 定為意見來源,例如可以將分析師列為對能力分析過程訪談之受訪者,也可 以邀請分析師擔任對方法之評量者。
肆、從效度分析結果檢視功能圖
效度分析的目的在於檢視功能圖是否可有效的反應職場的需要。以下就 效度分析結果探討之。
一、從形成性效度分析結果檢視功能圖
參與功能分析者對所分析出來之功能圖僅給予屬於本次能力分析之同 意,但並不同意其全面的代表性,也就是認為此功能圖仍有修改之可能。
二、從總結性效度分析結果檢視功能圖
總結性效度分析對功能圖內容之同意度分兩個反應向度,在「工作的重 要性」向度中,同意度從 96.2%到 80.4%。在「工作出現的頻率」向度中,
同意度從 88.8%到 61.6%。對「工作的重要性」之同意度比「工作出現的頻 率」之同意度,整體較高,顯示受訪者認為幼兒保育專業應該做到的事項,
但在實際經驗中所觀察到的情形卻比理想低。
本次「幼兒保育專業」功能分析就功能分析之主要目的「藉由描述工作 活動的結果或產出,說明整個職業領域對國家、社會、經濟、或是企業的貢 獻。」(請參考第四章第三節)所得到之功能圖80%能得到職場工作者之同意,
參與專家也接受其作為一次能力分析之有效結果。
伍、從「幼兒保育專業」之效度分析結果檢視功能分析方法
效度分析過程包括了對能力分析方法的評量與檢視,這個結論可以作為 日後使用該能力分析方法之參考,從效度分析結果檢視功能分析方法有幾點 結論:
一、 功能分析方法需要由受過系統訓練之有經驗的功能分析師主持實施,
並且邀請具有代表性之人員參加功能分析會議。
二、 功能分析適合以專家會議型式運作,可視狀況做事前的準備,來縮短 會議時間,由於金錢花費也可相對降低,有利於此種方法之推廣。
三、 功能分析方法屬於工作能力模式,從上向下的分析方式較適用於發展 以認知性技能為基礎的能力分析,但並不適用於從下向上偏重任務與 技能之非工作取向的職業。
四、 做能力標準發展規劃工作時,必須在規劃之初先對能力分析方法之適 用性做分析,以功能分析方法而言,不但要考量適用於何種職業,在 現階段因功能分析推廣工作仍屬初期,還要考慮是否有足夠瞭解此方 法之評量者可對此方法做評量與回應。
陸、從「幼兒保育專業」之效度分析結果討論效度分析綜合架構
本研究以效度分析綜合架構架構為基礎進行「幼兒保育專業」為實例之 能力分析與效度分析,並依據實例分析結果進行對效度分析綜合架構的討論。
一、效度分析綜合架構之可行性
本研究所提出之效度分析綜合架構僅為一假設性架構,在經由以「幼兒 保育專業」為實例之能力分析與效度分析後,依據實例分析結果進行對效度 分析綜合架構可行性提出討論。
(一)效度分析綜合架構有合理之理論依據
綜合架構的理論基礎源自於功能分析學者Mansfield(1996)所提出之能 力標準之評估觀點以及研究方法學者Neuman(1997 )對評估研究之解釋觀 點,既符合評價研究的概念又符合能力標準的概念,用於效度分析具有可行 性。
(二)綜合架構可提供多元化效度分析方法的參考建議
效度分析綜合架構是以多元化原則來建構的,參考文獻包括了各種能力 分析方法之效度分析方法、以及在能力標準發展較有系統之國家如澳洲、美 國,以及國際組織如歐盟歐洲基金會等在效度分析的作法,蒐集的資料相當 豐富。本研究實例之效度分析證明其具有可行性。
(三)效度分析綜合架構具有系統性的程序性考量
效度分析綜合架構另一個建構原則是程序性原則,能夠考量形成性效度 分析與總結性效度分析進行過程中不同步驟的配合,也考慮了程序造成資料 與數據蒐集技術的差異。
二、效度分析綜合架構之修訂
本研究所提出之綜合架構僅為初步研究成果,尚需要從不同專業、不同 能力分析之經驗中持續給予修定檢驗,俾使此綜合架構更完整有價值。
(一)進行各種不同專業之實例來充實綜合架構之內涵
本研究綜合架構是假設性的建議,若能進行各種不同專業之實例,必然 能獲得更多元之資料充實綜合架構內涵。
(二)蒐集各種能力分析之效度檢驗方法增加綜合架構之參考價值
在各種能力分析方法中,應盡量蒐集適用於其他能力分析方法,或適用 於所有能力分析方法之效度分析策略,可以使綜合架構具有更多元的參考價 值。
三、效度分析綜合架構之推廣
依據本研究案例結果,未來在進行能力分析工作時,應具體考量有關運 用綜合架構進行效度分析之方法。
(一)效度分析應屬於能力分析規劃工作之必要步驟
在能力分析之規劃工作中必須將效度分析列為必要之步驟,為精確掌控 計畫進行,並避免發生事後尋找參與者訪問的困難以及訪談工作的延誤,能 力分析規劃工作之初應參考效度分析綜合架構,選擇適當之方法列為必須進 行之工作步驟。
(二)能力分析規劃案應視經費與時間狀況選擇適用的效度分析方法
除了在能力分析規畫初始就要把效度分析列為工作步驟外,如何選擇合 適的效度分析方法也是規劃工作的重點。可以考量的幾個重點為:對方法瞭 解之足夠的評量人數、有實際參與該種能力分析或擔任功能分析師經驗者進 行深度訪談、依據精簡原則考量人力物力與財力,來設計效度分析方法。
(三)效度分析工作適於以小組方式進行
效度分析之規劃及執行是龐大負的過程,從本研究之案例可看出,應在 整個能力分析規劃工作中將效度分析列為正式的步驟,並由一組人員負責,
較能符合工作需要。
第三節 建議
本研究第三個目的是討論案例結果,並提出對實際案例效度分析結果、
效度分析綜合架構、功能分析方法、研究方法以及後續研究之建議,以下基 於研究結論分別就五個項目提出建議。
壹、對「幼兒保育專業」功能分析結果之建議
本次「幼兒保育專業」功能分析所得到之功能圖經由效度分析,發現功 能圖內容 80%能得到職場工作者之同意,參與專家也接受其作為一次能力分 析之有效結果。研究者從效度分析結果對此次功能分析提出下列建議。
一、「幼兒保育專業」之功能圖必須經過多次功能分析才具有代表性
在對能力分析過程分析的深度訪談中,訪談結果受訪者對本次會議所得 到之功能圖多持肯定,但此肯定僅針對此次會議目的,至於是否能以一次的 功能分析結果代表「幼兒保育專業未來所需要之能力」,則並不同意其全面的 代表性。五位受訪者中有四位都建議再進行多次類似會議,邀請其他具代表 性專家參與,有一位受訪者也提到此功能圖應請職場人員(包括保姆、助理保 育員、保育員、幼教老師、所長)、專家學者、潛在投入職場者(幼保或幼教學生)
等進行評值,才能下結論,也就是認為此功能圖仍有修改之可能。Admodt
(2004)也認為會議形式的工作分析時,若此工作場域中工作人數較多時,
應該進行2 到 3 個會議才能得到有品質的結果。
事實上,功能分析屬於工作能力模式,注重的是「功能」,也就是成果或 產出,不像任務分析較偏重描述固定職業或工作的操作性活動,也就是說,
功能分析的結果較能適合變化較大的職業內涵或範圍較廣泛的職業領域,但 也就因此形成分析結果被要求具有更大範疇的代表性,同一職業多進行幾次 功能分析會議,確實可有效達到這個需要。
二、宜再進行深度訪談以具體瞭解「工作的重要性」與「工作出現的頻率」
之同意度差異原因
對功能圖內容之同意度上,對「工作的重要性」之同意度比「工作出現 的頻率」之同意度整體較高,顯示受訪者認為幼兒保育專業應該做到的事項,
但在實際經驗中所觀察到的情形卻比理想低。雖然研究者試圖以功能分析過 程分析師的引導方式來解釋此種差異,然而,從提昇效度的觀點,建議可對
瞭解此職業領域之專家訪談,進一步探討其間原因,也可確知「工作的重要 性」同意度是否比「工作出現的頻率」同意度更能代表此職場的需要。
貳、對功能分析方法之建議
效度分析過程包括了對能力分析方法的評量與檢視,可以作為日後使用 該能力分析方法之參考,以下提出建議。
一、功能分析必須由受過系統訓練之有經驗的功能分析師主持實施
能力分析從籌備工作到實施完成,分析師都是主要參與和執行人員。
Mansfield 也認為分析師即屬於能力標準發展者,也應擔任能力標準的評價工 作,才能知道所發展之標準是否符合原來之需要與目標。功能分析師在整個 分析會議進行過程必須時時依循功能分析規範(包括會議中提問方式)執行 分析會議各個步驟,除了要瞭解功能分析外,也需要對該次會議所分析之職 業以及主持會議之一般技巧嫻熟。當功能分析師能有效執行分析會議各個步 驟時,就能夠得到符合工作能力模式之功能圖。
二、功能分析可依據需要做事前的準備
從本次實例的經驗中可看出來事前的先期準備可縮短會議時間,連帶也 減少了許多行政工作的困難,例如邀請專家時在時間調配上的困難,選擇場 地的困難,而金錢花費也可相對降低,有利於此種方法之推廣。雖然在訪談 時,也有專家提醒並不是每一種職業都有辦法做類似此次「幼兒保育專業」
之事前準備,然而無論如何,有計畫的規劃與事前準備或多或少都可以有助 於會議的順利進行。
三、功能分析方法適用於發展以認知性技能為基礎的能力分析
從訪談中知道專家意見對功能分析職業適用性有限制要求,因為功能分 析屬於工作能力模式,是從上向下的分析方式,較適用於發展以認知性技能 為基礎的能力分析,但並不適用於從下向上偏重任務與技能之非工作取向的 職業。
四、功能分析方法有待推廣
做能力標準發展規劃工作時,必須在規劃之初先對能力分析方法之適 用性做分析,以功能分析方法而言,不但要考量適用於何種職業,在現階段 因功能分析推廣工作仍屬初期,還要考慮是否有足夠瞭解此方法之評量者可 對此方法做評量與回應,因而,只有功能分析方法有進一步推廣,使用者更 多時,才能順利進行對此方法之分析工作。
參、對效度分析綜合架構之建議
一、進行能力分析時,本研究所得之綜合架構可做為效度分析方法之參考 在實施能力分析時,效度分析是不可缺少的環節。任何一種被公開發展 並推廣的能力分析方法,其方法本身必然具有可被接受的效度,然而源於能 力分析過程相當複雜,具有關鍵影響的事項甚多,例如主持人員與參與人員 的適配性、事前事後之相關工作的規劃、以及能力分析結果之運用與推廣等 事項,在在都影響了能力分析結果的有效性,因而每一次實施能力分析時,
都有必要探討其效度,對結果以及執行過程做討論與分析應可減少應用時的 風險。
有關能力分析之效度分析方法,事實上在許多能力分析方法之實施指導 手冊中都有建議,但是不同的能力分析觀點也不同,例如在我國使用相當普 遍的蝶勘法(Develop A Curriculum, DACUM)在其指導手冊中對總結性效度 分析就有詳細的規範。另外,近年發展的功能分析(Functional Analysis, FA),
依據功能分析專家Mansfield(1996)說明,並未直接提到效度,但是提到了 一個相當接近的概念,就是評估(Evaluation),Mansfield 的說明中,能力標 準可以有兩種評估:總結性評估(Summative Evaluation)和形成性評估
(Formative Evaluation),這個觀點也是本文中綜合架構重要的參考依據。
在不同的國家實施能力分析時也多少都有對效度分析有所規範,例如澳 洲訓練套裝教材對總結性效度分析有具體規範(ANTA,2002 );美國是由國
家技能標準委員會(NSSB)做整體規範,各州及各專案自行加以發揮,例如 德州技能標準委員會(Texas Skill Standards Board, TSSB)以及國家健康照護 技能標準方案(National Health Care Skill Standards Project, NHCSSP, 2002)都 是在此依據規範系統發揮。但是,在目前國內有關能力分析或能力標準之研 究中,除了田振榮在其系列性的研究中,目前正進行「以蝶勘法及功能分析 法發展能力標準之效度驗證研究」(田振榮,民93),並未有其他類似或相關 之研究,許多研究都只做到能力分析之結果,即使能架構出能力標準,也未 曾進一步做效度之相關分析探討,也就是未能證明所發展出來之能力標準確 實符合原本期望能應用於相關實務與職場工作上的目標。
本研究所提出之效度分析綜合架構本為假設性架構,但在經由以「幼兒 保育專業」為實例之能力分析與效度分析後,依據實例分析結果進行對效度 分析綜合架構可行性提出討論,得到之結論為:效度分析綜合架構有合理之 理論依據、綜合架構可提供多元化效度分析方法的參考建議、效度分析綜合 架構具有系統性的程序性考量,基於此效度分析綜合架構有可行性,可做為 效度分析方法之參考。
二、效度分析之規劃首重參與人員之選擇
(一)分析師之培育與選擇
舉行能力分析活動時(多數是專家會議形式),主持會議者也就是在許多 能力分析方法中稱為分析師( 例如功能分析與 DACUM 的分析師 )。Admodt
(2004)認為會議形式的工作分析方法有系統性的技術可資運用,而分析師 就是運用這些技術的關鍵人員。Carlisle(1986)認為分析師必備的基本能力 包括熟練的觀察者、訪談者、問卷發展者、文件蒐集者以及分析者,事實上,
Carlisle 主張能力分析從籌備工作到實施完成,分析師都是主要參與和執行人 員。功能分析專家 Mansfield (1996)的觀點,也認為能力標準的建構必須 經由發展者(Developer)與使用者(User)的評估,才能知道所發展之標準 是否符合原來之需要與目標,分析師即屬於發展者。基於分析師本身的角色
功能以及全程參與的經驗,在效度分析時,應將分析師的觀點放入,分析師 在對方法及過程上的觀點必然可以成為形成性效度分析之重要參考資料。
由於分析師參與並主控全程,其主持能力與專業素養影響會議的品質甚 巨,所以分析師本人往往成為形成性效度的一部份,在本研究實際案例進行 效度分析時,針對功能分析方法之討論發現,不論是量化評量及深度訪談,
受訪者一致認為分析師的訓練與能力影響能力分析的品質(第六章第二節)。
另一方面,也因為分析師參全程,在形成性效度分析中對過程有效性的討論,
分析師的自省性意見與建議也有重要的參考價值,在DACUM 的分析師除了 上述角色外,還要擔任總結性效度分析的工作,例如發展問卷或處理資料等
(Norton,1997)。
分析師在效度分析工作中的重要於茲可見,為提昇分析師的品質,在有 些能力分析方法中,對分析師的培訓有具體規範,我國過去所進行之相關活 動也有所聞,但似乎不夠嚴謹,本研究建議在能力分析方法之推廣上,應該 以分析師的培訓為首要任務,應舉行正式的培訓活動(表現合宜者若能頒發 資格證書最好),訓練課程中必須將效度分析作為主要課程。
(二)能力分析參與者之選擇
在形成性分析中對過程有效性的討論除了分析師的意見外,能力分析會 議之參與者也是提供意見的主要來源,在效度分析針對功能分析方法之討論 中,不論是量化評量及深度訪談,受訪者都認為參與功能分析人員之選擇不 但影響到信度也影響了該次活動的效度。Admodt(2004)認為委員會人數不 必太多,可以在6 到 10 人之間,但是在決定人選時應該考慮委員的組成性質,
包括參與人數的多少、專業能力、經驗、種族、性別、以及個別觀點等各項 影響因素。
每一次進行能力分析時,參與者必須要依據該次活動所設定之範圍來選 擇,例如本研究之案例設定為「幼兒保育專業能力」,因為並未特別限定實施 地區的範圍,可以假設此項分析結果可適用於台灣地區(這也是功能分析的
特色,因為功能分析強調由上向下的分析方法,一般較不受地區需要的限 制),這個範圍非常大,因此所邀請之專家會議參與者應涵擴全台灣,本次會 議實際邀請者人數不多(參與專家會議共十人,參與功能圖審查共二人,也 符合Admodt 的要求),但確實能涵擴全台灣(包括台灣北中南東四個區域,
其中南部專家未能參與專家會議,但是擔任功能圖之審查工作),且參與者都 是幼兒保育領域之各地區之領導者,絕對具有代表性。但
是除了功能分析外,另有一些能力分析方法,例如DACUM、V-TECS 以及功 能工作分析法,都是屬於技能成分模式的能力分析法,因為較強調現場所需 的技能(田振榮,民 92),分析時常常採由下而上的方式,通常在分析時多 針對地區性的需要來設定目標,例如以幼兒保育而言,就較可能設定為台北 地區幼兒保育人員之能力分析,在此種情形下,參與會議的代表就應考慮地 性的專家為主。
除了地區代表性外,參與會議者也應視職場經驗來選擇,尤其是較重視 技能的職業,以及較具地區性目的的案例中,選擇會議代表時一定要考量其 職場經驗與代表性,如果能邀請到不同層級的工作者更好。
Mansfield(1996)認為再進行對能力標準或所設定的職業資格之評估時
(包括過程與結果的估評價)有三個因素必須考量,就是政策因素、實施因 素與技術因素,依據此種觀點,為了提高能力分析結果之有效性,參與會議 人員最好也能提供此三個層面的訊息,職場現職人員可提供實施因素與技術 因素的考量與意見,但政策因素就最好由能力分析規劃人員預先蒐集資料做 準備,或由分析師提供給會議參與者參考,此外,也可邀請政府相關政策部 門人員來參與此專家會議,俾便在討論時提供最有效的政策說明。
三、效度分析的解釋效力僅說明該次能力分析之有效性
正如前面所提到的,任何一種被公開發展並推廣的能力分析方法本身必 然具有可被接受的效度,而能力分析過程之複雜,使具有關鍵影響的事項甚 多,包括了主持人員與參與人員的適配性、相關工作的規劃、以及能力分析
結果之運用與推廣等事項,在在都影響了能力分析結果的有效性,因而每一 次實施能力分析時,都有必要探討其效度。從這個角度而言,對每一次能力 分析所做的效度分析也僅能對此次能力分析的結果提出有效性的說明。
換句話說,在運用及推廣時,實施的範圍與對象,也應以此次能力分析 的設定對象為限。例如本研究所進行之實例,是以功能分析對我國幼兒保育 人員之專業能力做分析,功能分析著重工作功能導向,比較不受到地域性工 作性質限制,因此分析結果在總結性效度分析部份設定以全國幼保人員為問 卷調查樣本,對功能圖內容之同意度(工作的重要性)所得到結果從 96.2%
到80.4%,這代表本次能力分析結果可適用於全國;但以 DACUM 進行同樣 工作時,由於DACUM 是以任務分析為導向的方法,所設定之適用地區一般 較有具體範圍,例如以同樣之幼保專業進行DACUM 能力分析時,可能設定 為台北市之幼保人員能力分析,此時對分析結果進行總結性效度分析,若以 問卷調查探討時,取樣對象就應以台北市為限,若效度分析結果對形成性與 總結性效度均為可接受時,此能力分析結果僅適用於台北市。
另一個具體的例子,是以DACUM 分析結果來設計課程,例如 Columbus 州立社區學院的情形,該校不但每次對DACUM 所發展出來之課程進行效度 分析,甚至對同一次的DACUM 結果隔三年會重覆進行效度分析,以免時間 因素造成需求變遷,以致依據三年前DACUM 所設計之課程不再適用,也可 確保發展或修改後之課程能與產業連結,全體教師參與有效性驗證工作也使 教師彼此間得到統整意見的機會(Norton, 1997)。以此類推,我國技職教育 系統同類科系(有時是完全同名)出現在高職、專科、到技術學院,但以高 職為設定對象所做之DACUM 結果不宜於依據來設計專科以上的課程。
四、對特定專業所需之能力的綜合性認定必須進行多次效度分析
Admodt(1996)認為會議形式的工作分析方法,若此工作場域中工作人 數較多時,應該進行2 到 3 個會議才能得到有品質的結果。同理,效度分析 的解釋效力僅說明該次能力分析之有效性,因此若要對某一種專業所需之能
力得到綜合性的結論,例如期望暸解我國目前美容師之綜合性的能力標準,
也就是可適用於全國各地區以及各工作層級的美容師代表性能力標準,就不 應僅以一次能力分析或效度分析為依據。事實上,Carlisle(1986)認為只用 一種能力分析方法來分析職業或工作,分析出來的結果會造成「無效」。同理,
效度分析也不應僅以一種方法或一次分析就做結論。為了要得到此種具全面 代表性之能力標準,依據本研究之分析,可以從三方面進行:
(一)多元化的有效性驗證
若能力分析之設定適用範圍可普及於全面性地域,則對分析結果作總結 性效度分析時,在同一時段盡量多用幾種方法進行有效性驗證,例如以問卷 調查時,應注意對有效性驗證之取樣代表性外,還可以進行對具有代表性專 家深度訪談、焦點團體、以及諮詢會議等方式,這些方法所得到之結果彼此 間可以相互印證,使能力分析結果之推廣與應用範圍更廣。
(二)多元化的地區性能力分析與效度分析
若能力分析之設定適用範圍僅限於地區性地域,則應對不同地區作多次 能力分析與效度分析,同樣的,在效度分析方上也應盡量以多元方式來相互 支應,例如在台北市的效度分析用到問卷調查,則台中市可以問卷調查與專 家深度訪談並用,而高雄市也可視情形用焦點團體,以多元方式進行有效性 驗證可以平衡每一種方法不夠周延的缺點。
(三)多元化的有效性驗證與多元化的地區性能力分析
較好的方式是綜合上述兩種方式,也就是同時並用全面性地域以及地區 性地域的能力分析,分別進行效度分析後可適用於各次能力分析的目的,綜 合各次效度分析結果可對該類專業有較綜合性認定。澳洲的訓練套裝教材
(Training Package,ANTA,2002)就是以這種方式運作,其運作方式是發展過 程可由全國性或地區性的職業教育與訓練團體設定訓練套裝教材的職業種類 與適用範圍,但發展出來的結果除了必須由發展者進行效度分析外,最後一
定要通過國家認證(由ANTA 主導的複雜過程),在國家認證這個步驟也就是 由委員會尋求該種職業綜合性意義的認定。
肆、對研究方法之建議
一、實施能力分析必須進行效度分析
發展能力標準的方法是能力分析,實施能力分析時,必須經由適當的過 程建構效度,為了達到這個目的,必須進行能力分析的效度分析,探討能力 分析的結果是否能正確的反映出原來所設定的職業所需之專業能力,進而能 為職場所用。這項工作是屬於應用研究中的評估研究,因此要建構效度可以 從兩個評估方向著手,以總結性評估可進行總結性效度分析,形成性評估可 進行形成性效度分析,經過兩種效度分析後,可建構兩種效度---構念效度與 內容效度。
能力標準、能力分析、以及效度分析三者間之關係,依據本研究之分析 可知:效度分析的結果可以直接驗證了能力分析方法的有效性,進而可以建 構能力標準,另一方面,也可以說,效度分析間接的使所建構的能力標準「有 效」。
基於上述說明,任何ㄧ次能力能力分析活動之規劃都必須將效度分析包 含在內,才能使所分析出來之結果有效的運用於後續的教育與訓練活動
本研究建議能力分析規劃工作之初可參考效度分析綜合架構,選擇適當 之方法列為必須進行之工作步驟,若需要訪問參與會議者對會議過程的意 見,也可以在初次邀請時就一併說明邀請。
二、能力分析規劃案應視經費與時間狀況選擇適用的效度分析方法
除了在能力分析規畫初始就要把效度分析列為工作步驟外,如何選擇合 適的效度分析方法也是規劃工作的重點。本研究在執行「幼兒保育專業」之 效度分析時,除了原本參考綜合架構「依據能力標準模式之種類」及「依據 專業性質」兩種應用策略外,在實際執行時,並基於「多元化」「消去法」兩
個原則選擇方法進行。做此種安排主要是一方面必須考慮如何能用最有效的 方法對能力分析結果進行效度檢驗,例如考量到量化評量時是否能找到對該 方法瞭解之足夠的評量人數,還有深度訪談要找到有實際參與該種能力分析 或擔任功能分析師經驗者。另一方面,多元化的效度分析方法可以相互印證,
但參考文獻顯示,只要方法恰當,有時應該基於人力物力有限,依據精簡原 則,儘量以最有效又最精簡的原則來設計效度分析方法,如何在多元又精簡 雙重考量下選擇適用的方法還需要許多後續研究工作探討。
三、邀請能力分析參與者擔任覆閱工作
幾種分析方法結果除了由效度分析工作人員作初步分析外,應再交由原 來能力分析參與者做討論與最後決定,這個設計可避免所選之效度分析方法 得到之結果缺乏一致性之反應,使研究者做綜合性歸納時,產生衝突性解釋 的問題。這個步驟在澳洲訓練套裝教材(ANTA,2002)之規範中是放在有效 性驗證之前,但是除了由能力分析參與者再做鑑識外,還有認證機構之初步 認證,在我國目前尚沒有此種認證系統,所以建議效度分析後再進行原來參 與者之討論與決定,究竟何時較合適,也許在後續研究中可進一步討論。
四、效度分析相關工作應以小組方式進行
本研究所進行之案例效度分析工作由研究者個人規劃及執行,實際執行 時發生了諸多突發狀況,以致整個進度受影響,因而感到個人仍然有許多力 不能及之處。參考文獻顯示,效度分析工作多為小組工作,而且諸如澳洲的 訓練套裝教材(ANTA,2002),其嚴謹的認證過程被視為形成性效度分析,而 這個認證工作是由許多地區性以及全國性機構共同執行的。事實上,由一組 人員進行訪談以及彙整資料也比較客觀。
此外,由於本研究屬於原創性的初步研究工作,後續仍有許多進一步檢 驗、試驗、以及修改工作,更需要各方面專業人員加入共同探討。
伍、對後續研究之建議
本研究基於研究結論,對研究者個人之後續研究計劃及其他相關研究工 作者提出以下建議。
一、效度分析綜合架構需經由實證性工作繼續修定檢驗
本研究初步提出了能力分析之效度分析的綜合架構,冀望此綜合架構能 成為日後效度分析之重要參考。但本研究所提出之綜合架構僅為初步研究成 果,可以說僅是一個假設性的工具,本研究中雖以此綜合架構為基礎進行實 際案例,運作結果對原來設定之架構未做大幅度調整,過程也相當順利。但 欲使此綜合架構更完整有價值,在後續相關之能力分析工作中,需要更多元 的以實證性工作來檢驗與修改,例如以各種不同專業的觀點來探討修改時,
可能發現運用策略的差異,如果能力分析屬於資訊相關專業與本研究之幼保 專業相比時,前者以網路問卷調查來進行總結性分析最經濟實惠,相較之下,
本研究在問卷調查取樣過程就非常費力;另一方面,不同能力分析方法也有 不同之考量,本研究是以功能分析進行之個案實例,在林林總總的能力分析 方法中,一定還可以找出適用於其他方法或適用於所有能力分析方法之效度 分析策略,有關此項後續修定檢驗工作將成為研究者個人重要研究目標,但 是也希望有更多的研究人員同步進行。
二、後續研究應對選擇效度分析方法之原則提出具體說明
在綜合架構中有「應用策略」對效度分析方法選擇提供參考原則,但仍 然缺乏更多具體的依循規範,雖然本案例所採用之效度分析方法均能適用於
「幼兒保育專業功能分析」之效度分析。但也有比較困難部分,例如尋找評 量對象與訪談對象都受到人數不足的影響,這些都是事前規劃工作中選擇效 度分析方法時應該先行注意之處;再如效度分析方法與時間掌控及實施程序 間的協調(請參考第七章第三節「幼兒保育專業」效度分析之討論),也都源 自於事前缺乏經驗產生一些狀況。另一方面,上述建議對特定專業所需之能
力的綜合性認定必須進行多次效度分析,然而考量人力物力之負擔時,又必 須以精簡原則處理,或是擴大研究規模,以小組研究人員執行效度分析為宜。
類此問題在本研究實例中出現,都說明效度分析綜合架構有必要增加更 具體的「選擇效度分析方法之原則」,當然,本研究發生這些狀況與經驗不足 有關,換句話說,要增加這項具體原則,仍然需要多次相關研究經驗做為參 考資料。
三、分析師系統性訓練工作之規劃
Admodt(2004)提出會議形式的工作分析方法是有一些系統性的技術可 資運用。從案例的效度分析中可看出,分析師的訓練與能力是提昇能力分析 效度的關鍵因素,但是究竟分析師的品質如何影響能力分析的效度,如 Admodt 所說的系統性的技術究竟應該如何實施,也許是值得持續探討的題 目,這裡面包括了如何規劃對分析師的訓練、對分析師基本特質的討論、分 析師特質與能力分析方法的適配性、以及分析師特質對分析結果所產生的影 響等等主題,都值得分別研究探討。此外,分析師在效度分析工作中所扮演 之角色也需要詳加探討,例如DACUM 不贊成分析師參與有效性驗證工作,
但是卻同意並鼓勵分析師參與設計問卷,此其中的分際究竟在那裡,都應有 邏輯性的說明。
從本研究實例中,可看出擔任分析師所需要具備的經驗和能力是相當多 元的組合,所以訓練工作也不是單一事件可涵括的,研究者對此點之建議是:
分析師的初期訓練應以短期聚焦的工作坊方式進行,然後規劃五到十次見習 或實習活動,經過正式評鑑與考核及格後,發給證書。如此的訓練過程應該 能有效的提升分析師的品質,因此系統性訓練的詳細內容必須以較嚴謹的方 式進行規劃。