• 沒有找到結果。

本研究探討系所與專家對於系所評鑑觀點的差異性,並從質性評鑑的 精確性瞭解面臨的挑戰,得到的重要結論與建議如下:

一、結論

(一)系所申復報告以說明或質疑資訊的確實性最多

系所申復報告的內容,頻率出現最高的是「學校對於資訊的確實性的 說明或疑問」,佔 68.4,包括學校提供更多辦學資料,促使專家改變決 定、及學校說明已接受建議,並在改善當中。頻率出現第二多的屬性是

「學校質疑評鑑結論與決定的公正性」,佔 13.4,包括學校認為專家建 議難以達成、不符合學校情境、或是質疑專家如何達成訪評結論。頻率出 現第三多的屬性是「學校對於系所情境脈絡的說明或疑問」,佔 12.0,

包括系所說明所處的特殊情境、學科的特殊性、或表示是配合教育部或校 級規定辦理,符合一般原則,並無特殊之處。

(二)專家回覆系所的申復以說明評鑑報告的結論與決定最多

專家對於申復的回覆,頻率最高的是「專家對於評鑑報告的結論與決 定的說明」,佔 48.4,包括專家簡單重申訪評報告的結論、認為系所雖 然提出申復,但實際已同意訪評結論。頻率出現第二多的屬性是「專家對 於資訊確實性的考量說明」,佔 31.0,包括專家表示學校提供的是訪評 後的改善資料、學校提供的資料不足,無法確實反駁訪評建議。第三多的 屬性是「專家以詳細的評鑑推論說明」,佔 12.7,包括專家詳細說明資 料的計算及推論、或是資料的蒐集與推理。

(三)系所申復最出現的三類屬性,專家給予回覆的方式類似

交叉比對申復及其回覆,探討學校與外部專家對於大學評鑑意見的一 致性,分析結果顯示系所申復內容最出現的三類屬性,外部專家給予回覆 的方式類似,最常出現的方式是重申訪評意見的結論,第二與第三分別是 是專家表示學校提供的資料時間不對、外部專家以清楚的評鑑推理回應,

詳細地說明訪評報告的資料是如何蒐集與推理。

(四)大學質性評鑑的四項可能威脅

我國系所評鑑運用增進質性研究信實性的方法,在評鑑的歷程中有維 持評鑑品質的設計,如蒐集多元資料及參考系所自我評鑑的內部觀點等。

但是,由上述分析,系所評鑑仍然面臨了四項威脅,包括:未能考慮情境 脈絡、檢視的是結果而非動態歷程、專家的價值觀涉入、評鑑歷程缺乏長 期投入與互動。

二、建議

(一)全面提升評鑑專業知能,並增進質性資料的提供與分析詮釋的品質 系所評鑑為質性評鑑,質性資料為評鑑結果判斷的重要依據,然而上 述研究結果顯示,不論是系所提供的資料、或是訪評報告引用與詮釋資料 的信實度,仍有改善空間。因此,學校人員及外部專家,需要全面提升評 鑑的專業知能。近年來「評鑑專業知能的建立」為重要議題,著重評鑑專 業態度、知識技能與行為,包括評鑑資料的蒐集、分析詮釋、成果運用、

及評鑑倫理(鄭淑惠,2010;Cousins, Goh, Elliott, & Bourgeois, 2014)。

其中質性資料的蒐集詮釋及情境的分析能力,更是受到重視,被囊括於 Stevahn 與 King 的「方案評鑑人員的必要技術與能力」(Stevahn, King, Ghere, & Minnema, 2005)…… 以及加拿大評鑑學會(Canadian Evaluation Society, CES)「六大評鑑專業能力」之中(李懿芳,2012;CES, 2010)。

(二) 將各校的特殊性納入系所評鑑的設計與實施

我國第一週期系所評鑑,是以五大評鑑項目與 38 個評鑑效標檢視系 所辦學成效,雖然載明學校可依各校特殊情境脈絡,調整評鑑項目與效 標,但目前為止,仍未有系所提出變動。2014 年高教評鑑中心新修訂的 第二週期系所評鑑項目,已明訂各校可依照學校特色,增訂特色項目或特

色效標;然而,大部分學校仍然抱持著觀望的態度。因此建議將各校的特 殊性納入系所評鑑的設計與實施,讓各校可以發揮特色,不須擔心增加評 鑑項目被扣分,也能被外界適當的監督。

(三) 建立討論案例,作為評鑑專業課程的教材

本研究分析第一週期的申復資料,了解學校與外部專家對於評鑑看法 的差異情形,並運用質性研究方法以及後設評鑑的精確性概念,檢視評鑑 執行的信實性。由於所有資料均來自申復報告,是大學與外部專家的真實 反應,可做為評鑑課程之討論案例。如:報告宜使用較精確的詞彙、質性 資料蒐集宜注重多元資料的整合,不宜偏重晤談。此外,學校評鑑準備人 員的評鑑概念也需要加強,可利用本研究的分析結果,設計申復課程,如:

提出申復需針對訪評意見提供相關資料,且須呈現具體事實或證據。

(四) 增進評鑑結果的運用,以評鑑促進系所改進

評鑑關係人能夠運用評鑑結果,是執行評鑑的驅動力,因此評鑑須分 析評鑑關係人的立場,並將焦點關注於他們所重視的議題之上(Patton, 2008)。大學系所評鑑的最主要目的是促進大學改善,因此評鑑若能讓學 校人員透過評鑑檢視辦學表現,並且增進其對於評鑑過程與結果的運用,

將會增加大學回饋改進的成效。因此,實地訪視在蒐集與解釋資料之餘,

若能顧及訪評報告內容能夠被學校了解、建議能考量學校的情境脈絡,將 有助於評鑑結果被學校使用,提升學校的改善意願。

(五) 以大學自我改進為重點,完善大學內部品質保證機制並 建立評鑑文化

要解決質性評鑑的根本問題,應該回歸到評鑑的原始目的,協助學校 精進辦學品質。亦即大學若能建立完整的內部品保機制,則可減少外部評 鑑對於學校內部運作的干預,大學與外部專家的誤解亦不復存在。我國大 學系所評鑑在 2012 年施行大學校院自我認可,各校可根據特色自訂評鑑 指標,自聘外部專家檢核,建立學校品保系統。但是,大學辦學品質的維 持,需將品保機制深植於學校內部系統中,因此最終目標是建立大學的評 鑑文化,促使大學自發性地永續維持教育品質。Preskill 與 Boyle(2008)

主張透過組織成員的互動,建立共同的評鑑價值觀,形成運用評鑑回饋改 進的氛圍,從個人評鑑專業知能的建立,逐步擴展到組織評鑑文化的形

成。近來各校開始推動「校務研究」,透過大學內部的蒐集與分析資料,幫 助學校的運作、發展與決策,這是形成評鑑文化的第一步(王麗雲,2014;

彭森明,2013)。未來若能推動評鑑文化,將使大學內部品保機制更加完 善。

大學校院的系所質性評鑑,需要大學與外部專家具備評鑑專業知能,

並從根本審視學校評鑑的真義,才能深入質性評鑑的問題。本研究透過分 析當前大學質性評鑑的執行情形及面臨的挑戰,提出增進質性評鑑品質的 建議。由於研究者僅採第一週期系所評鑑的申復報告為研究對象,並未納 入第二週期系所評鑑或是校務評鑑的資料,而且我國大學評鑑為質性評鑑 的一種,受限於我國高等教育的情境脈絡,並未進行其他國家高等教育質 性評鑑的比較,因此推論有限。日後研究相關議題,建議可以將多種質性 評鑑的資料納入研究範疇,以期作為未來改進評鑑機制、設計評鑑課程、

以及擬訂未來評鑑政策之參考。

相關文件