本研究探討系所與專家對於系所評鑑觀點的差異性,並從質性評鑑的 精確性瞭解面臨的挑戰,得到的重要結論與建議如下:
一、結論
(一)系所申復報告以說明或質疑資訊的確實性最多
系所申復報告的內容,頻率出現最高的是「學校對於資訊的確實性的 說明或疑問」,佔 68.4,包括學校提供更多辦學資料,促使專家改變決 定、及學校說明已接受建議,並在改善當中。頻率出現第二多的屬性是
「學校質疑評鑑結論與決定的公正性」,佔 13.4,包括學校認為專家建 議難以達成、不符合學校情境、或是質疑專家如何達成訪評結論。頻率出 現第三多的屬性是「學校對於系所情境脈絡的說明或疑問」,佔 12.0,
包括系所說明所處的特殊情境、學科的特殊性、或表示是配合教育部或校 級規定辦理,符合一般原則,並無特殊之處。
(二)專家回覆系所的申復以說明評鑑報告的結論與決定最多
專家對於申復的回覆,頻率最高的是「專家對於評鑑報告的結論與決 定的說明」,佔 48.4,包括專家簡單重申訪評報告的結論、認為系所雖 然提出申復,但實際已同意訪評結論。頻率出現第二多的屬性是「專家對 於資訊確實性的考量說明」,佔 31.0,包括專家表示學校提供的是訪評 後的改善資料、學校提供的資料不足,無法確實反駁訪評建議。第三多的 屬性是「專家以詳細的評鑑推論說明」,佔 12.7,包括專家詳細說明資 料的計算及推論、或是資料的蒐集與推理。
(三)系所申復最出現的三類屬性,專家給予回覆的方式類似
交叉比對申復及其回覆,探討學校與外部專家對於大學評鑑意見的一 致性,分析結果顯示系所申復內容最出現的三類屬性,外部專家給予回覆 的方式類似,最常出現的方式是重申訪評意見的結論,第二與第三分別是 是專家表示學校提供的資料時間不對、外部專家以清楚的評鑑推理回應,
詳細地說明訪評報告的資料是如何蒐集與推理。
(四)大學質性評鑑的四項可能威脅
我國系所評鑑運用增進質性研究信實性的方法,在評鑑的歷程中有維 持評鑑品質的設計,如蒐集多元資料及參考系所自我評鑑的內部觀點等。
但是,由上述分析,系所評鑑仍然面臨了四項威脅,包括:未能考慮情境 脈絡、檢視的是結果而非動態歷程、專家的價值觀涉入、評鑑歷程缺乏長 期投入與互動。
二、建議
(一)全面提升評鑑專業知能,並增進質性資料的提供與分析詮釋的品質 系所評鑑為質性評鑑,質性資料為評鑑結果判斷的重要依據,然而上 述研究結果顯示,不論是系所提供的資料、或是訪評報告引用與詮釋資料 的信實度,仍有改善空間。因此,學校人員及外部專家,需要全面提升評 鑑的專業知能。近年來「評鑑專業知能的建立」為重要議題,著重評鑑專 業態度、知識技能與行為,包括評鑑資料的蒐集、分析詮釋、成果運用、
及評鑑倫理(鄭淑惠,2010;Cousins, Goh, Elliott, & Bourgeois, 2014)。
其中質性資料的蒐集詮釋及情境的分析能力,更是受到重視,被囊括於 Stevahn 與 King 的「方案評鑑人員的必要技術與能力」(Stevahn, King, Ghere, & Minnema, 2005)…… 以及加拿大評鑑學會(Canadian Evaluation Society, CES)「六大評鑑專業能力」之中(李懿芳,2012;CES, 2010)。
(二) 將各校的特殊性納入系所評鑑的設計與實施
我國第一週期系所評鑑,是以五大評鑑項目與 38 個評鑑效標檢視系 所辦學成效,雖然載明學校可依各校特殊情境脈絡,調整評鑑項目與效 標,但目前為止,仍未有系所提出變動。2014 年高教評鑑中心新修訂的 第二週期系所評鑑項目,已明訂各校可依照學校特色,增訂特色項目或特
色效標;然而,大部分學校仍然抱持著觀望的態度。因此建議將各校的特 殊性納入系所評鑑的設計與實施,讓各校可以發揮特色,不須擔心增加評 鑑項目被扣分,也能被外界適當的監督。
(三) 建立討論案例,作為評鑑專業課程的教材
本研究分析第一週期的申復資料,了解學校與外部專家對於評鑑看法 的差異情形,並運用質性研究方法以及後設評鑑的精確性概念,檢視評鑑 執行的信實性。由於所有資料均來自申復報告,是大學與外部專家的真實 反應,可做為評鑑課程之討論案例。如:報告宜使用較精確的詞彙、質性 資料蒐集宜注重多元資料的整合,不宜偏重晤談。此外,學校評鑑準備人 員的評鑑概念也需要加強,可利用本研究的分析結果,設計申復課程,如:
提出申復需針對訪評意見提供相關資料,且須呈現具體事實或證據。
(四) 增進評鑑結果的運用,以評鑑促進系所改進
評鑑關係人能夠運用評鑑結果,是執行評鑑的驅動力,因此評鑑須分 析評鑑關係人的立場,並將焦點關注於他們所重視的議題之上(Patton, 2008)。大學系所評鑑的最主要目的是促進大學改善,因此評鑑若能讓學 校人員透過評鑑檢視辦學表現,並且增進其對於評鑑過程與結果的運用,
將會增加大學回饋改進的成效。因此,實地訪視在蒐集與解釋資料之餘,
若能顧及訪評報告內容能夠被學校了解、建議能考量學校的情境脈絡,將 有助於評鑑結果被學校使用,提升學校的改善意願。
(五) 以大學自我改進為重點,完善大學內部品質保證機制並 建立評鑑文化
要解決質性評鑑的根本問題,應該回歸到評鑑的原始目的,協助學校 精進辦學品質。亦即大學若能建立完整的內部品保機制,則可減少外部評 鑑對於學校內部運作的干預,大學與外部專家的誤解亦不復存在。我國大 學系所評鑑在 2012 年施行大學校院自我認可,各校可根據特色自訂評鑑 指標,自聘外部專家檢核,建立學校品保系統。但是,大學辦學品質的維 持,需將品保機制深植於學校內部系統中,因此最終目標是建立大學的評 鑑文化,促使大學自發性地永續維持教育品質。Preskill 與 Boyle(2008)
主張透過組織成員的互動,建立共同的評鑑價值觀,形成運用評鑑回饋改 進的氛圍,從個人評鑑專業知能的建立,逐步擴展到組織評鑑文化的形
成。近來各校開始推動「校務研究」,透過大學內部的蒐集與分析資料,幫 助學校的運作、發展與決策,這是形成評鑑文化的第一步(王麗雲,2014;
彭森明,2013)。未來若能推動評鑑文化,將使大學內部品保機制更加完 善。
大學校院的系所質性評鑑,需要大學與外部專家具備評鑑專業知能,
並從根本審視學校評鑑的真義,才能深入質性評鑑的問題。本研究透過分 析當前大學質性評鑑的執行情形及面臨的挑戰,提出增進質性評鑑品質的 建議。由於研究者僅採第一週期系所評鑑的申復報告為研究對象,並未納 入第二週期系所評鑑或是校務評鑑的資料,而且我國大學評鑑為質性評鑑 的一種,受限於我國高等教育的情境脈絡,並未進行其他國家高等教育質 性評鑑的比較,因此推論有限。日後研究相關議題,建議可以將多種質性 評鑑的資料納入研究範疇,以期作為未來改進評鑑機制、設計評鑑課程、
以及擬訂未來評鑑政策之參考。