教 育 研 究 與 發 展 期 刊
第十四卷第三期 2018年9月 頁1-32
科技大學校務評鑑之運用及其影響因素
曾淑惠
國立臺北科技大學技術及職業教育研究所教授張仁傑
國立臺北科技大學技術及職業教育研究所博士生(通訊作者)摘 要
校務評鑑在臺灣舉辦多年,而評鑑運用的議題近年才逐漸受到重視。本研究 採問卷調查法探究科技大學教職員對評鑑運用的用途與影響因素的看法,以重要- 表現分析法分析評鑑運用之用途的理想與實際運用的差異,並以結構方程模型驗 證影響校務評鑑運用的因素與評鑑運用的用途間關係之假設模型。總計發放795 份問卷,有效回收701 份,有效回收率為 88.17%,主要研究結論包括:一、評鑑 運用的用途分為過程運用與成果運用兩構面;二、影響評鑑運用的因素則可分為 評鑑實施、政策決策及評鑑人員三構面;三、評鑑運用的用途理想重要程度顯著 高於實際符合程度;四、本研究所提出之科技大學校務評鑑運用影響因素與用途 模式架構為一適配模型。
關鍵詞:評鑑運用、影響評鑑運用的因素、校務評鑑
張仁傑電子郵件:[email protected]
DOI 10.3966/181665042018091403001
The Uses and Their Influencing Factors of the Institutional Evaluation for University of Technology
Shu-Hui Tseng
Professor, Graduate Institute of Technological and Vocational Education, National Taipei University of Technology
Jen-Chieh Chang
Doctoral Student, Graduate Institute of Technological and Vocational Education, National Taipei University of Technology
Abstract
The institutional evaluation has been held in Taiwan for many years, and the evaluation use has gradually gained attention in recent years. The main purpose of this study is to explore the views of the faculty and staff of a University of Technology on the use and influencing factors of evaluation. The questionnaire survey was conducted in this study. A total of 795 questionnaires were issued and 701 were effectively collected. The effective response rate was 88.17%. Firstly, performance analysis was used to analyze the difference between the ideal and the actual use of the school evaluation. Secondly, the structural equation model was used to verify the hypothetical model that influences the relationship between the use of evaluation and the evaluation use.
The major findings are summarized as follows:
(1) The evaluation use is divided into two aspects: the process use and the result use.
Factors that influence the evaluation use can be divided into three aspects: evaluation implementation, policy decision-making and evaluators.
(2) The importance degree of ideal evaluation use is significantly higher than the actual.
(3) The factors that influences the evaluation use for university of science and technology and the usage model provided in this study is an adaptation model.
Keywords: evaluation use, influence factors of evaluation use, institutional evaluation
Jen-Chieh Chang’s E-mail: [email protected]
科技大學校務評鑑之運用及其影響因素
曾淑惠 張仁傑 3
壹、緒論
美國1960 年代的一些早期研究常發現評鑑運用(use)情形不佳或評鑑效用
(utility)過低,致產生對評鑑運用的危機現象,乃激發許多美國學者投入於評鑑 運用議題的研究,也造成了國際間對評鑑應用的探討(黃嘉雄,2012;Christie &
Alkin, 2013)。因而自 1970 年代起,學者開始探究評鑑運用的方式與類型,以及 影響評鑑運用的因素,例如美國評鑑協會(AEA)於 1970 年代即設有評鑑運用 議題小組,於1980 及 1990 年代更致力於評鑑運用理論與實務的發展(潘慧玲,
2004)。Christie(2007)也提到評鑑運用是所有評鑑的核心結果,倘若評鑑缺 乏使用,評鑑就無法為社會進步而作出貢獻。我國技專校院自1975 年開始辦理 專科學校評鑑至今四十餘年,評鑑制度歷經許多調整與改革已逐漸完善,近年來 更有多位學者提出對教育評鑑運用議題的重視(鄭淑惠,2009,2016;黃嘉雄,
2012),對評鑑運用的概念遂逐漸受到關注。在國內也有研究發現,品質保證 系統促使大學確認自己的任務與目標,評鑑結果也影響了系所課程的存廢,換言 之,評鑑結果的運用對於大學校院的經營和管理產生重要影響(侯永琪、陳慧蓉,
2016)。
然而並非所有的評鑑運用都具有正面的意義,評鑑的運用可從積極運用到積 極未運用,當積極的從事評鑑運用,誤用的機會也大大的增加,且若沒全心全意 的投入評鑑運用,也只會使誤用的可能性大幅提升,因此評鑑運用不再只是純理 論上的探索(Patton, 2008; Rebora & Turri, 2011)。因此,如果正確的運用,評鑑 能成為一個潛在的訊息系統,這能幫助教育機構達成他們的目標和糾正這過程中 的偏誤(Sheizi, 2016)。再者,為能有效促進評鑑的運用,評鑑運用影響因素的 議題在國外也已受到廣泛討論,但是在國內卻多止於倡議或小範圍的探究,仍較 缺乏系統性的關注。評鑑的關係人在面對評鑑運用的議題時,應對評鑑運用的概 念、向度、與影響因素有全面性的了解,才能促進評鑑的正確使用,並避免評鑑 的誤用,而這需要評鑑關係人對評鑑運用相關意涵的理解。
由於科技大學在技職體系學校中屬最高層級學校,且學校整體評鑑的制度亦 行之有年,但評鑑運用的用途與影響評鑑運用的因素尚未受到完整重視與建立正 確觀念,且國外之研究結果由於價值觀與社會環境差距甚大,所得也未必能符合 國內評鑑制度調整之所需。再加以2018 學年起科技大學校務評鑑有新的變革,改
以協助學校自我改善,使各校透過自我定位,確保學校在教學品質、 學生學習、
辦學成效等各面向持續強化與改進,提升學生與社會大眾對於技專校院辦學品質 之信心為宗旨(技專校院評鑑資訊網,日期不詳)。為能清楚理解科技大學校務 評鑑運用的用途與影響評鑑運用的因素,以做為爾後規劃及實施校務評鑑時,促 進正確且積極地運用評鑑任何階段產生資訊之參考,以利各科技大學推動校務永 續發展,爰進行本研究。
因此,本研究的目的包括:
一、探究科技大學校務評鑑運用的用途之內涵。
二、探究科技大學校務評鑑運用的影響因素之內涵。
三、以重要—表現分析法分析科技大學教職員對理想與實際評鑑運用看法的 異同。
四、建構影響校務評鑑因素與評鑑運用用途間關係之模式。
貳、文獻探討
許多學者常將「評鑑利用(evaluation utilization)」與「評鑑運用(evaluation use)」這兩個名詞混用(如 Hofstetter & Alkin, 2003; Henry & Mark, 2003)。本研 究將utilization 稱為「利用」,use 稱為「運用」,至於評鑑影響(influence)則排 除於本研究討論範圍之外,並分評鑑運用的意義與類型、影響評鑑運用的因素兩 部分,討論如下:
一、評鑑運用的意義與類型
(一)評鑑運用的意義
在1970 年代傳統的觀點中,對評鑑運用的定義是:對特定的決策和方案活動,
從研究結果產生直接的、具體的、可見的效果(Patton et al., 1977; D’Ostie-Racine, Dagenais, & Ridde, 2016),1980 年代研究者逐漸將評鑑運用的概念擴展到從評鑑 的歷程中學習、增進利害關係人對方案評鑑成果與衝擊的理解,而這樣的價值後 續也開啟了評鑑運用的相關研究面向(McCormick, 1997; Alkin & Christie, 2004;
D’Ostie-Racine1, Dagenais1, & Ridde, 2016)。Patton(2008: p.37)將評鑑運用定 義為:「人們在真實的世界中實際上如何應用評鑑的發現與經驗」, Johnson 等
科技大學校務評鑑之運用及其影響因素
曾淑惠 張仁傑 5
人(2009, p.378)將評鑑運用定義為:對於評鑑歷程、成果或發現,可以產生效 果的任何一種應用。Saunders(2012)則從社會學的觀點上提出,評鑑運用係指 與評鑑過程和措施之間的交互作用有關,其可能是非正式和隱性的(informal and tacit),亦或許是更為傳統地、與評鑑報告形式的文本有關之各種概念。由此觀 之評鑑運用的定義並無一致性的共識文字,然而Alkin 與 King(2017)仍依據 Alkin、Daillak 及 White 於 1979 年所歸納的評鑑運用五個要素,一是要有必須被 溝通的評鑑資訊,二是要有使用者,三是運用的形式,四是考量方案的整體性,
五是明確的指示評鑑資訊的目的,因而將評鑑運用定義為系統地關注每個構成要 件,確定主要的意圖使用者,詳細說明其希望的主要運用意圖,然後在評估過程 中確保能產生可資運用的有意義資訊。
透過上述討論不難發現評鑑運用發展至今已逾50 年,從早期的針對性與單一 性的定義到近年以社會學角度為出發的定義,除了讓評鑑運用的視角增廣至運用 後之效益衡量與使用過程中的改變與學習,進而延伸出易用性等新議題,這都一 再證明評鑑運用的類型與研究已日益豐厚。雖然對於評鑑運用的定義上難有共識,
本研究支持曾淑惠(2010)將評鑑運用界定為「各潛在使用者或利害關係人,對 評鑑過程與成果所獲得的資訊,意圖或非意圖性地採用各種形式或途徑,應用於 對方案或評鑑的教育、處理或相關決策,以增進個人或組織能力與成效的各項思 維與作為」的論點。
(二)評鑑運用的類型
評鑑運用之類型,國內外已有不少學者對此有所討論與論述,傳統上按照評 鑑運用的方式一般可以分為工具性(instrumental)、觀念性(conceptual)和象 徵性(symbolic)或說服性(persuade)等類型(Greene, 1988; Leviton & Hughes, 1981; Rich, 1977; Shulha & Cousins, 1997; Weiss, 1979; D’Ostie-Racine1, Dagenais1,
& Ridde, 2016)。晚近研究中則除上述評鑑運用類型外另增加策略性(strategic)
運 用(Shadish, Cook, & Leviton, 1991)。 但 也 有 學 者 提 出 不 同 的 看 法, 例 如 Patton(1997)最先提出評鑑過程(process)運用與成果運用(use of evaluation findings)的概念,其中過程運用意指評鑑歷程中涉及個人思考及行為改變,以及 方案或組織在程序與文化上改變的用途;成果運用有判斷優點或價值、方案的改 進與知識的產生等三種主要用途,其中方案的改進雷同於工具性運用,而知識的 產生相仿於觀念性運用;Weiss、Murphy-Graham 及 Birkeland(2005)提出工具性、
政治性(political)或象徵性、觀念性及強迫性(imposed)運用等詞。Fleischer 與 Christie(2009)整理過去數十年評鑑文獻,將評鑑學者已經創造出來及定義出來 的不同形式的評鑑運用作一統整,結果有工具性、觀念性、啟蒙性、過程、說服 性或象徵性等五種不同形式的運用。Højlund(2014)則認為雖然由於難以評估對 評鑑的影響與效果,對於評鑑運用適切分類類型的討論仍舊持續進行中,但是評 鑑運用類型分成工具性、概念性、歷程性及象徵性等四類,至今仍無重大的突破 性改變。Alkin(2005)則支持過程運用與成果運用兩者各自均可屬於工具性或概 念性運用兩類。針對這些相當多樣的評鑑運用類型相關名詞,區分如下所述。
1. 依時機分
潘慧玲(2004)認為,依評鑑運用發生的不同時間點,將傳統上關注評鑑結 果所發揮的用途,稱為「終結性用途」;而近幾年側重歷程中評鑑所發揮的用途,
稱為「過程性用途」。同樣的,Alkin 和 Taut(2003)認為評鑑運用可能係根據評 鑑過程以及其研究結果而發生,亦即包含了過程運用及成果運用。
(1) 過程運用:Patton(2008)將過程運用定義為評鑑參與者在認知與行為上、
方案或組織在程序和文化上發生的改變,這些改變係隨著參與評鑑、並產生於評 鑑過程中所發生之學習結果,他並指出,過程運用發生在參與評鑑歷程中學習的 人們,以及基於評鑑過程使得方案發生改變時,而非評鑑結果對於方案的改變;
Amo 及 Cousins(2007)在歸納過程運用的相關文獻後也指出,過程運用關切利害 關係人藉由參與評鑑的歷程,而在個人、團體及組織層次上對新知識、態度與行 為有所發展。因此過程運用包括個人認知、情意以及行為的改變,以及方案或組 織直接或間接從評鑑的歷程中,學習思考評鑑所獲致的改變結果(如增加評鑑能 力、整合評鑑到方案中、目標界定、概念化方案邏輯模式、設定評鑑的優先順序、
改進成果測量等)。
(2) 成果運用:評鑑的成果運用是利害關係人透過評鑑會議的參與、評鑑報告 的閱讀、以及其他資訊傳遞或溝通的管道,以獲得評鑑結果,有助於增進個人和 團體對組織重要議題之思考、理解、態度與動機,並可能發展相關的決策與行動
(鄭淑惠,2009)。而其用途則有:判斷整體性的價值以通知並支持主要的決策、
決定方案及模式的價值與未來發展、改進方案、展示資源受到好好的管理且有效 地達成所欲的成果、管理方案、例行報告、儘早界定問題、適應複雜與動態反應 突發性的條件、促進對一般性的了解、以及定義有關效能的一般性原則等(Patton,
科技大學校務評鑑之運用及其影響因素
曾淑惠 張仁傑 7
2008)。
2. 依運用方式分
雖然許多學者提出諸多評鑑運用類型的名詞,Højlund(2015)歸納得到大底 可分為工具性、觀念性及象徵性運用三種。然而為考量文獻中仍有如強迫性運用 之名詞,因此將諸多名詞彙整各學者之主張,陳述如下﹕
(1)工具性運用:意指決策者運用評鑑的發現修改評鑑的目的(Saunders, 2012);是視知識為行動之用,直接用於決策或教育的改變,如作為方案終止或 延續決策之依據,也稱為直接運用(Rossi, Lipsey, & Freeman, 2004)。
(2)觀念性運用:指評鑑的發現用於幫助方案或決策者了解方案(Saunders, 2012);是視知識為理解之用,非直接且持續地使用於教育決策中,但確實影響 人們的理解或決策之思考,也稱為間接運用(Rossi, Lipsey, & Freeman, 2004)。
Weiss(1979)將觀念性運用又稱作啟蒙性(enlightenment)運用,係由於啟蒙性 運用假定影響決策的是整個社會科學研究所提出的概念和理論,這些概念和理論,
知會了大眾,使決策者掌握意義,加深對社會問題的思考(Owen, 1992),因此 啟蒙性運用與觀念性運用十分類似。。
(3)象徵性運用:象徵性運用是指人們僅僅使用評鑑本身的存在以進行勸說 或說服,而非使用評鑑結果的任何一部分(Johnson, et al. 2009)。是重要的利害 關係人被說服方案或組織是具有績效責任價值的,或是評鑑人員在制定評鑑之前,
被雇用於評鑑一個方案合法性的決策(Saunders, 2012),乃是當評鑑不是用來評 鑑一個方案,而是用來暗示或表現方案中某部分的事件(Alkin, 2005)。又稱為說 服性的或策略性的運用,說服性運用的時機為當評鑑報告被用來支持特定立場之 時(Leviton & Hughes, 1981),也稱為預謀性(conspiratorial)運用(Huberman, 1987)。Hofstetter 與 Alkin(2003)又稱之為合法的(legitimate)運用。此類型多 發生在與政治性運用相類似的情境中。
(4)強迫性運用:強迫性運用發生於因為牽涉資助與否或者其他壓力,評鑑 關係人被迫關切或運用評鑑結果(Weiss, Murphy-Graham, & Birkeland, 2005)。
依前述文獻的討論,各種不同的評鑑運用類型名稱,或可獨立闡釋,或為類 似的概念,依運用方式通常包含了工具性、觀念性、象徵性及強迫性運用等類型。
而依評鑑運用時機分大致可分為過程運用與成果運用。而其他分類有的依照評鑑 運用的時間期程做分類;有的用影響特性分為使用意圖與非使用意圖; 有的提出
直接運用與間接運用;也有提出更多如影響、不運用與誤用等方式。評鑑運用類 型的分類原則大至可透過上述方式進行,但若將時間、動機、意圖與組織文化等 因素間的交互作用納為評鑑運用的考量因素時,會發現評鑑運用為一動態時間軸,
於評鑑當中參與者的認知、行為、學習、組織、程序和文化上會發生不斷的互動 與改變,而這些改變發生於評鑑運用的過程當中,因此評鑑運用時機做分類的過 程運用與成果運用較能符合此項需求。同時在過程與成果運用中仍可發現有工具 性、觀念性、象徵性與強迫性等使用方式,惟基於國內科技大學評鑑多為官方主 導或學校自行辦理,因此並無強迫性使用的可能性。
二、影響評鑑運用的因素
許 多 學 者 都 投 入 評 鑑 運 用 影 響 因 素 的 探 究, 例 如Alkin、Daillak 和 White
(1979)綜合了當時研究焦點集中於評鑑成果運用的各項研究,發現有三種衝擊 性因素始終會影響評鑑結果的運用程度,這三種因素分別為人為(human)、背 景(context)和評鑑(evaluation)等因素。Peck 及 Gorzalski(2009)的研究卻指 出人為、背景和評鑑三因素間互有重疊。其後 Alkin(1985)辨識出影響評鑑運用 的五十種因素,並且歸為四大類:1. 評鑑者的特徵、2. 使用者的特徵、3. 背景脈 絡的特徵、4. 評鑑的特徵。但 Cousins 和 Leithwood(1986)檢視了從 1971 年至 1985 年 65 篇有關評鑑運用的實證研究之後,建構出影響評鑑運用的整體相關因 素架構,共分為二大類,分別為評鑑實施(implementation)類別及決策或政策制 定(decision or policy setting)類別,在這二種類別之下,各具備了六項因素。評 鑑實施類別下之六項因素為:1. 評鑑品質、2. 公信力、3. 攸關性、4. 溝通品質、
5. 評鑑結果、6. 時效性。決策或政策制定類別下之六項因素為:1. 資訊需求、2. 決 策特質、3. 政治氣氛、4. 競爭資訊、5. 個人特質、6. 對評鑑的承諾或接受程度。
Johnson 等學者(2009)為了因應評鑑典範與評鑑關注焦點的轉移與更迭,重新進 行了研究,渠等承襲了 Cousins 和 Leithwood 的研究架構,經審視了從 1986 年到 2005 年 41 篇有關評鑑運用的相關期刊論文實證研究文獻之後,除了在評鑑實施 類別之下額外補充「評鑑者的能力」此一項因素外,還另外新增利益關係人參與
(stakeholder involvement)類別,在此類別之下,具備了:1. 評鑑參與的承諾或 收穫、2. 溝通品質、3. 直接利益關係人的參與、4. 參與公信力、5. 評鑑結果、6. 參 與相關事項、7. 參與之個人特色、8. 參與決策特徵、和 9. 資訊需求之參與九項因
科技大學校務評鑑之運用及其影響因素
曾淑惠 張仁傑 9
素。除此之外,Fleischer 與 Cheristie(2009)透過實證研究將影響因素歸類為對運 用的規劃、評鑑人員、評鑑的實施及利益關係人的參與四類; 而於政府部門中會 影響評鑑的因素包含:不同層級或部門的權力競爭、相關人員對評鑑的目的與認 知的差異等因素(Chelimsky, 2015)。Alkin 與 King(2017)則將影響因素歸類為 使用者、評鑑人員、評鑑實施及組織/ 社會脈絡因素等四類。
綜觀影響評鑑因素探究的相關文獻,由早期學者所分的三類,分別為人為、
背景與評鑑因素做為基礎,而後藉由進一步研究更細分為評鑑者、使用者、背景 脈絡與評鑑四類因素。考量國內評鑑特別重視評鑑人員的特殊地位,加以評鑑運 用者、利益關係人與評鑑決策者之身分難以區隔等現況,本研究將影響評鑑運用 因素分為評鑑人員、評鑑實施、及決策/ 政策制定等三類,作為後續問卷規劃影響 評鑑運用因素之依據。
參、研究方法
本研究採問卷調查法,茲針對研究工具、研究母群體與抽樣樣本及研究模型 架構三部分說明如下:
一、研究工具
從文獻中分析、整理出評鑑運用的意義、評鑑運用的類型與影響評鑑運用的 因素,自編「評鑑運用及其影響因素」問卷,並邀請具評鑑研究、訪評實務經驗、
委託或受託承辦評鑑經驗之專家共五位,於獲得受邀者同意後進行審查,以確認 研究工具的內容效度。五位審查問卷之專家學者基本資料如表1。
表 1 專家審查名單
編號 接受訪談時任職單位 職稱 評鑑相關經驗
1 評鑑中心基金會 處長 評鑑研究、承辦評鑑、評鑑委員
2 北部公立大學 教授 評鑑研究、承辦評鑑
3 北部私立大學 教授 評鑑研究、委辦評鑑、評鑑委員
4 北部私立大學 教授 評鑑研究、承辦評鑑、評鑑委員
5 南部私立科技大學 教授 評鑑研究、評鑑委員
問卷內容分為「基本資料」、「評鑑運用的用途」與「影響評鑑運用因素」
三部分,基本資料係為填答者的職務身分類別、是否參與過評鑑、工作年資與是 否為教育部授權自辦評鑑學校等四題所組成,均以單選題型式呈現,「評鑑運用 的用途」共20 題,採李克特式(Likert)五點量表,並分為「理想上的重要程度」
與「實際上的滿意程度」兩方面,重要程度分別以「非常重要」為最高分5 分,
最低分1 分為「非常不重要」;滿意程度則以「非常滿意」為最高分 5 分,最低 分1 分為「非常不滿意」。最後為「影響評鑑運用因素」共 31 題,採用 Likert 五 點量表方式呈現,分別以「非常同意」為最高分5 分,最低分 1 分為「非常不同 意」。本研究預試對象的選取,係採用「方便取樣」方式進行,自2016 年 03 月 1 日至03 月 18 日止,選取 2 間公立科技大學和 6 間私立科技大學專任教師和職員,
共計220 人,回收問卷 198 份。為確保題項品質不致影響因素分析結果,先進行 項目分析。本研究的項目分析評判指標,主要以「決斷值」與「校正後題目與總 分相關」這兩項(凃金堂,2012;Spector, 1992)。若這兩項指標皆屬不良指標,
即刪除該題。在決斷值的評判依據方面,以量表總分最高前27%為高分組,總分 最低後27%為低分組,進行每題項獨立樣本 t 考驗,若高低分組平均數之差異,
顯著性p 值未小於 .05,則為不良指標。在校正後題目與總分的相關的評判依據方 面,若每題的校正後題目與總分相關係數低於.30,則為不良指標。
預試的「評鑑運用的用途」與「影響評鑑運用因素」分量表,經項目分析後,
所有題目在「決斷值」的顯著性p 值均為 0.000,「校正後題目與總分相關」「評 鑑運用的用途」相關值範圍在0.793 至 0.635,「影響評鑑運用因素」相關值範圍 在0.819 至 0.537,意即這兩項指標,皆沒有任何題目出現不良指標,故所有題項 均予保留。另外問卷以Cronbach’s α 係數做為問卷的內部一致性信度考驗,採用 DeVellis(2012)的建議,以 Cronbach’s α 值大於 0.7 標準來衡量。問卷結構與分 量表信度如表2 所示。
經計算得評鑑運用的用途分量表信度係數為0.951,影響評鑑運用因素分量表 信度係數為0.966,表示研究工具的信度值良好。
科技大學校務評鑑之運用及其影響因素
曾淑惠 張仁傑 11
表 2 問卷結構與分量表信度表
問卷內容分類 題號
背景變項
填答者的職務身分類別 1
是否參與過評鑑 2
工作年資 3
是否為教育部授權自辦評鑑學校 4
評鑑運用的 用途 (α = 0.951)
過程運用(α = 0.951)
工具性 1,2,3,9,10
概念性 4,5,6,8
象徵性 7
成果運用(α = 0.951)
工具性 12,13,14,15,16
概念性 11,17,18,19
象徵性 20
影響評鑑運用 因素 (α = 0.966)
評鑑實施因素(α = 0.950) 1,2,3,4,5,6,13,14,15,16,17,18,19,29,30,31 政策決策因素(α = 0.902) 20,21,22,23,24,25,26,27,28
評鑑人員因素(α = 0.890) 7,8,9,10,11,12
雖然一般在發展工具時題數越多越好,而評鑑實施因素、政策決策因素及 評鑑人員因素三者的題項數分別為16、10、5,題項數差距頗大,但由於 Bollen
(1989)及 Kline(1998)均曾指出一個構面至少需具有 3 個觀察變數,同時依據 表2,三個因素的內部一致性信度值分別為 0.950、0.902、0.890,顯示具有內部一 致性,已符合形成三個構面的評斷規準。
二、研究母群體與抽樣樣本
本研究之研究母群體,依據技專校院基本資料庫(2016)公布之 2015 學年 90 所科技大學校內之專任教師20,228 人,專任職員 12,806 人估計。扣除 31 所專科 學校及技術學院教職員後,總計教職員數約為27,002 人。選擇 95% 信賴水準及 4%
抽樣誤差後計算抽樣樣本至少為587 人。正式問卷發放予回收情形如表 3 所示。
表 3 抽樣樣本學校一覽表
區域 校名 校名 校名 發出數 有效回
收數 比例
北區
國立臺北科技大學 景文科技大學 德明財經科技大學 聖約翰科技大學
長庚科技大學 明志科技大學 萬能科技大學
中華科技大學 東南科技大學 致理科技大學
275 255 92.7%
中區
國立雲林科技大學 修平科技大學 南開科技大學
嶺東科技大學 國立臺中科技大學 朝陽科技大學
弘光科技大學
國立虎尾科技大學 230 189 82.2%
南區
輔英科技大學 國立屏東科技大學 南台科技大學 高苑科技大學
文藻外語大學 正修科技大學 國立澎湖科技大學
國立高雄餐旅大學 遠東科技大學
台南應用科技大學 265 236 89.1%
東區 慈濟科技大學 25 21 84.0%
小計 795 701 88.2%
本研究於2016 年 03 月 20 日至 05 月 20 日止共計發放 29 所科技大學 795 份 問卷,回收701 份有效問卷,有效問卷回收率 88.2%,經計算得在 95% 信賴水準下,
抽樣誤差3.65%。
三、模型架構
根據本研究上述所提,提出以下假設:研究假設一:經本研究整理後提出影 響校務評鑑運用因素主要由「評鑑實施」、「政策決策」與「評鑑人員」三因素 所構成。研究假設二:經本研究整理後提出校務評鑑運用的用途主要由「過程運用」
與「成果運用」所構成。研究假設三:評鑑是一個動態的過程,且由不同的影響 因素與用途相互影響而構成,因此,本研究提出影響校務評鑑運用因素與用途模 式架構為一適配模型的假設。
並根據前敘述與模型界定各變數,由主成份分析得到各項構面,並進一步描 繪觀測變數與潛在變數間的關係,如圖1. 所示,其中 X、λ、ξ、γ、η、Y 等參數 分別為模型預估計的參數值。X1為「評鑑實施」因素、X2為「決策或政策」因素、
X3「評鑑人員」因素,進而構成了ξ1「影響校務評鑑運用因素」,而η2為「評鑑
科技大學校務評鑑之運用及其影響因素
曾淑惠 張仁傑 13
(續下頁)
運用的用途」分別由Y4「過程運用」與Y5「成果運用」所構成。本研究提出影響 校務評鑑運用因素與評鑑運用用途間關係之模式概念圖(如圖1.),使用線性結 構關係模型(LISREL, Linear Structural RELationship),以結構方程模型(Structural Equation Modeling, SEM)建立潛在變數間之因果關係,以驗證本文所提影響校務 評鑑運用因素與評鑑運用用途間關係之模式模型架構。
字數
影響 因素
「過 且由 運用
描繪 數分 因素 為 究提 使用 型 文所
肆
一、時列 平均
數:17861
響校務評鑑 素所構成。
過程運用」
由不同的影 用因素與用
並根據前敘 繪觀測變數 分別為模型 素、X3「評
「評鑑運用 提出影響校 用線性結構
(Structural 所提的之影
圖1.
、研究結果
、問卷調查 本研究於 列為缺答者 均值處理故
鑑運用因素主 研究假設 與「成果運 影響因素與用 途模式架構 敘述與模型 數與潛在變數 型預估計的參 評鑑人員」因 的用途」分 校務評鑑運用 構關係模型(L
Equation M 影響校務評鑑
影響校務評
果與討論
查資料分析 於回收問卷中 者;若係為量 故仍予以保留主要由「評 二:經本研 運用」所構 用途相互影 構為一適配 型界定各變 數間的關係 參數值。X 因素,進而 分別由Y4「 用因素與評 LISREL, L Modeling, S 鑑運用因素
評鑑運用因
論
中若填答者 量表內容填 留。相關背
14卷3期
13
評鑑實施」
研究整理後 構成。研究 影響而構成 配模型的假設
變數,由主成 係,如圖1.所
X1為「評鑑 而構成了 ξ1
「過程運用 評鑑運用用 Linear Struc SEM)建立 素與評鑑運用
素與評鑑運
者係背景變項 填答遺漏一 背景變項之描
、「政策決 後提出校務
假設三:評
,因此,本 設。
成份分析得 所示,其中
實施」因素
1「影響校務
」與Y5「成 用途間關係之 ctural RELa 立潛在變數間
用用途間關
運用用途間
項缺漏者,
題者,則依 描述性統計
主題:
決策」與「
務評鑑運用 評鑑是一個 本研究提出
得到各項構 X、λ、ξ、
素、X2為「
務評鑑運用 成果運用」
之模式概念 ationship),
間之因果關 關係之模式模
關係之假設
,予以保留 依遺漏值處 計分析其分布
:教育政策與
「評鑑人員」
的用途主要 個動態的過程 出影響校務評
構面,並進一 γ、η、Y 等
「決策或政策 用因素」,而
所構成。本 念圖(如圖
以結構方程 關係,以驗證 模型架構。
設模型架構
留並在背景分 處理方式,依 布情形如下
與制度
」三 要由 程,
評鑑
一步 等參 策」
而 η2
本研 1.),
程模 證本
構
分析 依其 下表4:
圖 1 影響校務評鑑運用因素與評鑑運用用途間關係之假設模型架構
肆、研究結果與討論
一、問卷調查資料分析
本研究於回收問卷中若填答者係背景變項缺漏者,予以保留並在背景分析時 列為缺答者;若係為量表內容填答遺漏一題者,則依遺漏值處理方式,依其平均 值處理故仍予以保留。相關背景變項之描述性統計分析其分布情形如下表4:
表 4 背景變項之描述性統計分析表
背景變項 人數 百分比
學校別 公立 171 位 24.4%
私立 530 位 76.5%
表 4 背景變項之描述性統計分析表(續)
背景變項 人數 百分比
身份別
曾或現兼任行政單位主管 162 位 23.1%
曾或現兼任學術單位主管 74 位 10.6%
教師未曾兼行政職 90 位 12.8%
一般職員( 含助教及以校務基金聘用的工作人員 ) 355 位 50.6%
參與 校內 校務 評鑑
否 未參與校內校務評鑑 127 位 18.1%
是 有參與校內校務評鑑 567 位 80.9%
參 與 項 目
參與專業系所評鑑 184 位 33.6%
參與行政類評鑑 290 位 52.9%
行政類評鑑與專業系所評鑑都參與過 61 位 11.1%
任職年資
十年內 277 位 39.5%
滿十年到未滿二十年 256 位 36.5%
滿二十年以上 166 位 23.7%
學校是 否自評
自評學校教職員數 338 位 48.2%
非自評學校教職員數 363 位 51.5%
由表4 顯示,屬是否為授權自評學校之問卷填答者約各佔一半,填答者中年 資部分大多為20 年內,大多填答者為行政人員與曾或現任的主管,且多有參與過 校內校務評鑑,其中又以參與過行政類別評鑑的人為最多。「影響校務評鑑運用 因素」與各面向之平均數與標準差顯示於下表5。
表 5 校務評鑑運用影響因素描述統計量分析表
影響因素內涵構面 平均數 標準差
統計量 標準誤 統計量
評鑑實施因素 3.5704 0.02527 0.64272
政策決策因素 3.7824 0.02402 0.61093
評鑑人員因素 3.6721 0.02536 0.64504
進一步將「校務評鑑運用之用途」之理想重要程度與實際滿意程度經相依樣 本t 檢定,各題項及各構面平均數與標準差,以及依樣本 t 檢定值呈現如表 6 所示。
科技大學校務評鑑之運用及其影響因素
曾淑惠 張仁傑 15
表 6 校務評鑑運用理想上重要程度與實際運用滿意程度描述統計量 分析表
用途構面 理想上重要程度 實際運用滿意程度 相依樣本t 檢定
類型題號 平均數 標準差 平均數 標準差 t p
過程運用 3.99 .621 3.57 .697 18.019 .000
工具性 4.07 .616 3.62 .713 18.177 .000
1 4.00 .802 3.43 .918 15.469 .000
2 4.12 .733 3.75 .864 15.460 .000
3 4.16 .759 3.82 .873 10.912 .000
9 4.11 .797 3.68 .893 13.022 .000
10 3.95 .818 3.43 .979 13.558 .000
概念性 3.90 .694 3.51 .751 15.210 .000
4 3.95 .903 4.43 .996 13.731 .000
5 3.68 .891 3.36 .909 9.809 .000
6 3.89 .869 3.61 .927 8.689 .000
8 4.08 .825 3.65 .942 12.098 .000
象徵性 3.94 .844 3.53 .950 11.563 .000
7 3.94 .844 3.53 .950 11.563 .000
成果運用 3.79 .661 3.51 .681 12.162 .000
工具性 3.79 .711 3.55 .724 9.610 .000
12 3.72 .938 3.51 .921 5.957 .000
13 3.97 .782 3.72 .849 7.917 .000
14 3.83 .865 3.52 .900 8.444 .000
15 3.64 .879 3.38 .952 7.516 .000
16 3.79 .890 3.61 .926 5.147 .000
概念性 3.74 .695 3.40 .729 12.843 .000
11 3.80 .848 3.35 .920 12.344 .000
17 3.74 .878 3.48 .932 7.841 .000
18 3.61 .907 3.33 .923 8.642 .000
19 3.79 .830 3.47 .877 9.851 .000
象徵性 4.02 .836 3.80 .915 6.610 .000
20 4.02 .836 3.80 .915 6.610 .000
(續下頁)
由表6 所示得知教職員認為評鑑運用用途的理想重要程度顯著高於實際滿意 程度,其中過程運用之t(669)=18.109,p=0.000;成果運用之 t(648)=12.162,p=0.000。
二、評鑑運用之用途與影響評鑑運用因素的內涵分析結果
由於評鑑運用的用途分量表由兩構面組成,影響評鑑運用的因素由三構面組 成,若以驗證性因素分析確認兩分量表之構面,則評鑑運用的用途分量表無法獲 得統計結果,而影響評鑑運用的因素分量表之χ2值將為 0,當 χ2值為0 時表示為 假設模式與觀察數據十分適配,且p 值為 1 而 p < .05 為不顯著,顯示為一飽和模 式,而RMSEA 為 0,此顯示模式為完美適配(吳明隆,2009)。因此改以探索性 因素分析確認兩分量表的建構效度。採取「主成份分析」,配合「最大變異法」
為轉軸方式,保留特徵值大於1 的共同因素之條件進行分析,經計算評鑑運用的 用途分量表(以重要程度得分計算)的抽樣適當性量數(KMO)值等於 0.953,影 響評鑑運用因素的KMO 值為 0.97,依據 1974 年 Kaiser 所提出的 KMO 判別標準 是屬於優良,表示變項有共同因素存在(引自吳明隆,2009),結果如表 7 與表 8 所示。
表 7 評鑑運用的用途分量表因素分析摘要表
題 項 成 份
過程運用 成果運用 1. 藉由設定評鑑項目與指標,引導學校辦學契合教育政策與國際趨勢 0.716 0.348
2. 藉由評鑑過程,促使學校建立自我評鑑機制 0.730 0.308
3. 評鑑過程中所建立之資料庫,可以做為校內日後各類評鑑資料或校務研
究之資料來源 0.774 0.354
4. 藉由評鑑過程,發展各校特色,促進技職教育多元化 0.668 0.366
5. 藉由評鑑過程中,評鑑委員間彼此經驗交流,提升評鑑委員專業能力 0.608 0.362
6. 藉由評鑑過程,增進學校教職員對評鑑的認知 0.756 0.341
7. 透過評鑑過程,凝聚科系所與學校的共識 0.750 0.323
8. 透過評鑑過程,監督各校作業程序及辦學品質 0.775 0.321
9. 評鑑報告提供警訊並發掘問題 ( 如修正教育目標、發展方向、課程規劃
及教學方式…等),以進行自我改善 0.739 0.368
科技大學校務評鑑之運用及其影響因素
曾淑惠 張仁傑 17
表 7 評鑑運用的用途分量表因素分析摘要表(續)
(續下頁)
題 項 成 份
過程運用 成果運用 10. 評鑑報告做為學校投入資源給予需要協助系所之依據 0.622 0.449 11. 藉由客觀性指標提供量化數據,使社會大眾客觀理解評鑑結果 0.478 0.594
12. 評鑑結果做為教育部獎補助學校之依據 0.347 0.733
13. 評鑑結果做為教育部要求學校改善之依據 0.485 0.655
14. 評鑑結果做為教育部對學校增調所科系或綜合管控之依據 0.290 0.754
15. 評鑑結果做為學校主管做為教職員工要求的依據 0.387 0.730
16. 評鑑結果做為學校招生宣傳與學校行銷之依據 0.266 0.795
17. 評鑑結果做為家長或學生選擇就讀學校之參考 0.364 0.773
18. 評鑑結果做為企業評估捐資、實習合作與雇用畢業生之參考 0.363 0.736 19. 評鑑結果做為政策規劃 ( 如研修相關法規 ) 的參考 0.545 0.560
20. 評鑑結果提升學校形象與榮譽感 0.492 0.607
特徵值 6.820 6.142
因素解釋變異量% 34.102 30.711
累積解釋變異量% 34.102 64.813
表 8 影響評鑑運用因素分量表因素分析摘要表
題 項
成 份 評鑑實
施因素
評鑑人 員因素
政策決 策因素
1. 評鑑的設計(如指標與方法)是適切的 .668 .337 .240
2. 評鑑的管理(如時程與管控措施)是適切的 .631 .380 .191
3. 評鑑的實施符合評鑑倫理的規範 .609 .298 .265
4. 評鑑規劃與實施符合學校運作需求 .713 .329 .238
5. 評鑑的規劃與實施是有價值的,能符合社會大眾的期待 .683 .331 .296
6. 評鑑結果符合學校主管的期望 .511 .339 .209
12. 評鑑報告公布的時程是適當的(在教育部或學校主管需要作
出重大決策前) .616 .289 .189
13. 評鑑報告內容的質與量是適切的 .555 .453 .260
表 8 影響評鑑運用因素分量表因素分析摘要表(續)
題 項
成 份 評鑑實
施因素
評鑑人 員因素
政策決 策因素 14. 學校行政主管對校務評鑑抱持支持與肯定的態度 .555 .453 .260 15. 學校行政主管有實際提供其職權範圍內因應評鑑所需資源 .484 .467 .245 17. 評鑑過程中所蒐集的資訊可以幫助改善教學與行政運作 .656 .277 .225 18. 校務評鑑的結果與其他專案評鑑結果沒有不一致的情形 .528 .353 .275 19. 評鑑報告提供的建議,能切合學校待改進的事項或發展的需
求 .663 .264 .375
29. 我能接受並認同評鑑的結果 .669 .306 .404
30. 評鑑的結果符合我工作上的需求 .690 .194 .423
31. 我支持進行校務評鑑 .739 .004 .260
7. 評鑑人員具有聲望 .338 .729 .189
8. 評鑑人員具有受評領域的專業知能 .244 .806 .245
9. 評鑑人員具有熟稔的評鑑技巧 .321 .687 .338
10. 評鑑人員在到校評鑑時與受評單位做充分的溝通 .330 .656 .289
11. 評鑑人員切實遵守倫理守則 .387 .602 .331
16. 學校行政主管表達樂意使用評鑑相關資訊 .134 .483 .567
20. 我所工作單位的人員間互動情形良好 .216 .115 .679
21. 我所工作單位的氛圍,能很快地因應環境變化而造成的組織
變革 .199 .223 .560
22. 我所工作單位人員間,時常進行評鑑資訊的分享與交流 .331 .283 .666 23. 校務評鑑的過程中,有關的教職員生都有參與 .176 .108 .707 24. 校務評鑑的過程中,受評單位人員與評鑑人員互動情形良好 .321 .113 .682 25. 有興趣使用評鑑中所產生之資料的人都積極地參與評鑑 .368 .280 .640 26. 主要參與評鑑的教職員具有對評鑑政策發展方向的敏感度 .223 .369 .609
27. 參與評鑑的內外部評鑑人員是可信任的 .146 .366 .509
28. 主要參與評鑑的教職員,其職位在學校中具有影響力 .421 .471 .471
特徵值 15.404 1.294 1.602
因素解釋變異量% 25.707 16.477 16.848
累積解釋變異量% 25.707 42.129 59.032
科技大學校務評鑑之運用及其影響因素
曾淑惠 張仁傑 19
由表7 及 8 所示可知,評鑑運用的用途分量表共計抽取兩因素,累積解釋變 異量64.813%;影響評鑑運用因素分量表共計抽取三因素,累積解釋變異量 59.
032%,皆顯示研究工具效度均在可接受範圍。
三、以重要 - 表現分析法呈現填答者在問題屬性的認知差異情形
重要- 表現程度分析法(Importance-Performance Analysis, IPA)以「表現程 度」(實際)為橫座標,「重要程度」(理想)為縱座標,將每個填答問題分布 在四個象限,此四個象限有其評鑑與績效評估的意義,呈現填答者在問題屬性的 認知(cognition)與情意(emotion)的差異情形。第Ⅰ象限為「繼續保持(keep up the work)」,表示在重要程度與表現程度的評分均高,受評標的表現良好。
第Ⅱ象限為「加強改善(concentrate here)」,表示在重要程度高但表現程度卻 低,當務之急是加強改善在這個象限上的受評標的。第Ⅲ象限為「優先序低(low priproty)」,表示在重要程度與表現程度都較低,因此,必須處理改善的優先次 序較低,並非必須立即處理。第Ⅳ象限為「過度重視(possible overkill)」,表示 重要程度不高,但受評標的卻被過度練習表現,宜降低對這個象限上受評標的過 度重視(林原宏,2009)。本研究以重要 - 表現程度分析法分析科技大學教職員對 各種評鑑過程與成果運用題項的重要程度、表現程度在四個象限的分布情形及其 代表的意義。結果呈現如圖2. 所示。
字數
在 第
「藉
(2 務經 中 的看 協助 黃嘉 激勵 善的 19 題
數:17861
在重要-表現 13 題與第 藉由評鑑過
007)、鄭淑 經驗的增進
「評鑑結果 看法,透過 助的角色,
嘉雄(2012 勵校內士氣 的第二象限 題落在優先
圖2
現分析圖當 20 題落在 過程,增進 淑惠(2016 進外,促進參 果做為教育部 過評鑑結果所 以提升學校 2)及陳錦玉 氣與對外宣傳 限;第5 題、
先順序較低的 2. 評鑑運用
中得知,第 在繼續保持的
進學校教職 6)均曾指出
參與者的專 部要求學校 所呈現之待 校辦學品質 玉(2016)
傳行銷。第
、第11 題、
的第三象限 14卷3期
19 用的用途重要
第2 題、第 的第一象限 職員對評鑑 出參與評鑑 專業學習亦 校改善之依據
待改善或不 質;對於「評
都認為行政 第1 題、第 4
、第12 題 限;第16 題
要-表現分析
3 題、第 6 限。代表著理 鑑的認知」
鑑的行政人員 有多面向的 據」,鄭淑惠 通過的情形 評鑑結果提
政機關透過 4 題、第 7
、第14 題 題落在過度重
主題:
析圖
6 題、第 8 理想與現實
,例如 Am 員,不但對 的學習效果 惠(2016)
形,賦予行 提升學校形象
過評鑑結果 題與第10
、第17 題 重視的第四
:教育政策與
題、第9 題 實同等的重要 mo 及 Cou 對政策認知與 果。於成果運 也提出了類 行政科室督導 象與榮譽感 果可說服他人
0 題落在加強
、第18 題與 四象限。
與制度
題、
要,
usins 與實 運用 類似 導與 感」,
人並 強改 與第
圖 2 評鑑運用的用途重要 - 表現分析圖
在重要- 表現分析圖當中得知,第 2 題、第 3 題、第 6 題、第 8 題、第 9 題、
第13 題與第 20 題落在繼續保持的第一象限。代表著理想與現實同等的重要,「藉 由評鑑過程,增進學校教職員對評鑑的認知」,例如Amo 及 Cousins(2007)、
鄭淑惠(2016)均曾指出參與評鑑的行政人員,不但對政策認知與實務經驗的增 進外,促進參與者的專業學習亦有多面向的學習效果。於成果運用中「評鑑結果 做為教育部要求學校改善之依據」,鄭淑惠(2016)也提出了類似的看法,透過 評鑑結果所呈現之待改善或不通過的情形,賦予行政科室督導與協助的角色,以 提升學校辦學品質;對於「評鑑結果提升學校形象與榮譽感」,黃嘉雄(2012)
及陳錦玉(2016)都認為行政機關透過評鑑結果可說服他人並激勵校內士氣與對 外宣傳行銷。第1 題、第 4 題、第 7 題與第 10 題落在加強改善的第二象限;第 5 題、
第11 題、第 12 題、第 14 題、第 17 題、第 18 題與第 19 題落在優先順序較低的 第三象限;第16 題落在過度重視的第四象限。
四、模式適配度檢定
( 一 ) 影響校務評鑑運用因素與評鑑運用用途間關係之模型結構信度分析 藉由各變項的標準化負荷量獲得組合信度,以衡量潛在指標的一致性,而同 時Kline(1998)指出信度係數在 0.9 以上即為優秀,結果如表 9 所示。
表 9 組合信度表
潛在變項 觀察變項 R2 組合信度 平均變異數抽取量
影響因素
λ1 0.81
0.94 0.83
λ2 0.85
λ3 0.83
評鑑用途 λ4 0.81
0.90 0.81
λ5 0.81
( 二 ) 模式整體效度檢定
經由上述,「影響校務評鑑運用因素」模型無論於組合信度、違犯估計與整 體適配指標,皆證明此一模型為適配且可接受的。因此,本研究將進一步藉由「絕 對適配量測」、「增值適配量測」與「簡效適配量測」三種不同數值再進一步探 究其適配度。
科技大學校務評鑑之運用及其影響因素
曾淑惠 張仁傑 21
1. 絕對適配值量測:藉由表 10 得知,於絕對適配值中僅 χ2的p 值為 0.1313 未達標準值小於0.005 以外,其餘 GFI 為 0.99 大於最低標準值 0.09、SRMR 為 0.08 比最大標準值小0.02 與 RMSEA 值為 0.03 也小於最大標準值,以上各指標數值大 都符合要求,表示此假設模型為可接受。
2. 增值適配量測:增值適配指標包含 NNFI、NFI、IFI 與 CFI,其標準皆須比 標準值0.9 大,而本研究其相關檢測值皆為 0.99,顯示皆大於其標準,表示其假設 模型為可接受。
3. 簡效適配測量:於簡效適配測量指標中 PNFI 值為 0.4 符合大於最小標準值 0.05、PGFI 值為 0.27 亦大於最小標準值 0.05、Normed Chi-Square 值為 1.98 於 1-5 之間符合標準、Critical N 值為 1312.28 也大於最小標準值 200,上述數值皆顯示本 模式為可接受且適配。
表 10 模型總適配指標衡量表
整體適配指標 檢驗值 標準值 模式適配判斷
χ2、df、p 值 7.09, 4, p=0.1313 p<0.05 不符合
GFI 0.99 ≧0.90 符合
SRMR 0.08 ≦0.1 符合
RMSEA 0.03 ≦0.08 符合
NNFI 0.99 ≧0.90 符合
NFI 0.99 ≧0.90 符合
IFI 0.99 ≧0.90 符合
CFI 0.99 ≧0.90 符合
PNFI 0.40 ≧0.05 符合
PGFI 0.27 ≧0.05 符合
Normed Chi-Square 7.9/4=1.98 1.0-5.0 符合
Critical N 1312.28 ≧200 符合
透過「絕對適配量測」、「增值適配量測」與「簡效適配量測」三種不同指 標檢定本假設模型,得知本模型相關數值皆符合其原指標之設定,顯示無論於整 體模型適配度或各適配測量中,本假設模型均具備其穩定性。
( 三 ) 觀測變數與潛在變數因果性關係估計結果
根據本研究所建構之假設模型,並利用LISREL 統計軟體分別估計之參數結 果如圖3. 所示。
圖 3 假設模型實證結果
由圖3 得知 λ1 - λ5的標準化參數皆未大於0.95,表示其並非過大之參數,且 t 值皆大於1.96 為顯著。而本研究估計結果發現於「影響評鑑運用因素」中「評鑑 實施」、「政策決策」與「評鑑人員」等三構面,皆顯示為適合的衡量指標,三 項因素都具有很高的影響力。
「評鑑運用用途」主要由「過程運用」與「成果運用」所構成,同時也皆為 適合衡量指標,而「過程運用」與「成果運用」於「評鑑運用用途」中扮演著相 等重要的角色,兩者於數據上並無差異。這也呼應了鄭淑惠(2016)宣稱成果運 用與過程運用同等重要的結論。
伍、結論與建議
一、結論
(一)評鑑運用的用途分為過程運用與成果運用兩構面
透過文獻分析與統計驗證得知校務評鑑實際用途內涵,包括「過程運用」與
「成果運用」兩構面共20 題項。「過程運用」中有關工具性運用包括藉由設定評 鑑項目與指標,引導學校辦學契合教育政策與國際趨勢、藉由評鑑過程,促使學
科技大學校務評鑑之運用及其影響因素
曾淑惠 張仁傑 23
校建立自我評鑑機制、評鑑過程中所建立之資料庫,可以做為校內日後各類評鑑 資料或校務研究之資料來源、評鑑報告提供警訊並發掘問題,以進行自我改善、
評鑑報告做為學校投入資源給予需要協助系所之依據;觀念性運用包括藉由評鑑 過程,發展各校特色,促進技職教育多元化、藉由評鑑過程評鑑委員間彼此經驗 交流,提升評鑑委員專業能力、藉由評鑑過程增進學校教職員對評鑑的認知、透 過評鑑過程監督各校作業程序及辦學品質;象徵性運用則為透過評鑑過程,凝聚 科系所與學校的共識。於「成果運用」中工具性運用包括評鑑結果做為教育部獎 補助學校、要求學校改善、對學校增調所科系或綜合管控之依據;評鑑結果做為 學校主管做為教職員工要求、招生宣傳與學校行銷之依據。觀念性運用包括藉由 客觀性指標提供量化數據,使社會大眾客觀理解評鑑結果;評鑑結果做為家長或 學生選擇就讀學校、企業評估捐資實習合作與雇用畢業生、政策規劃(如研修相 關法規)的之參考。象徵性運用則有評鑑結果提升學校形象與榮譽感。
(二)影響評鑑運用的因素則可分為評鑑實施、政策決策及評鑑人員三構面 透過文獻分析與統計驗證得知影響校務評鑑運用因素的內涵包括「評鑑實 施」、「政策決策」與「評鑑人員」等三構面共31 題項。於「評鑑實施」因素包 含學校行政主管對校務評鑑抱持支持與肯定的態度,有實際提供其職權範圍內因 應評鑑所需資源;評鑑的設計與管理適切的;評鑑規劃與實施符合評鑑倫理的規 範,是有價值的,能符合社會大眾的期待,且符合學校運作需求;評鑑過程中所 蒐集的資訊可以幫助改善教學與行政運作;評鑑結果符合學校主管的期望與被評 鑑者工作上的需求,且與其他專案評鑑結果沒有不一致的情形;評鑑報告的時程 是適當的,內容的質與量是適切的,提供的建議能切合學校待改進的事項或發展 的需求;被評鑑者支持進行校務評鑑,接受並認同評鑑的結果等。「政策決策」
因素包括學校行政主管表達樂意使用評鑑相關資訊;受評者工作單位的人員間互 動情形良好,工作氛圍能很快地因應環境變化而造成的組織變革,人員間時常進 行評鑑資訊的分享與交流;校務評鑑的過程中,有關的教職員生都有參與,有興 趣使用評鑑中所產生之資料的人都積極地參與評鑑;受評單位人員與評鑑人員互 動情形良好;主要參與評鑑的教職員其職位在學校中具有影響力,且具有對評鑑 政策發展方向的敏感度;參與評鑑的內外部評鑑人員是可信任的。「評鑑人員」
因素包括評鑑人員具有聲望、受評領域的專業知能、熟稔的評鑑技巧、切實遵守 倫理守則,在到校評鑑時與受評單位做充分的溝通。
(三)評鑑運用的用途理想重要程度顯著高於實際滿意程度,「評鑑結果做 為學校招生宣傳與學校行銷之依據」受到過度重視
科技大學校務評鑑運用的用途分過程與成果運用兩構面,理想重要程度之平 均值顯著高於實際滿意程度。如果採用IPA 以整體理想重要程度(3.90)與整體實 際滿意程度(3.56)總平均值做為 X-Y 軸標準線的分隔點,題目落於第一象限代 表意涵為「繼續保持、極度重視」,包含了「藉由評鑑過程,促使學校建立自我 評鑑機制」、「評鑑過程中所建立之資料庫,可以做為校內日後各類評鑑資料或 校務研究之資料來源」、「藉由評鑑過程,增進學校教職員對評鑑的認知」、「透 過評鑑過程,監督各校作業程序及辦學品質」、「評鑑報告提供警訊並發掘問題,
以進行自我改善」、「評鑑結果做為教育部要求學校改善之依據」與「評鑑結果 提升學校形象與榮譽感」共七題;第二象限為「加強改善」,包含了「藉由設定 評鑑項目與指標,引導學校辦學契合教育政策與國際趨勢」、「藉由評鑑過程,
發展各校特色,促進技職教育多元化」、「透過評鑑過程,凝聚科系所與學校的 共識」與「評鑑報告做為學校投入資源給予需要協助系所之依據」共四題;第三 象限為「優先序低」,包括有「藉由評鑑過程中,評鑑委員間彼此經驗交流,提 升評鑑委員專業能力」、「藉由客觀性指標提供量化數據,使社會大眾客觀理解 評鑑結果」、「評鑑結果做為教育部對學校增調所科系或綜合管控之依據」、「評 鑑結果做為家長或學生選擇就讀學校之參考」、「評鑑結果做為企業評估捐資、
實習合作與雇用畢業生之參考」與「評鑑結果做為政策規劃的參考」共七題;第 四象限為「過度重視、重新審視」,包含有「評鑑結果做為學校招生宣傳與學校 行銷之依據」共一題。
(四)本研究所提出之影響科技大學校務評鑑運用因素與用途模式架構為一 適配模型
經文獻分析及問卷調查兩階段歷程,歸納出影響校務評鑑運用因素主要由「評 鑑實施」、「政策決策」與「評鑑人員」三部分所構成,校務評鑑運用的用途主 要由「過程運用」與「成果運用」所構成,同時校務評鑑的影響因素確實會對實 際上的評鑑運用產生影響,經驗證結果模式適配情形良好,三項因素都具有很高 的影響力,至於過程運用與成果運用受到影響因素的影響力,則大致相同。