((二二二二))))訪談方案相關人員訪談方案相關人員訪談方案相關人員訪談方案相關人員
訪談是發展方案理論最重要也是最直接的方式,透過面對面的互動與討論可 獲得方案理論的一手知識與經驗。訪談的對象可包括:方案的設計者、方案主辦 人員、方案目標團體、與方案相關的團體代表。然而,來自不同對象所得的觀點 可能無法達成共識,研究者需要配合文獻資料,進一步歸納出三至四個主要的理 論軸線,以便於後續評鑑之進行。
((
((三三三三))))觀察方案的運作觀察方案的運作觀察方案的運作觀察方案的運作
觀察方案在不同現場的運作,可以瞭解實際投入的資源及其形成的例行活 動,或者發掘方案與實踐兩者間的落差。此外,可用以檢核方案文件及方案人員 可能產生單方視野造成的限制,並確認訪談對象所表達的概念是否與實踐相契 合。因此,為提升方案理論的品質,宜避免只依據單一方案參與者的觀點或邏輯 理論基礎,必須運用多元因果解釋的邏輯分析及研究理論,對照方案利害關係人 對於方案如何達成目標的不同信念,進行多元檢核。
貳 貳 貳
貳、 、 、 、方案理論評鑑 方案理論評鑑 方案理論評鑑 方案理論評鑑的概念 的概念 的概念 的概念
一 一 一
一、、、、方案理論評鑑的意涵方案理論評鑑的意涵方案理論評鑑的意涵方案理論評鑑的意涵
方案評鑑係運用社會研究的程序,系統地調查社會介入方案在其政治及組織 環境中的有效性,其目的除了評估方案的成果及價值外,更重要的是藉此獲得有 用的資訊,以協助解決社會問題(Chen, 2004; Rossi et al., 1999)。然而,過於強 調科學研究方法的應用,以及引發質性與量化方法論的優劣爭議,往往窄化方案 評鑑的焦點,致使評鑑者忽略理論的重要性。約莫 30 多年前,評鑑學者(如 Bickman、Chen、Rossi 及 Weiss 等)強調評鑑需要精確地測試方案理論(Petrosino, 2000),由於非以方案理論為基礎的評鑑,其評鑑焦點只放在方案的投入與結果,
而不探究影響方案的過程,因此無法詳細闡述方案成功或失敗的原因,這種評鑑
被稱為「黑箱評鑑」(Lipsey, 2007; Rogers, 2005; Rossi et al, 1999)。相較於「方 法導向」的評鑑,方案理論評鑑採用整體的取徑對方案進行價值評估,它提供一 個較高層次的目標,結合質性方法瞭解方案利害關係人的觀點,並以量化方法檢 驗之間的因果關係。因此,能夠分析、提供有效研究建議,直指方案的問題與影 響(Carvalho & White, 2004; Chen, 1997; Chen, 2004; Rogers, 2005)。
由於學者們對「方案理論評鑑」的不同用詞,可能造成評鑑者的困擾,
Donaldson(2005)認為在方案理論評鑑往前開展時,須對用詞意義加以澄清闡 述,以使從事評鑑者更為清楚,可用是一項重要的事情。「方案理論評鑑」較為 常見的用法如:「方案理論評鑑」(program theory evaluation)(Rogers, Hacsi, Petrosino, & Huebener, 2000)、「理論本位評鑑」(theory-based evaluation)(Davidson, 2000; Weiss, 2007)及「理論導向評鑑」(theory-driven evaluation)(Chen, 1990b;
Donaldson, 2005)。Davidson(2000)進一步表示,「理論導向評鑑」(theory-driven evaluation)會使人誤認為以特定理論驅使評鑑,而非評鑑方案本身,而「方案 理論評鑑」(program theory evaluation)則會被以為評鑑的主要任務是方案理論的 評鑑,而非方案本身的評鑑。雖然有不同的名詞,但同樣是運用方案理論指引評 鑑,本研究為凸顯「方案理論」的概念,因此一概使用「方案理論評鑑」一詞,
係指評鑑的重點在驗證方案理論的因果邏輯假設,說明其中的機制如何影響方案 結果及為何產生最後的方案結果(Weiss, 2000)。。
二 二 二
二、、、、方案理論評鑑的實施方案理論評鑑的實施方案理論評鑑的實施方案理論評鑑的實施
方案理論評鑑大多由發展方案理論開始,以引導評鑑活動的進行。每個方案 都有理論基礎,評鑑者的任務便是引出、建構方案底下的理論假設。發展方案理 論模式的步驟大致如下。
(
(
(
(一一一一))))界定評鑑目的及脈絡界定評鑑目的及脈絡界定評鑑目的及脈絡界定評鑑目的及脈絡
方案理論可用於總結性目的、形成性目的或持續的方案監控(Bickman,
2000),然而無論何種目的,清楚描繪出方案執行的過程是方案理論評鑑的重要 特徵,因此評鑑活動必須呈現「過程評鑑」的特點。
(
(
(
(二二二二))))分析方案理論模式的要素分析方案理論模式的要素分析方案理論模式的要素分析方案理論模式的要素
方案理論模式的要素可包含投入(人力和物力)、產出(活動和參與者的行 為)、消費者反應、短中長期成果及外部關鍵性脈絡因素等。若採用 Weiss「方案 改變理論」的觀點,「執行理論」包含投入和產出;「方案理論」則是消費者反應、
短中長期成果。
((
((三三三三))))描繪方案理論的模式描繪方案理論的模式描繪方案理論的模式描繪方案理論的模式
方案的因果邏輯是方案理論的核心,而因果邏輯的呈現可以是簡單的或複雜 的架構,不過在方案理論模式中多以線性因果關係表現機制作用。談到方案理論 模式的呈現方式,可參考前述學者們(Chen, 1990a, 1990b; Rossi, Freeman, &
Lipsey, 1999; Funnell, 2000; Weiss, 2007)對於方案理論的概念架構的做法。
(
(
(
(四四四四))))檢驗方案理論模式檢驗方案理論模式檢驗方案理論模式檢驗方案理論模式
建構方案理論模式後,便要蒐集實徵資料佐證理論,但 Chen(1990b)認為 方案理論的描述(因果)理論可採用假設檢定的考驗方式,而規範理論的部分,
則經由評鑑者觀察方案活動是否有效被執行。
關於考驗方案理論模式中因果機制的方式,學者們主要使用三種方式:因果 模式(causal modeling)、型式配對(pattern matching)、歷程操弄(process manipulation)(Conrad & Buelo, 1990; Mark, 1990; Marquart, 1990; Riggin, 1990;
Smith, 1990)。因果模式(如線性結構分析、結構方程模式)是透過測量,評估 方案中介過程的中介變項。Smith(1990)認為路徑分析是因果模式的一種形式,
以路徑圖及數學方式呈現及考驗和觀察資料的符合度,可以用來發展和評鑑方案 理論,瞭解方案的直接和間接效果。型式配對主要測試理論模式和觀察模式的符 合程度。理論模式來自方案設計者的觀點,可藉由邏輯模式、路徑圖或概念圖描
繪出來;觀察模式來自測量方案參與者反應的資料。換言之,型式配對可採用質 性或量化的方式,比較理論所預期的關係與評鑑所獲得的資料,但是兩個型式需 要多大的符合度才能確證理論,仍待更多的研究分析(Weiss, 1997)。歷程操弄 則透過介入,操弄過程變項以探究、促進或抑制方案中介過程的假設成分。就廣 義的觀點而言,方案理論評鑑可視為探究社會問題本源的過程。由於考驗因果機 制的方法,各有其適用的條件和限制,Mark(1990)認為可以採取不同的形式,
對方案的中介變項、原因、結果、方案參與者、情境及時間等面向進行考驗。