此階段評估中參與式調查的部份,以三名交通大學大一學生作為受試者,實 際於圖書館中使用思謎遊第二版原型系統,進行一個小時的導覽遊戲活動,並由
本研究者以 DV 錄影機在受試者進行活動的過程當中,從旁記錄與觀察後,於事 後分析階段利用錄製的影片檔案,歸納整理出關於系統功能與介面設計、遊戲題 目、受試者使用之輔助資源、系統評估方式、臭蟲(bug)發掘及其他等類別的 資料,並統計三名受試者使用系統發生錯誤的次數作為「客觀績效測量」的數據 資料,三名受試者共發生 7 個錯誤。此外,於受試者使用系統後,以問卷評測受 試者對於系統各面向的滿意程度(以 1 到 7 代表從非常不滿意到非常滿意的滿意 程度),經事後統計分析六個向度的平均分數皆大於 5。最後,使用半結構式的 訪談蒐集受試者使用系統的過程中所遭遇到的問題、對於系統整體及遊戲可玩性 的評價、學習成果與建議等方面的資料,事後以開放性編碼將受試者的訪談內容 歸類成「對於系統介面的感受與建議」、「對於系統功能的感受與建議」、「對於活 動整體的感受與建議」、「使用系統學習到的知識與技能」、「對於系統遊戲性的感 受與建議」、「對於遊戲題目的感受與建議」、「對於系統的整體評價」及「其他」
等八個類目。以下將詳細說明此階段各部分的評估結果。
一、 參與式調查
本研究者在分析參與式調查所錄製的影片後,統計受試者使用系統發生錯誤 的次數作為「客觀績效測量」的數據資料。三位受試者使用系統進行一個小時的 活動期間,受試者 A 發生 3 次錯誤,受試者 B 與 C 皆發生 2 次錯誤,由於在客 觀績效測量當中,錯誤次數越少表示系統設計越佳,因此顯示第二版原型系統的 介面設計與功能上所出現的使用性問題已經不多。受試者發生錯誤的情況描述及 解決方式見下表 4-2-1:
表 4-2-1 參與式調查期間受試者使用系統發生的錯誤情況描述與解決方法
面的「作答」鍵太過於靠近 Windows CE 程式預設工具列 (見下圖 4-2-1),因 此造成誤觸工具列上的功能鍵,但此 2 個錯誤皆由受試者直覺性的重新點選工具 列上的功能鍵一次將該功能關閉,作為解決錯誤的方法。由於此錯誤易於恢復,
且系統介面的版面配置受限於 PDA 的小畫面,故此錯誤不視為亟需修正的使用 性問題。
圖 4-2-1 答題畫面中作答鍵與程式預設工具列上功能鈕的位置示意畫面
此外,本研究者亦從參與觀察受試者使用系統進行活動及分析錄製影片的過 程中,獲得許多關於本研究的重要參考資料,這些資料經歸納後大致上可分為幾 個部分:系統功能與介面設計、遊戲題目、受試者使用之輔助資源、系統評估方 式、臭蟲發掘及其他等,茲將分述如下:
(一)系統功能與介面設計部分
三位受試者皆對於進入挑戰題答題畫面後無法放棄的設計感到困擾,受試者 A 因此花費過多時間在挑戰題上,而受試者 B 則因無法找到解答挑戰題的方法,
遂以猜題方式完成該題。因受試者的反應非本研究系統設計的初衷,因此於挑戰 題答題畫面設計一放棄按鈕為此階段評估後,系統亟需立刻新增的功能。
(二)遊戲題目
三位受試者於使用系統進行導覽遊戲活動的過程中,共發現了 10 個關於遊 戲題目的錯誤之處,部分錯誤的原因是圖書館現行的規則、架位有所更動,與出
題時的情況有所差異所造成;部分錯誤則是活動實施上的失誤,如挑戰題的書被 借走了,造成受試者沒有解題的依據,以及漫畫研究中心的門被鎖住而無法進入 等。因此此階段評估後需針對這些有錯誤的題目逐一作校正;而與解題相關的書 目與空間,也必須於下一階段評估前,確保其是在受試者可以使用的狀態。
(三)受試者使用之輔助資源
三位受試者皆有使用圖書館內的電腦網路及平面圖幫助自己作答,值得注意 的是,受試者 A 使用電腦作答時的網路連線品質不佳,因此花費較多時間在等 待網頁上,故於下階段評估進行前,確保當天圖書館沒有進行網站的維修及網路 連線正常是必要的準備工作。此外,受試者 C 會以詢問館員的方式協助自己解 決遊戲問題,而為避免館員質疑受試者詢問的目的,造成評估測試難以進行,故 於下階段評估前,先請本研究設計團隊中的圖書資訊領域專家、亦為本校圖書館 的館員告知其同仁本系統評估的目的,以利評估順利進行。
(四)系統評估方式
本研究者亦從此階段評估後,獲得許多可協助改進思謎遊系統評估方式的資 料,如在本研究者實際以 DV 錄影機拍攝受試者使用系統進行導覽遊戲活動的過 程當中,由於受試者經常處於「動」的狀態,因此不但有時候會因角度、反光等 因素無法拍攝到受試者操作的畫面,更容易因為錄影機的對焦功能跟不上受試者 的移動,造成拍攝到的畫面模糊難以辨識。故本研究者在發現此情形後,告知受 試者若有發生異常的操作情況時,以口說的方式回報錯誤,以避免無法收集到受 試者操作系統時的錯誤資料。此外,由於思謎遊系統為一需要持續移動且需兩手 操作的行動遊戲式系統,但在招募受試者的過程當中並未告知其最好以輕便的穿 著來進行測試,造成受試者 B 為肩背著體積較大的包包進行系統的測試,此點 在某整程度上可能影響受試者使用系統的感受與成效,因此在招募下一階段受試 者時,本研究者將特別告知受試者以輕便的穿著來進行測試。
最後,本研究者於此階段評估時忽略了本校圖書館七樓「發展館」的開放時 間,導致受試者 A 在非發展館開放的時間進行系統測試,因而無法作答大量與
發展館相關的題目。故下階段評估時需要求應徵的受試者選擇發展館開放的時間 進行評估測試。
(五)臭蟲發掘
參與式調查的評估過程當中,共發掘出 2 項目前系統的臭蟲。第一項為受試 者 A 發現先前已作答完畢的題目再次出現;第二項為受試者 B 發現使用「略過 此題」功能至新的一題作答後,若於下一題同樣選擇該樓層該類型的題目,會先 出現剛剛被自己略過的題目。此 2 項系統臭蟲亦需於評估過後告知程式設計師進 行除錯工作。
(六)其他
此階段評估的過程當中,亦發現一些值得注意的其他資料,如在作答需尋找 某本書籍的題目時,受試者皆為使用電腦搜尋該本書籍的索書號,並以圖書館查 詢電腦旁的 memo 紙抄寫下書本的索書號,再以雙手分別拿取 PDA、觸控筆、
以及抄有索書號的紙張。此情形在某種程度上或許會影響受試者操作系統的靈活 度;而在找到書籍之後,由於需雙手翻閱書本尋找答案,故受試者皆會將 PDA 放在鄰近的書架上,亦可能造成遺失觸控筆或設備墜落的情況發生。但由於並無 受試者反應上述情況發生時造成其困擾,因此本研究者將之視為不需立即處理的 問題。
二、 系統滿意度問卷
統計三名受試者於參與式調查評估後填寫的系統滿意度問卷,可以得到受試 者對於思謎遊系統滿意程度的量化資料(以 1 到 7 代表從非常不滿意到非常滿意 的滿意程度),下表 4-2-2 為第二階段評估的系統滿意度問卷描述性統計資料:
表 4-2-2 第二階段評估系統滿意度問卷描述性統計表(n=3)
25. 此遊戲能夠針對不同程度的學習者給予不同的挑戰。 4.67 1.70 26. 當執行任務成功(或失敗)時,遊戲會提供立即的回
饋。 6.33 0.47
27. 此遊戲能照我自己想要的策略來進行。 5.00 1.41 28. 整體說來,我很滿意這個系統。 6.33 0.47
從上表可以得知三位受試者所填答的 28 個系統滿意度問卷項目中,平均數達到 中上(超過 4)的項目為 27 項,僅有第 5 項「本系統提供清楚的錯誤訊息及修 復方式」平均為 3.67 較為不良。其中又以第 7 項「這個系統提供的資訊(例如 剩餘時間)是清楚的」及第 19 項「因為參與這個遊戲,讓我想知道更多圖書館 相關的知識與技能」之平均分數同為 6.67 為最高分的項目;第 5 項「本系統提 供清楚的錯誤訊息及修復方式」平均為 3.67 及第 8 項「在這個系統中,很容易 可以找到我要的資訊」的平均分數為 4.33 屬最低分的項目。
此問卷並可評測六個向度的使用者滿意程度(以 1 到 7 代表從非常不滿意到 非常滿意的滿意程度),各向度的平均分數見下表 4-2-3:
表 4-2-3 各向度平均分數表
向度名稱 題數(n) 平均數(M)
整體滿意度分數 28 5.87
系統有用程度 4 6.08
資訊品質 7 5.38
介面品質 3 5.89
使用系統後的學習成果 10 6.07 遊戲性滿意程度 5 5.87
從上表可以得知此問卷所評測的六個使用者滿意程度向度平均數皆大於 5,顯示 目前受試者在此六個面向上對系統設計的滿意程度高,其中尤以「系統有用程度」
的得分 6.08 最高。
最後,本系統滿意度問卷亦於每個問卷項目後設有「意見與建議」欄位,此 雖非受試者必填的欄位,但其亦有助於本研究獲得受試者對於使用系統的感受、
建議、與意見的質性資料。三名受試者共提出 22 項意見與建議,詳細的受試者 意見與建議及其對應的問卷項目與編號請見附錄十。為從這些寶貴的意見與建議 中萃取出可供本研究系統進行修改的要點,本研究者將此 22 項意見與建議進行
建議、與意見的質性資料。三名受試者共提出 22 項意見與建議,詳細的受試者 意見與建議及其對應的問卷項目與編號請見附錄十。為從這些寶貴的意見與建議 中萃取出可供本研究系統進行修改的要點,本研究者將此 22 項意見與建議進行