第四章 實驗結果與系統評估
第三節 實驗環境
本節將詳細說明整項研究的測試環境,包含測試工具、測試設計與測試任務,
盡可能地表達出本次實驗的各種潛在變數,不僅讓後續的研究人員有個可參照的 方法架構,也能提供一些可以改善研究的契機。
一、 測試工具
(一)
螢幕錄製工具 Open Broadcaster Software:為了收集足夠的數據以輔助日後的研究,本研究使用螢幕錄製軟體 Open Broadcaster Software(OBS)記錄整個實驗過程。OBS 可自行設定錄製內容的畫面 配置,因此本研究除了錄製測試中的螢幕內容外,同時也利用視訊鏡頭測錄受測 者的受測情形,並且記錄於同一檔案中,以方便日後回顧測試過程,實際錄製結 果如圖 4-1。
圖 4-1 螢幕錄製輸出結果
(二)
測試主機為了減少硬體差異所造成的變數,研究者提供同一台主機讓受測者進行實驗,
主機規格呈現於表 4-1。瀏覽器也統一使用 Chrome 的無痕模式,避免在測試過 程中,瀏覽器暫存所影響到的任何變數。
60
表 4-1 系統規格 主機型號 ASUS X450C
處理器 Intel i5-3337U CPU 1.8 GHz
RAM 8.00GB
作業系統 Win8.1 (64-bit)
瀏覽器 Chrome 51.0.2679.0 canary (64-bit)
二、 操作設計
實驗一開始會先請受測者填寫基本資料,在完成基本資料後,會對受測者進 行實驗解說,包含了時間限制、計時方式、螢幕錄製與側錄的內容、回答與發問 的方式,為了幫助受測者加深印象,螢幕向也會提供小卡幫助受測者閱讀說明。
在完整了解實驗規則後,會進行測試題,採取計時而不限時的方式,讓受測 者習慣在計時的情境下操作,當受測者找到任務目標時,會詢問是否足以了解該 平台的使用方式,若已了解,則進入實測,若尚未了解,受測者可以持續探索平 台直到熟悉為止。
待受測者了解平台操作模式後,並開始進入實測,以限時五分鐘的方式控制 受測者的搜尋時間,而計時方式是由受測者自行操作開始與結束,目的是減少測 試人員與受測者因溝通不良所造成的誤差。過程中,受測者每完成一項任務,測 試人員並會記錄任務搜尋時間、完成與否以及完成數,紀錄完畢才進入下一項任 務。
61
在四項實測任務結束後,測試人員會請受測者在問卷上,針對方才使用的平 台給予想法與意見,除此之外,也會對於實驗的過程中,任何與測試人員預期相 違的行為進行詢問,諸如操作上的遲疑、任務語意的誤會或是其他特殊情形,這 些內容都是日後延伸研究的重要資訊。
三、 測試任務
任務的設計將直接影響到實驗結果,本研究將任務設計的重心放在查找實體 之間的關聯性上,企圖仿照人文學者追求事物脈絡的需求,並以這些任務的查詢 結果來測試平台的關聯查詢功能。下列將逐一列出四項任務的內容,同時為了讓 受測者方便反覆確認任務內容,因此放置提示圖像在螢幕中,圖像也會在後續說 明中呈現。
(一) 練習任務與實驗說明
圖 4-2 為練習任務與實驗說明的提示圖像,因為練習題並未列入採納之中,
故並未限以時間限制,而實驗說明也放置於同一圖像中,可方便測試人員解說。
練習任務的題目為「請問,在王振鵠教授擔任國立臺灣師範大學圖書館館長期間,
出版了那些文章(article)」,目的在測試目標平台對於學者職位與其出版文章關聯 性的表達功能。使用者在自行按下碼表後便可開始查找,而查找結束後也由受測 者自行按下碼表暫停,練習題計時而不限時。
62
圖 4-2 練習任務與實驗說明的提示圖像
(二) 任務一
圖 4-3 是任務一的提示圖像,任務題目為「王振鵠教授在被選為中國圖書館 學會理事長的這段期間,共出版了那些書籍(book)?」,目的在測試目標平台對於 學者職位與其出版書籍關聯性的表達功能。此任務題目與練習題相似,因此可以 檢測出使用者在熟悉檢索路徑後,是否會有效縮短檢索時間。
圖 4-3 第一項任務的提示圖像
63
(三) 任務二
圖 4-4 是任務二的提示圖像,任務題目為「王振鵠教授在擔任國立中央圖書 館(現國家圖書館)館長期間發生了那些事件?(意旨從開始擔任館長到其退休這
幾年之間)」,目的在測試目標平台對於學者在特定職位期間,其職涯中發生了那
些事件的表達功能。因為本研究的對照網站是以條列式表格呈現年代表,因此研 究人員預先假設此任務若使用對照網站進行查詢,應當會有良好的表現結果,但 若本研究網站能比對照網站擁有更好的成效,則表示知識本體技術能輔助使用者 更容易產生關聯之間的聯想。
圖 4-4 第二項任務的提示圖像
(四) 任務三
圖 4-5 是第三項任務的提示圖像,任務題目為「王振鵠教授在發表”圖書館
學論叢”一書的當年,還指導了那些學位論文?」,目的在測試目標平台對於學者
在特定著作發表的同時,其指導的學生論文關聯能否清楚呈現
圖 4-5 第三項任務的提示圖像
64
(五) 任務四
圖 4-6 是第四項任務的提示圖像,任務題目為「王振鵠教授在被選為中國圖 書館學會理事長的期間,其指導的學位論文(thesis)大多出版於那些系所?」,本 題目的設計較為特殊,使用者使用本研究平台的關聯搜尋後,無法立即取得答案,
需要進一步點開搜尋結果的連結,才有辦法確認搜尋結果是否正確。透過這樣的 設計,可以檢測使用者是否會過於依賴搜尋功能。
圖 4-6 第四項任務的提示圖像
(六) 任務操作流程
傳統網站與 LOD 網站的任務操作流程不同,前者需要使用人眼逐欄辨識,
而後者是以 SPARQL 查詢語言輔助人工判斷資料關聯,兩者的詳細路徑比較將 在下方以練習任務「請問,在王振鵠教授擔任國立臺灣師範大學圖書館館長期間,
出版了那些文章(article)」為例,逐圖說明。
1. 傳統網站
首先受測者會點擊首頁左方功能列的「大事紀要」進入該頁面,此為王振鵠 教授之生平事蹟,並以表格逐行呈現,受測者需要滑動頁面卷軸,同時以眼睛逐 條辨識資料,直到找到目標欄位,即為王振鵠教授擔任國立臺灣師範大學圖書館 館長的年代,與其退休年代,如圖 4-7。
65
圖 4-7 傳統網站任務檢索過程之大事紀要截圖
下一步則是點擊左側功能列表的著作目錄,並再次點擊散論以切換成散論列 表,接著找尋符合上一步年代區間的所有散論文章,如圖 4-8,以滑鼠反白標示 全數後,按停碼表已告知測試人員任務答案。
圖 4-8 傳統網站任務檢索過程之散論文章截圖
66
2. LOD 網站
使用 LOD 網站的使用者需要先點選上方工具列的 Relation 功能,進入到該 功能頁面後,選擇符合任務題意的關聯類型,再輸入欲查找之關鍵字,如圖 4-9,
最後按下送出以進行搜尋。
圖 4-9 LOD 網站任務檢索過程之 Relation 截圖
送出條件後,系統並會回傳搜尋結果,如圖 4-10,受測者確認此為任務答案 後,並可按停碼表已告知測試人員任務結束。
圖 4-10 LOD 網站任務檢索過程之搜尋回傳截圖
67