洪一平、李寅彰、詹媛安、王碩仁,2020,〈穿越記憶的聲景:
〈風動四方──安平1634〉的虛擬實境〉,《南藝學報》20:01-23。
1
穿 越 記 憶 的 聲 景 :〈 風 動 四 方 ──安平 1634〉的虛擬實境
Soundscape of Memories:Virtual Reality of Quartic Flow VR - Zeelandia 1634
*洪一平
**Hung, Yi-Ping、李寅彰
***Li, Yin-Jhang、詹媛安
****Chan, Yuan-An、王碩仁
*****Wang, Shoue-Jen摘要
「虛擬實境」(Virtual Reality, VR)是當代科技藝術創作的新媒材之一。虛擬實境在感 知回饋之輔助下,觀者即可在虛擬的環境中體驗身歷其境的效果。本論文主要以「多人互 動虛擬實境視聽系統」結合「風扇陣列觸感裝置」的科技藝術創作為實踐,透過作品探討 穿越記憶的聲景環境。本研究首先從虛擬實境的科技媒材,論其發展歷史與藝術特質,其 次以〈風動四方──安平1634〉為分析案例,分別以虛擬實境中的互動性、沉浸式體驗以 及風的觸覺感知,論述虛擬實境的技術如何讓觀者在不同的歷史時空當中,以多重感官的 經驗,穿梭於個人與集體之間的文化記憶與風景。
關鍵詞:虛擬實境、風扇陣列觸感裝置、互動藝術、沉浸式體驗、風的觸覺感知
* 作者由衷感謝匿名審查委員提出精闢的見解與修正建議,得以讓本文更臻完善。作者也誠摯感謝國立臺灣美
術館「科技融藝跨界創作補助計畫」提供〈風動四方-安平1634〉製作預算,特此說明。同時,感謝曾經參
與創作的團隊成員:羅禾淋、林經堯、韓秉軒、陳煬升、蕭睿均、蒙捷文、謝喬恩、鄭安舜、陳玲鈴、周建 興、莊雅量、黃昱琪、王瀚磊、楊智偉、徐誌鴻、林家緯、劉又萱、王皓正、郭冠宏、邱晴、張宇彤、陳煒 安、陳慧軒等人的協助。
** 洪一平,國立臺南藝術大學動畫藝術與影像美學研究所教授。
Hung, Yi-Ping, Professor, Graduate Institute of Animation and Film Art, Tainan National University of the Arts.
***李寅彰,國立臺南藝術大學博士後研究員。
Li, Yin-Jhang, Post-Doctoral Fellow, Tainan National University of the Arts.
****詹媛安,國立臺灣大學資訊網路與多媒體研究所碩士生。
Chan, Yuan-An, Graduate student, Graduate Institute of Networking and Multimedia, National Taiwan University.
*****王碩仁,國立臺南藝術大學研究員。
Wang, Shoue-Jen, Research Fellow, Tainan National University of the Arts.
Hung, Yi-Ping, Yin-Jhang Li, Yuan-An Chan and Shoue-Jen Wang. 2020. “Soundscape of Memories:
Virtual Reality of Quartic Flow VR - Zeelandia 1634.” ARTISTICA TNNUA 20: 01-23.
2
Abstract
“Virtual Reality” (VR) is one of the new media of Contemporary Technology Arts.
When VR is supported by appropriate sensory feedback in physical environment, the viewer could experience the situation in the virtual environment. This article will show the Technology and Art creation, which is a “Multi-User Virtual Reality Audio-Visual System” combined with “Fan-Array Tactile Installation”, and explores through the artwork a soundscape that reframes memories. First, it will introduce the history and artistic characteristics of VR Technologies. Secondly, it will take Quartic Flow VR - Zeelandia 1634 (2017) as a case study to discuss the interactivity, the immersive experience, and the tactile perception of wind in virtual reality, and how VR technologies enable viewers to travel through the cultural memories of different generations with multiple sensory experiences.
Keywords: virtual reality (VR), Fan-Array Tactile Installation, interactive art, immersive experience, tactile perception of wind
洪一平、李寅彰、詹媛安、王碩仁,2020,〈穿越記憶的聲景:
〈風動四方──安平1634〉的虛擬實境〉,《南藝學報》20:01-23。
3
壹、前言
「虛擬實境」(Virtual Reality, VR)是當代科技藝術創作的新媒材之一,透過感測器與 媒介環境的輔助,觀者能在彷彿真實的虛擬環境中產生感知的變化。當觀者穿戴虛擬實境 的輔助設備,人的身體感覺在虛擬實境的媒介環境中形成身體感官的融合經驗,並同時產 生互動的過程。於是虛擬實境創造了視聽影像的3D 空間,以增強大腦感知的方式,使人 們相信眼前所見,並進入虛擬影像的世界而身歷其境。
現今這個新的媒體科技被應用在不同的領域而兼具實用性與娛樂性。然而,虛擬實境 科技成為藝術家創作的媒材時,此媒材與媒介的藝術特質仍需要充分地討論。目前虛擬實 境創作的藝術作品仍在持續發展,媒材因創作者與作品的呈現而有所不同;媒介觸發觀眾 認知與行為的影響的互動過程,以及沉浸式環境所展開的體驗是此類作品首要考量的條 件。
本研究以「藝術實踐作為研究」1的方法途徑,從研發技術的過程到藝術作品的展示,
同時思考媒介呈現的創造性,以及藉由此實踐案例所帶出的媒介技術的藝術形式及其意 涵。在此思考下,本文主要透過虛擬實境的發展歷史,以及虛擬實境在互動性與沉浸性的 視聽音像環境的藝術特質,探討虛擬實境如何作為科技藝術的媒材,而呈現藝術作品的觸 感體驗以及多重感官的聲景?
本文以〈風動四方──安平 1634〉為主要分析的案例,透過「多人互動虛擬實境系 統」結合「風扇陣列觸感裝置」的科技藝術創作為實踐,探討虛擬實境中多重感官的體驗 以及虛擬實境中媒介環境的沉浸感。以下,先從虛擬實境的科技媒材,論其發展中的創作 與藝術特質,其次以〈風動四方──安平1634〉為例,分別以虛擬實境中的互動性、沉浸 式的視聽體驗以及風傳遞聲音的觸覺感知,論述虛擬實境的科技如何讓觀者在不同的歷史 時空當中進行多重感官的體驗,並穿梭於個人與集體之間的文化記憶的情景。
貳、虛擬實境的發展歷史與藝術特質 一、虛擬實境的科技發展
虛擬實境科技的實現,可推溯至1960 年代首創「頭戴式顯示器」(head-mounted display, HMD)發明的理念,使動態影像、聲音與電腦之間的交會,而產生人在模擬真實的虛擬世 界中產生不同以往的感知過程,並影響行為與思維上的變化。就技術層面而言,電腦軟硬 體與高性能的感測器的結合,透過數據、電腦衍生圖像,以及模擬真實的視覺,使人的眼 睛在3D 虛擬世界中與大腦產生交互作用。換言之,虛擬實境建立了擬真的數位環境,使 觀者透過感知的過程,產生互動。2虛擬實境的視覺技術,使觀者能在數位空間使身體感 官產生新的感官調節。當觀者配戴頭戴顯示器,其主觀的視覺在數位化的虛擬空間中呈現 身體與機械裝置結合的關係,並創造出身臨其境的效果。因此,虛擬實境的觀看經驗始於
1 Graeme Sullivan, Art Practice as Research Inquiry in Visual Arts (London: Sage, 2010).
2 Irit Hacmun, Dafna Regev, and Roy Salomon, “The Principles of Art Therapy in Virtual Reality,” Frontiers in Psychology, 9: 1-7.
Hung, Yi-Ping, Yin-Jhang Li, Yuan-An Chan and Shoue-Jen Wang. 2020. “Soundscape of Memories:
Virtual Reality of Quartic Flow VR - Zeelandia 1634.” ARTISTICA TNNUA 20: 01-23.
4
觀者貼近虛擬的環境,以自身的意識作為進入影像敘事或觸發意象的媒介。在虛擬實境的 空間中,觀者藉由身體的感知過程進入電腦模擬的真實環境,在虛擬的世界中導引觀者跨 越時間與空間的限制,並透過虛擬世界的場景、情節或人物角色的扮演等各種方式,使觀 者融入虛擬空間,而沉浸式的虛擬環境,將能進一步帶動觀者觸發互動與感知聯繫的體驗 過程。更重要的是,虛擬實境使觀眾參與當下的現場性(liveness),並藉由喚醒存在感的 方式,衍伸出感知的主體在虛擬空間中意識的流動狀態,於虛實之間,進入心像的運作與 反思的過程。3
1980 年代賈倫・拉尼爾(Jaron Lanier,1960-)創造「虛擬實境」一詞,當時舊金山 的「視覺編程實驗室」(VPL Research),開發眼鏡、服裝與手套,以感測、操縱和定位虛 擬對象進行實驗,在當時也是第一家銷售頭戴式顯示器和手套的公司。拉尼爾認為,假設 觀者在另一種真實的環境中,穿戴顯示器主要是能精準感測並刺激感覺的器官。4虛擬實 境的意涵在於體驗者必須完全沉浸在虛擬的環境當中,同時觀者的視角與觀看經驗是處於 作品中虛擬空間的核心;從虛擬化到模擬真實化的動態敘事,成為一種自我為中心的體感 過程。整個體驗的過程中,一方面,電腦系統從外在的物理環境獲得相關的資訊,經過電 腦演算的模擬代換後,再透過感覺得刺激使大腦產生類似的真實感;另一方面,觀者的身 在真實中的感知並未完全喪失,反而能在虛擬實境中獲得另一種感知真實的方式。5這種 近乎真實的感覺,在某種程度上,是觀者在虛擬空間中重塑的感知途徑,轉換了原本的地 方感,而虛擬實境實際上是以非侵入性的方式,藉由改變身體感而進入到意識與思維的重 構,從而實現超越真實的潛能。6
二、虛擬實境的藝術特質
在媒體藝術的脈絡中,藝術創作者致力於電子媒介技術創造影像的表現效果並探討藝 術作品中感知的作用。時至今日,科技帶給人類的感官經驗,無論是活化或奴役,都伴隨 著與時俱進的媒體科技所提供的感官效果。當媒體技術成為藝術創作者展現的藝術媒材,
其新的表現與觀看的方式將成為形式與美學的潛能。媒體理論與藝術史研究學者奧列佛・
格勞(Oliver Grau,1965-)以「虛擬藝術」(Virtual Art)探索了媒體與藝術的脈絡,並在
「虛擬實境」的沉浸體驗中闡述虛擬空間中藝術和媒體的視覺策略和特質。例如:早期三 百六十度全景圖(panorama)繪畫作品,十九世紀立體鏡的照片(Stereoscopic Photographs)
的圖像,融入幻覺式效果和沉浸式觀看經驗的「虛擬藝術」,實際上早已在歷史中呈現人 類感知的遞進,也指出藝術和媒介型態影響觀者的變化。7二十世紀初,各種影像技術的 感官技術存在著科技烏托邦的想像。例如:1930 年代科幻小說或電影虛構的情節;1950 年代中期,攝影師莫頓・海里格(Morton Heilig, 1926-1997)開發了體驗劇場(Sensorama);
3 邱誌勇,〈虛擬實境藝術中的「本體論事件」與「共感聯覺美學」〉,《現代美術學報》第 36 期(2018 年),頁
59-78。
4 Jaron Lanier, “A Vintage Virtual Reality Interview”, Whole Earth Review, 64(1988): 108-119.
5 Fred Brooks, “What’s Real About Virtual Reality?” IEEE Computer Graphics and Applications, 19.6(1999):16-27.
6 Mel Slater, “Place Illusion and Plausibility Can Lead to Realistic Behaviour in Immersive Virtual Environments.”
Philosophical Transactions of the Royal Society B: Biological Sciences, 364.1535,(2009): 3549-57.
7 Oliver Grau, Virtual Art: from Illusion to Immersion, trans. Gloria Custance (Cambridge: MIT Press, 2007), 13-17.
洪一平、李寅彰、詹媛安、王碩仁,2020,〈穿越記憶的聲景:
〈風動四方──安平1634〉的虛擬實境〉,《南藝學報》20:01-23。
5 1960 年代頭戴式顯示器的出現,伊凡・蘇澤蘭(Ivan Sutherland,1938-)以「終極展示」
(Ultimate Display)的概念,提出電腦系統與顯示器結合的實現將能增強感覺的虛擬體驗,
其中包括:電腦軟體、擴增3D 的聲音和觸感的回饋、使用者在虛擬世界中能透過真實中 的方式與虛擬對象進行互動,透過電腦控制的顯示器、搖桿與感測,模擬動覺運動的方式,
得以描繪物理現象之外的未知世界。8在羅伯托・迪奧達托(Roberto Diodato)的觀點中,
虛擬實境的沉浸式體驗不能與模擬真實(simulation)相混淆,因為虛擬實境中的沉浸式經 驗即是一個在真實中發生的狀態,這與一般認知上的真實有所不同。9在虛擬環境中,沉 浸式體驗的品質與互動性的過程,也涵蓋了身體在環境中期待、理解、判斷到行動行動的 可能性。這是因為體驗者在虛擬環境中對於模擬真實與物理真實之間產生出難以區別的狀 態,而呈現某種「無媒介的感知錯覺」(perceptual illusion of nonmediatio)。10虛擬實境中 逼真的環境,讓觀者在體驗過程中召喚出身體的臨場感,如湯瑪斯・謝里登(Thomas Sheridan)認為,這種特殊的臨場感取決於三個主要的因素:感官資訊的範圍、感測器與 環境的控制關係,以及修改物理環境限制的能力。11由此而言,媒介的形式提供了物理上 客觀的屬性,而媒介的內容也影響了觀者在虛擬實境中的反應,而身歷其境的臨場感則是 物理和媒介環境中所產生多重感官匯聚和各種認知途徑的過程所形塑的感知狀態。
在虛擬實境的藝術中,藝術創作者不會因為科技而取消藝術家對於影像與社會的責 任。12也就是說,虛擬實境藝術並非創作者呈現複製真實的技術,而是透過藝術創作的理 念與呈現,傳達創作的想法與批判性的觀點,並由此表現此媒介科技與創作者的創造力。
換言之,虛擬實境藝術作品並非只是在技術上追求聲光效果的感官刺激,而是創作者構思 作品的觀點,將能透過各種文本脈絡的創造,讓觀者在感知作品的過程中還能產生思維的 變化與互動的反應。以多明尼克・洛佩斯(Dominic Lopes)的觀點而言,論其「基於電腦 創作的藝術」(computer-based art)的藝術價值,不免爭論創造力的分歧、麻木被動的感官、
感知自主的距離以及作為政治和解放的藝術價值。13其中,虛擬實境的藝術特質呈現一種 主動性的思維,並在互動過程中產生沉浸性的環境,而這種主動性的思維,在某種程度上,
是觀者在某種審美的距離中產生自主思考與批判的前提,甚至透過自我的觀察與體驗,建 立屬於自己的視野,並展現可能的反饋;然而,沉浸性體驗的過程,身體實際上是被迫處 於虛擬的環境之中,而在某種設定的系統或模式,暫時擱置慣性的感知過程,而在其之中 產生適應性。換言之,身體在媒介環境中,並非一開始就引導觀者產生主動性的思維,反 而是提供觀者一個似我非我的空間,由身體帶動各種感覺的聯繫而達到身歷其境的效果。
而身體的感知在不同的沉浸體驗中,也因為不同的沉浸效果,而觸發觀者產生不同的互動
8 Ivan Sutherland, “The Ultimate Display,” Proceedings of IFIP Congress, ed. Wayne Kalenich (London: Macmillan, 1965), 2: 506-508.
9 Roberto Diodato, “About Virtual Experience,” Metodo. International Studies in Phenomenology and Philosophy 2 2(2014): 47-68.
10Roberto Diodato, Aesthetics of the Virtual (New York: State University of New York Press, 2012), 15-33.
11Thomas Sheridan, “Musings on Telepresence and Virtual Presence,” Presence: Teleoperators and Virtual Environments 1 1(1992): 120-25.
12Oliver Grau, Virtual Art: from Illusion to Immersion, trans. Gloria Custance (Cambridge: MIT Press, 2007), 304.
13Dominic McIver Lopes, A Philosophy of Computer Art (New York: Routledge, 2010), 28-34.
Hung, Yi-Ping, Yin-Jhang Li, Yuan-An Chan and Shoue-Jen Wang. 2020. “Soundscape of Memories:
Virtual Reality of Quartic Flow VR - Zeelandia 1634.” ARTISTICA TNNUA 20: 01-23.
6
與反饋。
因此,在多重感官的沉浸體驗下,觀者以各種感知的途徑進入眼前所見的世界,甚至 能深入內心與意識而產生交流的可能性。當代表演藝術研究學者約瑟芬・馬根(Josephine Machon)將沉浸式體驗分為三種不同的面向:「吸納式」(absorption)的沉浸感,使觀者 發揮想像力和專注力的方式而建立;「傳輸式」(transportation)的沉浸感,提供了一個像 遊戲一樣的思維空間;「浸潤式」(immersion)的沉浸感,則讓觀者陷入某種存在感的狀 態。14例如:1993 年「間距研究團體」(Interval Research Corporation)與「班夫藝術和創 意中心」(Banff Centre for Arts and Creativity)共同製作的作品〈佔位者〉(Placeholder),
這部作品是由遊戲設計研究學者布倫達・勞雷爾(Brenda Laurel,1950-)和媒體藝術創作 者瑞秋・斯特里克蘭(Rachel Strickland)共同指導製作。〈佔位者〉是虛擬實境結合多人 線上體驗互動的作品,並在內容中思考人與地方感的連結。這件作品,一方面思考了虛擬 實境技術在時間、空間和距離在媒介中的呈現;另一方面,思考虛擬實境在感知的過程中 所建立人和環境之間的關係。更進一步地說,〈佔位者〉的虛擬實境測試了多人線上互動 過程中的感知交流,而探討人在虛擬環境的移動中所建立的位置和方向性。以凱瑟琳・理 查茲(Catherine Richards,1952-)2000 年的藝術作品〈光譜體〉(Spectral Bodies)所描繪 的情況而言,虛擬實境呈現了棲於身體的本體感覺和失去這種感覺的之間的敘事性。藝術 家在這部作品中,展演了一場人類的生理實驗,思考人在虛擬實境的媒介科技中,感官和 身體的邊界將產生顯著的改變。實驗中顯示,身體處於科技的環境中可能產生喪失感官的 情況,而出現不穩定的情況;然而,身體本能式地、快速地適應這些模擬真實和感知的虛 擬對象。
從身體到適應媒介的感知過程,虛擬實境呈現了虛擬和真實兩種不同的存在方式。虛 擬實境的藝術作品則是讓觀者處於虛/實之間的體驗而有其不同的意涵。此外,虛擬實境 科技的感知過程則發揮了身體感知的觸覺性,而在身體的多重感知與媒介技術之間,得以 反思身體與世界的聯繫關係。某種程度上,這顯示了人類觀看的主體性在反饋中有著不同 的回應,因為虛擬實境的敘事以及身體的感知現,揭示了科技在人類有限的認知範圍中開 啟了更多探索世界的可能性,甚至在反思自我、科技與社會文化的過程中,激發觀者在思 維上的改變。例如:2016 年雅各布.庫德斯克‧斯廷森(Jakob Kudsk Steensen,1987-)
在〈原始之旅:島〉(Primal Tourism)中創建了一個虛擬的天堂,然而觀者在這趟旅途中 迎面而來的盡是各種奇異的險象。這部作品顛覆了觀光旅遊充滿美好的印象,而將科幻、
科技以及對未來氣候的推測相互結合。2019 年在〈再生〉(Re-Animated, 2018-2019)中,
以夏威夷考艾島(Kauai Island)最後一隻「奧亞吸蜜鳥」(Moho braccatus)發出「Kauai
‘O’o」的鳴唱聲為創作的靈感來源。於是藝術家將「奧亞吸蜜鳥」的聲音,以想像的方式 重建逝去的生態棲地。史蒂森在美國國立自然歷史博物館(National Museum of Natural History)收藏的「奧亞吸蜜鳥」的標本中建立模型,並蒐集了「奧亞吸蜜鳥」的羽毛、樹 木等棲息生態的相關素材,再藉由衛星地圖前往該鳥類曾經棲息的島嶼進行探索。《再生》
14Josephine Machon, Immersive Theatres Intimacy and Immediacy in Contemporary Performance (London: Palgrave Macmillan, 2013), 62-63.
洪一平、李寅彰、詹媛安、王碩仁,2020,〈穿越記憶的聲景:
〈風動四方──安平1634〉的虛擬實境〉,《南藝學報》20:01-23。
7 模擬的生態環境,呈現出科學和技術以及生態與文明的關係是矛盾的存在狀態,而使原本 滅絕的物種,在數位科技的復原下如真地存在。藝術家將虛構的想像和看似矛盾又對立的 觀點,透過作品呈現出人類將在虛擬世界中的迷失,以及人造的自然景觀中所產生的困惑 感,藝術家在作品中提出現代社會發展的批判與失落的情感。
虛擬實境的藝術特質,一方面展現了頭戴式顯示器、感測器與電腦系統運作的擬真環 境,並使觀者建立自我意識的重構;另一方面是觀者在模擬真實的空間中,身體因沉浸式 的媒介環境,而使身體在不同感官的連動中,形成不同的觀看體驗。前者倚重視覺科技與 電腦運算系統的媒介技術研發,後者則在感知交流的體驗中發生變化,並透過反饋而成為 虛擬與真實共存的不同面向。觀者的體驗所涉及的感知連動性,就新媒體研究學者邱誌勇 的研究觀點而言,這是虛擬實境的沉浸感知所呈現的「共感聯覺美學」((Syn)aesthetics)。
15如前述提及,馬根對於沉浸感的分析,沉浸感是作為一種「經驗的展演事件」(experiential performance events),而當沉浸作為一種風格與賞析的美學策略,作品產生的內在衝擊與 作品產出的過程,將能更進一步闡述觀者與作品之間「共同」和「感覺」的狀態。16「共 感聯覺美學」的提出,主要強調了多重感官的體驗,提供了互動的空間,而沉浸式感成為 觀眾替代的媒介。如沉浸式的劇場藝術作品,展現了跨域融合設計的藝術形式和技術,也 在沉浸式的體驗中建立感官的多重性與美學實踐的多樣性。17因此,在沉浸式的體驗中,
觀者必須暫時懸置日常生活慣性的感知方式,而是依循著虛擬實境提供的文本內容,藉由 場景、視覺動線、替身等轉換空間的方式,使觀者的感知在體驗的過程中達到探索與適應。
近年在新媒體科技的發展下,藝術創作者、博物館、藝術博覽會與藝術機構等,開始 廣泛地以新的技術應用於線上體驗或虛擬實境 360 度的全景導覽,以增加觀眾參訪的媒 介管道與線上瀏覽的品質。在藝術家的創作中,虛擬實境科技能表達創作中更多的想像力 與 真 實 感 , 而 讓 觀 者 的 意 識 流 動 在 藝 術 家 創 建 的 烏 托 邦 與 作 品 中 構 建 的 異 托 邦
(heterotopia)。換言之,虛擬實境的藝術特質,是基於媒體模擬真實的技術中,以貼近人 類真實的情感,在身歷其境的感知過程中重構自我與他人的意識。一方面,觀眾能在作品 之間保有自我意識的能力;另一方面也能針對虛擬實境的敘事情節或故事場景給出行為上 的反饋。
參、虛擬實境藝術的互動性與沉浸性 一、互動性的體驗過程
在傳播和媒體的研究中,互動性是涵蓋閱聽眾接收媒體內容的過程與行為,而隨著互 動媒體的演進,互動性的定義與內容也相當廣泛。18直到新媒體科技的來臨,互動性的媒 體本質也逐趨多元。此處,互動性指的並非兩個人之間的交流,而是在資訊科技和電腦演
15邱誌勇,〈虛擬實境藝術中的「本體論事件」與「共感聯覺美學」〉,59-78。
16Josephine Machon, (Syn)Aesthetics and Disturbance-Tracing a Transgressive Style in Contemporary Performance Practice (London: Brunel University, 2003), 3-21.
17Josephine Machon, Immersive Theatres Intimacy and Immediacy in Contemporary Performance, 21-22.
18Jens Fog Jensen, “Interactivity: Tracing a New Concept in Media and Communication Studies,” Nordicom Review, 19(1998): 185-204.
Hung, Yi-Ping, Yin-Jhang Li, Yuan-An Chan and Shoue-Jen Wang. 2020. “Soundscape of Memories:
Virtual Reality of Quartic Flow VR - Zeelandia 1634.” ARTISTICA TNNUA 20: 01-23.
8
算的脈絡下,機械與使用者之間產生相互影響而交流的過程。19在使用者研究的觀點中,
互動式體驗的設計經常應用於遊戲設計的介面,而使用者在虛擬實境的設置中所產生自然 互動的關係,主要基於多人線上體驗的過程中,激發彼此的夥伴意識,而多人互動的線上 環境也能反映出社會存在理論的情感連結,而創建共享的虛擬環境。20換言之,虛擬實境 的互動性涉及的範圍較為廣泛,但互動最主要呈現的是過程中體驗者的臨場感,以及與其 他人在線上參與的過程中所建立的共創連結,而呈現其投入感與存在感。此外,虛擬實境 透過觀者的參與以及替身的互動設計,提升了多人體驗與協同創作的可能性。
新媒體藝術先驅羅伊・阿斯科特(Roy Ascott,1934-)教授於 1960 年代提出觀眾參 與的重要性,以及觀眾與藝術作品產生互動的理論概念。此互動理念指出,科技對知識和 行為產生的影響,同樣也是思想發展的一部分,而觀眾的參與,使藝術品從靜態的視覺對 象轉換成觀眾反饋的雙向交流,而從中觀察到媒介的文化調節與社會形構的改變。21由此 而言,互動藝術考量的不只是強調媒介的特性,也包括觀者的注意力以及主動性閱聽過程 中的互動行為。
另一位互動藝術先驅,梅隆・克魯格(Myron Krueger,1942-)於 1975 年在密爾瓦基 美術館(Milwaukee Art Museum)展出〈音像空間〉(Videoplace, 1974)。該作品以增強觸 覺的體感裝置,呈現觀者在參與過程中與他人產生多重感官的交流。〈音像空間〉讓體驗 者在不同的房間中面對自己與他人產生的影像,並疊合電腦運算的影像投映在音像空間的 場景,使觀者沉浸在媒體影像的環境中進行行為上的反應。在克魯格的觀點中,人與機械 的互動性是一種藝術媒材的表現,除了人與人之間的交流之外,也反映出媒介與人工智能 結合的「響應式環境」(responsive environment)。22響應式的環境作為互動藝術的藝術形 式,主要是讓觀者與藝術作品之間產生反應的作用,並在互動的過程中使作品產生新的可 能性。換言之,在克魯格的作品中,電腦運作的系統結合觀者身體感知的人造實境與響應 環境,身體是作為一種感知虛擬與真實的界面,而互動的體驗不僅表述了人與媒介技術的 關係,也在觀者與媒介互動的過程中產生交流的可能性。
以2017 年臺灣新媒體藝術創作者黃心健(Huang Hsin-Chien,1966-)與美國前衛音 樂創作者蘿瑞‧安德森(Laurie Anderson,1947)共同創作的作品〈沙中房間〉(La Camera Inssabiata)而言,觀眾能在虛擬的空間中,進入黑板、粉筆、符號、數字構成的 360 度全 景廊道,以及名為「粉塵之房」、「字謎之房」、「犬之房」、「水之房」、「聲之房」、「舞蹈之 房」、「寫作之房」、「樹之房」的八個空間。〈沙中房間〉將這幾個房間構建出記憶的虛擬
19Salah Uddin Ahmed, “Interaction and Interactivity: In the Context of Digital Interactive Art Installation.” Computer Science Human-Computer Interaction. Interaction in Context, ed. Masaaki Kurosu (Berlin: Spriger, 2018), 241–257.
20Raffaello Brondi, Giovanni Avveduto, Leila Alem, Claudia Faita, Marcello Carrozzino, Franco Tecchia, Y. Pisan and Massimo Bergamasco., “Evaluating the effects of competition vs collaboration on user engagement in an immersive game using natural interaction,” Proceedings of the 21st ACM Symposium on Virtual Reality Software and Technology - VRST’ 15, ed. Stephen Spencer (New York: Association for Computing Machinery, 2015), 191.
21Roy Ascott, “The Construction of Change,” Cambridge Opinion. 41(1964): 37-42; Roy Ascott, “The Construction of Change”, in Telematic Embrace: Visionary Theories of Art, Technology, and Consciousness, ed. Edward Shanken (University of California Press, 2007), 98.
22Myron Krueger, “Responsive environments,” AFIPS 46 National Computer Conference (Montvale. New Jersey:
AFIPS Press, 1977), 423-433.
洪一平、李寅彰、詹媛安、王碩仁,2020,〈穿越記憶的聲景:
〈風動四方──安平1634〉的虛擬實境〉,《南藝學報》20:01-23。
9 世界,並讓觀者遊動在不同的場景當中,而啟動觀者在虛擬空間中的互動模式,讓觀者在 穿梭記憶的空間時,同時也能感受到某種生命與死亡的臨界狀態。藉由虛擬實境的科技,
觀者能從中進入藝術家在虛擬世界中重構的世界,這不僅是藝術家對於生命狀態的思索,
同時也透過作品邀請觀者進入創作者的意識,而使觀者的身體感知與思維產生感知交流的 匯聚與分歧。
2017 年「VR Showcase」在 SIGGRAPH Asia 年會中,展示了虛擬實境、擴增實境
(Augmented Reality, AR)、混合實境(Mixed Reality, MR)的科技應用,並以「心物二元 論」(Mind-Body Dualism)」思考人與機器的思維、身體和機器產生互動的創新趨勢,跨越 傳統藝術領域的界限。臺灣虛擬實境藝術家吳欣怡(Wu Shin-Yu)〈琅嶠-卑南道〉(Langjiao:
Beinan Road)將原住民文化與生活場景,透過虛擬實境的科技創造出圖騰空間與重建古 道的時空,讓觀者的意識沉浸於藝術作品的空間。23此外,在強納森・肯尼斯佩爾(Jonathan Knispel)和弗雷澤・布洛克(Fraser Bullock)在〈Web 瀏覽器的協作式虛擬實境繪畫〉
(Collaborative VR painting in web browsers)裝置中,24呈現虛擬實境的線上應用而提供線 上使用者共同創作的平臺,參與體驗的訪客能在同步創作的過程中,展現「協作式藝術」
(collaborative art)的創作實踐。在研究中,設計者主要提供給想要當藝術家的使用者,
而這個系統只要透過網路連線,任何人都可以點進瀏覽的網頁,即可連線加入創作群並進 行繪畫創作,其作品也會在網頁中展示並分享交流。此虛擬實境的互動裝置,消弭了藝術 家身份與審美品味的標準,而提供素民創作或共同創作的可能性。一方面,沒有藝術創作 經驗的訪客能夠擁有自由的創作空間並即時分享給朋友;另一方面,在多人線上的模式中,
也能達到跨越文化與地理的限制,而創新傳播與交流的途徑。(圖1)25由此而言,虛擬實 境的藝術特質並不一定呈現藝術形式上的視覺表現,而是設立互動體驗的機制並透過電腦 運算與感知的模擬過程,觀者行為上的變化成為作品重要的核心。因此,虛擬實境朝向觀 者的互動設計中,先預設觀者的行為變化,而當觀者在虛擬實境的體驗中,個人的主觀意 識將透過互動的環節而進入虛擬的場景、虛構的情節或在角色扮演中形成虛擬的化身。由 此,虛擬實境在自我意識與虛擬重構的過程產生「雙重意識」(double consciousness)的效 果,而展現互動性在虛擬實境中所能發揮的變化。26這也是虛擬實境能夠跨越傳統媒材在 呈現情境以及時間過程的侷限,藉由空間中的沉浸錯覺與電腦3D 的敘事動線,時間和空 間的概念將不僅只是再現的模式,而是在感知的過程中重新形構。
基於上述,虛擬實境藝術作為基於電腦創作的藝術作品,其互動性也因使用媒介的行 為,或參與體驗的涉入而有不同程度的變化,因而難以論定互動性可能的面向。在虛擬實 境的藝術中,一方面,互動性始於一開始系統中設定的控制模式,並在使用者操作的行為
23Wu, Shin-Yu, Lin Pey-Chwen, Shih Deng-Teng, Hu Ching-Hsaing. “Langjiao: Beinan Road.”SIGGRAPH Asia 2017 Art Gallery (New York: Association for Computing Machinery, 2017);吳欣怡,《〈琅嶠-卑南道 II〉虛擬實境藝術 創作與研究》未出版之碩士論文,國立臺灣藝術大學多媒體動畫藝術學系新媒體藝術碩士班,2018 年。
24Jonathan Knispel and Fraser Bullock, “Collaborative VR Painting in Web Browsers,” SIGGRAPH Asia 2017 VR Showcase (New York: Association for Computing Machinery, 2017), 1-2.
25同上註,1-2。
26Katie Salen and Eric Zimmerman, Rules of Play: Game Design Fundamentals (Cambridge, Mass.: MIT Press, 2003).
Hung, Yi-Ping, Yin-Jhang Li, Yuan-An Chan and Shoue-Jen Wang. 2020. “Soundscape of Memories:
Virtual Reality of Quartic Flow VR - Zeelandia 1634.” ARTISTICA TNNUA 20: 01-23.
10
下呈現;另一方面,互動性也能透過展示設計的方式,間接改變使用者行為的反應與反饋。
虛擬實境的互動性在於提供觀者現場性與臨場感的虛擬環境,而身歷其境的效果使觀者以 感知與反饋的過程,改變傳統藝術作品的觀看方式;科技作為藝術的媒材,呈現出當代藝 術創作多元的藝術表現與形式。互動性在某種程度上翻轉了視覺主宰所有感官的觀看經 驗,虛擬實境在某種程度上試圖將人的感官與電腦模擬產生結合的效果,觀者從身體感知 到媒介的環境,其體驗的參與過程除了展現電腦運算的成效之外,從身歷其境到打動人心,
觀者感知的虛擬世界是藉由媒介的技術而與作品產生連結的想像,而虛擬實境科技傳達的 影像、概念與經驗,使藝術作品從視覺轉向觸覺式的體感空間中,產生多重感官聯繫運作 的共感美學。
二、沉浸式的影音環境
1990 年代初,電腦繪圖學的進步使數位媒體創造出模擬真實的 3D 模型,而觀者在沉 浸式的感知與模擬真實的空間中,體現了身體在虛擬世界的美學。在媒體藝術中,沉浸感 能有效地實現視覺空間中的幻覺而感知虛擬環境,某種程度上,觀者並未完全消除自我身 份的形構,其自主的意識也因內在的動機而生成容納的感覺。以心理學家米哈里・契克森 米哈伊(Mihály Csíkszentmihályi,1934)的觀點而言,這是人在「心流」(flow)的狀態 中,所提供的一種探索式的創造感,27而進行自我的探索與行為的反應。換言之,虛擬實 境中的互動性在沉浸式的環境中,觀者是在虛擬環境中建立主觀的感知與意識的流動狀 態,同時藝術作品與觀者之間也同樣保有參與性與開放性。沉浸式的體驗讓觀者處於作品 之中,虛擬實境營造的沉浸感成為觀看另一種媒介,此時觀者的意識與思維也在互動或共 感的聯繫中產生轉變。
以傑佛瑞‧蕭(Jeffrey Shaw,1944-)的虛擬實境互動裝置創作觀點而言,數位影像 科技為藝術家提供了新的空間識別方法,數位科技不僅改變影像本身的結構,也提供觀者 與影像互動的交流方式。在他的創作脈絡當中,觀眾能透過互動科技成為藝術作品的參與 者,並在藝術作品中呈現電腦運算的系統、虛擬實境與擴增實境等科技藝術呈現的互動特
27Mihály Csíkszentmihályi, Beyond Boredom and Anxiety: the Experience of Play in Work and Games (San Francisco, CA: Jossey-Bass Publishers, 2000), 74.
【圖1】體驗者透過線上多人的虛擬實境系統,跨越地理與時空的限制而進行互動
洪一平、李寅彰、詹媛安、王碩仁,2020,〈穿越記憶的聲景:
〈風動四方──安平1634〉的虛擬實境〉,《南藝學報》20:01-23。
11 質,並關注到藝術作品中結合虛擬實境與擴增實境的視聽影像。如1991 年《可讀的城市》
(The Legible City),體驗者能騎著腳踏車閱讀3D 英文字母構成單字和句子,透過這些文 字呈現類似視覺建築的形式,同時閱讀城市,而觀眾能自行選擇不同的路線,而產生出新 的解讀方式。從平面到電腦3D 虛擬的影像,不同媒介技術的改變觸及了影像與媒介的本 體論反思,而媒介本身在技術上或創造的虛擬空間,皆產生了美學上的變化以及潛在調節,
28而每位體驗者在電腦3D 的模擬空間中,都可能作為「敘事者或自傳者」29,並且在不同 的界中進行探索。
1993 年與德國卡爾斯魯厄(Karlsruhe)「媒體與藝術中心」(Zentrum für Kunst und Medientechnologie, ZKM)合作的〈EVE〉(Extended Virtual Environment),呈現當時虛擬 實境的視覺與科技設備結合的藝術創作。觀者在大型充氣球內,機械手臂能將投影的影像 移動到球體內部空間的任何一個位置,投影機會呈現一對立體圖像,而帶著眼鏡的觀者能 從不同的角度看到影像,以呈現互動式、沉浸式的視覺環境進行體驗。(圖 2)30〈EVE〉
的體驗者,需穿戴感測空間的特殊帽子,此裝置能辨識人頭部的位置和角度,使影像的投 映位置與觀者注視的方向達成一致性。由此,觀者便能以控制圖像的方式,而在整個球體 內部的表面空間中進行移動,呈現觀者在錄像或電腦運算虛擬場景之間的操控與互動性。
(圖3)
1996 年的代表性作品《洞穴的形成》(ConFIGURING the CAVE)而言,他與其他藝 術家共同合作,透過當時的設備與技術,將沉浸式的虛擬實境結合在藝術作品當中。此作 品,透過觀者操作控制視聽影像的設備,空間中投映的影像將會隨之改變。《洞穴的形成》
顯示七種以身體與空間結合的主題,共構出美學與觀念的視聽影像。該作品顯示了科技提 供了我們感知世界的方式,並在鉅觀與微觀之間理解歷史發展的過程。藉由電子樂譜呈現
28Jeffery Shaw, “Modalitäten einer interaktiven Kunstausübung” (Modalities of an Interactive Practice of Art),”
Kunstforum International: Im Netz der Systeme, 103(1989): 204-209.
29同上註,204-209。
30Jeffrey Shaw, Gideon May, Ralf Gruber, Manfred Günzlet al, “EVE - Extended Virtual Environment,” Multimedia, 94(1994): 65-67.
【圖2】Jeffrey Shaw,〈EVE(擴延虛擬的 環境)〉的影像裝置外觀,1993 年
【圖3】Jeffrey Shaw,〈EVE(擴延虛擬的 環境)〉的影像裝置內部,1993 年
Hung, Yi-Ping, Yin-Jhang Li, Yuan-An Chan and Shoue-Jen Wang. 2020. “Soundscape of Memories:
Virtual Reality of Quartic Flow VR - Zeelandia 1634.” ARTISTICA TNNUA 20: 01-23.
12
的電腦演算和再現的影像,每一位觀者能彼此創造出開放性的敘事結構,共構出互動性與 個別的詮釋。
媒介環境下,要達到沉浸式體驗不僅只是仰賴模擬真實的環境,而是提升沉浸的品質 而讓觀者在體驗過程中,直接就能沉浸在虛擬的世界中而產生如同真實的體驗。其次,互 動媒體是在流動與反思之間的過程中,透過沉浸式的感知狀態產生吸納與傳遞的感知距 離。31更確切地說,虛擬實境科技能突破物理原理的限制而產生更多的可能性,並能將實 現中不可能出現的情境轉化為眼前所見的真實,而呈現出數位科技與虛擬空間以恢復幻覺 的策略作為藝術的核心。32此處,幻覺是作為影像與裝置之間的感知條件,並透過觀者的 心理狀態或心智活動賦予影像物質性與身體性的問題。更進一步而言,虛擬實境在擬真的 模擬技術下,虛擬世界的時間和空間是能夠重新組裝、配置的感官體驗,也因為模擬真實 的媒體特質,其互動性與沉浸產生的錯覺,使觀者得以在此過程中進入審美的感知狀態以 及意識的交流。觀者在虛擬實境的沉浸式體驗的過程中,從身歷虛擬環境到感知虛擬對象 之間,身體和心智上的沉浸,如同讓身心懸置在媒介的環境當中。因為虛擬實境在體驗的 過程,已與真實產生融合的視野,觀者在虛擬實境中體驗的身體,是在體感的空間中,透 過眼前虛擬的敘事而導引心靈的感知;同時,虛擬實境在場景、角色、聲響的轉譯過程中,
讓觀者成為虛擬世界的替身而進入不同的情境,而虛擬實境的媒介技術提供了觀者不同於 真實中的臨場感。換言之,身歷其境的身體在科技造境與作品意境的空間中,還需要多重 感官的運作而喚起意識或記憶的狀態。由此可知,虛擬實境的藝術特質,已跳脫感官刺激 式的視聽效果,而是翻轉原本物理上時空的限制,並在模擬真實的環境中產生自由流動的 意識與穿梭時空的感知過程而使虛擬中的實境化為真實的存在。
肆、〈風動四方──安平1634〉:聲響與風的聲景 一、多人互動的虛擬實境
基於上述,本文以〈風動四方──安平 1634〉的創作實踐進行案例分析虛擬實境的 互動性與沉浸式的音像環境。該作品運用「多人互動虛擬實境」(Multi-User Virtual Reality)
技術運用在跨國多人的遠程連線,以實現「共在」(Co-Existing)的概念與互動性。相較於 傳統媒體,虛擬實境一方面以互動體驗作為參與作品的方式,而成為新的感官環境;另一 方面也將觀者的感知浸潤在完全虛擬的環境。換言之,觀者需要透過虛擬實境產生的感知 互動,才能更進一步進入身歷其境的效果。觀者經過實際的互動過程,其沉浸式的感官經 驗內化為意識,並在思維的判準中做出自主的行動,此行動也展現了媒介的傳播與反饋的 效果。因此,虛擬實境需要以沉浸式的品質與互動式的調節過程形塑感知,一方面以「模
31Katja Kwastek, “Immersed in Reflection? The Aesthetic Experience of Interactive Media Art,” In Immersion in the Visual Arts and Media, edited by Fabienne Liptay and Burcu Dogramaci (Leiden, NL: Koninklijke Brill, 2016), 66-71.
32Anne-Marie Duguet,“Jeffrey Shaw: From Expanded Cinema to Virtual Reality,” in Jeffrey Shaw, a User’s Manual:
From Expanded Cinema to Virtual Reality, edited by Anne-Marie Duguet, Heinrich Klotz and Peter Weibel (Karlsruhe:
ZKM; Ostfildern: Cantz Verlag, 1997), 21-58.
洪一平、李寅彰、詹媛安、王碩仁,2020,〈穿越記憶的聲景:
〈風動四方──安平1634〉的虛擬實境〉,《南藝學報》20:01-23。
13 糊邊界」33的方式產生內在運作;另一方面感覺運動的體現和虛擬系統的控制產生交互作 用,使觀者進入虛擬的環境並獲得臨場感。〈風動四方──安平1634〉的虛擬實境作品裡,
透過現代數位科技的復原,一方面重現四百年前整個熱蘭遮城的樣貌;另一方面,同時設 置一個穿越時空的隧道,使兩地的觀者可以透過遠端連線的過程,同步體驗聲音傳遞的時 空背景,而在風的觸覺感知中喚醒虛擬實境的存在感。
二、數位復原的熱蘭遮城古堡場景設計
現今在臺南安平地區的熱蘭遮城是日治時期興建,最初的建築僅剩幾段殘餘的城牆遺 跡,但這些遺跡卻是臺灣在十七世紀大航海時代作為東亞轉運站的重要歷史證物。為還原 當時 1634 年荷蘭人在當時的「大員」(Taioan;臺灣名稱的由來)建造的「熱蘭遮城」
(Zeelandia),透過實地考察與館內展示的模型,建立電腦3D 模擬圖,並透過材質的測試 建立當時古堡城牆的樣貌。作品裝置的展示設計,則以一個鏡面立方體主體,中間的空間 類似「蟲洞」,體驗者可藉由作品穿越道1634 年的安平,並透過科技的運用身歷其境。作 品運用了「體感攝影機」(偵測觀者的呼吸)、「空拍機」(創造在地的臨場感)、「網路連線」
(實現異地共在的連結)、「VR 環場音效」(增強3D 聲音的臨場感)、與「風扇動力裝置」
(營造4D 體感特效)等。此作品特別利用風扇動力裝置展現「以風傳遞聲音」的藝術概 念,讓使用者可以在〈安平追想曲〉的優美旋律中,感受到「風」的視覺、聽覺、與觸覺 回饋整合後的逼真效果。
虛擬實境中的熱蘭遮城,以還原歷史的樣貌為場景設定,參照實地考察熱蘭遮城城垣 暨城內建築遺構以及實體展示的模型,建立電腦的3D 模型圖。為加強建築體於虛擬實境 體驗的真實感,主要透過觀看距離的遠近變化,測試建築體於不同視點中材質的呈現。此 外,在城牆的外觀上,採用多重材質測試的方式,以避免近距離觀看時材質呈現模糊的狀 況。因為在虛擬實境中,當環境景象及環境聲音描繪得愈準確,其貼近真實的影音回饋將 愈能展現沉浸式虛擬實境的體驗。(圖4)
沉浸的體驗能被視為虛擬實境中客觀的評估標準,以判斷使用者涉入與參與的程度。
33Meng Qu, “The Aesthetic Experience of Augmented Reality Art,” In ISEA2017 Manizales Bio-Creation and Peace:
Proceedings of the 23rd International Symposium on Electronic Arts, edited by Julián Jaramillo Arango, Andrés Bubarno, Felipe César Londoño & G. Mauricio Mejía (Department of Visual Design, Universidad de Caldas, and ISEA International, 2017), 83.
【圖4】〈風動四方──安平 1634〉中以數位重建的熱蘭遮城古堡的手繪風格圖
Hung, Yi-Ping, Yin-Jhang Li, Yuan-An Chan and Shoue-Jen Wang. 2020. “Soundscape of Memories:
Virtual Reality of Quartic Flow VR - Zeelandia 1634.” ARTISTICA TNNUA 20: 01-23.
14
1990 年代以來,沉浸式的環境,因不同的創作者而有不同的定義。34沉浸式虛擬環境能從 貼近身體過程中進行感官上的延伸,而體驗者能以主動的方式進行行動並具有自主回應的 能力,而這也是沉浸式體驗中不同面向的影響。35從另一個角度而言,沉浸式的體驗過程 是觀者沉浸的意識產生存在狀態的變化,也與觀者對於某個地方或記憶的感覺有關。沉浸 式的環境在空間存在的原理中,加入認知和人機工程學的討論範疇,將能關注到有限範圍 內的注意力和體現感知等因素的影響。36此處,沉浸式的虛擬環境對體驗者而言,除了主 動接收訊息之外,也能自主產生判斷的能力。此外,體驗者也能在沉浸式的環境中將視覺、
嗅覺、聲音以及本體覺等不同的感官知覺與電腦模擬的系統產生互動的過程,而使科技與 身體的感知產生緊密的聯繫,並同時保有自主性的行為反應與自我意識。
三、以〈安平追想曲〉為聲景的構建
〈風動四方──安平1634〉以〈安平追想曲〉作為虛擬實境與真實之間引起沉浸式環 境的要素,主要運用了音樂與真實世界的連結能產生誘發情緒的機制,37因而在作品中以
〈安平追想曲〉(Anping Melody)一曲,使觀者透過耳熟能響的樂曲中透過聲音召喚出時 代的記憶。而〈安平追想曲〉的選用,則試圖表現虛擬實境中穿梭不同歷史年代的特性,
而產生個人與集體之間的記憶;然而,在音樂在感官的經驗中也帶有某種社會化的特質,
因為音樂可以說是共同存在於自我與他人之間生活中的一部份而有其特別的意義,而音樂 也能在感知的現象中,產生觸發記憶的力量。藉由聲音觸發的記憶,是藉由聽覺帶動觸覺 的過程,使大腦中透過其他感官的聯繫,從而創造出情緒的指令以及可以生動地拼湊出可 被感知的情節。38
〈安平追想曲〉在1951 年正式發表,由許石(Hsu Shih,1919-1980)作曲,陳達儒 作詞,後廣為傳唱,是不少年長者對於臺南安平的共同記憶。〈安平追想曲〉是陳達儒藉 由一位異國戀情思念的女子,兩代母女在愛情中漂泊與等待的虛構故事。早期知名臺語歌 手劉福助、陳芬蘭,後來流行樂壇的謝雷、余天、洪榮宏、鄧麗君、鳳飛飛、張清芳、江 蕙等天王歌后都曾演唱過。此外,〈安平追想曲〉曾在1972 年曾拍成黑白電影〈回來安平 港〉(Back to Anping Harbor),由楊麗花領銜主演並擔任主唱,流傳一時。在作品中,〈安 平追想曲〉一曲的設定,主要考量這是一首耳熟能詳的經典傳唱曲,並且在臺灣歷史的研 究中,是戰後第一首以臺灣歷史為歌詞題材的流行歌,並受到聽眾廣泛的喜愛與迴響。此 曲影響了當時以安平港和荷蘭為題材的音樂作品,而當新、舊住民的歷史成為媒介,這類 型的「港歌」喚起了當時社會時代的變遷、歷史經驗以及集體情感等矛盾與複雜的情緒,
34Roy Kalawsky, The Science of Virtual Reality and Virtual Environments: a Technical, Scientific and Engineering Reference on Virtual Environments (MA: Addison-Wesley, 1994).
35Mel Slater and Sylvia Wilbur, “A Framework for Immersive Virtual Environments (FIVE): Speculations on the Role of Presence in Virtual Environments,” Presence: Teleoperators and Virtual Environments, 6(6):603-16.
36José Luis Rubio-Tamayo, Manuel Gértrudix Barrio, Francisco García García, “Immersive Environments and Virtual Reality: Systematic Review and Advances in Communication, Interaction and Simulation,” Multimodal Technologies and Interaction, 1(4): 1-21.
37蔡振家,〈從內模仿到訊息整合:再探音樂引發情緒的機制〉,《藝術評論》,第37 期(2019 年),頁 1-49。
38Crétien van Campen. The Proust Effect the Senses as Doorways to Lost Memories (Oxford: Oxford University Press, 2014), 128.
洪一平、李寅彰、詹媛安、王碩仁,2020,〈穿越記憶的聲景:
〈風動四方──安平1634〉的虛擬實境〉,《南藝學報》20:01-23。
15
39而歌曲本身也將戰後臺灣特殊的歷史情境結合地理人文空間的想像。
透過音樂導引情感與記憶的方式,〈風動四方──安平1634〉更進一步透過許石、楊 麗花、江蕙詮釋〈安平追想曲〉的不同版本,呈現虛擬實境中由聲音表述的歷史情景,而 以此創造作品的沉浸感,重構體驗者在虛擬實境的情境以及穿梭時空的感知。此外,在「多 人互動虛擬實境」下,讓臺灣與荷蘭兩地的觀者以網路連線的方式,一同進入西元 1634 年的熱蘭遮城上空,聆聽不同的時空背景以及傳唱安平古堡的故事。
四、以「以風傳遞聲音」的藝術概念
〈風動四方──安平 1634〉以虛擬實境創造出穿越時空的幻覺,在體驗者互動的過 程中以聲音作為記憶的媒介,並在沉浸式的體感空間中,使感知交織於虛/實與真實與真 實之間的邊界。
〈風動四方──安平1634〉的「風扇陣列觸感裝置」是運用「WindCube」的反饋效 果,而目前這套裝置已應用於半沉浸式的虛擬實境中。根據研究顯示,風的觸覺感知反饋 能提升使用者的臨場感,而在裝置中風的強烈程度也能增加觀者在沉浸體驗中的感知變 化。而風扇的使用,常運用於強調速度、溫度或空間變化上的觸感,而使觀者在觸覺的反 饋中提升沉浸式感知的品質。40〈FiveStar VR〉的虛擬實境五感劇院,以刺激多種感官的 方式,使體驗者與虛擬化身產生同步的行為,從而喚起過去步行的感知而達到漫步於虛擬 世界的觀光旅遊。其虛擬實境在模擬多重感官經驗的過程中,體驗者面前的風扇的系統將 模擬的風和氣味呈現出共同分享的行為,由此提供互動式設計以及沉浸式的觸覺感知。41 〈風動四方──安平1634〉在國立臺灣美術館展出的裝置是一個九立方公尺(3m × 3m × 3m),外部由鏡子覆蓋的立方體。(圖 5)在「風扇陣列觸感裝置」的反饋系統中,
立方體的空間周圍設置六個風扇,並在體驗者面前傳輸熱風,此熱風主要模擬南部地區熱 帶氣候的高溫,以及港口海風的吹襲。在作品的情節中,體驗者是以二十一世紀的角色進 入到虛擬世界,並且透過不同世紀的音樂演唱,判斷所處的時空位置,由此跨越空間和時 間的限制。此外,網路的遠程連線,除了讓本地觀者感受外,遠端的體驗者也同樣在虛擬 實境體驗的過程中,感受音樂與地域文化的展現,以聲音御風而行的方式,沉浸在不同時 空當中音樂與影像的歷史感。採用跨國多人連線的虛擬實境體驗的互動過程,主要使觀者 進一步獲得跨文化的傳播交流,以及個人與集體的歷史所聯繫的情感記憶。
在展覽空間中,牆上的影像架設多部投影機,影像中顯示位於荷蘭的遠端體驗者,而 立方體鏡面後方的三個LCD 屏幕,主要顯示臺灣在地的使用者。當兩地體驗者同步進行 體驗時,鏡面立方體將出現三個嵌入式的屏幕。此三個屏幕中,右側的屏幕顯示當地用戶
39陳培豐,〈由閨怨、港邊男性到日本唱腔:1930-1960 年代臺語流行歌的流變〉,《臺灣史研究》,第 22 卷第 4
期(2015 年),頁 70-71。
40 Taeyong Moon and Gerard Jounghyun Kim, “Design and Evaluation of a Wind Display for Virtual Reality,”
(New York: Association for
’ 04 VRST - Technology Proceedings of the ACM Symposium on Virtual Reality Software and
. 128 - 122 ), 2004 Computing Machinery,
41Koichi Shimizu, Gaku Sueta, Kentaro Yamaoka, Kazuki Sawamura, Yujin Suzuki, Keisuke Yoshida, Vibol Yem, Yasushi Ikei, Tomohiro Amemiya, Makoto Sato, Koichi Hirota and Michiteru Kitazaki, “FiveStar VR: Shareable Travel Experience Through Multisensory Stimulation to the Whole Body,” SA’18: SIGGRAPH Asia 2018 Virtual & Augmented Reality (New York: Association for Computing Machinery, 2018), 2.
Hung, Yi-Ping, Yin-Jhang Li, Yuan-An Chan and Shoue-Jen Wang. 2020. “Soundscape of Memories:
Virtual Reality of Quartic Flow VR - Zeelandia 1634.” ARTISTICA TNNUA 20: 01-23.
16
的影像;左側屏幕則呈現遠端體驗者的第一人稱視角顯示的影像;中央屏幕則提供虛擬世 界的第三人稱視角,如裝置平面圖所示。(圖6)在〈風動四方──安平 1634〉中,臺灣 和荷蘭兩端的體驗者,將透過網路遠端連線的方式,以虛擬實境為共同相會的地點,並一 同駕著「時光機」進入1634 年荷蘭統治時期的熱蘭遮城,而後在音樂的牽引下跨越時空。
綜合上述,「風扇陣列觸感裝置」的設計理念以「風傳遞聲音」為概念,整合「風」
的視覺、聽覺和觸覺的反饋,創造聲音與歷史的互動效果。〈風動四方──安平1634〉傳 遞歷史、藝術與科技的結合以下幾個面向:1、兩位體驗者可以在虛擬環境中彼此交流;
2、觀者能與遠端的體驗者一起穿越時空抵達〈風動四方──安平 1634〉;3、跨國連線虛 擬實境設計;4、數位修復的熱蘭遮城模型;5、以模擬風流的「風扇陣列觸感裝置」產生 風的觸覺感知提升虛擬實境的沉浸感。〈風動四方──安平1634〉也曾於國立臺南藝術大 學,(圖7)2018 年臺北數位藝術節展示。除了虛擬實境裝置的體驗之外,裝置外觀的鏡 面展示設計也吸引觀眾觀看鏡中的身影以減少觀眾等候的時間,(圖 8)並且展現靜態與 動態的互動性與營造沉浸環境的氛圍。而風的觸覺感知,主要加強沉浸式體驗過程的強度,
將地域性的氣候,透過溫度與流動的風扇空氣,在多重感官的經驗中感知人文歷史。
當兩端使用者穿越時空重返1634 年臺灣大員的熱蘭遮城上空,線上體驗者必須在共 同的努力下,一同展現復原堡壘的力量。當觀者抵達熱蘭遮城的上空時,將會聽到臺灣國 寶級藝人楊麗花於1972 年演唱的〈安平追想曲〉。此時,體驗者必須彼此跟著歌聲的韻律,
輪流使用手上的鼓棒去敵擊隨風而來的歌詞。而這些被敲擊的歌詞將會撞擊到城堡上,並 綻放出火花。在互動體驗的過程中,一方面,觀者與遠端連線的體驗者合力恢復城堡昔日 光采;另一方面,觀者將會聽到1951 年許石演唱的〈安平追想曲〉,以及 2006 年臺語歌 壇天后江蕙演唱的版本。(圖 9)透過不同年代的演唱版本,以聲音傳遞出穿梭於時空的 記憶。觀者在體驗過程中能透過音樂的旋律,以及陣陣的風流,將歌手傳唱的音樂傳遞到 觀者者的耳朵,進入時光隧道。
【圖5】〈風動四方──安平 1634〉於國立
臺灣美術館展示的虛擬實境裝置
【圖6】〈風動四方──安平 1634〉的裝置
平面圖
洪一平、李寅彰、詹媛安、王碩仁,2020,〈穿越記憶的聲景:
〈風動四方──安平1634〉的虛擬實境〉,《南藝學報》20:01-23。
17 五、沉浸式影音環境的聲響效果
在互動設計的環節中,透過體驗者打擊節奏的振動反饋,將歌詞往堡壘射擊,以作為 恢復古堡的能量,(圖10)而這個過程將開啟 1634 年熱蘭遮城上空的「時空隧道」。(圖 11)為了達到虛擬實境中沉浸式影音環境的聲響效果,〈風動四方──安平1634〉採用 360 度環景的聲音處理格式:「高保真沉浸聲音工程技術」(Ambisonic)。在〈風動四方──安 平1634〉裝置中,總共安裝十九個立體聲音的喇叭,以提升該技術於沉浸體驗的效果。這 十九個喇叭分別安裝於空間中不同的位置,並配置四個重低音喇叭用於產生振動的效果。
透過上述,作品強調聲音技術的呈重要性,其主要目的在於透過觀者聲音的感受力,進而 使聲音的感知強度達到音樂與風的觸覺感知,而營造出高度沉浸式體驗的影音環境。
承上,虛擬實境透過物理真實進入數位虛擬空間的轉化,一方面需要清楚地理解故事 情節或概念上的設定與思考;另一方面,藉由真實空間中物理的特性以及人在真實中感知 的經驗,在虛擬空間中產生某種連結而進入虛擬的環境。風的觸覺感知是基於體驗者在虛 擬實境的視覺加入觸覺的探討,以提升沉浸式環境的條件而使觀者能夠在虛擬實境中產生 流動的意識。由此而言,〈風動四方──安平1634〉在數位媒體的非物質特性中運用風的 觸感,除了增強虛擬環境的體驗之外,也試圖喚醒人和科技之間,物質與非物質之間的相 互褶疊。換言之,虛擬實境中的真實環境主要透過體現的感知經驗或體感空間中顯現,這
【圖7】〈風動四方──安平 1634〉於國立
臺南藝術大學展示的虛擬實境裝置
【圖8】〈風動四方──安平 1634〉以鏡面
設計覆蓋的立方體裝置外觀
【圖9】不同年代傳唱的〈安平追想曲〉,透過聲音穿梭時空記憶的虛擬實境
Hung, Yi-Ping, Yin-Jhang Li, Yuan-An Chan and Shoue-Jen Wang. 2020. “Soundscape of Memories:
Virtual Reality of Quartic Flow VR - Zeelandia 1634.” ARTISTICA TNNUA 20: 01-23.
18
也突顯了虛擬實境與互動藝術的理念,並非以科技主宰觀者的立場而行,反而促進了人類 透過科技探索未知的可能性。因此,科技與體驗者之間的過程與觀者反饋的內容,以及觀 者可能在互動過程中所產生審美經驗的詮釋過程,皆指向觀者在虛擬實境中的數位身體,
以及虛擬實境模擬的身體性,兩者需要某種程度的伴隨與配合才能達到較佳的互動與沉浸 體驗。
伍、結論:多重感官的虛擬實境
虛擬實境的藝術作品以身歷其境的情感體驗與存在感,重建了觀看世界的方式。藝術與 科技結合的創作,一方面反思當代處境中人類和環境的關係;另一方面,也關注到科技介 入而重構的意識性。42換言之,虛擬實境使觀者相信有一個世界是存在的事實,並且能夠 進入影像的世界與之互動。這也呼應了虛擬實境一開始就以使用者自我與虛擬角色雙重的 意識性達成一致,而科技重構的意識性指向觀者意識上的轉換,也指向意識與互動過程中 產生某種感知與思維的對話。此外,在虛擬實境中,誘發大腦與視覺重新組織的方式、觀 者在虛擬空間中的沉浸感,以及行為反應的反饋,都指向更為人性化科技的研發。
本文以〈風動四方──安平 1634〉虛擬實境的藝術實踐為案例,其研究結果為以下 幾個面向討論:
一、 虛擬實境的互動性作為觀者反饋的交流
觀者能在多人互動設計的虛擬空間中與不同的使用者處於同一個環境當中。在此,互 動藝術的設計使得觀者能在某個環境當中產生自主的反應,而視覺對象也可能是引導觀者 的主體,透過敘事、情境或情節,引導觀者透過感官的經驗參與其中。此外,就互動性在 身體感知的現象而言,審美經驗將帶領觀者在迷失自我的過程中,重新發現自我。互動藝 術創作與科學技術的結合,某種程度上需要藉由科學與物理的原理,挑戰人體感知範疇之 外尚未開發的認知領域,並且在藝術形式的表現與內容呈現的接收過程產生一定程度的變 化,使得觀者在體驗過程中,不僅是將虛擬實境作為娛樂效果,而是能透過身體感知與文 本呈現的內容產生審美心理與智性的交流。
42Stephen Jones, “Towards a Philosophy of Virtual Reality: Issues Implicit in ‘Consciousness Reframed,’” Leonardo, 33: 125-132.
【圖10】體驗者戴上虛擬實境的頭戴式顯示裝置
進行體驗
【圖11】在虛擬實境中重返 1634 年熱蘭遮城上
空與時空隧道
洪一平、李寅彰、詹媛安、王碩仁,2020,〈穿越記憶的聲景:
〈風動四方──安平1634〉的虛擬實境〉,《南藝學報》20:01-23。
19 二、身歷其境的共感作為沉浸式體驗的媒介
虛擬實境可以是非再現式影像呈現的功能。就熱蘭遮城的3D 模型繪製測試與模擬風 的溫度設定而言,為達到熱蘭遮城逼真的效果,近距離、遠距離觀看城牆材質的變化,而 材質的一致性與完整性能確保觀者在虛擬世界中清楚辨識視覺的對象。其次,在熱風的設 定上,是基於熱蘭遮城位於臺南的熱帶氣候,貼近地域性的地理環境而產生文化記憶的可 能性。因此,在這些設定中表示虛擬實境能提供觀者能棲居於虛擬的空間,藉由沉浸於環 境中改變的感知轉化被動式觀看的視覺機制,而提升觀者涉入虛擬世界中的參與程度。換 言之,觀者在虛擬空間中的沉浸式體驗是在電腦模擬、感測環境的運算中,介入思想、身 體和環境的連結,進而在感知的運作過程中產生內在狀態與外在環境產生交織的過程。因 此,當沉浸作為互動藝術的感知條件,不單只是媒介與藝術創造的效果,需要觀者身體的 實際參與以及投入才能實現。整體而言,沉浸式體驗的藝術特質在於感知過程與自主意識 的轉化,而產生內在感受。在此思考下,不同觀者體驗的差異性與涉入內容的程度是否與 沉浸式體驗呈正向相關,還需要未來進一步探討。
三、 風的觸覺感知,穿越記憶的聲景
在〈風動四方──安平1634〉中,音樂是體驗過程中帶動情感與互動的方法,而這個 方法並非將聲音進行邏輯上的處理或編造,而是透過高度真實的環繞式聲音技術,擴大觀 者在聲音與環境之間的情感強度。換言之,透過音樂產生的體感空間,是藉由感官刺激觸 發不同感官知覺的聯覺,而產生多重感官相互作用的共感現象。在作品中,虛擬實境在某 種程度上需要在物質文化的觀點中探究物質與歷史之間的關係,還原當時古堡的場景中呈 現特定年代的媒材質感;科技的功能與影像的呈現,不僅是視覺對象的物質呈現,而音樂 體現情感與精神的非物質向度,也在虛擬實境的審美經驗中被納入考量。因此,虛擬實境 使身體參與的感覺,不僅是因為技術上的介入,更是人類正在經驗中的文化提供了情感連 結的基礎。在本文的觀點中,虛擬實境的體驗並非只是提供虛幻的幻覺,而是在幻覺當中 意識到世界的肉身以及科技與真實之間存在的可能性。
本文透過實踐案例,在虛擬實境中作為互動媒體藝術的特質中,藉由沉浸式體驗與科 技的結合,探討該技術在創作與展示的應用。虛擬實境是現今正在發展中的媒體科技,因 此在本文中探討身歷其境的效果所產生互動與沉浸式體驗的可能性。縱然虛擬實境較多關 注於技術上的測試,但也有必要思考運用虛擬實境技術所呈現文本的內容以及裝置中呈現 的視覺性與藝術的特質,並從中帶出互動設計與應用上的創新。虛擬實境在某種程度上屬 於互動媒體的特質,特別是沉浸式的體驗代換的真實感,仍需要探討人類的五感或本體感 受為線索,提供科技更為人性化的改善。
虛擬實境的藝術特質在互動性的設計與沉浸式體驗當中,呈現觀者與藝術作品之間審 美的心理與意識流動,而在科技的自主性與觀者感知的主動性之間呈現互為連結而非對立 的關係。在虛擬實境的互動性與沉浸式體驗,表面上一開始先預設觀者主動思考的位置,
但觀者進入沉浸式體驗的過程將逐漸產生變化。一方面,身體感在虛擬環境中產生適應與 調節;另一方面,內在的感受與思維也隨之發生變化,而虛擬實境提供觀者發揮自主思考
Hung, Yi-Ping, Yin-Jhang Li, Yuan-An Chan and Shoue-Jen Wang. 2020. “Soundscape of Memories:
Virtual Reality of Quartic Flow VR - Zeelandia 1634.” ARTISTICA TNNUA 20: 01-23.
20
與行動的能力。在本文中,〈風動四方──安平1634〉以〈安平追想曲〉一曲透過不同年 代演唱的不同版本,在於觀者對於音樂有更為直接的感受力,而音樂曲調營造的氛圍中喚 醒記憶,而達到作品所欲追尋的歷史感;不同年代的版本對於不同世代的體驗者也能藉由 不同演唱者的聲音而辨識出時空上的轉換。〈風動四方──安平1634〉以不同時空整合的 概念,藉由歌曲帶出個人與集體之間的歷史記憶。本研究在虛擬實境科技的應用中,結合 跨國多人互動虛擬實境與風扇陣列觸感裝置,在藝術作品中提出跨越時空與地域的概念。
透過互動設計與沉浸式的體驗過程,虛擬實境以多重感官的聯繫,使不同的觀者在虛擬時 空中產生共感的特質,喚醒記憶中的文化風景。