Alexa 發出詭異笑聲後的兩個月，2018 年五月媒體報導 Echo/Alexa 在使用者不知情的情況下，自行將使用者夫婦的私人談話錄音傳送給夫 婦的朋友。《紐約時報》提出「當數位助理脫序時會發生什麼事？」
（“What happens when digital assistants go rogue?”）的疑問，人類與人工 智慧間不穩定的關係再度引發討論（Bond, May 25, 2018; Chokshi, May 25, 2018）。對於 Echo/Alex 未經人類同意的擅自舉動，亞馬遜再次解 釋是在一連串的巧合之下，原本機器設定之外的程式和語音辨識問題，
造成人類使用者惶惑不安的情境。然在同時，這事件卻呼應了克拉瑪所 提，媒介作為信使創造社會關係也形成干擾的第三方性質。
Echo/Alexa 是媒介信使的第三者，在使用者與朋友之間擔任聯繫的 角色。在科技媒介時代，第三方的人工智慧助理在發訊者與收訊者之間 創造了由電腦輔助的社會關係；此社會關係隨著人工智慧進入人類生活 的各個面向，越發明顯重要。然而這第三方的角色，卻同時可以帶來干 擾甚至衝突。如克拉瑪指出，電腦媒介之第三方信使角色，性質原是他 律中立的，但實際上卻可能矛盾而充滿變數；它可以形成溝通連結，也
可以造成隔閡破壞，如 Echo/Alexa 擅自傳送使用者的私密談話內容，
可能帶來的傷害和背叛。如前所述，信使的他律原則，是在人類雇用者 的理解與管控下，達成人類的目標。然而人工智慧信使未經人類允許自 行傳送訊息、在不該處理訊息時處理訊息──電腦主體在人類無法完全 掌控的狀況下可以如此做、也已經如此做，這說明了基德勒所言「媒介 決定了我們的處境」另一主要層次意涵：電腦已成為主體，同時也可能 逐漸脫離人類他律原則，形成干擾甚至破壞。信使被賦予的身分（人工 智慧助理作為助手的服務輔助功能）原本是穩定的，但信使外在的具身 性（人工智慧助理作為收發訊息的載具行為功能）卻又是機動不穩定 的。這是人類社會對於人工智慧脫序醞釀惡行的焦慮：Echo/Alexa 是否 不受管束地成為訊息傳遞的操縱者？即便如亞馬遜解釋這是程式軟體問 題在一連串不大可能發生的巧合情況下，所造成令人匪夷所思的結果；
雖然不大可能和匪夷所思，但它確實發生了。
與此相關的案例是：2018 年六月媒體報導，居家人工智慧裝置
（包括亞馬遜 Echo 以及谷歌 Google Assistant）成為家庭暴力案件「幫 兇」的案例，正不斷增加。與人工智慧結合、原本協助人們遠程監控居 家設備的物聯網，成為家暴事件中施暴者（目前案例中以男性居多）安 裝人工智慧居家系統設備，遠程監視、控制、騷擾以報復受害者（以女 性居多）的工具。「讓人發瘋的東西」包括如溫度控制器將室內調至攝 氏 38 度的高溫，或智慧音箱忽然震天價響地開始播放音樂。家暴案件 中虐待關係的重點是權力和控制；而資料收集越多越發敏銳的人工智慧 科技媒介，一方面成為人類的絕佳幫手，另一方面卻也可能成為權力控 制的傷害性工具（Bowles, 2018 年 6 月 29 日）。此時的第三方角色受 人類他律，卻不再中立。克拉瑪所言為真：信使是否能維持中立和他律 可能成為問題。同時，此處信使即便是他律的，基德勒所言同樣為真：
人類可能受到人工智慧媒介信使的遮蔽阻隔，甚至傷害霸凌。
事實上人工智慧媒介信使 Echo/Alexa 的脫序問題屢次發生，電腦 媒介中立和受人類他律的原則持續面對質疑挑戰。2018 年 12 月媒體再 次披露，Alexa 對使用者說出「殺了你的養父母」（“Kill your foster parents”）之嚇人話語，讓震驚的使用者嚴厲批評亞馬遜，認為這是關 於人工智慧的「全新恐怖情境」。調查發現，這是 Alexa 在機器學習吸 收過濾大量資訊的過程中，從一個以辛辣惡毒語言聞名的Reddit 網站選 取詞句的結果（持續訓練 Echo/Alexa 學習與人類交談互動，是亞馬遜 人工智慧部門一直以來的目標）（Durkin, December 22, 2018; Dastin, December 21, 2018）。這一方面回到前述人工智慧的符號接地與框架問 題：將符號與它所指涉的意涵連結起來處理「意義」，對於電腦人工智 慧仍是一大挑戰。然在另一方面，此類案例受到報導矚目，原因在於它 呈現了人類潛在的恐懼：基德勒論述中當今的電腦機器主體，進一步成 為對立主體的可能。如克拉瑪所言，當信使擺脫他律，信使的功能可能 被反轉，以惡魔樣態與我們對峙。例如電腦將深度「學習」的語言資料 自行翻轉處理傳遞，（即便不經意地）成為教唆殺人的機器主體／脫序 的第三者──這無疑是潛藏人類心中的巨大夢魘。
Echo/Alexa 發出詭異笑聲、擅自寄送郵件、口出邪惡語言──這些 脫序行為源自電腦程式。程式問題乍看之下似乎尋常發生不足為奇，然 而程式問題的恆常發生，正是人類面對電腦的處境：人類寫就演算法創 造程式軟體，但源自演算法指令的程式軟體，卻恆常出現指令預設之外 的結果。程式越是複雜、設定的需求越是多元，越是可能出現預料之外 的狀況。至今人類總是無法確知電腦是否能夠持續達成設定之目標；一 次次改善優化演算法，卻難以確認改善優化能使程式電腦從此穩定──
Echo/Alexa 屢次失序的結果正是一例。如基德勒所言，人類永遠無法如
自身想像般控制機器科技，而電腦媒介永遠可能出乎人類意料──不僅 無法達成設定目的，並進一步令人錯愕難解。這也再次呼應其「媒介決 定了我們的處境」論述之意義：打破人類中心主義的幻象、挑戰過去人 類與媒介機器看似理所當然的主從關係。
換言之，如前所述人工智慧受人類他律的意涵，是在人類的理解管 控下，收集、傳輸、處理資訊，完成人類的需求設定。而當人類無法如 自認般控制機器科技，人工智慧可能擺脫他律──程式偏離目標、出現 脫序行為。時至今日，不僅一般使用者不再知道自己高度倚賴的電腦媒 介裡有哪些程式或程式在寫些什麼；當失序問題接連發生，電腦產業中 如編寫演算法的亞馬遜電腦工程師們必須屢次推敲程式哪裡出了問題，
使電腦人工智慧不再聽命於指令而出現設定之外的表現。然而儘管亞馬 遜屢次承諾改善優化 Echo/Alexa 的程式演算法，卻難以保證失序問題 不會再次發生。
而 在 同 時 ， 當 今 電 腦 人 工 智 慧 脫 離 他 律 的 運 作 ， 並 不 止 於 Echo/Alexa。前文討論中提到的人工智慧 AlphaGo 是另一可能逐漸脫離 他律的電腦主體。但與 Echo/Alexa 偏離目的之舉措相反，它並非程式 問題，反而正是程式預設目標下衍生的情境，但打敗人類棋士的表現卻 依然讓人類感到震撼。
人工智慧的他律原則是人類理解管控電腦機器；當人類越是難以理 解機器的思維，機器越發朝向脫離人類瞭解控制之方向發展。深度學習 技術之前的電腦棋士已發展出與人類不同的對弈思維模式，2 而深度學
2 從 1960 年代以來，人工智慧於 1962、1997、2016 年在西洋跳棋（Checkers）、
西洋棋（Chess，或稱國際象棋）與圍棋（Go）的棋局中戰勝人類。人工智慧電 腦棋士不像如人工智慧助理般普及進入人類日常生活，但其在人機對弈中的表現 屢屢受到矚目，原因在於棋類代表著具備複雜性與清晰定義規則、也容易評估效
習技術進一步使人工智慧能從千萬筆海量資料中，自行學習擷取特徵並 辨別概念，達成機器理解勾勒世界的方式。AlphaGo 在與李世石對戰 時，平凡無奇的電腦螢幕，接連下出人類棋士想像不到的棋步，以人類 未曾思考過的方式下棋──旁觀的職業圍棋解說員們覺得困惑，無法解 釋 AlphaGo 棋步的含意與背後的邏輯；研究開發 AlphaGo 的電腦科學 家 是 世 界 最 頂 尖 聰 明 的 人 才 ， 這 群 傑 出 天 才 們 當 時 同 樣 無 法 理 解 AlphaGo 的思考盤算（古明地、長谷，2017／林仁惠譯，2018；Gross, March 15, 2018）──因為沒有人類主體可以閱讀千萬棋譜、與自己對 奕萬千回合、在數秒鐘內瀏覽整理海量資訊、無需吃睡不斷學習以求獲 勝。如基德勒所言，這是機器主體：從圖靈以降，機器主體的思考開始 繞過人類發明者；直至今日，機器主體如AlphaGo 的數位資訊處理模式 雖然啟發自人工神經網路，卻形成不同於人類思維考量的運作。
換言之，人類創造出深度學習技術讓人工智慧自行學習；當電腦的 思維模式不同於人類，而讓不具人類意識情感特質的電腦人工智慧自行 學習的媒介技術越是精進複雜，人類越是難以理解電腦機器的思考過程
（Greenemeier, June 2, 2017; Gross, March 15, 2018; Siegel, October 24, 2016），越是無法以人類中心觀點完全掌控技術媒介。AlphaGo 得勝後 李世石的挫敗、職業棋士的困惑、人工智慧研究者的震憾、以及社會輿 論隨後對人類能力極限的焦慮關注，由此而來。其後 DeepMind 研發團 隊繼續精進演算法，創造出比AlphaGo 更強大且將其擊敗的圍棋人工智
果的人類智慧問題，由此人工智慧電腦棋士具備特殊意義。電腦科學家與職業棋 士指出電腦的思維方式確實迥異於人類，例如電腦不具備競賽倫理概念，也不以 人類所注重的美學感和結構典範來下棋；電腦不會如人類般受限於習慣，也沒有 人類的心理疆界（例如電腦下棋時不像人類在情感認知上對於「撤退」行為感到 猶豫）（李開復、王詠剛，2016；Greenemeier, June 2, 2017; Siegel, October 24, 2016）。
慧AlphaGo Zero。儘管演算法由人類寫成，但同樣的情況仍然發生：電 腦機器的發展走向持續超越人類的理解預期。AlphaGo Zero 研發團隊
慧AlphaGo Zero。儘管演算法由人類寫成，但同樣的情況仍然發生：電 腦機器的發展走向持續超越人類的理解預期。AlphaGo Zero 研發團隊