AI 倫理治理與醫療防疫
2020– 09
財團法人中技社(CTCI Foundation)創立於 1959 年 10 月 12 日，以「引進科技新知，培 育科技人才，協助國內外經濟建設及增進我國生產事業之生產能力」為宗旨。初期著力於石 化廠之設計與監建，1979 年將工程業務外移轉投資成立中鼎工程後，業務轉型朝向裨益產 業發展之觸媒研究、污染防治與清潔生產、節能、及環保技術服務與專業諮詢。2006 年本 社因應社會環境變遷的需求，在環境與能源業務方面再次轉型為智庫的型態，藉由專題研 究、研討會、論壇、座談會等，以及發行相關推廣刊物與科技新知叢書，朝知識創新服務的 里程碑邁進，建構資訊交流與政策研議的平台；協助公共政策之規劃研擬，間接促成產業之 升級，達成環保節能與經濟繁榮兼籌並顧之目標。
本著創社初衷，為求對我們所處的環境能有更多的貢獻，本社就國內前瞻性與急迫性 的能源、環境、產業、社會及經濟等不同議題，邀集國內外專家進行全面的研究探討，為廣 為周知，特將各議題研究成果發行專題報告，提供產官學研各界參考。
本專題報告係取自本社於 2020 年 10 月 16 日舉辦之「AI 倫理治理與醫療防疫」研討 會之演講內容，該研討會係由中研院陳力俊院士召集，本社潘文炎董事長、蕭萬長前副總統 共同致詞，並敦請李羅權院士、郭旭崧校長及張上淳副校長擔任主持人，朱雲漢院士、郭毅 可副校長、何志明院士，以及陳建仁副總統進行專題主題演講，並在圓桌論壇中與施立成法 務長、林勤富教授、杜奕瑾創辦人，與莊曜宇副所長等專家學者相互交流。並在會後將成果 彙集成冊，由本社編輯發行。本研討會之相關資料及簡報請見本社網站。
發 行 人：潘文炎
主 編：陳綠蔚、陳力俊
作 者：朱雲漢、郭毅可、何志明、陳建仁(依演講順序) 執行編輯：王釿鋊、劉致峻、許湘琴
發 行 者：財團法人中技社
地址 / 106 臺北市敦化南路二段 97 號 8 樓 電話 / 886-2-2704-9805
傳真 / 886-2-2705-5044 網址 / www.ctci.org.tw
本社專題報告內容已同步發行於網站中，歡迎下載參考 發行日期：中華民國 109 年 12 月
ISBN：978-986-99844-0-9
人工智慧(AI)係為一項對諸多領域均有深遠影響的泛用科技，在能夠確保大 眾的共同利益的前提下，如何以「AI 倫理與治理」形塑一個人機共榮的未來社會，
是當前歐美官產學研界甫開展的全新研究領域。例如聯合國教科文組織的「機器 人倫理報告」指出透過複雜的演算法，機器人將改變人類的生活方式和經濟發展 模式，但其開發應用須考慮人類社會規範，才可避免引發倫理和法律問題；由超 過三千名的民間 AI 技術與實務領域專家共同簽屬的「阿西洛馬 AI 原則」認定 13 項 AI 發展過程需重視的倫理標準與道德價值，作為未來 AI 從業人員之圭臬；其 他諸如史丹佛大學、麻省理工學院、哈佛大學、牛津大學、世界經濟論壇、Google、
Intel、Forbes 等學術單位、國際機構，甚或跨國領導企業均已爭先投入。美國、
歐盟、英國、中國大陸、日本亦初步建構自國的 AI 發展原則，台灣亦在去(2019) 年發布「AI 科研發展指引」朝 AI 發展的正確方向邁出第一步，但仍須吸引更多 倫理、法制、政府治理等領域專家的投入，才可完善國內 AI 的發展環境。
於此同時，全球遭逢到新型冠狀病毒的肆虐，去年年底發現於中國大陸武漢 市的新冠病毒，在今年迅速擴散至全球多個國家，演變成一場全球性大瘟疫，至 11 月底時全球已有超過 6,260 萬件確診病例，超過 146 萬餘人不幸死亡，被世界 衛生組織(WHO)形容為史上最嚴重的公共衛生事件之一。嚴重的疫情導致各國政 府不得不關閉邊境，執行嚴格的檢疫措施，使得國際間的商務與旅遊停止，經濟 活動也彷彿變成一灘死水，不論是歐、美先進國家，或是第三世界國家無不蒙受 巨大的經濟損失，甚至連美國總統川普本人也曾不幸確診。而我國則仰賴政府加 強邊境管制及國內防疫的多項舉措，讓國內疫情得以控制，台灣因此成為許多受 到疫情重擊的國家仿效的模範。陳建仁前副總統在他的演講中指出台灣防疫成功 的關鍵，在於科技創新、政府透明與人民信任。換言之，這次的新冠病毒疫情可 說是，AI 第一次在世界性的重大事件中發揮顯著功能，但是也逼使我們不得不更 早面對 AI 倫理與政府治理的挑戰。就如同已故的知名物理學家 Stephen Hawking 所言，人類必須意識並鑑別 AI 可能帶來的危險，採行最佳的管理方法，並儘早為 後果做好準備。
序
2020 -09
有鑑於此，本社於今年 10 月 16 日舉辦「AI 倫理治理與醫療防疫研討會」，
這場研討會係本社近年在中研院院士、台灣聯合大學系統系統校長、前清華大學 校長，陳力俊院士的協助下，所舉辦的第四場與 AI 相關的研討會。在前三場研討 會中，分別從 AI 對社經政等宏觀領域的影響，再到與社科文教等跨領域應用，進 而對個人日常生活的體現進行探討。而本場研討會則將主題一分為二，首先討論 AI 研究與相關產業發展時，其上層架構應注意的倫理與政府治理議題；並結合當 前新冠病毒疫情時事，探究 AI 科技在醫療與防疫領域的應用。本研討會邀請到中 研院朱雲漢院士、香港浸會大學郭毅可副校長、UCLA 何志明院士與陳建仁前副 總統進行專題演講，並與陳力俊院士、中研院李羅權院士、陽明大學郭旭崧校長、
台灣大學張上淳副校長、微軟公司施立成法務長、清華大學林勤富教授、AI 實驗 室杜奕瑾創辦人、工研院莊曜宇副所長等產學研專家學者進行圓桌對談。並循前 三場之模式，由本社在會後將研討會成果薈萃出版專題報告，供各界人士參閱，
望收引玉之效。
最後，感謝中研院劉炯朗院士長久以來的支持，劉院士除了在前三場舉辦的 AI 研討會中擔當主持人、主講人外，原將續於本場研討會中，以其如珠妙語與所 有與會來賓、讀者分享其真知灼見。然而，院士因病辭世，讓人無不扼腕、悲切。
這一系列的 AI 研討會得蒙劉院士之鼎力襄助，實是本社之幸，故謹以本報告表達 對劉炯朗院士最深的懷念與道別，與對劉院士家人最深的祝福。
財團法人中技社 董事長 潘文炎 2020 年 12 月
鑑於 AI 的急速發展，對人類的社會影響愈為廣泛與重大，中技社於 2018 年 2 月 22 日、2019 年 3 月 13 日與 2019 年 8 月 23 日分別舉辦了「AI 對科技經濟社 會政治暨產業之挑戰及影響」、「AI 時代社科文教之變革與創新思維」與「AI 智 能應用對日常生活之翻轉與創新」主題研討會，獲得熱烈的參與以及回響；有感 於 AI 發展至今，除增進人類福祉外，也呈現許多負面效應，大者甚至影響強國的 選舉，牽動世局變化，因此較上位的「倫理與治理」問題愈形重要，因此規劃於 今年 4 月舉辦「AI 倫理與治理」研討會。
由於新冠疫情的發展，AI 在醫療防疫上大顯身手，本研討會除決定延期到 10 月 16 日舉行，同時改以「AI 倫理治理與醫療防疫」為主題；以 2003 年「非典 肺炎」疫情的經驗，估計到 10 月之時，全球疫情應已大體受到控制，國際間旅行 無阻，詎料疫情目前仍在全球大部分地區蔓延，旅行也受到諸多限制，只能部分 以錄影與視訊方式舉行。
本研討會在諸位重量級主講人、主持人、與談人支持下進行甚為順利，也感 謝蕭前副總統蒞臨致詞，兩位在境外的院士除抽空為演講錄影外，也全程以視訊 參與圓桌論壇的討論，讓研討為更為圓滿成功，在此一併致最深的謝意。
中技社是國內最早對 AI 發展與影響關切並著力最深的財團法人，除舉辦四 次大規模研討會外，並舉辦兩次 AI 創意競賽，2019 年以「AI 與教育」、「AI 與創 新服務」與「AI 與藝術」為主題，各有 10、12、10 隊，共 32 隊參賽，今年聚焦 於「醫療防疫」，則吸引 34 隊參加，廣度與深度均有提升；同時在本年創意獎學 金部分，也鼓勵許多學生以 AI 相關主題參賽，顯示國內 AI 的發展與中技社的教 育與推廣努力相輔相成。
展望未來，朱雲漢院士在討論倫理與政府治理議題，作總結時，特別提到，
如何引導 AI 為善、制止為惡是極為關鍵重要問題，並期許 AI 為善可以是「中技 社的時代使命」。令人振奮的是，中技社正朝此方向積極研議中，未來集思廣益，
還賴各位學者專家鼎力支持。
此次研討會，讓人遺憾的是原來排定擔任主持人之一的劉炯朗院士臨時因需 動手術未能參加，並不幸因手術引發的狀況已於 11 月 7 日仙逝；劉院士在前三次 中技社辦理與 AI 相關的研討會，均「共襄盛舉」。頭兩次是擔任主持人，第三次 則是擔任主講人，以「科技與人文的平衡，AI 往哪邊站?」為題作約五十分鐘壓 軸演講，風靡全場。聲望崇隆的劉院士是 AI 先驅，而一生為善，將是未來中技社 推動 AI 為善的精神指標。
本研討會從規劃到順利圓滿舉行，仰賴中技社的持續全力支持，尤其王釿鋊 主任率領的團隊在一般舉辦大型研討會的繁鉅事務外，增添部分主講人的錄影與 視訊工作，備極辛勞但圓滿達成任務，特別讓人感佩與感謝。
中研院院士、台灣聯合大學系統/系統校長、清華大學特聘講座教授 陳力俊 2020 年 12 月
序 ... I 主編序 ... III 目錄 ... V 圖目錄 ... VII 表目錄 ... IX
開幕致詞 ... 1
貴賓致詞 ... 3
上午場《人工智慧的倫理與政府治理》主持人引言 ... 5
專題演講一：智慧治理與共享社會：人工智慧帶來的機遇與難題 ... 7
一、 前言 ... 7
二、 從對抗新型冠狀病毒危機說起 ... 7
三、 人工智慧帶來的機遇與難題 ... 13
四、 出路 ... 17
五、 結語 ... 20
專題演講二：理解機器行為：人機共生世界中的生存方式 ... 21
一、 前言 ... 21
二、 何謂機器學習？ ... 22
三、 何謂機器行為？ ... 24
四、 機器行為的重要性 ... 24
五、 機器行為的研究方法 ... 25
六、 人工智慧的重新思考：從機器行為出發... 30
七、 人機共生的世界 ... 31
八、 結語 ... 31
上午場圓桌論壇 ... 33
下午場《人工智慧於醫療與防疫的應用》主持人引言 ... 43
專題演講三：AI 與醫藥發展(AI-Medicine) ... 45
一、 醫藥：一門不確定的科學 ... 45
二、 AI-Medicine ... 47
三、 人體的臨床實驗結果 ... 51
四、 AI-PRS：一個免機制、不定型的平台 ... 57
五、 以簡馭繁的非正規方法：AI-Medicine ... 60
六、 結語 ... 61
專題演講四：AI 與防疫科技 ... 63
一、 前言 ... 63
二、 我國新冠肺炎防治對策 ... 65
三、 我國防疫科技的發展 ... 67
四、 防疫科技的未來發展與挑戰 ... 73
五、 結語 ... 75
下午場圓桌論壇 ... 77
閉幕致詞 ... 87
圖 1-1 以 Alphafold 預測的新型冠狀病毒的蛋白質結構 ... 8
圖 1-2 可避免人與人接觸的服務業智能機器人 ... 9
圖 1-3 最富有的五十位美國富豪的淨資產總和 ... 11
圖 1-4 機器人管家(Jarvis the Robotic Butler) ... 12
圖 1-5 工作自動化可能性 ... 13
圖 1-6 五大科技公司市值占 S&P 500 比重 ... 16
圖 2-1 人工智慧發展時程表 ... 21
圖 2-2 機器獲取知識能力的演變 ... 22
圖 2-3 機器學習的認知學原理：模型和觀察 ... 23
圖 2-4 如何向機器表達行為目的 ... 26
圖 2-5 如何理解機器行為做的對的緣由？ ... 29
圖 3-1 Microsoft Ethical AI Principle ... 35
圖 3-2 新型態國際角力與全球規範制定競爭 ... 37
圖 3-3 不同國家區塊的人對於自駕車難題的偏好 ... 38
圖 4-1 Estimated Persons Living with HIV Infection and Estimated AIDS Deaths Among Adults and Adolescents — United States, 1981–2008 ... 46
圖 4-2 A Smart Surface Fitting Methodology ... 48
圖 4-3 Artificial Neural Networks ... 49
圖 4-4 Phenotypic Response Surface (PRS) ... 49
圖 4-5 Quantitative Governing Rule ... 50
圖 4-6 Immunosuppression Post Liver Transplant (Control Patient) ... 52
圖 4-7 Immunosuppression Post Liver Transplant (PPM Patient) ... 53
圖 4-8 AI-PRS Guided Personalized Dosing in a Metastatic Prostate Cancer Patient ... 54
圖 4-9 Maintenance Regimen for HIV Patients ... 56
圖 4-10 AI-PRS Based Personalized Maintenance Dose for HIV Patient ... 56
圖 4-11 Challenges in Current Drug Discovery Pathway ... 58
圖 4-12 以簡單數學式描繪一個複雜系統 ... 61
圖 5-1 健保大數據與人工智慧結合 ... 65
圖 5-2 我國 COVID-19 防治對策與生技戰略(I) ... 66
圖 5-3 我國 COVID-19 防治對策與生技戰略(II)：阻絕境外 ... 66
圖 5-4 Deep Learning-based Automatic Detection for Lung Cancer on CXR ... 68
圖 5-5 End-to-end Lung Cancer Screening with 3-dimensional Deep Learning on LDCT ... 68
圖 5-6 Radiomics of Lung Adenocarcinoma Subtype Based on IASLC/ATS/ERS Classification ... 69
圖 5-7 訊連科技的 FaceMeHealth ... 71
圖 5-8 瑞昱半導體的跌倒警示與電子圍籬系統 ... 71
圖 5-9 瑞昱半導體的藍芽智能紅外線測像儀 ... 72
圖 5-10 研華科技的科技防疫設備 ... 72
圖 5-11 防疫領域的新科技、新應用 ... 73
圖 5-12 產業掌握翻轉醫療與健康科技的關鍵技術 ... 74
圖 5-13 台灣資通訊產業的健康照護產業佈局 ... 74
圖 5-14 應用 AI 與機器學習之醫療設備的產品生命週期監管方法(美國) ... 75
表 4-1 Population Averaged Chemotherapy ... 47
表 4-2 Small Data AI Enables AI-Medicine ... 51
表 4-3 AI-PRS Platform 實證研究領域彙整 ... 57
表 4-4 治療 Covid-19 的單一藥劑療效 ... 59
表 4-5 治療 Covid-19 的複合藥劑療效 ... 59
表 5-1 人工智慧在健康照護應用的實例 ... 63
開幕致詞
潘文炎
財團法人中技社董事長
蕭副總統，各位貴賓，各位先進，首先我要代表中技社歡迎各位來參加「AI 倫理治理與醫療防疫」研討會，今天天氣突然變得不好，各位還準時踴躍出席，
讓我非常的感謝。
大家都非常重視人工智慧的發展，也都了解到人工智慧是未來對人類影響最 大的一個科技，在可預見的未來，將為我們的生活帶來廣泛且顛覆性的影響。本 社在過去兩年間已經舉辦過三場與人工智慧相關之研討會，都是仰賴陳力俊院士 的發想與規劃，並且透過他的人脈，讓我們有機會邀請到各個領域大師級的講者 來發表卓見。第一場的主題是AI對社會、經濟與政治等宏觀領域的影響，第二場 則是AI在各種跨領域的應用，第三場則是AI對於個人日常生活的體現，每一場次 都獲得相當大的迴響。
而這場研討會則是本社舉辦的第四場AI系列研討會，討論在AI快速發展的狀 況下，應該注意的道德倫理問題。譬如說掌握AI技術的高科技公司跟政府對於可 能會對個人隱私造成妨害；又比如現在社會的貧富差距越來越大，而AI的出現會 不會再拉大貧富的差距，進而衝擊整個民主制度。因此，對於AI的治理與管控變 成大家非常重視的議題。
另外，今年出現了新冠肺炎的疫情，嚴重地影響到全人類的生活。現在全球 已經有超過3,900萬人感染，超過100萬人過世。即使像美國這麼先進的國家也有 超過800萬人感染，22萬人過世，甚至連美國總統川普自己也染病。所以我們可 以親身參與研討會，生活受到非常小的影響，台灣應該對自己感到驕傲。這些防 疫成果仰賴諸多防疫專家的努力，國人也吸取了SARS的經驗，積極配合政府的 防疫措施，而AI在其中也扮演了不少重要角色。
今天的研討會主講人都是院士級的學者專家，相信會讓所有與會來賓滿載而 歸。也感謝蕭萬長副總統蒞臨研討會，蕭副總統對台灣經濟發展的貢獻，大家有 目共賭，並且仍對於國家發展非常的關心；而陳建仁副總統也在卸任後，馬上回 到學者的角色，在本研討會主講AI防疫的議題，在此我謹代表中技社表示最大的 謝意。最後也祝各位貴賓身體健康，萬事如意，謝謝。
貴賓致詞
蕭萬長
中華民國第 12 任副總統
潘董事長，中央研究院陳院士、李院士、朱院士，各位與會的貴賓，大家早 安。非常高興，也非常榮幸，能參加中技社所舉辦的「AI倫理治理與醫療防疫」
研討會。
因為疫情的關係，我們的生活受到了許多影響，我想在座的各位應該都有感 觸。要能把防疫工作做得更好，不能僅僅靠著戴口罩而已，若要做得更有效，更 能夠切合我們的需求，那就需要科技的協助，而我覺得人工智慧是當前最可能協 助我們控制疫情的科技。
在這場研討會中，主辦單位邀請到國內外各位重量級的學者專家，除了討論 AI所面臨的倫理道德跟政府管制的問題之外，也會探討如何應用AI來防治在全球 肆虐的新冠肺炎病毒，透過各位專家的分享，我相信能夠讓所有與會來賓都能夠 對這個議題有更深的了解，滿載而歸。我也非常的期待，所以即使等一下還有另 外的行程，我也一定要聽一堂課以後才離開。
去年底發生的新冠肺炎疫情非常迅速的蔓延到全球，我也正好在年初時從美 國返台，也在返台後，乖乖地居家檢疫14天，整個過程讓我感受很多。雖然居家 檢疫相當嚴格，但也非常的重要。居家檢疫的每一天都有專人打電話詢問你的狀 況與需要。有一次，我的太太晚上將手機關機後，隔天忘記把手機開機，馬上轄 區的警察就過來調查。我們非常遵守這個規定，因為保護別人也是保護自己。我 現在年紀大了，屬於高風險群，所以我兩個禮拜的居家檢疫完成後，我自己再關 一個禮拜。這就是今天我們所面對的一個情況，居家檢疫雖然限制了我們的人身 自由，但是它對防疫工作是非常重要的一環。
WHO形容這是歷史上最嚴重的公共衛生事件之一，到昨天為止，全世界已 經有3,748萬人確診，也有105萬人死亡。許多國家的政府都實施封城或宵禁，例 如法國政府在前幾天再次宣布巴黎的六個區要實施宵禁。這些不得不為的管制措 施讓國際間的商務還有旅遊的活動幾乎停頓，經濟活動受到了嚴重的影響。
很幸運的，台灣能及早注意到潛在危機，政府也很明快的進行超前佈署，但 最重要還是我們人民的警覺性，大家都非常的配合防疫措施。假如沒有民眾的配 合，一切的努力都將付諸流水。例如美國疫情如此嚴重之下，仍有許多民眾不戴 口罩、不遵守社交禁令，那即使美國有如此先進的醫學科技，疫情仍無法得到有
效的控制。
由於新冠肺炎病毒仍未絕跡，疫苗也還沒成功研發出來，目前國與國之間的 人員流動都還是需以嚴格的檢疫措施進行管控，不管入境台灣或出境到別的國家，
都要居家檢疫14天，導致經濟活動難以在短時間回復正常。因此，我真的很期盼 以先進的AI科技來協助檢疫工作，一方面簡化或縮短目前的檢疫流程，另一方面 仍能避免防疫的安全網出現漏網之魚，或許會是另一條解決之道。而政府也應該 對AI科技應用於防疫或醫療行為時，涉及的個人隱私或侵犯人權的相關問題，與 社會進行充分溝通，取得民眾的理解，並型塑出共識。
上述所提到的這些議題，就待今天的諸位重量級的專家學者來為大家解惑。
最後，我在此預祝研討會順利成功，並祝福各位貴賓身體健康、萬事如意，謝謝 大家。
上午場《人工智慧的倫理與政府治理》主持人引言
陳力俊
中研院院士、台灣聯合大學系統/系統校長、清華大學特聘講座教授
歡迎大家來參加今天的研討會，早上的議程聚焦於 AI 倫理與治理；剛才蕭 副總統談到台灣防疫有成與戴口罩的關聯，民眾視情況自動自發戴口罩是講倫理，
政府對那些場合需要戴口罩作出規範則是治理問題。有鑑於 AI 越來越強大，越 來越普及，相關倫理與治理問題，就顯得越重要。
在倫理方面，AI 是照我們所設計的演算法運作，遵循一個口令、一個動作，
就如我們說的 Do the Thing Right，也就是「依章行事」。但談到倫理問題，是 Do the Right Thing，「做對的事」，這就牽涉到價值觀，也是哲學問題；不同的哲學，
會導致不同的演算法，有不同的後果，必須要正視。以蓄勢待發的自動駕駛技術 行車安全為例，他的設計是以保障乘客安全，還是造成最少人命損失為優先，是 上路前必須釐清的問題。
治理則屬於「應用倫理學」的範疇，一方面是政府應用 AI 做有效治理，另 一方面則是政府對 AI 開發的治理。政府應用 AI 做有效治理的例子不少，例如某 一地的犯罪率大減，可歸功於街頭密布的監視器、高明的人臉辨識技術等；另外 根據報導，原來相當嚴重的新疆維穩問題，在近四年都沒有再出現恐怖攻擊，也 是一例；而最近大陸十一長假，有七億人次出遊，各大景區萬頭鑽動，顯示防疫 有成，也是拜 AI 促成的健康碼制度之功。而在政府對 AI 開發的治理方面，則需 要考慮上述例子的個人隱私問題。社交媒體，如 Facebook，所收集的數據在上次 美國大選被有心人士用來影響投票趨向；Twitter 則被美國總統川普用來散佈錯誤 訊息。最近一個例子是美國 FBI 破獲密西根州極端右翼民兵組織，該組織利用 Facebook 來協調他們意圖綁架州長的計畫，而 Facebook 被極端分子利用，已成 為日趨嚴重的問題，需要妥為規範。
以上可見，不論 AI 倫理與治理，都已經超越學術討論範疇，而必須考慮到 實務操作問題。因此本研討會邀請兩位頂尖專家，主講相關議題，同時邀請多位 專家學者在隨後的圓桌論壇就此議題交流討論，必能多所啟發。
第一場的朱雲漢院士將主講「智慧治理與共享社會：人工智慧帶來的機遇與 難題」。朱院士在台灣大學政治系畢業後，到美國明尼蘇達大學深造，取得政治 學博士學位。返國後，歷任中央研究院特聘研究員與台灣大學政治學系教授，現 擔任清華大學台北政經學院籌備處主任，是國內首屈一指的政治學學者，也是目
前中研院唯二的政治學領域院士中，最資深的院士。
第二場則由郭毅可院士主講「理解機器行為：人機共生世界中的生存方式」。 人工智慧亦稱機器智慧，係指人製造的機器所表現出來的智慧。AI時代來臨，代 表生活中機器無所不在，產生了人機共處問題，而郭院士將為各位擘畫出未來人 機共生世界的遠景。郭院士是北京清華大學計算機系的學士與碩士、英國帝國理 工學院計算機科學博士。曾任英國帝國理工學院數據科學所所長及教授，現任香 港浸會大學研究與發展副校長，為英國皇家工程院院士、歐洲科學院院士。他曾 在2016年以大數據分析成功預測當時所有選前民調一片看衰的川普當選美國總 統，享譽國際。
智慧治理與共享社會：人工智慧帶來的機遇與難題
朱雲漢
中研院院士、中研院政治所特聘研究員、台灣大學政治系教授
一、 前言
潘董事長、蕭副總統、主持人陳力俊院士，還有在座的各位嘉賓，今天非常 榮幸有這個機會來向各位報告。今天還有很多場非常精彩的演講，所以我只是以 一個拋磚引玉的心情，來分享我對於人工智慧(Artificial Intelligence, AI)的一些看 法。
最近因為新型冠狀病毒(COVID-19)疫情的影響，我所有國外行程都全部取消，
突然間多出了一些時間閱讀各方面的資料，也利用這段空檔時間消化整理我過去 這幾年在人工智慧對政府治理議題上的材料。我也感謝陳力俊院士，因為一開始 是他逼著我在這個可說是尚在開闢的陌生領域進行研究，逼著我要與時俱進，才 能夠跟上這個時代。然後讓我把原來的專業領域的知識，跟人工智慧進行結合，
探究人工智慧的突飛猛進所帶來的各種對社會、政治、經濟、法律面的衝擊。
我今天的報告會先從人類近百年來最大的一場公共衛生危機，新型冠狀病毒 疫情，做為起點。因為我覺得這場疫情讓我們看到人類未來的社會、政治、經濟 運作模式的雛形，給了我們一個非常鮮明的預告。我們原先以為可能很多年以後 才會發生的事情，已經提前在這個時機展現這個新的社會運作模式的可能性，甚 至已經變成我們日常生活裡面無法擺脫的一部份。
我認為這個新的社會運作模式帶來了機遇，但也帶來難題，很多難題不是我 們現有的這套社會制度可以有效解決，必須在制度上進行全盤的思考與創新才得 以克服，我把他稱之為新的社會契約，我隨後會提到。如此才能夠在駕馭這些新 科技的同時，確保新科技帶來的各方面效益，能夠「普惠性(Inclusiveness)」的讓 整個社會大多數群體分享，而不會惡化目前早已存在的各種資源扭曲，與嚴重的 貧富差距等既存的問題。
所以，我找了兩個切入點，第一個談「智慧治理」，另一個談人類如何利用 人工智慧邁向「共享社會」。當然這些都還是我個人還在初步階段的一些想法，
不見得完全成熟，也非常希望各位能夠給我許多指教。
二、 從對抗新型冠狀病毒危機說起
剛才潘董事長及蕭副總統的致詞中也都談到，人工智慧或廣義上的數位科技，
包括大數據(Big Data)、雲端運算(Cloud Computing)、5G通訊與量子計算(Quantum Computing)等科技，都在這場疫情中大顯身手。
包括世界衛生組織(World Health Organization, WHO)及各國政府的衛生部門 大量運用人工智慧與大數據分析來掌控宏觀疫情，例如：疫情傳遞與擴散路徑分 析、疫情擴散預測模型分析、隔離措施阻絕效果情境分析等，都能夠精準的掌控 疫情發展的動態。
我們也知道人工智慧加快了對病毒的核糖核酸(RNA)基因序位分析的速度，
甚至找出病毒最基本的蛋白質結構，這可說是對於下一階段的疫苗研發是最關鍵 的步驟之一。舉例來說，Google旗下的一家子公司DeepMind1，在今年三月中旬 發布了由該公司最新的「深度學習(Deep Learning)」演算法的AlphaFold軟體，所 預測出的新型冠狀病毒的蛋白質結構。(見圖1-1)
資料來源：Computational Predictions of Protein Structures Associated with COVID-19, DeepMi nd，https://deepmind.com/research/open-source/computational-predictions-of-protein-stru ctures-associated-with-COVID-19。
圖1-1 以Alphafold預測的新型冠狀病毒的蛋白質結構
另外，如同剛才蕭副總統也在其個人的居家檢疫經驗所談到的，政府可利用 智慧型手機來充份掌握需要居家檢疫的人之行蹤，假若他不小心將手機關機的話，
將會在脫離監控範圍的同時，通知管區警察登門查訪。這類的運用可以做到更徹 底，甚至可能將會變成日後跨國旅行的防疫措施裡面必備的工具。因為人和人的 直接接觸，或是人群的聚集會大量增加病毒擴散的風險，所以如何避免聚集，如 何避免人和人之間的近距離接觸，都可由人工智慧與數位科技來解決。
但是不僅僅如此，在如今的數位經濟時代，各個面向都在加速發展。線上購 物已經大量取代實體場域消費，電子支付與數位貨幣也正在取代傳統金融中介，
經濟活動的內涵已經大幅轉變。同時智慧機器人也開始大行其道，各行各業都可 以由具備人工智慧的機器人代勞。例如中國大陸的京東物流推出的無接觸配送服
1 題外話，該公司也曾於前幾年開發出知名的 AlphaGo 人工智慧圍棋軟體，並擊潰了當時世界排名第一 的圍棋高手，從此一炮而紅。
務，係由智慧配送機器人直接將商品送達顧客住宅區的入口處；全球最大的線上 購物平台，亞馬遜的無人機配送機隊(Prime Air)於2020年8月取得了美國聯邦航空 署(Federal Aviation Administration, FAA)的批准(見圖1-2)，讓亞馬遜現在可以在美 國各大城巿用無人機提供快遞服務。加上機器人不會感染疾病、不會感到疲勞，
甚至可以一周七天、一天二十四小時，全天候的去替代底層的勞動力。
資料來源：主講者簡報。
圖1-2 可避免人與人接觸的服務業智能機器人
智能機器人還可以在很多專業領域展現出巨大的可能性(例如診斷、手術、
烹飪、翻譯等)。另外，許多活動將從線下轉移至線上(Offline to Online)，透過虛 擬實境取代面對面接觸，視訊教學、虛擬校園、虛擬演唱會、網路商展、學術會 議都可以用線上的方式來呈現。這是過去我們難以想像的，我們原來以為是未來 的情境，不但提前發生了，而且還充份的展現在你我眼前。
簡單來說，我們已經可以看得到人工智慧搭配5G通訊、量子計算及物聯網 (Internet of Things, IoT)後的可觀能力，也的確是對控制疫情最有效的工具，也將 會是未來能否讓社會恢復常態生活跟跨境旅行安全的一種必要手段。
由於數位科技已經成為二十一世紀的國家競爭力核心要素，這一次的新型冠 狀病毒疫情，提早將一個未來社會的型態展現在我們面前，這個社會型態有幾個 重要的結構性變化(Structure Change)或稱之為未來社會型態的可能寫照。
第一個是「全智能生產」時代！
第二個是「超級透明」社會！
第三個是「智慧公共治理」社會！
第四個是「數位經濟」時代！
最後一個則是「零邊際成本」社會！
但未來的人類同時也面對巨大的難題與挑戰，一方面，如何實現前面提到的 這些跟人工智慧相關的數位科技，所改變人類社會的各種可能性；另外一方面，
也要因應人工智慧帶來的顛覆性、破壞性，甚至不一定是為善的，而是為惡的可
能性。能否防止這些人工智慧帶來的副作用，是未來社會或整個人類所面臨的巨 大挑戰。
這個巨大的挑戰就是資本主義市場經濟的脆弱與不平等，加上這波新冠病毒 疫情的推波助瀾，讓這個現象以更早更嚴重的態勢呈現在我們眼前，讓人格外糾 心。當然，這個問題不是只有美國才有，但美國曝露得特別徹底。我們發現這套 資本主義巿場經濟經不起這種大規模且極度嚴峻的疫情干擾，市場一但受到無法 預期的衝擊，所有經濟活動就陷入泥沼難以運作，也因而曝露出幾個非常嚴重的 社會不公平現象。
1. 從事社會底層工作的人口面臨最大感染風險
第一個社會不公平現象呈現在從事底層工作的人面臨最大的感染風險，
特別是承受疫情爆發第一線的醫護人員。由於他們是第一線的勞動工作 者、藍領階級，所以往往無法仿效一般白領階層可以居家辦公(Work from Home)，他們完全沒有選擇的自由。
2. 多數美國家庭缺乏安全保障
第二個社會不公平現象就是大多數的美國家庭，即使是中產階級家庭 (Middle Class)，缺乏足夠的安全保障，幾乎沒有太多現金儲蓄，無法應 付幾個星期的薪資中斷。大多數人都是所謂的月光族，拿到當月的薪水 給付各種貸款之後，手頭上的現金可說所剩無幾。所以如果說連續幾個 月沒有工作收入進帳的話，生活馬上陷入困境，財務餘裕非常小。而且 在美國一但失業就會失去健康保險，並且面臨無法支付房貸與車貸等一 系列沈重打擊。加上假若家庭居住在大都市，相對微薄的失業救濟金亦 不足以支付偏高的房租與生活費用。
3. 少數族群的病毒感染死亡率最高
美國大西洋雜誌(The Atlantic)報導指出，黑人社區占了美國超過一半的 確診病例，以及近60％的死亡。紐約時報也報導紐約市政府統計各族裔 的患病情況，其中拉丁裔和黑人的罹病比率合計超過確診比率的四成2。 未來會不會因為人工智慧時代的來臨，以及剛剛前面所提到的幾個新時代結 構性變化，而讓存在於資本主義市場經濟的不平等問題更為嚴峻呢？或者，我們 能夠找到更好的解決途徑，來解決這些不平等的問題，上述的兩種可能性是同時 並存的。
譬如說，這次新冠病毒疫情造成美國嚴重的經濟衰退，股巿一度如金融海嘯 般的大跌。所以美國政府採取了前所未有的紓困方案，聯準會(Federal Reserve, Fed) 在短短的4個月裡面，向美國經濟投注了高達三兆美元的流動性，這可說是一個
2 遠見雜誌，病毒揭露殘酷真相：原來人命真的有貴賤？！，https://www.gvm.com.tw/article/72821。
天文數字。聯準會所採取的這個救市措施，你可以說他是為了拯救整個金融體系 與美國經濟。不過最直接受惠的卻是最頂級的富豪階層，美國的大富豪們成為了 華爾街股巿反彈的最大受益者。他們的總資產在經過了這波疫情後，不減反增。
根據彭博社(Bloomberg)的報導，收入最高的前1%的美國人的總淨資產為 34.2兆美元，佔美國全部家庭財富的三分之一；但貧窮的50%的美國人(約1.65億 人)僅持有2.08兆美元，佔全美家庭財富的1.9%。其中，最有錢的五十位超級富豪，
經過了今年初的上沖下洗之後，其淨資產總和甚至到達了前所未有的兩兆美元的 規模(見圖1-3)，平均每個人是400億美元的身價。也就是說這五十人擁有的資產 等同於美國後面50%的1.65億人所擁有的淨資產。
資料來源：Bloomberg Billionaires Index。
圖1-3 最富有的五十位美國富豪的淨資產總和
於此同時，這次疫情讓美國的失業率飄升至大蕭條(Great Depression)時期的 高水準。講得好聽的是，美國的勞動巿場非常的靈活、有彈性。雖然一度超過20%，
但隨著經濟活動的解封，就業又開始恢復，許多工作崗位開始重新招聘。然而，
也發現到有些人陷入長期失業，因為他原來的工作趁著這波疫情已經被人工智慧 的演算法或機器人給取代了。
這裡有個典型的例子，圖1-4是時代雜誌(Time)所刊登的一張照片，照片裡的 這台機器人綽號叫賈維斯(Jarvis)，和電影鋼鐵人的人工智慧管家一樣。賈維斯是 在美國矽谷的Sunnyvale的一家高檔飯店Grand Hotel中服務，在這則報導中，該飯 店已經把很多人工服務用機器人管家來替代。
資料來源：Cayce Clifford, TIME.
圖1-4 機器人管家(Jarvis the Robotic Butler)
教宗方濟各(Pope Francis)在這場疫情之中做了很多深刻思考，並在今年的10 月4號發佈的「通諭(Encyclical)3」，也是教宗在2013年登基以來所發表的第三件 通諭，標題是「眾兄弟姊妹們(Fratelli Tutti)」，這篇文獻相當長，我節錄如下：
"The marketplace, by itself, cannot resolve every problem, however much we are asked to believe this dogma of neoliberal faith.”
"Whatever the challenge, this impoverished and repetitive school of thought always offers the same recipes."
This dogma "simply reproduces itself by resorting to the magic theories of 'spillover' or 'trickle' - without using the name - as the only solution to societal problems
There is "little appreciation of the fact that the alleged 'spillover' does not resolve the inequality that gives rise to new forms of violence threatening the fabric of society."
簡言之，這場大流行證實了他的信念，即必須改革目前的政治和經濟體制，
以滿足受該流行病傷害最大的人民合法需要。
教宗可說是對於過去35年流行的新自由主義(Neoliberalism)做了非常深刻的 批判。教宗的這封通諭在整個基督教世界中引起非常熱烈的討論，雖然過去教宗
3 通諭為教宗對於重大問題發表權威性意見的一個高規格的文獻。
其他的演講也曾批判過新自由主義，但從未以通諭的方式文告，進行反思。
三、 人工智慧帶來的機遇與難題
以上，就是這次疫情所預示的人工智慧所帶來對未來社會的結構性轉變及可 能演變路徑，也曝露了我對當前社會經濟體制的各種隱憂及潛在問題。同時，也 激發了我們去掌握人工智慧跟相關數位科技大爆發帶來各種機遇的動力；並且迎 頭去面對各種難題的挑戰。我把這些嚴肅的抉擇歸納如下：
(一) 全智能生產時代的就業與所得分配
當我們進入全智能生產時代，傳統的就業型態面臨到革命性的轉變。而一個 高失業或低就業勞動市場，將會對社會安定、經濟安全與所得分配造成難題。根 據牛津大學(University of Oxford)的一項研究發現，未來10年現有工作的45%將消 失，其中一些工作將完全自動化或至少升級到僅需要少部分勞動力的地步(見圖 1-5)。不只如此，人工智慧也將大量取代高階專業人士的工作，例如JPMorgan已 經使用人工智慧來審查商業貸款協議(Commercial-loan Agreements)，可在幾秒鐘 內完成律師需要花費36萬個小時才能完成的工作量。另外，微軟公司旗下MSN與 News Service改以人工智慧處理新聞內容，並解僱了數十名記者。
為了解決上述難題，現在許多北歐國家已經開始認真地進行「無條件基本所 得(Universal Basic Income)」的社會實驗，並認為這是人工智慧時代裡必要的一套 社會權利保障制度。但是大部份的人聽到無條件基本所得的想法都會提出一個問 題：「一種不需要任何的資格審查，每個人每個月可以領取固定的所得，會不會 導致政府財政破產呢？」
資料來源：University of Oxford, C.B. Frey and M. Osborne, Morgan Stanley Research, reported by Business Insider.
圖1-5 工作自動化可能性
在這次美國大選中，有一位華裔的總統候選人，楊安澤(Andrew Yang)，提 出了「自由紅利(Freedom Dividend)」的概念。他認為未來12年大概每三個美國勞 工裡面，就有一個人的工作會因為人工智慧而消失，造成勞動市場的嚴重衝擊。
可是人工智慧所帶來的龐大生產力及其創造的財富，卻僅僅由極少數的大企業裡 面的高級管理者與股東分享，而非整個社會。要知道Amazon、Google、Facebook 等大型的科技企業幾乎不用繳稅，也就是說，現行的政府體制不能從這麼快速增 長的經濟活動裡面取得財政收入，然後與社會大眾共享(或以提供公共服務的方 式)。楊安澤的建議是對這些大型科技企業網的每一筆交易抽取所謂的「附加價值 稅(Value Added Tax, VAT)」，將創造巨大的財源，再將稅收，以自由紅利這個名 稱，發放給所有美國民眾。雖然楊安澤最後沒有得到民主黨提名，不過他第一次 正式的把無條件基本所得放上美國主流政黨政策辯論的議程。
無條件基本所得的概念，的確可能會變成未來先進國家的一種新型態社會保 障制度。並替代原本的失業救濟金、對貧困人口的社會救濟、農民與老人年金等 等。但這個構想需要設計出完善的稅收機制，才能永續經營，我會在後續的內容 進行補充。
(二) 超級透明社會的個人自由與社會治理重新平衡
第二個，是前面提到的「超級透明社會(Super Transparent Society)」。在我 們不知不覺當中，只要你使用智慧型手機，或者使用社群網路平台，從此以後你 的行蹤，你的一言一行，你的所有的活動，都全被紀錄下來。這不只有政府能收 集你的資訊，Google、Facebook也在收集，並且將之賣給他的客戶，或直接做為 其廣告行銷的對象。這些巨量的資訊將被視為一種數位資產，等待後續的發掘與 運用。
這可以體現在幾個方面，例如以電子貨幣(Digital Currency)取代紙幣，假若 成真的話，未來所有的經濟交易與金錢流向都將一目了然；或者配合上物聯網後，
未來個人在日常生活與職場的活動足跡也都會有數位紀錄。換言之，個人一生的 健康、舉止、體驗、言行、移動、消費、生產與交往活動細節都可以被完整記錄。
除非你有辦法退出現代網路社會，不然本屬於你個人擁有或產生的數位資訊都會 被紀錄與保存(從遺傳基因編碼開始)。每個人一生的經歷將完全透明化，一言一 行都會被紀錄下來，而且不管好事還是壞事都將天下皆知(留存在網路紀錄中)。
超級透明社會有可能創造一個無死角的社會信用制度，讓腐敗無所遁形，讓 財富無法藏匿，讓企業無法逃稅，還帶來「智慧治理」的可能性，讓政府能以各 式各樣的政策工具或機制，更快速、更全面的回應這個社會絕大多數人的各種需 要，我會在後面做更完整的說明。
但是，超級透明社會也會牽涉到是否侵犯個人自由與隱私權的問題，甚至可 能會製造出一個個人自由徹底消失的極權社會。所以，我們必須在個人自由的保
障與社會治理的效果之間取得一個最佳平衡，但這是相當困難的挑戰。
(三) 超級智慧政府的權力邊界與問責機制
伴隨著剛剛提到的超級透明社會一起來到的智慧治理，讓未來的我們有可能 擁有一個超級智慧政府。政府導入人工智慧後，可以全面性的轉變國家的職能。
一方面將政府體系全面人工智慧化，讓國家管理能力跳躍式升級，並大幅精簡行 政體系人力；另一方面，透過全覆蓋身分識別、全天候活動紀錄、生產及流通的 交易足跡、系統性智慧城市管理、完整的社會徵信體系等監控技術，來進行數位 化的智慧型社會管理。
上述所提到的這個可能未來，是善的！但我們也得知道超級智慧政府的存在，
也可能代表一個國家監控權力的邊界無限延伸的未來。政府掌握了大量數位資訊，
獲取了被人工智慧大幅提升的全面職能，政府可能完全不再為傳統的民主選舉制 度所有效監督，也不再受現存的問責機制所有效制衡。也就是說在前方等待著我 們的，也可能是一個新型態的數位集權社會的未來。而這樣的未來，是惡的！而 這樣的難題，將需要對政府權力的制衡與監督機制進行重新設計。
(四) 超級科技巨獸的威脅與制衡
另外，如我在前面所提到的，在這個數位科技爆發的時代中，財富集中與資 本壟斷的狀況更是每況愈下。人工智慧與其他數位科技讓極少部分的人擁有無以 倫比的生產力，掌控世界經濟運行的命脈，並急速累積天文數字的財富，也因而 誕生了所謂的「超級科技巨獸」。
超級科技巨獸的存在，可說體現了最極端的壟斷資本主義。這些巨獸當中，
有 五 家 公 司 特 別 的 突 出 ， 分 別 是 Facebook 、 Amazon 、 Microsoft 、 Apple 與 Google(FAMAG)。美國過去幾年的股巿繁榮，可說有三分之一來自於這五家公司。
在2015年至2019年期間，標準普爾500指數(S&P 500)攀升了74%，其中FAMAG 股票(五百家公司中的五家)貢獻了22個百分點，約佔總指數增長的近三分之一；
在疫情過後，這五家公司的市值甚至高達總指數市值的五分之一，為史上新高。
(見圖1-6)
這些科技巨獸的規模能夠以如此史無前例的速度成長，一方面來自於不斷的 併購，舉例來說，Facebook收購的公司達67家，亞馬遜有91家，Google則是214 家，其中不泛該領域的技術領先者，或新創企業；另一方面，還得利於(1)目前智 慧財產權(Intellectual Property, IP)系統對大型科技公司有利；(2)牢不可破的巿場 壟斷地位；(3)享有零邊際成本；(4)過分寬鬆甚至放任的政府監管；(5)以金權政 治(政治獻金)影響政府體系與國會立法。
在超級科技巨獸掌握了壟斷性市場地位以後，為了獨享額外的經濟收益，開 始限制競爭而非鼓勵競爭，明目張膽的壓制初生的挑戰者，阻斷任何新事物對舊 事物挑戰的可能性。在不斷的收購、持續的擴張、持久不破的壟斷之下，這些超
資料來源：Schroders.
圖1-6 五大科技公司市值占S&P 500比重
級科技巨獸的規模「大到無法監管 (Too Big to Regulate)」，其財力與國際影響力 甚至比許多中小型國家還要龐大。以戲劇化一點的說法，可說是「科技的巨人」
面對「政治的侏儒」。
Google的座右銘是「不要作惡(Don’t be Evil)」，但是按照目前的發展趨勢，
將很難避免「無心作惡，惡成蔭」。超級科技巨獸們不斷掠奪的大量財富與資源，
最終甚至造成分配不均、民粹主義興起。
哥倫比亞大學有一位相當年輕也傑出的一位法律學家，叫吳修銘(Tim Wu)，
他的父母親都是台灣人，所以吳修銘也是台灣之子。吳修銘近幾年就在關注這些 高度集中、壟斷的這些數位平台，對於美國的經濟、社會跟政治扭曲作用。在他 的「The Curse of Bigness：How Corporate Giants Came to Rule the World」及「The Curse of Bigness: Antitrust in the New Gilded Age」兩本著作當中，認為「讓巨頭 倒下，才能澆灌民主之花」。強烈主張要分拆這些大企業，才能提升產業競爭力，
從停滯轉變為充滿活力。
(五) 零邊際成本社會：壟斷性資本主義與普惠性共享社會的拔河
除了這樣一個被壟斷性數位資本主義的未來之外，我們人類的未來或許還存 在另外一個可能性，一個接近理想化的烏托邦社會的可能性，只要我們能將數位 科技帶來的龐大生產能力與普惠效益全面釋放出來。
要知道，過去的我們受到資源、技術的限制，所以傳統的製造業若是要擴充 產能，必須蓋一間接著一間的廠房、鋪設一條接著一條的生產線、招募一個接著 一個的勞工。即使有規模經濟的效益，但邊際成本(Marginal Cost)永遠是不可能 趨近於零的。但是，在數位經濟時代，土地、勞動、固定資產這類傳統的生產要
素，在生產過程中的重要性不斷下降，而無形資產(信用、大數據、知識、軟體，
演算法)反而變為更關鍵的生產要素。又由於這類無形資產的複製成本為零，讓生 產力可以無限擴充，使得邊際成本趨近於零。換言之，我們將迎來一個「零邊際 成本社會」。
「零邊際成本」的概念會徹底顛覆傳統的經濟學，進而使得壟斷性資本主義 的動力逐步衰退。傳統經濟學的前提就是資源的「稀缺性(Scarcity)」，因為人類 的無窮慾望受到資源與技術的限制，所以必須對資源作最有效的分配。但是，如 果未來許多資源的供給是無限的，而且邊際成本趨近於零，那我們整個人類社會 運作方式，整個經濟運作形態就會徹底改變。
這樣一個新的運作型態可稱之為普惠性「共享社會」。充裕與剩餘將取代稀 缺，由於市場沒有被巨獸壟斷，商品的價格將可能不斷下降。在這樣的狀況下，
愈來愈多的設備與工具也不需要擁有，可以共有共享；愈來愈多的生活需求也不 再透過商品交易，而是透過互助、交換來滿足需要。例如可以透過社區型數位貨 幣(Token)或時間銀行(Time Bank)，以交換或互助方式得到個人與家庭所需要的各 類專業服務；許多家庭只要投入設置成本，可望在能源或其他領域扮演「產消者 (Prosumers)」，不但自給自足，還有剩餘可以出售或與他人分享。
(六) 數位經濟的包容與公正：全新社會契約的設計
換句話說，這個人工智慧的時代正逼著我們認真地思考，思考如何去設計一 套全新的社會契約，並制訂相對應的國際規範。這個全新的社會契約將用來界定 與保障個人的數位資產權利，基於數位資產權利個人將有權參與數位資本收益的 分配。
數位資產權利可能是21世紀最重要的新形態社會契約之一，而目前所有的立 法都還沒有真正觸及到這個議題的核心，還需仰賴所有有良知與遠見的社會賢達 的努力，不然我們所期待具有高度包容性跟公正性的數位經濟時代將難以實現。
(七) 人工智慧的和平用途
最後還有一項人工智慧所帶來的難題讓我非常擔憂，那就是如何確保人工智 慧的和平用途。我們知道目前美國跟中國之間已經展開了新的軍備競賽，而我們 也知道人工智慧可能是一個比核子武器具有更大規模殺傷力、毀滅性的一種新型 態軍事利器。也就是說，如果人工智慧被無限制的使用在殺傷性的武器的發展上，
我們將無可避免地須又得再次面對一種人類相互毀滅的風險。
四、 出路
剛剛講到的這七項機遇，或者說難題，可能有哪些出路呢？或哪些必要的制 度或法律可以協助我們呢？因為時間關係，我大概就稍微點到其中幾項。
(一) 政府權力的制衡與監督機制的重新設計
我們知道未來的超級智慧政府掌握了大量數位資源，其權力邊界將無止境的 延展，在傳統的選舉監督與權力制衡機制失靈的狀況之下，我們有必要重新設計 制衡機制，這個全新的制衡機制擁有以下的四個特點：
1. 去中心化設計
應用區塊鏈(Blockchain)技術，以達成社會信用與交易體系的去中心化，
並替代部分的國家職能。
2. 開放數位資源
公部門擁有的數位資源不應由政府獨享，而應在隱私權獲得充分保障之 下盡可能地開放，讓制衡機構、民間機構團體(例如非政府組織、智庫、
媒體)、產業，甚至個別公民得以運用。
3. 內建人工智慧的倫理規範
從人工智慧設計的源頭入手，將倫理與道德規範內建於人工智慧演算法，
其中也包含了自動揭露與自動糾正等功能。
而在未來的公共事務領域裡，人機協作(機器取代自然人執行指令、判斷 或決策)的過程也須滿足(1)透明與問責、(2) 倫理準則、(3)風險管理等三 項原則。
4. 問責依據
政府官員的所有行為，均以完整的、詳實的、不能竄改的數位紀錄留存，
作為日後問責依據。
(二) 數位時代的新社會契約：「個人基本數位資本股份」倡議
我們正處在一個十字路口，我們知道壟斷性數位資本主義必然導致更嚴重的 社會貧富兩極化，擴大富裕國家與落後國家之間的數位鴻溝，甚至將威脅人類社 會的可持續發展；而我們所嚮往的普惠性共享社會，則需要制定出一套在數位時 代下全新的社會契約才能得以達成。這個新社會契約的基本思路有以下幾個重 點：
1. 須防止數位資產被獨佔，尤其是防止提供超級數位平台的科技巨獸對數 位資產的濫用、操控與壟斷。如果不能有效節制，人工智慧將會導致更 扭曲的社會權力結構與財富分配。
2. 禁止個人數位資料被濫用，導致個人或他人權益被侵害。個人有權查詢 所有機構源於自己的(或被保護的未成年人的)數位資訊。
3. 確立數位資產的「集體所有權」：
在數位經濟時代裡，數位資產比石油黃金更珍貴。因此，取之於社會裡
每一位成員的數位資料所匯聚而成的大數據，即是所謂的「集體數位資 產」。其規模越大，價值就越高。而利用這些集體資產所創造的巨大經 濟效益，應該透過有效且公平的分享機制，回饋給所有貢獻數位資料的 社會成員。
4. 保障眾人的集體數位產權就是保障基本人權，集體數位資產的支配權與 受益權就是數位社會時代的基本經社人權。
5. 利用區塊鏈技術記錄各種屬性的集體數位資產的採集、使用與交易過程，
以及追蹤其創造的附加價值是如何分配。
爰此，我提出一個倡議，叫做「個人基本數位資本股份(Universal Basic Equity Ownership of Digital Capital)」。由於數位資產來自於每一個人的貢獻，但是卻被 無償的使用。所以當我們去重新界定數位資產的產權時，理應保障每一個社會成 員都有其對該集體數位資產的股份。
這個倡議其實比我剛才介紹的無條件基本收入要更為徹底，而且是從源頭解 決問題。無條件基本收入僅僅是修正市場活動分配結果的「二次分配」，只是治 標而非治本，事後的補救而已。但是個人基本數位資本股份不一樣，是直接在關 鍵生產要素的受益權上提供立足點保障，可直接在市場「初次分配」階段就能趨 向公平。其精神等同於當年台灣的農村土地改革、耕者有其田政策。
此外，為了仍能鼓勵創新，創新者仍可享有相當比例的原始股權作為激勵，
但隨其衍生的產品邊際成本的遞減而等比例遞減(值得注意的是，因為產品供給規 模亦將成長，所以其絕對收益價值未必減少)。剩餘股權則平均分配給每一位社會 成員。單一社會成員擁有的個別數位資本之股權可能極其微小，但聚沙可成塔，
而且可以不斷分配到新股份，生生不息。而個人基本數位資本股份若能成真，無 需政府集中管理，政府只需制訂好基本規則，由區塊鏈負責自動紀錄與分配即 可。
(三) 成立國際專責機構：禁止人工智慧非和平使用，並鼓勵國際合作與分享 最後一項，則是我剛剛有提到的，人工智慧的軍備競賽將帶給世界和平巨大 威 脅 ， 其 危 險 可 能 將 超 過 核 子 武 器 。 日 前 ， 包 括 Elon Musk 和 Mustafa Suleyman(Google DeepMind聯合創辦人)等人工智慧和機器人技術領域的領導人，
聯名共同呼籲聯合國禁止致命性自動武器(Lethal Autonomous Weapons)，即所謂 的「殺手機器人(Killer Robots)」，其聲明中指出此類技術的發展，將接續火藥與 核子武器後，迎來「第三次戰爭革命(Third Revolution in Warfare)」所以禁止人工 智慧武器的公約要比禁止核武擴散更為迫切，但同時也比核子武器更難追蹤，因 此，成立國際專責機構，例如由聯合國成立人工智慧總署等，殊為重要。
而這類的國際專責機構還將負起，全方面引導人工智慧開發所需的國際合作 與分享機制，以避免富裕國家與落後國家之間的巨大數位鴻溝，變得更為懸殊。
尤其是美國與中國早已因為其龐大經濟規模與科技研發基礎，享有了極大的優 勢。
五、 結語
最後，我認為人工智慧革命蘊含著巨大為善或為惡的潛力，所以必須從源頭，
建立起一套因應人工智慧的體制、準則。這需要仰賴社會科學、公共政策制定者，
與科技專業社群建立起一個緊密的對話與協調機制。才能夠引導出人工智慧為善 的最大潛力。
我也在此期許中技社，以引導人工智慧為善為其新的時代使命，協助台灣發 揮科技實力與民間社會活力，為我們帶來一個更美好的未來！
以上是我今天的分享，謝謝大家！
理解機器行為：人機共生世界中的生存方式
郭毅可
香港浸會大學研究副校長、英國皇家工程院院士、歐洲科學院院士
一、 前言
今天很高興和各位分享，我對未來人工智慧發展的一些看法和展望。我們知 道，人工智慧在近年中有了非常快速的發展，機器已經存在於我們的生活周遭當 中。
有一個網路笑話講的是，在網際網路(Internet)上沒有人知道在螢幕前的你倒 底是一條狗還是一個人。這對機器來說也是一樣的，今天在網際網路上所享受到 的任何一項服務，我們很難知道這項服務是真的有一個人為你提供的，還是機器 為你做的，或者是人和機器一起完成的，所以人機共生世界其實早已來臨。舉例 來說，我們使用的導航系統，就是一種輔助駕駛，由他與我們共同合作，才能抵 達目的地。而如今的機器不僅可以執行指令，也可以創造、創作，甚至進行藝術 工作，這些原本都是人類特有的，而今天同樣可由機器代勞。
根據世界經濟論壇(World Economic Forum, WEF)與諸多學研機構，於2018年 共同提出的「人工智慧發展時程表」(見圖2-1)。
資料來源：World Economic Forum, Future of Humanity Institute, Oxford University, Department of Political Science, Yale University.
圖2-1 人工智慧發展時程表
在未來40年中，人工智慧發展的里程碑包含了：人工智慧可於2020年參與世 界撲克錦標賽；可於2024年自行撰寫Python程式碼，根據我自己的判斷，其實現 在應該已經有這類的研究成果，故機器在2024年可以自己編寫程式的預估決不誇 張，而如果機器能夠寫出良好的程式的話，那麼機器就能夠自行創造新的機器職 能；2026年機器就能夠寫高中程度的作文，現在的機器已經能夠寫新聞，而作文 比新聞還是要高一個層次，那麼再過幾年，由機器來創作一些短篇的散文，也不 會是不可能的事情；2027年機器已經可望創造出盤據音樂榜上前40位的流行歌曲；
2028年可以創造出影片；2049年機器寫的小說甚至會成為暢銷書籍；2050年機器 會贏得數學競賽；到了2059年，機器甚至可以進行數學研究。
這些預測說明了人工智慧的發展已經進入了一個新的歷史階段，將會改變整 個人類的文明進程。其中，發展最快的就是機器學習(Machine Learning)，也就是 說機器獲取知識能力得到了突發性的進步。
二、 何謂機器學習？
機器獲取知識能力的進步，可從三個基本面向一窺端倪(見圖2-2)。第一個是 電腦計算能力在過去幾十年中的巨大增長；第二個就是數據量的巨大增長，讓我 們獲取更多的資料來供機器進行學習；最後一個則是我們的演算法越來越成熟。
資料來源：主講者簡報。
圖2-2 機器獲取知識能力的演變
人工智慧發展的初期，由於計算能力低，數據量少，機器獲取的知識僅限於 人工賦予的。像我讀大學時所建置的專家系統，是透過將專家知識用一條一條的 邏輯規則型式放到電腦中。換言之，是由人來提供給電腦知識；後來獲取的數據 多了一些，讓我們可以應用統計學進行分析，稱為「數據挖掘(Data Mining)」；
而如今，我們取得了更多的數據，與更強大的計算能力後，我們可以用一些更複
雜的機器學習方式，比方說神經網路，來進行更大規模的學習工作，也就是所謂 的「深度學習」，讓機器獲取知識能力出現很顯著的發展。
機器學習倒底是甚麼呢？由於機器學習跟人類學習其實相當相似，所以我在 此用「認知學」的原理來簡單介紹一下這個學習過程。
人類學習會是什麼樣子呢？這分為兩個層面。第一個層面是大腦，在大腦裡 面有我們對世界的認識，也就是所謂的認知，若將之應用在機器學習上，就是透 過模型或知識來詮釋人類對世界的認識，而根據這些認知，對這個世界做出判斷 (或稱之為預測)。第二個層面是人類所具備的五官，讓我們觀察這個世界，讓我 們獲取更多的訊息、更多的資料。(見圖2-3)
資料來源：主講者簡報。
圖2-3 機器學習的認知學原理：模型和觀察
那麼觀察結果及判斷預測之間，可以進行比較。如果兩者是一致的(預測沒有 出現誤差)，即表明模型(對世界的認知)是正確的，那麼我會給予對自己的認知更 高的信任度，不會對它有進一步改變。
但有趣的是，當觀察結果及判斷預測不一致的時候(預測出現誤差)，如果兩 者不一致時，有兩種選擇。第一種選擇是認為自己的認知可能是錯的，再根據觀 察結果，來修正模型，換言之，這是一個模型構造的進化(學習)過程；還有一種 選擇，是認為模型是正確的，觀察結果是錯的，也就是認為這個世界出現問題，
那麼就會根據自己對世界的認知來改變這個世界，也就產生了「機器行為(Machine Behavior)」。
因此，機器學習和機器行為之間形成了一個緊密的關係，構造出一個跟觀察
結果一致的認知，讓其盡量接近真實世界；我們的行動就是改變世界，讓其與主 觀產生的模型相趨一致。
三、 何謂機器行為？
前段提到機器行為就是對世界做些改變，改變有各種各樣的目的與動機，在 某種程度上，就是讓主觀的世界跟客觀的世界合而為一。
比方說，醫療這是一個良善的(Beneficial)行為，其目的是改變病人的現狀，
使得病人的狀況變得跟醫生認知的健康人模型一致。基因編輯是另一個比較具爭 議性的例子，因為這個基因編輯是一個可能是有益的，也可能是有害的行為。又 比如戰爭，消滅敵人可能是一個對贏得勝利有利的行為，但是若在過程中打傷了 平民，又變成了錯誤的行為。因此，有一個非常重要的準則，就是怎麼樣去理解、
判斷，最後完成整個機器行為。
四、 機器行為的重要性
由於我們身處在一個人類與機器共生的世界，所以非常需要理解機器行為是 否為我們所需要的？行為正確與否？或者行為倒底是怎麼樣產出的？人類(或社 會)會對這個機器行為有甚麼樣的反應？一旦仰賴機器做決策，必須對其行為產出 的原則，及其造成的結果，作出全面的考量。機器行為的重要性可以反應在許多 面向，例如政治、法律、經濟、社會與生活等方面。
以最近的美國大選為例，當我們必須作出政治上的決策(投票對象)，常受到 看到的新聞影響，媒體的推薦與審查等都會影響我們的政治決策。
又如法律領域，目前已經將人工智慧應用在機器助審或警力投入優化系統上，
但我們也必須知道機器助審依舊可能存在既定的種族偏見，或者警力投入優化系 統也會產生自適應性。假若以一個單純的原則(犯罪率的高低)來決定對某個區域 投放警察的數量，可能會使一些原來並沒有很高犯罪率的地區，因為透放警察數 量的降低，導致其犯罪率的提高。
再以經濟為例，(1)演算法交易，演算法交易是一種局部的優化(追求投資者 利益的最大)，那麼必須小心該演算法會不會導致對巿場的操控；(2)商品推薦系 統，當消費者欲購買某樣商品，系統會推薦消費者一系列的商品，那麼該推薦系 統的方針是怎麼產出的呢？是根據該消費者過去購買商品的消費關係(譬如說該 消費者習慣買A商品時，同時也會購買B商品)，或者是根據某兩樣商品在銷售上 有相關性，但是這種推薦系統對消費者倒底是有利的，還是有害的呢？這種推薦 系統雖然簡化了消費者購買商品的麻煩，但終究把每一個消費者變成了一個機器，
改變了我們的消費方式，甚至是思考方式，使得我們在買東西時候更為情不自禁，
甚至讓我們身處在「過濾泡泡(Filter Bubble,又稱為同溫層)」，思考與行為都身陷 在這個泡泡當中；(3)演算法定價，以買機票為例，當機器發現有人想購買某張機 票，就會調整價格，使得業者的利益最大化，而不是讓消費者的效益最大，又比
方說Uber的定價系統，下雨天時的乘車費用怎麼決定的呢？不僅僅是巿場需求，
Uber還揣摩了每一個乘客的心理來進行定價；(4)演算法風險管控，目前我們進行 資金借貸的信用風險是經由機器決定的，故不免可能會出現不合理的歧視，比方 說演算法可能對某個種族、人群有一種先驗假設(歧視)，或許工程師會反對，並 宣稱是經由機器學習所學到的，但也可能是經由過度一般化而形成的歧視。
至於社會面，(1)社會信用，社會信用的評比會不會剝奪了某些人的權利；(2) 交友推薦是增加了還是減少了社會關係的同質性？比方說，演算法推薦朋友的原 則常根據一般性條件，例如收入水準、興趣，但往往會造成交友對象的同質化問 題；(3)聊天機器人對聊天者心理上的影響；(4)甚至現在還有性愛機器人，這會不 會改變人類的自然感情。在一個人機共生的世界中，我們必須理解這些上述的機 器行為，才能夠知道這些事情會不會對社會引起負面的影響。
另外，在我們的生活當中，(1)自動駕駛的路權選擇，當危險出現的時候，自 動駕駛應該照顧誰的利益？應該把駕駛者的風險和路人的風險做出怎樣的平衡；
(2)醫療診斷，機器作的醫療診斷應該如何驗證其正確性；(3)健康監護失誤所造成 的代價有多大？怎麼樣減輕(Mitigate)監護風險。
五、 機器行為的研究方法
前面談了機器行為的重要性，那麼現在來談機器行為的研究方法，也是我們 理解機器行為的四個方面：行為的目的、原則、結果與依據。
1. 行爲的目的(What for)：按照人給出的意圖去改變周圍的環境
如前段機器學習的認知學原理所提到的，機器行為的目的是改變周圍的 環境(改變世界) 。而改變外在世界的根據是腦中的模型，並希望外在世 界能與模型一致化。但應如何向機器表達行為的目的呢？
我們可以把告訴機器的行為目的表達成如圖2-4「左」邊的效用函數(Utility Function)，例如這樣的效用函數可以要求模型與觀察到的數據之間的誤差 最小(最適化)。這個公式可以讀作：求取使該效用函數損失函數(Cost Function, 𝑙(𝑥))最小化或效益最大化的行為𝑎，其中𝑥為行為結果(Outcome)，
𝐸則是期望值(Expectation)，p(𝑥|𝑎)則代表𝑎的行為導致𝑥結果的機率。也 就是說，我們要求取的𝑎行為，讓其平均的(期望的)行為結果的利益最大 (或者損失最小，這時效用函數也稱為損失函數)。所以要讓機器做出一個 把效益最大化或損失最小化的決策。
再回到前段機器學習的認知學原理所提到的例子，並用圖2-4「右」邊的 效用函數來表達，argmin𝑤(‖𝐺𝑜𝑎𝑙 − 𝐹(𝑥, 𝑤)‖)。其中，𝐹(𝑥, 𝑤)是我們要 找的模型，參數為𝑤，學習的目的就是使模型與我的觀察(Goal)之間的誤 差最小化。所以，效用函數就是我們表達機器行為目的的方式。
把目的視為某一個函數，該函數代表一個利益，或一個損失，並求取該 利益的最大化，或損失最小化。而各式各樣的機器學習任務定義即是通 過各式各樣的效用函數來實現。
資料來源：主講者簡報。
圖2-4 如何向機器表達行為目的
順帶一提的，所謂的「監督學習」係指求取(argmin𝑤)出函數跟觀察的誤 差最小；另一個所謂的「非監督學習」，則是指我所期望的𝐹(𝑥, 𝑤)分佈，
跟我所看到數據(Goal)一致。
(1) 機器行為的產生機制
不同效用函數給予了機器不同的行為目的學習任務，那麼機器行為的 產生機制為何呢？針對效用函數透過數據進行學習，數據給得越多，
學習的模式會不斷的進化。
我們給出表達行為目的之效用函數，那麼學習算法就在數據中通過學 習來產生行為，那麼行為的作法就剛才說的，就是使這個效用函數最 大化，或者最小化，也就是優化效用函數，那麼你數據給了，學出了 結果後。而且如果數據給的越多，這個學習模式還會不斷的進化。
但這個學習的模式基本上就是一個黑箱(Black Box)，你無從得知道學 習的過程，我們只能從這個機器行為來反推學習的過程。我們獲取了 行為後，猜測演算法是如何進行學習，這大概就是我們今天對機器行 為的理解。
簡言之，我們設計了某個效用函數，獲取了數據，並以使這個效用函 數最大化作為機器行為的目的，接著找到使該效用函數最大化的參數，
機器行為可透過不斷的學習而進化，而我們透過行為觀察來反推，每 一次學習大概在其行為上起了何等作用。
