人工智慧之公法學研究 - 政大學術集成

全文

(1)國立政治大學法學院碩士在職專班碩士論文. 人工智慧之公法學研究 A Public Law Study on Artificial Intelligence. 立. 政治大. ‧. ‧ 國. 學. n. er. io. sit. y. Nat. al. Ch. engchi. 指導教授：劉宗德. i n U. v. 特聘教授. 研究生：劉國儒. 中華民國一○九年七月. DOI:10.6814/NCCU202001583.

(2) 誌謝. 政大法學院在職專班五年的學習時光匆匆過去，這五年來，每個周末的新竹台北的來回之旅即將畫下句點，感謝一路上陪伴著我，支持我的每個人，特別是身為名古屋大學的第一位外國人博士的恩師，劉宗德名譽教授對我的諄諄教誨、耐心指正，劉老師治學嚴謹、勤奮認真的態度，是給予學生最好的身教，是學生們尊崇的老師，謹以此文表達對他最深刻的謝意。感謝口試委員劉定基教授、洪文玲教授對本文的審閱及指正，學生獲益良多。謝謝研究室學長姊們互相的幫忙與學習，大師兄雙博士銘宗學長以及一起努政治大力的學長姊們，時時給我一些精闢看法與意見，也祝福所有人順利畢業。謝謝憲立宗及佳宜在產業上的建議與見解。. ‧ 國. 學. ‧. 謝謝政大法學院104年在職專班所有同學以及前後屆的學長姊們，陪伴了我這五年充實的時光，大家始終願意容忍和接受我的坦率與恣意而為的狂放，特別是同門師兄妹桃竹苗北北基心靈大講師嘉慶和地表最美女牙醫佩珊，一同陪伴走過這五年一同趕報告、寫論文、拼考試的時光，謝謝于玄、雅君、采榛、喻鈞、昭雄、秀慧、小晴、正榮、千守、逸偉等一同上課努力、下課玩耍美食的相伴。 al iv n. er. io. sit. y. Nat. n U i e h n gc 謝謝這幾年來一直支持我的家人，集美麗與強悍於一身之奇女子我的內人麗. Ch. 娟，以及我溫純善良的兒子宇宸，總是忍受我對法律粗淺的喋喋不休以及我在晚上與假日的缺席，默默陪伴著我新竹台北的來回，感謝我在天上的父親劉宏猷先生、母親劉鄭翠美女士對我的愛與關懷，謹以此文獻給他們，以及一直以來默默給我愛與支持的所有人。. 謹誌於政治大學法學院碩士在職專班 2020年8月21日 I DOI:10.6814/NCCU202001583.

(3) 摘要. 近年來，人工智慧技術開始蓬勃發展，與我們的生活也漸漸開始產生密不可分的關聯，從每個人手機中的「Siri」到被推薦觀看的新聞，或是Tesla和Watson 的出現，在在說明人工智慧時代已然到來。每個新的技術產生到全面應用的過程中，往往會對現有的法規形成挑戰。本文將描述當網際網路來臨時，許多法規面的限制是須要去調整和突破的，並以此思考如何面對人工智慧時代中也會產生的法規面的挑戰和問題。. ‧. ‧ 國. 學. 本文將針對人工智慧所衍生的憲法爭議與行政規制提出討論。人工智慧在發政治大展出強人工智慧後，有可能可以取代人類，在這樣的情況下，有些決定可能是由立人工智慧系統直接做決定，後續的究責問題是須要進行規制；透過演算法運作進行自動化決策的過程中，人性尊嚴是否被侵犯，過程中因為數據偏失或是演算法偏見所導致的不平等或歧視，應該透過規制去進行防範；個人資料蒐集、處理與利用過程中，應使資料可以被充分利用，但必須充分保障個人隱私及資訊自主權。 er. io. sit. y. Nat. n. al 人工智慧的規制若是太嚴格，將抑制新技術的發展，若是太寬鬆將無法預防 iv n Ch engchi U 風險之發生，而且，政府單位並沒有能力對產業有足夠之了解，因此透過產業自主規範，建立產業自主規範、國際標準會是國內外共同有的方式，透過命令或規範要求相關產業遵守標準，可以使產業的審核有共通標準，促進產業進步。. 關鍵詞：人工智慧、AI、公私協力、可信賴 AI、隱私權、演算法。. II DOI:10.6814/NCCU202001583.

(4) ABSTRACT In recent years, artificial intelligence technology has begun to flourish, and it has gradually begun to have an inseparable connection with our daily lives, from the "Siri" in everyone's mobile phone to recommended news, or Tesla and Waston. The era of artificial intelligence has arrived. During the process of new technology being produced to fully application, it will often challenge existing laws and regulations. The thesis will describe some regulatory restrictions need to be adjusted or changed when Internet is coming. In the. 政治大. era of artificial intelligence, we need to think about the countermeasures for those. 立. legal challenges and problems will occur again.. ‧ 國. 學. This thesis will discuss the constitutional disputes and administrative regulations. ‧. derived from artificial intelligence. After the strong artificial intelligence well. sit. y. Nat. developed, artificial intelligence may replace human beings. In this case, some. io. er. decisions may be made directly by the artificial intelligence system, and the follow-up. al. iv n C h dignity algorithm operation, whether human i Uviolated or not, inequality or e n g has c hbeen n. accountability problem needs to be ruled; automated decision-making process through. discrimination caused by data bias or algorithmic bias in the process should be prevented through regulations; we need to make the data be fully utilized with well privacy protection and information self-determination during the process of personal data collection, process, and utilization. If the regulation of artificial intelligence is too strict, it will inhibit the development of new technologies. If it is too loose, it will not be able to prevent the occurrence of risks. Moreover, government units do not have the ability to have a sufficient understanding of the industry. International standards will be a common III DOI:10.6814/NCCU202001583.

(5) method at home and abroad. Through orders or regulations to require related industries to comply with standards, it can make industry audits have common standards and promote industry progress.. ：Artificial intelligence,政 AI, Public-Private 治 Partnership, Trusted AI, Privacy, 大 Algorithms 立. Key words. ‧. ‧ 國. 學. n. er. io. sit. y. Nat. al. Ch. engchi. i n U. v. IV DOI:10.6814/NCCU202001583.

(6) 目次. 目次 ..........................................................................................................................V 表次 ....................................................................................................................... VII 圖次 ......................................................................................................................VIII 第一章緒論............................................................................................................. 1 第一節人工智慧簡述 .................................................................................................... 1 第一項人工智慧的定義........................................................................................ 1 第二項人工智慧的組成........................................................................................ 4 第一節研究目的與問題意識 ........................................................................................ 7 第二節研究範圍與研究方法 ...................................................................................... 10 政治. 大第二章人工智慧之憲法論議立................................................................................ 12 ‧. ‧ 國. 學. 第一節人工智慧法律關係之特色 .............................................................................. 12 第一項人工智慧在法律上之定位...................................................................... 12 第二項人工智慧與相對人之權利義務關係 ...................................................... 21 第二節人工智慧之倫理思維與人性尊嚴 .................................................................. 30 第一項人工智慧所造成之倫理衝擊.................................................................. 30 第二項人工智慧對人性尊嚴之侵害.................................................................. 44 第三節演算法偏見與平等權 ...................................................................................... 49 第一項個人自動化決策的偏見 .......................................................................... 49 a iv 第二項人工智慧對教育的影響 52 l C .......................................................................... n h e n g c.............................................................. 第三項履歷篩選造成之工作權不平等 56 hi U 第四項 AI 進行犯罪預測/審判量刑 ................................................................... 58 第四節資料蒐集與隱私權 .......................................................................................... 67 第一項隱私權由來與侵害類型.......................................................................... 67 第二項大數據與人工智慧時代的隱私保護 ...................................................... 70 n. er. io. sit. y. Nat. 第三章人工智慧行政規制之原則 ........................................................................ 79 第一節網際網路之經驗 .............................................................................................. 80 第一項歐盟的網際網路的經驗.......................................................................... 81 第二項台灣的做法.............................................................................................. 85 第二節科技創新與規制鬆綁 ...................................................................................... 88 第一項自駕車法規發展...................................................................................... 88 第二項自駕車之創新對規制之衝擊.................................................................. 96 第三項法規鬆綁與責任豁免.............................................................................. 99 V DOI:10.6814/NCCU202001583.

(7) 第三節人工智慧規制之正當性 ................................................................................ 103 第一項風險社會之行政規制............................................................................ 103 第二項人工智慧之規制方向............................................................................ 105. 第四章演算法與數據之行政規制 .......................................................................116. 第一節演算法審核之行政規制 .................................................................................116 第一項營業祕密與公眾利益之取捨.................................................................116 第二項演算法監管.............................................................................................118 第三項資料不足與偏失預防............................................................................ 128 第二節個人資料保護與運用之行政管制 ................................................................ 131 第一項個人資料保護在人工智慧時代之困境 ................................................ 131 第二項健保大數據之應用—以台灣/英國為例............................................... 148 第三節行政規制之界限與轉型 ................................................................................ 155 第一項人工智慧對傳統行政體制造成的困境 ................................................ 155 治政第二項行政規制的因應.................................................................................... 156 大. 立第五章人工智慧之公私協力與自主規制 ...........................................................159 ‧. ‧ 國. 學. 第一節人工智慧所需之公私協力 ............................................................................ 159 第一項公私協力之任務及法律關係................................................................ 160 第二項人工智慧特別委員會............................................................................ 162 第二節產業自主倫理規範 ........................................................................................ 164 第一項業者自我規範........................................................................................ 164 第二項產業公會與自主規範............................................................................ 169 第三項國際標準................................................................................................ 172 第三節各領域制度設計與規範建構 ........................................................................ 186 al v i n C h ............................................................................ 第一項技術監審與專業參與 188 U i e h n gc 第二項智慧交通應用........................................................................................ 195 第三項智慧醫療應用........................................................................................ 207 n. er. io. sit. y. Nat. 第六章結論與展望 ..............................................................................................213 第一節研究發現 ........................................................................................................ 213 第二節後續展望 ........................................................................................................ 217. 參考文獻 ...............................................................................................................220. VI DOI:10.6814/NCCU202001583.

(8) 表次. 表 1 Partnership on AI、Google、Microsoft 的準則比較 ..................................169 表 2 ISO 和 IEEE 正在制定的人工智慧國際標準比較分析.............................183 表 3 全球主要國家對於自駕車道路試測的主要政策與法規 ...........................196 表 4 美國非強制性的政策指引 .........................................................................199 表 5 E-Mark 認證與 e-Mark 認證 ......................................................................204. 立. 政治大. ‧. ‧ 國. 學. n. er. io. sit. y. Nat. al. Ch. engchi. i n U. v. VII DOI:10.6814/NCCU202001583.

(9) 圖次. 圖 1 道德機器網站的圖形選擇............................................................................ 36 圖 2 道德機器網站統計結果摘要........................................................................ 37 圖 3 國家與地域反應不同的道德想法 ................................................................ 38 圖 4 台灣和美國及日本在道德思維上的不同..................................................... 38 圖 5 人工智慧與社會利益的變化....................................................................... 111 圖 6 可信賴 AI 的框架 ........................................................................................123. 立. 政治大. ‧. ‧ 國. 學. n. er. io. sit. y. Nat. al. Ch. engchi. i n U. v. VIII DOI:10.6814/NCCU202001583.

(10) 第一章. 緒論. 我們常聽到的AI，也就是Artificial Intelligence，在台灣翻譯成「人工智慧」，在大陸、港澳地區則翻譯為「人工智能」，這幾年來最為人津津樂道的便是2014 年開始，由英國倫敦Google DeepMind開發的人工智慧圍棋軟體AlphaGo，在2016 年AlphaGo贏過人類棋士李世石一戰成名後，大眾對於人工智慧的關注也越來越高， 2017年日本和沙烏地阿拉伯都分別授予人工慧系統公民權，也使得人工智慧是不是可以視為人？享有和人類一樣的權利義務？這一類從原先的技術發展的討論開始漸漸有了許多法律上的討論。. 人工智慧簡述. ‧. 第一節. 在開始本文的討論前，筆者將先把人工智慧的定義、發展和組成要件進行說 n. al. er. io. sit. y. Nat. 明。. 學. ‧ 國. 立. 政治大. Ch. engchi. i n U. v. 第一項人工智慧的定義. 對於人工智慧的定義，大家莫衷一是，「Artificial Intelligence (人工智慧)」一詞最早是在1956年，由John McCarthy、Marvin Minsky、Claude Shanon等三位教授發起，在Dartmouth所舉行的研討會中，John McCarthy所提出的，John McCarthy 認為人工智慧是「製造有智慧的機器的科學及工程學，特別是指智慧的電腦程式」，同時他也認為無法完整定義「人工智慧」一詞，因為「智慧」是一個不明確的定義。 1. 1. ，. ，. ，. John McCarthy What is artificial intelligence? http://jmc.stanford.edu/articles/whatisai/whatisai.pdf. 1 DOI:10.6814/NCCU202001583.

(11) 該研討會為期兩個月，集合了十位學者針對「把人類智慧重現於機器上」的想法，針對初期的人工智慧的程式和理論進行討論，後來甚至有四位參與學者獲得堪稱是資訊界的諾貝爾獎「圖靈獎」，在該會議中提出了四個目標「可以了解如何使用語言、擁有抽象化以及概念化的能力、能夠解決只有人類可以解決的問題、可以自我改善」做為人工智慧努力的目標，而電腦科學家李開復與王詠剛則整理了幾個觀點，主要的是「人工智慧就是根據對環境的感知，做出合理行動，獲得最大效益的電腦程式」，是基於Stuart Russel和Peter Norving所提出，強調人工智慧可以感知到環境的不同情況，進而採取行動做出反應，也強調了人工智慧所做出的反應是必須要達成目標，也不強調人工智慧對人類思維方式的模仿。此外，他們也提到了「人工智慧就是會學習的電腦程式」這樣的定義是針對機器學政治大習，特別是從深度學習開始流行了以後的技術趨勢，雖然此定義較為狹隘，但是立最具有時代精神，還有「人工智慧就是與人類行為相似的電腦程式」，而此一定義是電腦學界的主流觀點，也是從實用主義出發、定義簡單而明瞭，但缺少持續進行的周嚴邏輯。前台灣人工智慧學校校長陳昇瑋則提出人工智慧簡單的定義是「人工智慧是一種可以感知、學習、推理、協助決策，並採取行動幫助我們解決問題的科技」。上述都是由電腦工程、資訊科學家的角度來看人工智慧，而在法律上又是如何看待人工智慧呢？早先台灣法律中並沒有明確的定義「人工智慧」，只有在 2003年 al v i n Ch 內政部的「營造業法第七條第三項應修習土木建築相關課程及學分數認定要點」 engchi U 中的第四條有提到「人工智慧的工程應用」，2017年12月25日開始有「國軍退除役官兵輔導委員會所屬醫療機構醫學臨床教學研究計畫作業指導原則」第4條有提及人工智慧的研究，2018年在科技部有「科技部補助人工智慧創新研究中心專案計畫作業要點」，2019年經濟部工業局則有「產業創新條例」第10-1條第2項中， 2. ‧. ‧ 國. 學. 3. n. er. io. sit. y. Nat. 4. 5. 最後瀏覽日：2020 年 7 月 30 日。三津村直貴，圖解 AI 人工智慧大未來：關於人工智慧一定要懂得 96 件事，陳子安譯，頁 56~57， 2018 年 7 月。李開復、王詠剛，人工智慧來了，遠見天下出版，頁 48-55，2017 年 4 月。陳昇瑋等，人工智慧在台灣--產業轉型的契機與挑戰，天下出版，頁 69，2019 年 6 月。國軍退除役官兵輔導委員會所屬醫療機構醫學臨床教學研究計畫作業指導原則，第四條規定：「四、各榮民總醫院應就精準醫學、人工智慧、慢性病管理、高齡醫學及長期照顧、遺傳基因醫學、癌症醫學、心血管代謝疾病、過敏免疫學及神經肌肉骨骼等範疇，進行分子、細胞、動物及人體等基礎及臨床試驗研究，以精進榮民醫療體系尖端醫學研究量能」。 2. 3 4 5. 2 DOI:10.6814/NCCU202001583.

(12) 有提到智慧機械含有人工智慧之運用，而根據「產業創新條例」所設立的「公司或有限合夥事業投資智慧機械或第五代行動通訊系統抵減辦法」是目前台灣法律中，明確指人工智慧的定義：「人工智慧：指電腦系統具有人類知識及行為，並具有學習、推理判斷以解決問題、記憶知識或了解人類自然語言之能力。」人工智慧的種類，傳統上人工智慧會依照其能力區分為「強/通用」 (strong/general)、「弱/窄」(weak/narrow)兩大類，而所謂強人工智慧就是實現當初的Dartmouth的目標，「把人類智慧重現於機器上」，所以當人工智慧擁有和人類一樣的智慧時，便稱為「強人工智慧」，而另外一種說法便是用人工智慧就可以做到所有人類可以做的事，也就有「通用人工智慧」的想法，就目前的技術水平來看，還沒有人工智慧系統可以達到通用或強人工智慧之標準；相對於「強人工治政智慧」或是「通用人工智慧」，「弱人工智慧」或是「特定人工智慧」則是著重大立於特定功能面，針對特定功能進行重覆性功能的執行，重點在於取代人類的重覆執行的動作，在特定的功能執行時的效率可以勝過人類，但是「弱人工智慧」或是「特定人工智慧」能做的事就只能是人類所能做的一部份，比如說，「翻譯」、「掃地」、「人臉辨識」、「智慧助理」、「影像辨識」都只是人的一部份能力而非完全將人類智慧重現於機器上。 Arend Hintze將人工智慧依其記憶與思考分為以下四大類： a (一)反應式機器(Reactive lMachines)：單純針對輸入做反應，不使用任何記憶 iv n Ch engchi U 以及任何的過去經驗，去做出未來決策，只為某些特定應用而製造，如 Deepblue，Watson。 (二)有限記憶 (Limited memory)：針對過去的經驗進行分析，簡化為一些規則，透過這些簡單的規則，並參考很短暫的記憶，去形成未來決策，如自駕車之應用。 6. 7. ‧. ‧ 國. 學. sit. y. Nat. 8. n. er. io. 產業創新條例第 10-1 條第 2 項規定：「第一項所稱智慧機械，指運用巨量資料、人工智慧、物聯網、機器人、精實管理、數位化管理、虛實整合、積層製造或感測器之智慧技術元素，並具有生產資訊可視化、故障預測、精度補償、自動參數設定、自動控制、自動排程、應用服務軟體、彈性生產或混線生產之智慧化功能者為優化產業結構達成智慧升級轉型並鼓勵多元創新應用」。公司或有限合夥事業投資智慧機械或第五代行動通訊系統抵減辦法第 2 條第 2 項第 2 款規定。 Understanding the four types of AI, from reactive robots to self-aware being， https://theconversation.com/understanding-the-four-types-of-ai-from-reactive-robots-to-self-aware-beings -67616，最後瀏覽日：2020 年 7 月 15 日。 6. 7 8. 3 DOI:10.6814/NCCU202001583.

(13) 三)心靈理論 (Theory of Mind)：具備可以理解人類心靈的能力，可以與人類互動良好。 (四)自我意識 (Self Awareness)：不止了解人類心靈，更進一步的具備自我思考能力。而Carlos Perez則透過深度學習的分類，來將人工智慧分為五類，主要是從深度學習(Deep learning)的程度來分： (一) 只能分類的系統(classification only)：單純只能做分類的系統，透過 CNN(Convolutional Neural Network，卷積神經網路)去進行特徵萃取後可以歸納出各資料的特徵而進行分類。治Memory)：除了進行分類外，也連政 with (二) 使用記憶分類的系統(classification 大立帶的可以將所習得的分類記憶下來進而影響後續的決策。 (三) 使用知識分類的系統(classification with Knowledge)：除了進行分類以外，將原先己進行符號分類的資料，導入在系統內，使得後續的決策受到先前的知識分類的影響。 (四) 使用有限知識的分類(classification with imperfect knowledge)：和使用知識分類的系統差不多，只是此處所使用的知識並不完整。 al v (五) 使用有限知識協作分類的系統 with imperfect ni C h (collaborativeUclassification engchi knowledge)：使用多個有限知的分類系統合作，產生強大的分類能力。，然而此一類以技術觀點出發的分類觀點是很難讓大眾理解，而這些分類也在法律上沒有實質的區分效力。 (. 9. ‧. ‧ 國. 學. n. er. io. sit. y. Nat. 第二項人工智慧的組成. 人工智慧的組成元素是什麼呢？一般認為人工智慧有三個重要的元素，透過 9. Carlos Perez. ，The Deep Learning AI Playbook，Intution Machine，p. 89-91 (2017). 4 DOI:10.6814/NCCU202001583.

(14) 演算法去歸納關聯性，而關聯性的產出則是藉由累積大量的數據所歸納出來，而運作演算法及大量數據的歸納，則是需要強大運算能力，事實上這也是為什麼在 2018年前後，人工智慧開始爆炸性成長的因素，因為強大運算能力、大數據、深度學習的演算法都在這時候到達成熟應用的階段，原先在1956年就開始發展的人工智慧，在經歷60年的發展後，才開始真正的走向應用。由於運算能力僅為工程上之需求，較無法律可處置，本文後續內容，將著重於演算法及數據的討論在最一開始發展人工智慧的時候，是將知識進行符號化後輸入於電腦中，這樣的問題在於人類的知識是無法一項一項的完全輸入到電腦中，即使在這個時期有了將知識系統化的本體論想法，使得知識可以系統化的分類後進行輸入，但此部份仍然是以有涯而望無涯，一項一項的輸入知識是無法應付爆炸性的知識成長，治政即使是輸入後也無法完全的將它們互相結合，也就是說沒有自我學習的能力；後大立來有了專家系統，透過將知識以資料和規則的結構化組織輸入系統後，可以產生一種簡單的人工智慧，是集合了許多的「若…成立，則***」的規則，也因此只要輸入足夠多的規則，就可以產生一個可行的人工智慧系統，這樣的系統的問題則在於須要輸入很多的規則來讓系統運作。「機器學習(Machine Learning)」的導入則是開啟了人工智慧自我學習的開始，「機器學習」的基礎是建立在統計學上，透過大量資料的輸入和比對後，機器開 al 始建立自身對於知識的認知，比如說圍棋的人工智慧便是透過輸入大量的棋譜去 iv n C hengchi U 統計出來得勝率高的步驟，來進行下棋，所以輸入大量的資料，讓機器進行學習的過程，本身就有像人類成長的學習是一樣的方式。「監督式學習 (Supervised Learning)」則是透過將事先以人工進行標記好、分類好的資料輸入到系統中，讓系統根據標記與分類統計歸納出各資料的相似處、相異處後，產生學習後的知識，可以進行後續的判斷，也就是將問題和答案都輸入到系統中，由系統自己進行學習，比如說，一個人工智慧要能辨識照片中是狗或是貓，我們便將5萬張狗的照片和5萬張貓的照片事先分類好之後，輸入系統，系統在歸納學習後，便可進行狗與 10. 11. Nat. n. er. io. sit. y. ‧. ‧ 國. 學. 12. 李彥宏等，智能革命--迎接 AI 時代的社會、經濟與文化變革，遠見天下文化，頁 79-81，2017 年 8 月；「人工智慧」的大腦由什麼組成？https://kknews.cc/zh-tw/tech/l6momj2.html，最後瀏覽日： 2020 年 7 月 15 日。三津村直貴，同註 2，頁 64-67。三津村直貴，同註 2，頁 68-69。 10. 11 12. 5 DOI:10.6814/NCCU202001583.

(15) 貓的辨識，「監督式學習」最大的問題是必須要事先分類，此部份的工作全部有賴於人工分類，這樣的方式，人力和成本的消耗是非常大的，也因此便有了「非監督式學習 (non-Supervised Learning)」，不預先提供分類或標記，也就是沒有提供問題的答案，而是不斷的輸入大量的資料，讓系統自己去進行相關性的分類，同樣的以貓與狗的辨識來說，輸入大量未經分類的照片，讓系統全進行相關性的分類，於是，系統會歸納出A類、B類等等，再由人類在最後去指定A類為貓、B 類為狗的方式，這樣的方式可以節省大量的人力和成本去進行資料的人工分類與標記，而現今機器學習的主流則是將監督式學習與非監督式學習結合；「強化式學習 (Reinforced Learning)」則是將學習的過程，以獎勵的方式，取代監督，而讓人工智慧朝向獲得較多獎勵的方式，以下棋為例，若是該步驟在後續贏的機率高，政治大則該步驟就會被加分，則系統在綜合分析後得到該如何進行下一步。立真正使得人工智慧在這幾年來開始蓬勃發展的關鍵則是「深度學習 (Deep Learning)」，深度學習透過「反向轉播法 (Backpropagation)」使類神經網路多層化、「卷積神經網路 (Convolutional Neural Network，CNN)」使得被分析的事物可以細分為很多層，每層有其分工，比如說辨識貓的方式，一層可以看眼睛、一層可以看鼻子、一層可以看嘴吧、然後再結合結果；「自動編碼器 (Autoencoder)」則是將每層的辨識方式結合起來，透過對眼睛、鼻子嘴巴的個別判斷後再結合起來，來實現機器學習所無法做到的運算。而循環神經網路 al v(Recurren Neural Network， i n Ch RNN)」則類似迴圈(Loop) 的概念，將原先輸出的資料再輸入使得資料可以重覆的 engchi U 回到系統中，這樣的演算法對於語音和翻譯的特別的有幫助。而除了深度學習演算法外，另一個關鍵因子便是數據，如前列所提的各項演算法都是需要大量的數據輸入來找到相關性，早先由於網路的不成熟，大量的資料無法取得，而使得人工智慧無法進行，在2010年前後，搭配了深度學習和大數據，人工智慧開始發展。 13. ‧. ‧ 國. 學. n. er. io. sit. y. Nat. 14. 13 14. 三津村直貴，同註 2，頁 74-81。三津村直貴，同註 2，頁 132-135。 6 DOI:10.6814/NCCU202001583.

(16) 第一節. 研究目的與問題意識. ‧. ‧ 國. 學. 由於人工智慧的進步，漸漸的開始從科學家的學術研究，應用到一般人的生活與工作中，一點一滴的改變人類生活，而且漸漸的在各個層面發生影響，不再只是存在於實驗室中的高科技而是人類的日常，最常見的是人手一機的手機上面的「Siri」、常用的搜尋引擎Google、修圖的軟體「美圖秀秀」、Google翻譯軟體，想吃飯時候Gomaji智慧推薦餐廳、想坐車時Uber調度汽車、GAP按時推送可能是你喜歡的衣服，都是我們在生活中會碰到的人工智慧，而現今各項人工智慧的發展，包括智慧交通的自駕車以及整個的運輸系統的改變、智慧醫療的Watson、達文西手臂、智慧金融的理財機器人、智慧城市等等我們生活中馬上都會看到的改變，人工智慧真的已經進到我們的生活了。政治大立然而新的科技發展，往往也帶來了新的爭端與問題，在改善人類生活的同時，人類的權利也受到了影響，透過人工智慧，人類被自動化決策系統所影響，想找工作，履歷表有人工智慧審核，透過人工智慧進行個人剖析(profiling)，你的性傾向、種族、政治傾向等等你以為的私密，都在大數據和人工智慧的搭配下顯得一清二楚，入學審查也是一樣，單親家庭的孩子，在過往的經驗中，可能比較沒辦法專注的讀書，入學審查時候，是不是因此比較沒有進到好學校的機會？黑人是不是比較容易犯罪，這些偏見、歧視和隱私權的侵犯，在人工智慧的新時代裡變 al iv n 得越來越明顯，越來越厲害了，如何防範這些問題，使得人工智慧能夠為人類帶 Ch engchi U 來幸福是這個時代的課題。人工智慧導入的自駕車、智慧交通、智慧醫療，己經開始漸漸地滲透到我們的生活中，彰濱工業區在2020年7月15日開始開放自駕小巴載客，Tesla Elon Musk 也宣稱2020年可以解決問題，讓L5自駕車實現，而使用Watson來協助進行醫療診斷，早已在國內多家醫院中實現，甚至Apple Watch已經可以透過感應裝置預警心 n. er. io. sit. y. Nat. 15. 16. 林敬家，全國首創！彰濱自駕觀光小巴上路，聯合新聞網，年 7 月 14 日，，最後瀏覽日：2020 年 7 月 15 日。 Brenda Goh and Yilei Sun，Tesla 'very close' to level 5 autonomous driving technology, Musk says， Reuters，2020 年 7 月 9 日， https://www.reuters.com/article/us-tesla-autonomous/tesla-very-close-to-level-5-autonomous-driving-tech nology-musk-says-idUSKBN24A0HE，最後瀏覽日：2020 年 7 月 15 日。 15. 2020 https://udn.com/news/story/7325/4702031?from=udn-catelistnews_ch2 16. 7 DOI:10.6814/NCCU202001583.

(17) ‧. ‧ 國. 學. 臟有問題，在這些實際的應用中，自駕車的檢驗及上市許可，責任的分配，醫療設備有意外時，醫生還是設備商，還是設備自己本身須要進行理賠？這些都開始漸漸有些零星的個案發生，隨著應用的越來越多時候，法律是否適用於這些新科技所產生的爭執，成為一個疑問。因為法律的恆定性，在面對新科技的發展時，往往顯得慢半拍，沒辦法因應新科技的發展，因此近幾年來人工智慧相關的法律研究也越來越多，從民法的責任分配、保險，著作權法的是否享有著作權等等問題都是很多的討論，而本文則是聚焦在公法上的相關問題，從憲法的角度出發探討平等權、隱私權等受憲法保障之基本權利，接著探討在人工智慧社會中進行行政規制的原理及方法，由於新科技導致政府無法馬上就能夠以法規面面俱到的去規範，這時的產業自主的規範治政就變得重要，探討如何以公私協力和自主規制來在人工智慧時代中創造最大的創大立新與最完善的安全。由於篇幅及時間的有限，本文將侷限於人工智慧的人格權問題、倫理問題、憲法和行政法上的相關問題進行討論，著作權法或民刑法等相關問題則不會列入討論。基於前述之研究背景，本論文之方向及目標如下：第二章先從人工智慧是否可以視為人，在法律上的地位，以及與相對人的權利義務關係進行討論，雖然這個問題比較接近民法之範疇，然而在行政法中或是 al 在憲法中，人工智慧是人或是物品就會有不同的法律地位的認定，所以，第一開 iv n Ch engchi U 始還是必須先就人工智慧是不是人、享有何種的權利義務以及與相對人的權利義務說明清楚。接著會探討因為人工智慧所造成的倫理衝擊，人工智慧是不是可以傷害人、是不是在危難時可以將人類分階級來做取捨，以及演算法社會對人性尊嚴的傷害，到因為演算法偏見導致平等權的衝擊，在受教育機會不平等、在工作權的不平等、在審判時候受到不平等待遇，而在數據上則是當數據資料之蒐集過少或偏頗時會造成不公平，而人工智慧另一個問題，則是隱私權的侵犯，由於大數據和雲端運算，在任何時候，只需要簡單的搜尋技巧就有可能使得人們的隱私曝露在全世界眼前，但是人們不管在任何地方，都可以期待的合理隱私，是須要被保障的。第三章會著重在從網際網路的發展過程中，來討論科技創新的時候，必須搭配法制的鬆綁與責任的豁免，討論人工智慧如何進行創新卻又不大幅度的曝露整 n. er. io. sit. y. Nat. 8 DOI:10.6814/NCCU202001583.

(18) 體人類的安全風險，而此處最明確的案例便是自駕車的測試與上市的法規發展。第四章著重在演算法和數據的行政規制，討論到利用監管及審查演算法，去減少偏見及歧視的發生，管理個人資料、促進合法合目的的個人資料再利用以促使資料被充分利用，在保護個人資料的同時，又要促進最大應用，去識別化、匿名化的方法，會是個人資料保護的最主要任務。第五章承襲第四章所述之行政規制，在政府實際運作下無法完全應付新時代的需求，因此，參考公私協力與自主規制的方式，並剖析現在的智慧交通及智慧醫療所需面對的問題。第六章則會提出第二章到第五章之研究發現，並根據現有之了解提出未來之展望及努力之方向。政治大立. ‧. ‧ 國. 學. n. er. io. sit. y. Nat. al. Ch. engchi. i n U. v. 9 DOI:10.6814/NCCU202001583.

(19) 第二節. 研究範圍與研究方法. n. er. io. sit. Nat. 17. y. ‧. ‧ 國. 學. 本論文是採取文獻分析(literature analysis)、文獻評論（literature review）、及比較法（comparative law）進行研究，透過對於相關文獻之分析與探討，釐清「人工智慧」及各相關應用在憲法上以及在行政法上因科技發展而帶來的新的法律關係與法律行為，並以比較法分析美國、日本、歐盟之相關法律之差異，再探討此差異對我國現況之問題解決或未來發展之啟發。文獻評論是依照一個指導概念，例如研究目的、主旨、或想要研究的議題，將針對此議題上有研究成果之學者與研究者進行分析和剖析，有系統地呈現歸類與評估，本論文擬以「人工智慧之公法學研究」為研究主題，蒐集相關法學者論政治大著、期刊、學位論文等資料，據以分析、歸納、評估，以彙整出學說論點。立文獻分析是非實驗性質之研究方法，本論文計劃藉由蒐集國內外與人工智慧有關之政策分析、立法評析以及憲法、行政法等相關領域之法律條文、行政命令、法律解釋、以及業者自我規範、產業公會規範、國際標準組織標準等資料，廣泛的蒐集各國內外法學與人工智慧相關之文獻、專書、期刋、著作、新聞、法學資料庫、網際網路資源等資料，並進行閱讀及翻譯外文文獻，並進行評估、分析及歸納，從中得出爭點及相關論理，以及實務之見解。從相關文獻中了解，目前全世界對於人工智慧發展所發現的問題與挑戰，並分析及歸納各國對於目前所看到 al iv n C 的人工智慧的倫理問題，自動化決策所帶來的偏見和歧視的問題，大數據分析所 hengchi U 造成的隱私權侵擾的問題，在各國的解決的想法及可能做法，進而在我國提出可能的政策規劃方向。比較法則是選取兩種以上之學術思想加以比較推斷，以發掘其中異同、特點與特質，本論文將以先進科技之美國、歐盟，加以分析評論其間主體之法律關係與呈現之法律行為，以做為國內未來發展自駕車、智慧醫療等應用之論據參考。在隱私保護上參考美國對隱私的保護，比較我國在這個部份的努力以及案例的比較，在個人資料保護上，參考歐盟1995年資料保護指令(Data Protection Directive)，及2018年開始執行之一般資料保護指令(General Data Protection Regulation, GDPR)，本文中，註腳標記出處時，日文、簡體中文、英文之資料都將以原始文字標示，採行翻譯時，則會標註原名及譯名。. 17. 10 DOI:10.6814/NCCU202001583.

(20) 並與我國個人資料保護法進行比較，最後再加入我國健保數據與英國健保數據之案例比較，進行分析。在自駕車和醫療的部份則是參考美國和歐盟之相關立法，做為我國未來可能之方向。. 立. 政治大. ‧. ‧ 國. 學. n. er. io. sit. y. Nat. al. Ch. engchi. i n U. v. 11 DOI:10.6814/NCCU202001583.

(21) 第二章. 人工智慧之憲法論議. 年的人工智慧，就像是2000年時的網際網路一般，基於新科技發展所產生的各種新技術的運用與新領域的探索，使得工商業行為有了全新的發展，帶來了各項新的爭端與危機，以Google公司所提供的網頁快照為例在美國是合法免責的，但是在德國、西班牙、比利時均認定為複製而侵權，相同的行為在不同國家實施，因此而有不同的認定，主因還是面對新的技術與發展，法律的發展若是不能與時俱進，是無法充分因應新技術與新發展。而在現有法律制度無法有效的應用在實際的社會發展時，我們應該回歸到最基本的法律理論來思考如何解決問題。政治大立 2018. 18. ‧. ‧ 國. 學. 第一節. 人工智慧法律關係之特色. y. Nat. n. er. io. sit. 人工智慧目前在世界各國都有相當熱烈的發展，各國都非常的重視此項技術的發展，然而截至目前為止各國都還沒有一個很明確的法律規制來界定人工智慧 al iv n C 的法律地位、責任如何分配、權利義務的關係，而這些問題的最基本的開端應該 hengchi U 先從人工智慧應不應該具備法律人格，如果人工智慧應該有法律人格，人工智慧又該被如何定義呢？而在這樣的時代裡，身為人，又該如何定位「人」的角色呢？. 第一項人工智慧在法律上之定位. 隨著AI的逐步演進，智慧越來越高，AI和人類社會的互動越來越緊密，在法陸幸福，論搜索引擎服務商在提供鏈接過程中的權利與義務——基于霍菲爾德權利理論的一種分析，法學評論，2013 年 04 期，頁 3，2013 年 7 月。. 18. 12 DOI:10.6814/NCCU202001583.

(22) 律上的地位該如何定義的問題，變得越來越重要，一個Pepper ，到偏鄉進行法學教育宣導，來教導年輕學子們如何避免犯罪及毒害，這是件美好的社會服務，然而，如果是學校使用Pepper來教學，Pepper可以被視為是老師嗎？如果有教錯而產生究責問題？我們該以教師法進行此項究責嗎？更甚者，我很喜歡某個機器人，我可以娶她回家當老婆嗎？號稱最美機器人Sophia蘇菲亞在2017年10月25日獲得公民身分，該公民身分是由沙烏地阿拉伯所頒發的， Sophia是由美國的漢森機器人公司（Hanson Robotics）所設計和製造的人工智慧（AI）機器人。無獨有偶，在2017年的11月4日，由微軟和日本澀谷區政府所共同開發，使用 Mirai），也獲得日本東京於通訊軟體上的AI聊天機器人，「澀谷未來」（政治Shibuya 大澀谷區的「特別居民登記證」立，這使得東京成為第一個官方承認人工智慧機器人的城市。澀谷未來和蘇菲亞不同地方是澀谷未來並沒有具體形象，只是個電腦上運作的系統。 AI專家Hussein Abbass特別針對Sophia得到沙烏地阿拉伯所頒發的公民權提出其看法及擔憂，他認為目前由科學家所製造出來的人工智慧自主系統，還沒有到達足夠令人信賴的程度，缺少可靠的體制去確保人工智慧可以自主遵循道德及法律的規範，沒有任何措施可以確保人工智慧不會做出對人類不利的事情。 al iv 他認為這決定很草率，原因是 n Ch engchi U (一) 蘇菲亞缺少明確的身份定位(Defining identity)，如何定義蘇菲亞？一段程式碼？一個網路位址(MAC)？ 19. 20. 21. ‧. ‧ 國. 學. 22. n. er. io. sit. y. Nat. 由日本軟體銀行(SoftBank)開發，台灣富士康所製造的陪伴型機器人，參考日経パソコン報導，ソフトバンク、家庭向けの人型ロボット「Pepper」を 2015 年 2 月に発売， https://tech.nikkeibp.co.jp/it/article/NEWS/20140605/561963/，最後瀏覽日：2020 年 7 月 15 日。首例！沙烏地阿拉伯授予機器人公民身份，明日科學，2017 年 11 月 6 日， 19. 20. https://tomorrowsci.com/technology/%E9%A6%96%E4%BE%8B-%E6%B2%99%E7%83%8F%E5%9C %B0%E9%98%BF%E6%8B%89%E4%BC%AF%E6%8E%88%E4%BA%88%E6%A9%9F%E5%99% A8%E4%BA%BA%E5%85%AC%E6%B0%91%E8%BA%AB%E4%BB%BD/ 2020 7 15 21 AI 2017 11 4 https://news.ltn.com.tw/news/world/breakingnews/2243548 2020 7 15 22 An AI professor explains: three concerns about granting citizenship to robot Sophia https://theconversation.com/an-ai-professor-explains-three-concerns-about-granting-citizenship-to-robot-s ophia-86479 2020 7 15. ，最後瀏覽日：年月日。首例！日本虛擬人工智慧「澀谷未來」取得實體戶籍，自由時報，年月日，，最後瀏覽日：年月日。，，最後瀏覽日：年月日。 13 DOI:10.6814/NCCU202001583.

(23) 二法律權利(Legal rights)不明確：權利和義務如何定義？可否投票？誰能決定要投票給那個候選人？製造商還是 Sophia 的擁有者還是 Sophia 本身？要不要繳稅？ (三) 社會權利(Legal rights)：親密關係(relationships)和繁殖(reproduction)，身為一個公民，可以結婚、生子嗎？當機器人可以自己複製機器人的時候，當機器人數量超過人類的時候，機器人可以自己投票，屆時，法律的修改，社會的改造都將被機器人所主宰。雖然距離真正可以像人一樣的有人類意識的機器人或人工智慧系統的發展，還有很長的時間，但是法律和倫理的架構必須先形成。機器人的權利義務必須要先進行規範。政治大除了沙烏地阿拉伯頒給蘇菲亞公民證、日本東京頒給澀谷未來特別居民證外，立愛沙尼亞正在進行立法將AI合法化，他們提出《克拉特法》（Kratt Law），該法將透過由AI的複雜程度，決定應對AI提供什麼樣的法律保護或義務，形同是透過將人工智慧進行能力的分級後，規範人工智慧系統的權利與義務，使人工智慧系統取得一個法律上的合法地位。愛沙尼亞政府的自駕車特別小組發現，因自駕車所引發的責任、誠信和問責問題，並不只出現在自駕車的領域，而是在各領域的人工智慧普遍性的問題。 ( ). 23. 24. ‧. ‧ 國. 學. sit. y. Nat. n. al. er. io. 25. Ch. i. i n U. v. engch 第一款人工智慧的能力區別人工智慧的能力，Searle, John. R.分為「強人工智慧」與「弱人工智慧」，強人工智慧是指具備自我思維的人工智慧，有人認為擁有和人類一樣智慧的人工智慧就可以稱為強人工智慧，和強人工智慧想法接近的就是通用型人工智慧 (AGI： 26. 美國北達科他州立大學(North Dakota State University)己有研究生成功製造了可用 3D 列印技術去複製自身的機器人， https://www.manufacturingtomorrow.com/news/2017/07/19/ndsu-students-develop-3d-printing-self-replic ating-robot/10034/，最後瀏覽日：2020 年 7 月 15 日。在愛沙尼亞的神話中，「克拉特」（Kratt）是一個魔法所賦予生命的物體。＜AI 取代人類？＞機器人蘇菲亞成沙國公民，自由時報，2017 年 11 月 27 日， https://ec.ltn.com.tw/article/paper/1155133，最後瀏覽日：2020 年 7 月 15 日。 Searle, John. R.，Minds, brains, and programs，3 (3) Behavioral and Brain Sciences，P. 417，(1980). 23. 24 25. 26. 14 DOI:10.6814/NCCU202001583.

(24) 就是該人工智慧可以做人類可以做的各方面的事情，沒有侷限在單一領域的人工智慧。相對於強人工智慧，弱人工智慧就是目前大多數存在的AI，雖然無法像人類一樣的自主性的思考，但是看起來有像人類的思考，只能做局部的、單一特定領域的事情，也就有人認為是所謂的特定型人工智慧。管見以為，目前並沒有真實可稱為強人工智慧的出現，但在弱人工智慧中，卻是可以分成與人互動，以及單獨運作的系統。從人工智慧系統與人的互動關係來界定人工智慧在人類社會中的定位，將可使得在法律上有較清楚的定位，本文中將人工智慧依照其能力，以及與人類互動可能分成，「強/通用」、「弱/特定—與人互動」、「弱/特定—單獨運作」三大類。因此，本文將以下列三種類型來界定人工智慧的型態。政治大第一種是人工智慧輔助工具：也就是「弱 /特定—單獨運作」的人工智慧，此立類人工智慧經由訓練後，經由人類的啟動，在人類指揮下，可協助人類進行工作，如：達文西手臂，可視為醫生的延伸的雙手與雙眼；如：華生系統，可以透過所輸入的大量醫學書籍、論文與臨床數據，透過比對相關之醫學數據而推論出病人可能的病因及合適的治療方式，達文西手臂和華生系統，都是在協助醫生進行他的工作，並沒有獨立的作業的方式；如同現有的自動跟車系統，專注於行車中的跟隨前車的任務，會自動認知與前車之距離，並採取相對應的行動，在大多數時 al 候是由系統自主採取行動，但系統仍需由人類輔助，在必要時介入。這樣的人工 iv n C h e n g c h i U 「物」或是「工具」而不智慧，我們可以把他當作是一種工具，所以，可以說是是人。第二種是專才人工智慧：也就是「弱/特定—與人互動」的人工智慧，此類人工智慧是專注在某種領域，透過機器學習和深度學習之後，可以自己進化的學習之外，可以因應不同的情況，自動做出對策，有其自主性，並非完全受自然人控制的系統，如同Alpha Go、Alpha Zero，專注於下圍棋，可自行認知棋局的變化，並採取對應行動。更高一點智慧的系統甚至可以完全在自然人規範下自己運行，只有在重大決策時，須要由自然人決策，就如同現有的Level 2/Level 3的自駕車，平常時候可以不用人力的介入，獨立的依其所受訓練，做出自我的判斷，但是仍 27. Artificial General Intelligence). ‧. ‧ 國. 學. n. er. io. sit. y. Nat. 27. 三津村直貴，同註 2，頁 56~57。 15 DOI:10.6814/NCCU202001583.

(25) 然須要使用者的監管，在必要的時候介入，所以，此部份的人工智慧會有類似無行為能力或是具備部份行為能力者，或是我們可以將此部份人工智慧視為動物之類，可以說使用此系統之人類是其監護人/輔佐人。2016年1月和5月Tesla發生了兩起的死亡車禍，目前Tesla和車主仍有爭執，但Tesla在事故頻仍下，已將官網中的自動駕駛(Auto-pilot)改為自動輔助駕駛(Self-Assisted Driving)，駕駛仍需將雙手放置於的方向盤上以隨時應變，而最終因車輛行駛所造成的意外及損失，仍然歸因於駕駛人員，此時，人工智慧仍然屬於須要使用者的監管。第三種是通用人工智慧：如同一般所說的「強/通用」人工智慧，此類人工智慧並不專注在特定領域，系統具備自我意識，可以自我判斷需要什麼樣的資料，自行決定需要學習些什麼。在不久的未來極有可能超越人類智能的系統，比如治政 Level- 5的自動駕駛車輛，甚至是沒有剎車、方向盤和油門，是自然人在正常狀態大立下無從干預的自主運作系統，自動偵測環境的變化、車輛行進間狀態，並依狀態及變化自主做出回應。類似這樣的高度智慧的系統受自然人委託獨立進行特定事務，與自然人形成一種分工合作的社會形態。也許，在那時，我們應該將此項系統視為準人類或是類人類。然而這樣的通用人工智慧系統雖然具備了高度的智慧，但由於系統本身終究是沒有對自我的認知，是否具備獨立人格，乃至於具備法律定位，成為法律主體，仍然是須要進一步討論與思考的。 28. ‧. ‧ 國. 學. n. er. io. sit. y. Nat. al. i n U. Ch. v. 第二款人工智慧是否具備法律地位 engchi 法律主體指的是具備法律人格，具備享有權利與承擔義務和責任的能力，在現行的法律體制下，法律主體的定義隨著不同領域而有所不同，在憲法裡面，法律的主體指的是公民和國家，在行政法裡，法律的主體是行政機關和行政相對人，就是國家、地方自治團體或其他公法人、法人及自然人、有管理人或代表人之非法人團體，在民法裡指的是自然人、法人，人工智慧是否可以成為法律主體，一直有很多的討論，從最早Lawrence Solum就曾在近30年前提出AI是否具備法律上的 Jake Spring，Tesla removes 'self-driving' from China website after Beijing crash，Reuters，2016 年 8 月 15 日，https://www.reuters.com/article/us-tesla-china-crash-idUSKCN10Q0L4，最後瀏覽日：2020 年 7 月 15 日。 28. 16 DOI:10.6814/NCCU202001583.

(26) 法律主體地位的文章，他在該篇文章中討論了可否因為AI缺少某些特質，如靈魂 (Soul)、意識 (Consciousness)、意向性(Intentionality)、感受(Feeling)、擁有興趣 (Interest-Possessing)、自由意志(free will)而不具備與自然人一樣的人格，從而否認 AI之法律主體地位。Solum認為AI若在與人的互動上無法被區別出和人的不同，也就是說通過「圖靈測試」的AI，其實無法分辨和人的不同，無法否認AI具備心靈特質 (mental quality)，且就AI所能完成的特定工作來說，AI具備與人類相同的智慧，但由於當時沒有AI具備意識的證據，在當時無法將AI視為和人一樣具備人格。然而不久的未來，甚至會有超越人類智慧的強人工智慧，是不是在那個時刻來臨時，AI已然具備與人類相似的意識與特質，我們是不是應該將AI視為人，或是至少視為像法人類型的擬制型人格，給予相應的法律地位，是值得討論的。治政除了自然人以外，法人也是一個權利主體，而且，法人也不是人類，卻以「人大立之集合」、「財產之集合」透過法律擬制具有權利能力，進而成為適格的權利主體，人工智慧能不能以這樣法律擬制的方式取得權利能力？法人本來是一群人及財產所組成，其背後都是有人的意識所形成，因此將其擬制為法人，仍然是以人的意識為基礎，然而，人工智慧未來是否具備意識，目前尚無定案。除了自然人和法人外，是不是還有其他可能的人格類型可以做為人工智慧在發展上的可能方向，為此，世界各學者有相當多的討論，而目前真正有政府組織肯認的便是電子人格。 a l iv n Ch e n gParliament) 電子人格最早是在歐盟議會(European c h i U的法律事務委員會(JURI)在 2016年5月所提出的機器人憲章 (Charter on Robotics)中提出，在2017年2月16日歐盟議會以396票同意、123票反對、85票棄權通過由法律事務委員會所提出的決議提交建議到歐盟委員會(European Commission)，建議歐盟委員會賦予人工智慧可以具有「電子人格」（electronic personhood），歐盟議會認為從長遠的角度來看，應該要為機器人建立特定的法律地位，以便未來在建造出最先進的自主機器人時，可以讓該自主機器人具有負責損害填補的電子人格地位，使得該自主機器人在特定的範圍內具備權利能力，使得人工智慧在進行自主決定時，可以對形成的損失 29. ‧. ‧ 國. 學. 30. n. er. io. sit. y. Nat. 29 30. Lawrence Solum，legal Personhood for Artifical Intelligence，70 N. C. L. REV，P. 1237-1287，(1991). 王澤鑑，民法總則，增訂新版，頁 176，2014 年 2 月。. 17 DOI:10.6814/NCCU202001583.

(27) 負責，也可以獨立的和其他人進行互動，當然，並不是所有稱為人工智慧的系統都能具備電子人格，在該決議的附件中有提出，人工智慧必須具備可檢測與分析環境變化達成自主性、可以透過經驗和互動學習、具備機器人的物理型態、能夠因應環境調整行為行動。並且，應建立先進機器人的註冊登記制度，實現可追溯性的責任追究，讓人工智慧人格可以在申請後通過審核後享有。此決議透過對人工智慧擬制為電子人格來解決人工智慧是否具備權利能力的問題，某種程度上，透過此決議，歐盟議會肯認了機器人具備了某種程度上「人」的屬性。然而還有更多的問題須要更深入考慮。也因此，在2018年4月12日來自14個歐洲國家的156位人工智慧專家，包含資訊科學家、法學教授和執行長提出一封公開信呼籲必須考慮電子人格的責任能力治政和行為能力，認為人工智慧並不具備人格權，認為這將與《歐盟基本權利憲章大立 (Charter of Fundamental Rights of the European Union)》和《保護人權與基本自由公約(the Convention for the Protection of Human Rights and Fundamental Freedoms)》衝突。人工智慧就目前的系統發展看來是無法認知自己的行為、認知法律、認知自己的行為的法律後果，就目前看來是無法證明人工智慧的損害賠償責任。 31. 32. ‧ 國. ‧. y. 原文如下：「. Nat. 31. 學. 33. er. io. sit. European Parliament Resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics paragraph 59 f) creating a specific legal status for robots in the long run, so that at least the most sophisticated autonomous robots could be established as having the status of electronic persons responsible for making good any damage they may cause, and possibly applying electronic personality to cases where robots make autonomous decisions or otherwise interact with third parties independently; https://www.europarl.europa.eu/doceo/document/A-8-2017-0005_EN.html?redirect#title1 2020 7 15 32 Definition and classification of 'smart robots' A common European definition for smart autonomous robots should be established, where appropriate including definitions of its subcategories, taking into consideration the following characteristics: the capacity to acquire autonomy through sensors and/or by exchanging data with its environment (inter-connectivity) and the analysis of those data; the capacity to learn through experience and interaction; the form of the robot’s physical support; the capacity to adapt its behaviour and actions to the environment. Registration of smart robots For the purposes of traceability and in order to facilitate the implementation of further recommendations, a system of registration of advanced robots should be introduced, based on the criteria established for the classification of robots. The system of registration and the register should be Union-wide, covering the internal market, and could be managed by a designated EU Agency for Robotics and Artificial Intelligence in case such an Agency is created. https://www.europarl.europa.eu/doceo/document/A-8-2017-0005_EN.html?redirect#title1 2020 7 15 33 OPEN LETTER TO THE EUROPEAN COMMISSION ARTIFICIAL INTELLIGENCE AND ROBOTICS http://www.robotics-openletter.eu/ 2020 7 15. n. al iv n 」 Ch engchi U. 年月日。原文如下：「. ，最後瀏覽日：. – – – –. 」. 年月日。，. ，最後瀏覽日：. ，最後瀏覽日：. 年月日。. 18 DOI:10.6814/NCCU202001583.

(28) 學者有提出很多的分類，工具說認為人工智慧只是人類使用之工具，沒有獨立的意思表示能力，不具有獨立的法律人格。軟體代理說認為，人工智慧只是一種軟體，負責把用戶的要求帶入系統中，不需要具有完全的法律人格和法律能力。電子奴隸說則認為人工智慧並不具備情感及實際人體，只是機器，有行為能力，但不具備任何權利能力。代理人說則認為人工智慧和使用者的關係被認為是本人與代理人之關係，代理人代理本人，其行為之效果仍歸屬於本人，因此代理人勢必具備法律主體地位，才能作出其代理使用者交付之指令，但若人工智慧已進入具備自主決定的時候，這個決定應該是代理使用者所做出的、抑或是代理製造者或是設計者所做的，甚至是人工智慧並沒有代理任何人而自作主張，是無法確認的，且其性質已不同於傳統的工具或是代理人的想法了，因此，學者袁曾則認為政治大。應將人工智慧定義為，具有工具性質卻又能作出獨立意思表示的特殊主體立學者袁曾認為，人工智慧具有獨立自主的行為能力，有資格享有法律權利並承擔責任義務，人工智慧應當具有法律人格。但由於人工智慧承擔行為的能力有限，人工智慧適用特殊的法律規範與侵權責任體系安排，其所具有的法律人格是有限的法律人格。權利主體是在人工智慧背後實際控制的人，也就是說人類自身的權利優先於人工智慧，人工智慧始終是處於為人類服務的工具地位，按照「刺破人工智慧面紗」的原則，在自駕車發生意外之時，由於人工智慧所具有的法律人格有限，自駕車所造成的損壞，將由人工智慧的實際控制者或製造 /設計者承擔 al v i n Ch 責任是合理的。為調整適應人工智慧有限法律人格的規制安排，必須明確人工智 engchi U 慧歸責原則，通過強制投保責任險、確立以人為本的監管體系、加速「人工智慧發展法」立法等體系性安排，促進人工智慧在可控的範圍內發展。學者楊立新認為人工智慧享有有限人格是一種不夠精準的說法，有限人格說 34. 35. 36. 37. 38. ‧. ‧ 國. 學. n. er. io. sit. y. Nat. 39. ，，，，轉引自袁曾，人工智能的有限法律人格審視，東方法學，第期，頁，年月，，，，轉引自楊立新，人工類人格：智能機器人的民法地位兼論智能機器人致人損害的民事責任，求事學刊，年第期，頁，年月。同前註，頁。「所謂代理人係指代理本人參與行政程序，惟法律效果仍歸屬於本人」出於林明鏘，行政法講義一版，頁 359，2014 年 10 月；民法 103 條 1 項規定，「代理人於代理權限內，以本人名義『所為意思表示』，直接對本人發生效力」，出於王澤鑑，註 30，頁 489。袁曾，同註 34，頁 52。袁曾，同註 34，頁 56。 34. Kalin Hristov Artificial Intelligence and The Copyright Dilemma 57 (3) The IP Law Review P.442 (2017) 5 52 2017 9 35 Susanne Beck The problem of ascribing legal responsibility in the case of robotics 31 AI & Soc PP. 473-481 (2016) — 2018 4 86 2018 7 36 86 37. 38 39. 19 DOI:10.6814/NCCU202001583.

(29) 認為人工智慧有一部份人格，且此部份人格和一般自然人人格並沒有太大的差異，然而不管人工智慧發展到了什麼樣的階段，即使其智慧與能力高過一般人，它們也無法有自然人格，或者是一部份自然人格，即使人工智慧可以獨立做出自主的行為了，但是人工智慧仍然是完全沒有能力去承擔行為的後果的，連一部份也沒有辦法。因為人工智慧不具備生命，不是自然人，也不是自然人所集合成的法人或是非法人組織，甚至於也稱不上是生物，是無法享有法律的主體地位，所以楊立新認為人工智慧的法律人格應該是人工類人格，楊立新認為即使是通過登記，並賦予公民身份，也不能通過這樣的方式讓人工智慧具備擬制人格。即使人工智慧在某些方面存在與人的人格接近或是類似的要素，但人工智慧就是無法像人類一樣享有權利和執行義務，並在導致損害時，承擔責任，因為終究人工智慧所表政治大現出來的動作、思維、意志等等都是通過人類所賦予的，是被操控的，也因此人立工智慧不是一個真正的人，最簡單的說明便是，人工智慧一旦發生電力中斷之時，就沒有了生存的能力，因此，人工智慧是人工類人格，是類似人類的人格。從各國都有在思考或是己經開始實踐賦予AI為居民或公民的趨勢來看，AI有漸漸被人類社會所接受，然而我們究竟該給這樣的人造實體什麼樣的權利和義務呢？儘管目前的科技水平，我們離到達奇點的那天還很遙遠，機器人或是AI都還不具備有人類的意識，對於他們是否在法律上面該擁有什麼樣的權利和義務還是一個非常模糊的想像，然而，在這個可能性被實現之前，我們應該先就法律和倫 al iv n C 理的架構進行建構。 he hi U 40. n. er. io. sit. Nat. 42. y. ‧. ‧ 國. 學. 41. ngc. 第三款小結基於以上各種論辯，管見以為，由於機器人不具備人之心性和靈性，不足以取得獨立的主體地位。就目前人工智慧發展的形態而言，人工智慧仍然是受人類的操控，按照人類的意志進行事務，並不具備獨立自主的行為能力。以目前人工楊立新，論智能機器人的民法地位及其致人損害的民事責任，人工智能法學研究，2018 年第 2 期，頁 11。同前註，頁 15-16。弗諾·文奇(Vernor Steffen Vinge)在 1982 年召開的美國人工智慧協會年會(現稱人工智慧促進協會， Association for the Advancement of Artificial Intelligence)上首次提出「科技奇異點」這一概念。泛指機器人的智慧超過人腦的時間點。 40. 41 42. 20 DOI:10.6814/NCCU202001583.

(30) ‧. ‧ 國. 學. 智慧的發展成果來看來看，很難認定人工智慧具有獨立自主的行為能力，但是，在未來很難以避免的人工智慧的能力會越來越好，有越來越多的事務是要透過人工智慧以自我運算後所展現的意志來進行的，若是在現在單以物品、工具來認定人工智慧，顯得太過保守，而全然的以電子人格來認定人工智慧，又有太過大膽的情況。因此筆者大膽的想像，人工智慧的人格是應該可以隨著人工智慧的能力而與時俱進的，在目前，在弱人工智慧，缺少人機互動的情形下，認定人工智慧的運作是一種工具或是偏向人工類人格，而隨著技術的演進，弱人工智慧開始可以與人類頻繁互動的情況（現有少數系統己接近），此時我們可以認定這一類系統為有限人格。而在更進一步的技術昇級，也許人工智慧也帶著自主判斷的能力的時候，可以使用有限人格或者是更進一步的以電子人來做為人工智慧的法律定政治大位。而在人格與法律定位問題解決之後，透過人工類人格、有限性人格、電子人立格應用在不同人工智慧的技術進程上，短期內，可以不用大幅度的修法或甚至是立專法，可以爭取更多的時間去完善人工智慧法律規制，如此一來也可以避免過高的責任，導致技術開發者額外的成本與意願降低，也避免受害者無法得到妥善的損害賠償。 er. io. sit. y. Nat. al. n. iv n C 人工智慧與相對人之權利義務關係 hengchi U. 第二項. 在人工智慧系統從設計開始、製造、使用，以及開始使用後與系統互動的人，包括了使用者、設計者、製造者、相對人，而因人工智慧系統處於何種形態，權利義務的關係也將會隨之不同。. 第一款人工智慧輔助工具與相對人之權利義務關係對人工智慧輔助工具而言，該輔助工具是被認定為物，也因此若是因為使用上有不當的使用而導致損害，由於該輔助工具是由使用者完全地支配指揮，使用者應該要為該輔助工具所導致損害負賠償之責，以達文西手臂為例，當醫生使用達文西手臂執行手術時，由於醫生完全地支配和指揮達文西手臂，若手術出現問 21 DOI:10.6814/NCCU202001583.

(31) 題，本文認為醫生仍應負最終責任，目前在英國有一位醫師Sukumaran Nair在2015 年為患者進行心臟心術時，宣稱因達文西手臂未按照既定程序進行手術，導致手術失敗，最後他緊急施做傳統手術，患者在數日後因多重器官衰竭死亡，目前該案仍在調查中，然而，一般均認為該醫師未進行足夠訓練是主要的問題，目前沒有任何針對達文西手臂的製造商/設計商的法律追訴。對人工智慧輔助工具之設計者而言，若是該輔助工具被發現其本身之設計有瑕疵，因此導致風險的發生，由於設計者是唯一能夠在設計上控制該輔助工具之功能與性能的人員，設計者應該負擔該設計瑕疵的責任。對人工智慧輔助工具的製造者而言，若製造者未充分進行品質的控管，抑或是未進行足夠的危險警示、安全性說明，草率的將產品推出銷售，導致產品形成政治大危險而造成損失，製造者應該負擔該製造瑕疵的責任。立在消費者保護法第7條中規範，商品設計商、製造商均應確保商品及服務符合當時科技或專業水準可期待之安全性，以及應在明顯處做警告標示及危險的處理方法，便是要求設計商及製造商負擔設計瑕疵和製造瑕疵的責任。對於人工智慧輔助工具使用時的相對人，如達文西手臂施做手術的患者、被使用自動跟車系統的使用者駕駛車輛所搭載的乘客，在危害發生時，通常都是受 /製造者請求賠償。害者，可向造成危害的使用者，或是造成瑕疵的設計者 al iv n C 通常，使用者、設計者、製造者、相對者彼此間的法律關係，僅為私法關係， hengchi U 和政府沒有直連接性。然而，若是該項輔助工具涉及醫療相關，有醫療器材管理辦法，由衛福部管理；若是涉及交通方面事務，有道路交通處罰條例等辦法之規範，由交通部管理，國家對於大量生產與民眾生活相關的產品，負有監管之責，如醫療器材需由衛福部許可上市，前列所提及之達文西手臂之進口，亦需經由衛福部同意。若是在這些許可過程中，政府機關有判斷錯誤或是怠於作為之處，則 43. 44. ‧. ‧ 國. 學. n. er. io. sit. y. Nat. ，，，最後瀏覽日：年月日。消保法第條：「從事設計、生產、製造商品或提供服務之企業經營者，於提供商品流通進入市場，或提供服務時，應確保該商品或服務，符合當時科技或專業水準可合理期待之安全性。商品或服務具有危害消費者生命、身體、健康、財產之可能者，應於明顯處為警告標示及緊急處理危險之方法」。 43. Kat Lay Patient died ‘after robot surgery error’ with Da Vinci device https://www.thetimes.co.uk/article/patient-died-after-robot-surgery-error-with-da-vinci-device-xkq8lpshx 2020 7 15 44 7. 22 DOI:10.6814/NCCU202001583.

(32) 會衍生公法關係，產生後續的行政爭訟與國家賠償。. 第二款專才人工智慧與相對人之權利義務關係對於專才人工智慧而言，這種一般而言已使用所謂的弱人工智慧的系統，是可以在特定領域中，表現出比人更好的能力，在大多數的情況下是可以自行運作，但在重要時候仍然需要人類監管的系統，使用者需證明已善盡監督之責，以特斯拉(Tesla)汽車為例，雖然很多人宣稱特斯拉的自動駕駛(Autopilot)系統已可在台灣的高速公路、快速道路上使用，但依照新竹市監理站站長朱詩蘅表示，目前台灣雖然接受電動車可以掛牌上路，但並未全面開放「自動駕駛」功能，因此「自動駕駛」功能需由駕駛人負責監督，並且準備隨時進行接管，若是開啟「自動駕駛」政治大功能時發生車禍，肇事責任仍需由駕駛人負擔。特斯拉公司官網上的採購頁面，立也針對自動輔助駕駛系統特別強調「該功能需由駕駛人進行監督，並無法完全使車輛進行自動駕駛」以警示消費者。對專才人工智慧之設計者而言，該專才人工智慧系統在設計時，就必須要考量到各項的風險，且須要做各種環境變化的模擬，確保此系統可以運作正常，若是因為考量不周嚴而使該系統存在不必要的危險，設計者必須要承擔這個部份的責任，由於設計者因此設計而獲取專利等巨大利益，設計者有責任要設計可以處 al iv 理各種情況的系統，但由於人工智慧是透過過去的搜集資料來進行未來的預測， n Ch engchi U 本身並無因果關係的推論，因此和一般的產品設計不同的是，人工智慧較難預測，若是能夠證明已進行了合理的測試，而無法檢測出瑕疵，以現有的科技水平無法偵測出設計的瑕疵，則設計者可以此作為已盡相當注意原則進行抗辯。對專才人工智慧之製造者而言，製造者因大量生產銷售，取得龐大市場收益，對專才人工智慧系統負有在上市前進行良好品質控管，並且標示危險的義務，若製造者未充分進行品質的控管，抑或是未進行足夠的危險警示、安全性說明，草學. ‧ 國. 45. 46. ‧. n. er. io. sit. y. Nat. 特斯拉「自動駕駛」未核准上路車禍責任不能推給車子，蘋果日報，年 12 月 12 日，，最後瀏覽日：年 7 月 15 日。特斯拉官網採購頁面，，有以下文字「目前的功能需要駕駛人主動監督，並無法使車輛自動駕駛。未來是否能在無人監督的情況下使用這類功能，需視在數十億里程的駕駛體驗中，能否達到超過真人駕駛的穩定度而定，同時也需要法規的批准，而在某些司法轄區中這可能會花費比較長的時間。隨著這些自駕功能不斷演進，您的車輛也會持續透過空中下載 (OTA) 軟體更新來升級」，最後瀏覽日：2020 年 2 月 22 日。 45. 2018 https://tw.appledaily.com/new/realtime/20181212/1482561/ 2020 46 https://www.tesla.com/zh_tw/modelx/design#autopilot. 23 DOI:10.6814/NCCU202001583.