第四章 演算法與數據之行政規制
第一節 演算法審核之行政規制
國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y 第四章 演算法與數據之行政規制
人工智慧是由演算法與數據所構成的系統，所以，只要將演算法及數據完善 的進行規制，即可規制人工智慧整個系統。
第一節 演算法審核之行政規制
演算法的審核是一個重要的行政規制，透過演算法的審核去降低歧視與偏見，
是演算法規制的重要目標。
第一項 營業祕密與公眾利益之取捨
隨著人工智慧技術的發展，對於人類的生活所造成的影響層面越來越多，影 響的範圍也越來越大，而演算法是否合乎公平原則？是否存在偏見？是否合乎倫 理規範？似乎，演算法特別是涉及人身安全、財務、發展機會的演算法是不是應 該要有公正權威單位進行審核？什麼樣的機制，可以被接受是政府在進行規制時，
應該去規劃和考量的。
使用人工智慧進行決策時，最大的問題就是欠缺可驗證性及可問責性，這樣 的疑慮主要是：
(一) 研發與製造者會主張演算法為智慧財產(可能為專利或營業祕密)，因此 不願意開放相關內容以供外界或第三者驗證。
(二) 由於人工智慧的技術性，即使相關內容已充分揭露，一般民眾能也無法 明確理解，更無法去驗證人工智慧系統的運算結果，更無從對研發製程 者進行問責，此處便須要法律專家以及技術專家的合作，針對人工智慧
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
的演算法進行理解與檢視。
(三) 由於人工智慧本身是基於機器學習的運作，以建立關聯性分類來運作，
故其本質上就有一定程度是人類所無法理解之處。
所以，基於上述的三個疑慮，要完全去理解其演算法是否有其必要性？目的 是為了避免演算法產生偏見，是不是可以透過以決策樹259或是蒙地卡羅演算法260 將演算法的運作以步驟一步一步的運作，可以使得決策模式被看到，若是無法使 用決策樹一類之演算法的部份，則是使用相類似的演算法演算後比較結果，或是 透過第三方驗證的方式，將A 製造商及B製造商的演算法去共同檢驗演算法是否有 偏見與歧視，透過這樣的方式去驗證演算法261，而去避免演算法揭露所形成的營 業祕密可能外洩之風險。
以自駕車為例，如前一章所述，德國率各國之先發表了《自動暨聯網駕駛倫 理指引》其核心的目的，一是為了確保人類生命的安全必須優先於其他的動物或 其他財產，為了引導自駕車必須以人為本，讓自駕技術將人類的生命與安全放在 系統的安全優先順序的第一位。二是當自駕車真的發生不可避免之事故時，人人 的權利都是平等的，不能有任何基於年齡、性別、種族等等因素的歧視所作出的 判斷，也就是人人平等，禁止以社會地位、人物特徵、來作為安全優先順序的判 斷標準。三是為了要以技術發展或是其他安全性原則來防範倫理困境的出現。也 因此人民對於自駕車演算法的開發過程、測試過程更應具備知情權，此一知情權 並不是要企業公開其演算法，而是要公開蒐集何種道德相關數據、清洗數據和量 化數據的方法和結果、以及完整保存所有自動化決策等資料262。
人工智慧之演算法是否可視為營業秘密？人工智慧科技之核心內容，乃是演 算法，權利人為了將人工智慧程式部份的原始碼（source codes）保密，往往希望 能在營業秘密法制下獲得保護，但日後權利人於舉證營業秘密受侵害時，經常會 面臨極大的困難。由於為了保護營業秘密，營業祕密是無須進行申請與審查之程
259 詳解分類演算法--決策樹演算法，https://www.itread01.com/content/1550311395.html，最後瀏覽 日：2020 年 7 月 16 日。
260 蒙地卡羅法，https://home.gamer.com.tw/creationDetail.php?sn=3981429，最後瀏覽日：2020 年 7 月 16 日。
261 理律法律事務所，同註 127，頁 118-119。
262 何心宇，同註 235，頁 27-28。
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
序，更不會像專利制度一樣地有公示制度，因此一旦演算法之程式受到他人以還 原工程（reverse engineering）的技術，將程式的目的碼（object codes）反向還原出 原始碼，以進行利用時，權利人在進行侵權的舉證時，將陷入極大的困境，如何 證實演算法是屬於權利人所開發之智慧財產，將是極大的困難，而且，若是將人 工智慧科技視為營業秘密，社會大眾更加無法人工智慧演算法的效果及方法，很 難使得社會可以透過演算法更進步。
此外，透過賦予人工智慧專利權，並要求專利申請人說明其原始碼，該原始 碼也可以被監管機構審查，避免不公平之歧視發生，而由於專利的公示制度，也 可以確定發明人之權利，而整體社會也是可以在這樣的發明基礎之上有更多的研 究，促成更大的改善263。
是以，筆者管見以為，對人工智慧演算法賦予專利權對於人類社會、對於開 發及製造者都是雙贏的。
第二項 演算法監管
隨著人工智慧的發展，爲社會經濟帶來巨大的改變與經濟效益，但其背後同 時也隱藏了道德倫理之風險，因此必須對這些可能產生之風險進行監管，將其風 險衝擊降至最低，以最大化人工智慧的效益。人工智慧系統的演算過程和一般的 因果式的邏輯推理相當的不同，透過重新檢視決策過程的方法去檢驗演算法是有 相當程度的困難的，且由於系統本身是被設計成可以自主進化的，在系統成長的 過中，並沒有明確的過程和記錄，因此，當個人受到演算法所做決策之不良影響 時候，絕大多數個人，並不知道自己己受不利影響，即使是知道，也難以對其決 策進行挑戰與異議，相關決策往往是一只「黑盒子」（black box），決策欠缺透明 度，也使得法律正當程序之保障面臨挑戰。
263 謝國廉，論專利法對人工智慧之保護--歐美實務之觀點，高大法學論叢，第 15 卷第 2 期，頁 13-14，2020 年 3 月。
‧
人工智慧高級專家小組（High-Level Expert Group on Artificial Intelligence，AI HLEG），並於2018年12月發布由人工智慧高級專家小組（AI HLEG）所編制的《人 工智慧道德準則》（ETHICS GUIDELINES FOR TRUSTWORTHY AI）草案，要 求人工智慧須遵守行善（do good）、不作惡（do no harm）、保護人類（preserve human Agency）、公平（be fair）與公開透明（operate transparency）等倫理原則，隨後 於2019年4月發布正式版的人工智慧道德準則《ETHICS GUIDELINES FOR TRUSTWORTHY AI》（可信賴AI之倫理準則），明確指出AI的發展方向是「可 信賴的AI」（Trustworthy AI），以確保AI技術符合道德要求，且技術穩健可靠，https://stli.iii.org.tw/article-detail.aspx?no=0&tp=1&d=8248，最後瀏覽日：2020 年 6 月 1 日。
265原文是：「Trustworthy AI has three components, which should be met throughout the system's entire life cycle: (1) it should be lawful, complying with all applicable laws and regulations (2) it should be ethical, ensuring adherence to ethical principles and values and (3) it should be robust, both from a technical and social perspective since, even with good intentions, AI systems can cause unintentional harm.」
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
諾使個人能夠對其生活進行更多的控制，包括（除其他權利外）保護就業的自由，
藝術和科學自由，表達自由，私人生活和隱私權以及集會和結社自由。(三) 尊重 民主，正義和法治：人工智慧的使用必須要保護和促進民主，尊重個人的多元化 價值觀和生活選擇，不可以破壞人類審議或民主投票系統以確保它們不會以破壞 法治所依據的基本承諾，強制性法律和法規的方式運行，並確保合法程序和法律 面前人人平等。(四)平等，不歧視和團結：必須確保平等尊重所有人的道德價值和 尊嚴-包括面臨被排斥的人的權利。這超越了非歧視，即允許基於客觀理由在不同 情況之間進行區分。在AI環境中，平等意味著系統的操作不能產生不公平的偏向 輸出（例如，用於訓練AI系統的數據應盡可能地具有包容性，代表不同的人群）。
這也須要充分尊重潛在的脆弱人群和群體，例如工人，婦女，殘疾人，少數民族，
兒童，消費者或其他有被排斥風險的人群。(五)公民的權利： 包括選舉權、被選 舉權、使用公共文件的權利以及向政府提出請願權。人工智慧系統具有巨大的潛 力，可以提高政府在提供公共物品和服務方面的規模和效率，也同時也要注意和 保護公民的權利不受負面的影響266。
「可信賴的AI」框架整理如包括三個部分，說明如下：
(一) Chapter I-「可信賴的AI基礎(foundation of Trustworthy AI)」:以確保人工智 慧合乎道德原則，規定了人工智慧發展應該遵守4個道德原則267： (1)尊重人類的自主權(respect for human autonomy): AI系統不應該脅迫、欺
騙、操縱人類。相反，AI系統的設計應該以增強、補充人類的認知、
社會和文化技能為目的。人類和AI系統之間的人機協作方式應遵循以 人為中心的設計原則，而且AI系統的工作過程中要確保被人類所監 督。
(2)預防傷害(Prevention of harm): AI系統不應該引發、加重傷害，或對人 類產生不好的作用，因此須要保護人類的尊嚴和身心健康。AI系統和 運行的環境必須是安全的（safe and secure），因此要求技術上必須是
266 ETHICS GUIDELINES FOR TRUSTWORTHY AI，P.10-11, (2019 Apr),
https://ai.bsa.org/wp-content/uploads/2019/09/AIHLEG_EthicsGuidelinesforTrustworthyAI-ENpdf.pdf， 最後瀏覽日：2020 年 5 月 31 日。
267 同前註，頁 8-14。
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
安全可靠的，而且要確保AI技術不會被惡意使用。
(3)公平性(Fairness): AI系統的開發、實現和應用必須是公平的；在實質的 公平面上，希望做到利益和成本的均等以及公正的分配，避免個人和 群體受到不公正的偏見、歧視和污名化。如果AI系統可以避免不公平 的偏見，就可以增加社會公平性，應該在受教育、取得商品、服務和 技術等方面促進實質性的機會均等，且讓人們的選擇自由受到保障。
從業者應該尊重手段與目標相稱的原則，並思考如何平衡競爭利益和 目的，而在公平的程序面則是在AI做出決策後，應有救濟程序，因此，
AI系統做出決策的實體必須是可識別的，而做決策的過程應該是可被 解釋的。
(4)可解釋性(Explicability): 可解釋性可用於構建用戶對AI系統的信任性，
也就是說整個決策的過程、輸入和輸出都應該是可解釋的，但目前的 人工智慧算法和模型都是以黑盒子（black box）的形式運行。
(二) Chapter II：「實現可信賴的AI (Realisation of Trustworthy AI)」:提出七大 關鍵要素來實現可信賴的AI：
(1)人類代理與監督(Hunan Agency and Oversight):AI不應剝奪人類的自主 性，且人類不應該被AI的系統所操作或脅迫；同時應確保AI系統有適
(1)人類代理與監督(Hunan Agency and Oversight):AI不應剝奪人類的自主 性，且人類不應該被AI的系統所操作或脅迫；同時應確保AI系統有適