第二章 人工智慧之憲法論議
第三節 演算法偏見與平等權
國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
第三節 演算法偏見與平等權
越來越多的政府機構開始利用人工智慧系統來進行資格的審查、簽證、或是 金融機構審核貸款資格及額度，民間公司審查應徵資格，甚至是進行面談審查，
大多數人的觀念裡會認為人工智慧是理性、客觀、公正的，演算法搭配大數據，
透過公平的演算和大量客觀的數據，可以為人類在評分、選拔的時候，摒除偏見 和歧視，然而實際上卻不盡然；演算法容易將人類既有的偏見帶入演算中，而數 據的投入，若是不夠全面性，有所偏頗，訓練出來的演算結果就是會有所偏見，
導致演算法推演出來的結果對特定族群或是弱勢族群形成偏見和歧視，人工智慧 系統帶來的行政效率提昇，更加速了這樣的不平等的演進，於是如何使演算法更 公平、更具備透明性是越來越受重視的發展方向。
第一項 個人自動化決策的偏見
歐盟更是將「個人化自動決策」（Automated Individual Decision-Making）放 入GDPR (General Data Protection Regulation)中，要求所有「個人化自動決策」
（Automated Individual Decision-Making）必須要讓資料當事人有請求解釋的權利，
並且要確保訓練資料的中立性，不可以任何資料當事人的權益因此受損。
29條工作小組99為因應歐盟一般資料保護規則 GDPR第22條規定發布了「自動 化個人決策和分析指引」（Guidelines on Automated individual decision-making and Profiling for the purposes of Regulation)，對個人資料自動化決策（automated decision-making）和個人檔案剖析（Profiling）的建立進行規範。
該指引分為五個部分和建議之最佳實例，希望可以幫助資料控制者（Data controller）合乎GDPR對個人資料自動化決策和分析的要求，內容包括以下五點
100：
99 根據歐盟 1995 年資料保護指令第 29 條所成立的個人資料保護工作小組 (Working Party on the Protection of Individuals with regard to the Processing of Personal Data)
100 洪政緯，歐盟第 29 條工作小組發布「自動化個人決策和分析指引」處理個人資料自動化決策與
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
(一) 定義自動化決策和分析，以及GDPR對這些概念的處理方法。
(二) 對GDPR第22條中關於自動化決策的具體規定。
(三) 對自動決策和分析的一般規定。
(四) 兒童和個人檔案剖析（Profiling）的建立。
(五) 資料保護影響評估。
指引主要內容，則包括以下兩項：
(一) 個人檔案剖析（Profiling），意謂收集關於個人（或一群人）的資料，並 分析他們的行為模式或特徵，加以分類或分群，放入特定的類別或組中，
和/或進行預測或評估（例如，他們執行任務的能力，興趣或可能的行為）。
(二) 禁止對個人資料完全自動化決策，包括有法律上法或相類重大影響的檔 案剖析，但規則也有例外。應有措施保障資料主體的權利，自由和合法 利益。
第一款 第一款 第一款
第一款 演算法之偏見演算法之偏見演算法之偏見演算法之偏見
演算法的偏見即使是在最新的演算法中都難以避免的會看到，以Google在 2018/11/2發布的最新的，名為BERT(Bidirectional Encoder Representations from Transformers)的演算法，BERT是第一個可以不用大量的標記資料就可以產生雙向 溝通的語言形式，只需要使用網路上的單純文本就能夠進行預訓練(Pre-training)，
從而產生大量的上下文資料，透過大量的吸收網路上現有的知識，從而加強搜尋 的效果，增強自然語言的處理(NLP，Natural Language Processing)能力101，然而，
由於是從網路上吸收大量的資訊，所以什麼樣的資訊都會被吸入，其中偏見和歧 視也一樣的都會被學習到，University of Washington (華盛頓大學) 的電腦語言學教 授Emily Bender (班德)也表示：「即使是建立系統的人，都無法了解它們的行為模 資料剖析風險問題，https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=7971，最後瀏覽日：2020 年 7 月 2 日。
101 Jacob Devlin and Ming-Wei Chang，Open Sourcing BERT: State-of-the-Art Pre-training for Natural Language Processing，Google AI Blog，
https://ai.googleblog.com/2018/11/open-sourcing-bert-state-of-art-pre.html，最後瀏覽日：2020 年 3 月 14日。
‧
式」。電腦科學家孟洛（Robert Munro）曾負責亞馬遜網路服務 (Amazon Web Service) 平台，將100個英文單字，如「珠寶」、「寶寶」、「馬匹」、「房屋」、「金錢」、
「行動」輸入BERT的資料庫後，BERT將這些語詞聯結到男性的機率有99%，唯 一的例外是「媽媽」（mom），而孟洛也測試了亞馬遜和Google的雲端運算，他 發現這亞馬遜和Google都無法識別「Hers(她的)」為代名詞，卻可以識別「His(他 的)」為代名詞102，類似這樣的性別與種族的歧視與偏見層出不窮，2015年5月Google 推出的相簿服務，便被抱怨將黑人女性辨識為大猩猩103，雖然Google很快的處理 了，但是這樣的偏見和歧視是一直存在著的。
史丹佛大學的研究人員在2017年發表了一篇論文104，內容是利用人工智慧技 術來看照片辨別是否為同性戀者，他們從美國的一個約會網站上取得了14,776個使 用者的35,326張照片(50%異性戀/50%同性戀，53%男性/47%女性)，並利用
VGG-Face105萃取臉部特徵後，進行深度學習後，再進行對其他照片的辨識，發現 有81%成功識別男同性戀，71%成功識別女同性戀，論文中提到較一般人辨別男性 年 7 月 2 日，https://technews.tw/2015/07/02/google-photo-mistag-black-woman-as-gorilla/，最後瀏覽 日：2020 年 3 月 14 日。
104 Yilun Wang, & Michal Kosinski，Deep neural networks are more accurate than humans at detecting sexual orientation from facial images.，Journal of Personality and Social Psychology，Sep. 7, 2017.
105 VGG-Face由 Parkhi，Vedaldi 和 Zisserman，在 2015 年提出，使用深度神經網路從圖像中提取 臉部特徵。最初是使用 260 萬張圖像樣本訓練的，用於面部識別。
106 LGBT是女同性戀者（Lesbian）、男同性戀者（Gay）、雙性戀者（Bisexual）與跨性別者（Transgender）
對其性別認同感到疑惑的人（Questioning），即是「LGBTQ」。
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
不管是否準確都會對同性戀者造成傷害，而真正令人恐懼的是，人工智慧和電腦 具有可信賴的光環，假科學之名行歧視之實是對所有被歧視的人群的最大傷害107。 而研究者則聲稱並非要使用該研究去判別誰是同性戀者，而是希望可以透過該研 究去提醒所有人及政府要注意人工智慧的力量，類似這樣的個人隱私的侵犯在未 來有很大的風險。
第二項 人工智慧對教育的影響
第一款第一款
第一款第一款 AI 教教教教師師師之師之之出現之出現出現 出現
AI人工智慧系統將擔任部份老師的工作，AI不會累，有耐心，不會敵視學生，
AI自動編排進度，安排考試，按照學生能力，個別的因材施教，因此而實現個別 化的教學，這樣的教學方式與場域，對學生而言是件好事，新時代的教育現場中，
每個孩子，都配置一台平板電腦，以自己的能力為進度學習，所有的進度傳到雲 端，個人的進度會被記錄與分析，產生試題進行檢定，並分析那個部份須要再加 強，完全的因材施教。
日本的Qubena Academy實現了這樣的教育場景108，一所沒有老師的學校，利 用平板來進行學習，搭配一萬多個題目，根據學生的熟練程度提出孩子該學習和 改善的地方，目前是從數學開始，未來會擴展至國文、英文、社會、自然等科目。
中國上海的「 Master Learner」開發的「AI Teacher」，匯集了5億多個題目，透過 學生的作答，分析學生的強項弱項，提出學習的建議，並分析整個班級的能力分 布與學習問題，大幅降低人類老師的負擔，且兼顧個別學生能力產異的發展109。 最重要的是，像這樣的AI型教育，降低了偏鄉的教育落差，人人有書唸，人人有 老師，將使得偏鄉教育資源不足的問題獲得紓解，慶應義塾大學山口高平教授在 横須賀市立鶴久保小學開設了「老師/機器人協作計劃」110，透過老師和AI合作的
107 Row over AI that 'identifies gay faces'，BBC News，2017 年 9 月 11 日，
https://www.bbc.com/news/technology-41188560，最後瀏覽日：2020 年 3 月 15 日。
108 山本龍彦，AI と憲法，日本經濟新聞研究所，頁 256，2018 年 8 月。
109 同前註，頁 257。
110 山本龍彦，同註 108，頁 259，原文是：「慶應義塾大学理工学部の山口高平教授が横須賀市立 鶴久保小学校にお い て実施した、『教諭・ロボット連携授業プロジェクト』」。
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
方式進行授課，也許會是未來AI世代更有可能的作法。然而，完全的將教育交給 機器，筆者以為有其限制與不可行。原因是AI老師須要很久，甚至是永遠無法像 人類老師一般的給學生愛與關懷，AI老師也許可以授與知識，卻無法變成學生的 典範。傳統教師為學生們所帶來的充滿感情的引導、啟發、諄諄善誘卻是無法用 AI取代的。
AI教師的出現，對於教育的平等來說是件好事，更體現了日本憲法第26條1項，
「所有公民均有權根據法律要求，根據自己的能力接受教育。」與中華民國憲法 第159條，「國民受教育之機會，一律平等」是一樣的精神。甚至可以說，對於常 態分布之外，前5%和最後5%程度極好和極壞的學生而言，AI教師的效果遠比傳統 教師的效果好，也因此AI教師極可能將加劇學生之間因天生條件差異，所造成的 表現落差。
第二款 第二款 第二款
第二款 AI 老老老老師師師之良窳師之良窳之良窳 之良窳
這樣的制度有可能對整體學生有好的幫助，然而也有其問題存在，由於學年 制度的問題，因為個別學習的能力差異，能力好的前5%可以更快的學得比其他人 快，能力差的最後5%，可以透過學習系統，不斷的重覆學習，但是經年累月後，
會有10歲孩子可以念高中，我們也許是該讓他們提早去念高中的？ 然而15歲孩子 卻仍然只有國小4年級的學力，我們該讓他們繼續留下來念國小嗎？這會不會是在 憲法上另外的一種歧視，我們是否在促進教育個別化的時候，這是不是另外的一 種問題呢？
這樣的個別化教育系統，為學生及家長帶來很多傳統教學沒有辦法實現的好 處，然而，即使是一個好的制度，是不是大家都能接受，是不是有選擇不接受的 自由？就像是殘障的學生，也許去念特殊學校是比較好的選擇，但是一般的普通 學校是不是就可以拒絕他的入學呢？尼崎肌肉萎縮症案判決一案111，提及殘障的 學生願意忍受生活的不便進入普通的學校就讀，只要他具備入學所需之學力，學 校不應該拒絕他的請求，這樣的拒絕，其實也是一種歧視。所以，是不是也有學
這樣的個別化教育系統，為學生及家長帶來很多傳統教學沒有辦法實現的好 處，然而，即使是一個好的制度，是不是大家都能接受，是不是有選擇不接受的 自由？就像是殘障的學生，也許去念特殊學校是比較好的選擇，但是一般的普通 學校是不是就可以拒絕他的入學呢？尼崎肌肉萎縮症案判決一案111，提及殘障的 學生願意忍受生活的不便進入普通的學校就讀，只要他具備入學所需之學力，學 校不應該拒絕他的請求，這樣的拒絕，其實也是一種歧視。所以，是不是也有學