數 理 人 文 21
學習的奧祕是遺忘
揭開深度學習神秘黑箱的新理論
作者：渥秋華 Natalie Wolchover 譯者：紀露結
渥秋華是線上科普雜誌Quanta Magazine的資深主筆。她是塔夫斯大學物理學士，曾於加州大學柏克萊分校攻讀研究所。 2016 年，她在該雜誌的報導為她贏得美國科學作家協會頒給年輕科學記者的 Evert Clark/Seth Payne 獎。
模糊靈感，這些學習系統的設計並沒有別的基本指 導原則，而且其實也沒有人真正弄懂人腦究竟如何 運作。 深度神經網絡就如人腦，有一層又一層的神經元 （由電腦記憶體構成的人工物件），神經元受激發 時，會傳遞訊號到上一層的連接神經元。系統進行 深度學習時，網絡中每一條連結會根據需求增強或 減弱，好讓系統把輸入資料的訊號（例如一張狗的 照片像素），逐層傳遞到與正確高層次概念（譬如 「狗」）相關聯的神經元。深度神經網絡「學習」 「資訊瓶頸」的新概念有助於解釋當今人工智慧演算 法令人目眩神馳的成就，或許也能揭露人腦學習的機 制。 如 今 許 多 稱 為「 深 度 神 經 網 絡 」（deep neural network）的機器已經學會交談、開車、擊敗電玩 與圍棋世界冠軍、做夢、繪畫，以及輔助科學發 現，這讓打造出這些機器的人類大感意外，他們根 本想不到所謂的「深度學習」（deep-learning）演 算法會運作得如此成功，因為除了源自人腦架構的
（Eric Nyquist/Quanta Magazine 繪製）
Quanta Magazine是西蒙斯基金會（Simons Foundation）出版但編輯獨立之網路科普雜誌（http://www.quantamagazine.org/），希望能 提高數學、物理與生命科學前沿研究進展的公眾能見度。本文譯自：
https://www.quantamagazine.org/new-theory-cracks-open-the-black-box-of-deep-learning-20170921/
