第三節 深度學習技術
二、 遞歸神經網絡（Recurrent Neural Network, RNN）
二、 遞歸神經網絡（Recurrent Neural Network, RNN）
遞歸神經網絡是一種基礎網絡結構，許多深度學習架構是基於此模型來建 構，為兩種人工神經網絡的簡稱，分別為時間遞歸神經網絡（recurrent neural network）以及結構遞歸神經網絡（recursive neural network），時間遞歸神經網 絡的神經元連結構成有向圖，而結構遞歸神經網絡利用相似神經網絡結構遞歸 建構出更複雜的深度網絡，可以描述動態時間行為，將狀態在自身網絡中循環 傳遞，因此可以接受更廣泛的時間序列結構，最早則應用於手寫辨識。
遞歸神經網絡的基本架構之每個神經元都會隨時間變化而實質活化（real-valued activation），其中包含輸入節點（input node）以及輸出節點（output node），其餘則為隱藏節點（hidden node），單純的遞歸神經網絡無法處理隨 著遞歸，權重指數級爆炸消逝的問題，難以捕捉長時間的關聯性，而結合以下
前向傳播（Forward Propagation）即為按照時間順序依序計算一次時間，而 相反的反向傳播（Back Propagation）則為由最後一個時間點累積殘差傳遞回 來，此反向傳播加入了時間順序，稱為 BPTT（Back Propagation Through Time）演算法，其中，前向傳播與反向傳播的概念如下：
(一) 前向傳播（Forward Propagation）
‧
擇 than、ReLU 以及 Sigmoid 等激活函數，若為序列問題，𝑔(∙)一般選擇 Sigmoid 激活函數，最後ℎ𝑡則為第 t 層的輸出，而𝑦𝑡即為預測結果。 實際結果，另外誤差函數𝑓𝑒(∙)可以為交叉商（Cross Entropy），亦可為平 方差。(二) 反向傳播（Back Propagation）
透過輸出層的誤差𝑒𝑖，求解權重的梯度，∇V、∇U、∇W，並藉由梯度下
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
∇V = ∑ 𝑒𝑡
𝑡
∙ ℎ𝑡
而∇U 與∇W 則依賴於之前的狀態，需透過中間變量 δ δ =𝜕𝑒𝑡
𝜕ℎ𝑡
先計算出輸出層的δ𝑦，再向後傳播至各層的δℎ中，最後至輸入層 δ𝑡ℎ = （𝑊𝑇δ𝑡+1ℎ + 𝑉𝑇δ𝑡𝑦） ∗ 𝑓′（ℎ𝑡）
最後計算出δ𝑦以及所有的δℎ，即可計算出∇U 與∇W
∇W = ∑ δ𝑡ℎ
𝑡
∙ ℎ𝑡
∇U = ∑ δ𝑡ℎ
𝑡
∙ 𝑥𝑡
根據輸入值與輸出值的數量，RNN 模型可有多種的變化與應用，舉例而 言，若為一對一，固定長度的輸入與輸出即為一般的神經網絡模型；一對多為 單一輸入，而有多個輸出值，如影像標題，藉由輸入一個影像，並偵測影像中 多個物體；而多對一即為多個輸入、單一輸出，例如情緒分析中，一句話判斷 其為正面或負面情緒表達；最後多對多即為多個輸入、多個輸出，例如語言翻 譯，輸入一段英文文字，最後輸出為中文文字。
‧
的 C2C（Customer to Customer）線上購物平台，以亞洲區域為主要的目標市 場，而阿里巴巴則為 B2B（Business to Business）平台，天貓則為阿里巴巴 B2C（Customer to Business）模式的電商網站，而中國京東商城為中國電商平台 中，具京東自營商品的品質保證，加上京東物流的超級速度更觸動人心，在中
‧
以電商通路龍頭亞馬遜（Amazon）為例，在全球有 28%的受訪者認為亞馬 遜使他們在零售店購物的次數減少，而相當於中國亞馬遜—阿里巴巴，由於天 的消費者選擇，如 2017 年美國艾柏森公司（Albertsons）收購了食材 O2O 平台 Plated2，並推動了雙方的共同戰略，提供更加便利的平台以吸引顧客之消費， 2012 年 11 月份的時候，Plated.com 被啟用成立一個新生兒餐具公司的網站，致力於減少食材浪 費，嚴格按照每餐需要的量為用戶配送食材和調料，用戶可在該平台上選定這周的菜單，視具 體情況而定。原文網址：https://kknews.cc/zh-tw/tech/rqj24ox.html
‧
線上雜貨店（Grocery Online），結合廣大的實體店面網路，提供顧客線上 網路訂購線下取貨之服務，同時為了擴大其電子商務領域的能力，亦陸續 併購許多知名電商，例如 Jet.com、ShoeBuy、Moosejaw 等。然而，即便電‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
子商務的發展速度極快，實體店面仍不會因電商通路的興起而消失，目前 全球高達 90%的零售銷售仍然產生自實體店面，電商企業持續的發展並進 行結盟，而全球實體通路領導企業亦急起直追發展電商，或與第三方業者 合作，補足過去實體缺乏而電子商務可提供的服務，但若要與便利性且產 品數量幾乎不受限制的線上購物競爭，實體店面的零售業者應思考自身在 線上線下界線模糊的生態中，如何提供給顧客有意義的體驗與品牌互動，
打造出差異化體驗，才是業者在市場中具有優勢的關鍵。
根據 Deloitte 的調查，全球約有 60%的消費者透過智慧型手機購物，顯 示了未來零售業市場中智慧型手機的角色更加重要，若零售業能加入物聯 網（Internet of Thing）、人工智慧（Artificial Intelligence）、擴增及虛擬實 境（AR/VR）與機器人，整併並思考自身企業在面對線上與線下通路界限 日漸模糊的環境、結合大數據分析能力的運用以及伴隨靈活度的洞察能力 之策略，不僅可強化零售價值鏈，為消費者帶來更良好的購物體驗，亦可 獲得新的成長動能與顧客滿意度，在此新零售趨勢中亦充分地顯示消費者 在零售市場角色中，由過去較被動地接受品牌或廠商所提供之商品，轉為 消費過程中的主角。
2018 年全球前 250 大零售業中，前 50 大零售業的營收成長速度，平均 比前 250 大零售業者高出四倍左右，其高成長率來自於快速擴張的電子商 務銷售及重大的併購交易，其中，沃爾瑪持續為全球最大零售業者的大龍 頭，而受惠於更全面的商品與創新服務，2018 年亞馬遜（Amazon）排名大 躍進至全球第六名，近 15 年來其成長率幅度相當驚人，反映了電子商務逐 漸侵蝕線下零售通路的狀況，且中國純電商企業唯品會，以快閃、限時的 獨特商業模式，成為高成長前 50 大企業之榜首（表 2018 年全球高成長前 5 大零售業者）。
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
排名 公司 國家 營運方式
2012-2017 年 零售營收 年成長率
2017 年 零售營收
成長率 1 Vipshop Holdings Limited
唯品會 中國 純電商 103.8% 30.9%
2 Albertsons Companies, Inc. 美國 超級市場 74.0% 1.6%
3 JD.com, Inc. 京東商城 中國 純電商 62.6% 41.7%
4 Zalando SE 德國 純電商 48.1% 23.0%
5 Reliance Industries Limited
（RIL） 信實工業 印度 超級市場 34.5% 59.2%
圖表 2- 3 2018 年全球高成長前五大零售業者 資料來源：Deloitte（2018）
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
第參章 人工智慧技術
由約翰．麥肯錫於 1955 年提出的人工智慧發展至今已發展 50 多年，因為 大數據、硬體運算能力、機器學習和深度學習的演算法技術突破，使人工智慧
（Artificial Intelligence）再度隨著興起，2016 年 Google 的 AlphaGo 戰勝人類圍 棋棋王，更為世界宣告了人工智慧（AI）的來臨，人工智慧近 30 年來已發展為 一門多領域之交叉學科，涉及機率論、統計學、計算複雜性等多門學科領域，
更廣泛的運用於資料探勘、電腦視覺、自然語言處理、生物特徵識別、搜尋引 擎、檢測信用卡詐欺、證券市場分析以及 DNA 序列預測等眾多的領域，更發展 了無人駕駛車，人工智慧的應用風起雲湧，影響了交通、教育、語言、資安、
電競、創作、醫療、商業等眾多領域，即將為人們帶來全方面的影響。而機器 學習為目前進行人工智慧最為成功之技術之一，機器學習之方法有多種不同的 模型，1950 年代的「類神經網路」為世界帶來的第一波熱潮，然而發展過程中 亦因運算瓶頸，於 2006 年 Geoffrey Hinton 教授成功解決了過去機器學習類神經 網路所遇到之問題，發展了「深度學習」，更為人工智慧帶來近一步的成長，
其推廣之領域範疇眾多，而 2016 年大家耳熟能詳之 AlphaGo 即運用深度學習之 技術帶來了新的工業革命的世代，至 2018 年科技三大巨頭 Google、Microsoft、
Facebook 更為領先，尤其於語音識別和圖像辨識技術上相當突出，其中，人工 智慧、機器學習或是深度學習，此三者間的關係似一個同心圓，「機器學習」
屬於人工智慧之技術之一，而「深度學習」亦屬於機器學習技術之一，由圖 3-1 所示。
圖表 3- 1 人工智慧、機器學習及深度學習之關係 資料來源：nVidia
‧
預測、語言翻譯等，而傳統的機器學習（Machine Learning）利用特徵工程，對 大量數據進行處理與分析，其中，取得之數據資料會分為兩個群體，訓練資料
（Training Data）及測試資料（Validation Data），意即透過樣本之訓練資料以 訓練機器，從訓練資料中擷取資料的特徵來幫助建構模型以辨識出目標資訊，
即為非監督式學習技術之一。人工神經網絡（Artificial Neural Network, ANN）
為目前人工智慧中最常用的模型之一，而深度學習（Deep Learing），也被稱為 深度神經網絡（Deep Neural Network, DNN），則是執行機器學習之技術之一，
即讓電腦自行分析資料找出資料屬性，模仿人類大腦的圖層中，學習模式中的 模式（Learning patterns of patterns），使用了多層神經網絡，同時使用自動編碼 器（Autoencoder）來進行非監督式學習。
現代人工智慧為企業帶來了許多好處，而其發展速度極快，業者須明智的 台則可與各種機器學習及人工智慧之框架與環境配合使用，例如 Watson、
TesorFlow、SparkML 等，意即企業可透過新的控制工具用於常見之人工智慧框 架，並針對軟體進行編碼以監控任何業務工作流程所需的獨特決策因素，現今 的人工智慧主要分為兩大類別，即為前述的機器學習與深度學習，機器學習為 目前絕大多數企業所使用之技術，其演算法不外乎線性模型、K 均值聚類分析 以及決策樹等模型，常用之工具包含了 SAS、SPSS、MATLAB。
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
常見的開源工具則包含了 R 以及 Python，其中，Python 的 Scikit-learn 以及 Anaconda 項目，使 Python 成為現今業界最為流行的數據科學編程語言，同時，
近兩年來深度學習的興起，一種更加專業化機器學習技術之一，透過圖像辨 識、語音識別、自動駕駛等激發人對人工智慧的認知與性區，使用大量數據分 析以提供並訓練複雜的神經網路，至今深度學習之工具仍以相當快的速度成長 中，學術界和科技巨頭 Google、Facebook 等，多年來持續在深度學習領域投 資，舉例而言 Google 深度學習的開源軟體之 TensorFlow，至 2018 年成為開源 軟體中最受歡迎之一，可透過 Python 實作，其調適和檢查網路方面具有相當強 的優勢，XLA 編譯工具亦提供了最佳的模型執行，而 TensorFlow Mobile 更提
近兩年來深度學習的興起，一種更加專業化機器學習技術之一，透過圖像辨 識、語音識別、自動駕駛等激發人對人工智慧的認知與性區，使用大量數據分 析以提供並訓練複雜的神經網路，至今深度學習之工具仍以相當快的速度成長 中，學術界和科技巨頭 Google、Facebook 等，多年來持續在深度學習領域投 資，舉例而言 Google 深度學習的開源軟體之 TensorFlow，至 2018 年成為開源 軟體中最受歡迎之一，可透過 Python 實作，其調適和檢查網路方面具有相當強 的優勢，XLA 編譯工具亦提供了最佳的模型執行，而 TensorFlow Mobile 更提