【51CTO.com快譯】在本篇文章中，我們將著力探討如何利用深度學習算法創(chuàng)建一套數(shù)據(jù)模型。在這里，我們不會涉及人腦或者人類智能方面的議題，而是嘗試解讀深度學習技術(shù)如何幫助我們解決計算機科學與早期人工智能領(lǐng)域的那些重大難題。我們還將談到深度學習的優(yōu)勢與應用范疇，并解答創(chuàng)建深度學習模型中遇到的部分問題。我們將提供參考、建議與技巧，并以此為起點開展其它后續(xù)議題。

首先，我個人并不是深度學習領(lǐng)域的大牛。相反，我同樣在學習這項技術(shù)，并希望通過本文分享自己的思路與知識，以鼓勵更多朋友加入學習的行列。如果大家發(fā)現(xiàn)其中存在任何遺漏、錯誤或者需要補充的內(nèi)容，請在評論中不吝指出，感謝。

作為一名數(shù)據(jù)科學專家，深度學習技術(shù)最吸引我的地方在于其能夠延伸至多個領(lǐng)域并解決大量實際問題。深度學習如今已經(jīng)成為一種趨勢，且擁有巨大的潛在應用空間。真正有趣的是，深度學習能夠從數(shù)據(jù)當中提取出隱藏的特性，從而幫助設備在無需明確編程（基于規(guī)則的系統(tǒng)）或者人工調(diào)整（其它一些機器學習算法會借此改進自身學習能力）的前提下學習如何完成任務。

利用深度學習方案，圖像、語音與視頻識別領(lǐng)域的研究人員及從業(yè)者已經(jīng)獲得了良好的收效。深度學習能夠幫助AI更好地充當機器人的大腦，亦可在快速崛起的物聯(lián)網(wǎng)領(lǐng)域發(fā)揮巨大作用。對于企業(yè)，深度學習已經(jīng)開始在客戶服務精簡與人工密集型任務內(nèi)的自動化輔助領(lǐng)域有所建樹。另外，大家可能也已經(jīng)開始利用深度學習支持型機器人回答產(chǎn)品咨詢問題或者匯總最為常見的提問內(nèi)容。蘋果Siri與微軟Cortana皆以深度學習作為其核心組件，而醫(yī)藥與醫(yī)療領(lǐng)域的X片及核磁掃描診斷亦可逐步由深度學習算法負責解讀。

深度學習方法通過大規(guī)模數(shù)據(jù)量訓練自身建立非線性關(guān)聯(lián)能力，而正是這種能力使其在家族眾多前輩當中脫穎而出。

要了解標準深度學習算法的基本原理，我們首先需要了解其前代方案，即神經(jīng)網(wǎng)絡。神經(jīng)網(wǎng)絡包含三個層級，分別為輸入層、隱藏層與輸出層。

•     輸入層由神經(jīng)構(gòu)成，其負責接收輸入值。這些神經(jīng)的輸出結(jié)果與輸入預測相同。

•    輸出層為神經(jīng)網(wǎng)絡的最終層，負責向用戶環(huán)境返回結(jié)果。根據(jù)神經(jīng)網(wǎng)絡的具體設計，其還能夠告知之前各層其如何了解信息內(nèi)容并據(jù)此改進之前各層的實際功能。

•    隱藏層位于輸入與輸出層之間。從傳統(tǒng)角度講，隱藏層的數(shù)量區(qū)間由一到多，其屬于將輸入與節(jié)點輸出結(jié)果相映射的中央計算層。

為何由神經(jīng)網(wǎng)絡過渡至深度學習？

1. “深度”架構(gòu)的引入能夠支持多個隱藏層。這意味著其可實現(xiàn)早期神經(jīng)網(wǎng)絡所無法實現(xiàn)的多表示層或者學習更為復雜的特性結(jié)構(gòu)。
2. 改進并變更以支持多種架構(gòu)（DBN、RBM、CNN乃至RNN），從而適應各類不同問題。
3. 能夠優(yōu)化算法以處理大規(guī)模數(shù)據(jù)計算任務。
4. 引入優(yōu)化與正則化參數(shù)，例如通過取舍降低訓練數(shù)據(jù)規(guī)模。
5. 具備開源深度學習軟件包并面向多種主流編程語言，從而為特定領(lǐng)域帶來創(chuàng)新成果。

單純增加隱藏層數(shù)量并不足以提升生產(chǎn)力。那么，我們該如何將深度學習真正轉(zhuǎn)化為實踐工具？

• 越來越多的數(shù)據(jù):用于訓練深層學習算法的數(shù)據(jù)量越大，其實際效果就越好。另外，數(shù)據(jù)本身還應當同時囊括正面與負面狀況，從而幫助算法區(qū)分不同情況并獲取對應知識。深層學習的興起與準確性提升與大數(shù)據(jù)的全面來襲密不可分。數(shù)字化與大數(shù)據(jù)處理框架能夠幫助深層學習更好地獲取訓練所必需的數(shù)據(jù)資源。
• 調(diào)整模型是種藝術(shù): 在深層學習模型當中，超參數(shù)與知識是實現(xiàn)模型調(diào)整的必要途徑。其可立足于數(shù)據(jù)集優(yōu)化深層學習算法性能并提升其準確性。在本系列的下一篇文章中，我們將探討如何利用H2O在創(chuàng)建深層學習模型的過程中確定相關(guān)參數(shù)。

說到這里，我們又面臨著新的問題，復雜的深度神經(jīng)網(wǎng)絡需要大量計算性能用于訓練。這項難題已經(jīng)被價格合理的高性能GPU所解決，這要歸功于英偉達及英特爾等廠商的不斷推進?？梢钥吹?，利用GPU的深層學習模型能夠?qū)崿F(xiàn)遠高于CPU的訓練速度。英偉達公司在其博客中指出，根據(jù)基準測試結(jié)果顯示，GPU加速型神經(jīng)網(wǎng)絡訓練在速度上能夠達到CPU的10到20倍。這意味著原本需要數(shù)周甚至數(shù)天的訓練如今只需要數(shù)小時即可完成。

R用戶能夠利用以下軟件包創(chuàng)建深層學習模型。在下一篇文章中，我們的深層學習模型也將由H2O與R配合創(chuàng)建完成。

• h2o:面向H2O的R接口。其能夠為H2O提供R腳本功能，而H2O則是一套用于計算各類并行分布式機器學習算法的開源數(shù)學引擎，其適用范圍包括在各類集群環(huán)境下實現(xiàn)廣義近線模型、梯度引導設備、隨機森林以及神經(jīng)網(wǎng)絡（深層學習）。
• mxnet:為R語言提供靈活且高效的GPU計算與領(lǐng)先的深層學習能力。
• deepnet: R語言中的深層學習工具集。
• neuralnet:用于訓練神經(jīng)網(wǎng)絡。其利用配合或未配合權(quán)重回溯的彈性反向傳播，或者經(jīng)過修改的全局聚合版本。這套軟件包允許我們通過定制化錯誤與激活函數(shù)選擇實現(xiàn)設置調(diào)整。另外，其亦可實現(xiàn)廣義加權(quán)計算能力。
• rnn:遞歸神經(jīng)網(wǎng)絡。在R語言環(huán)境下實現(xiàn)遞歸神經(jīng)網(wǎng)絡。
• darch:面向深層架構(gòu)與受限玻爾茲曼機的軟件包。darch軟件包由G. E. Hinton與R. R. Salakhutdinov提供的代碼構(gòu)建而成。這種方法中包含一項由G.E Hinton發(fā)布的預訓練對比發(fā)散方法并在發(fā)布前利用反向傳播及共軛梯度等算法進行預訓練。另外，其中亦引入更多其它新型技術(shù)以提升深層學習的細粒度調(diào)整效果。
• autoencoder:用于對未標記數(shù)據(jù)內(nèi)表現(xiàn)特性進行自動化學習的稀疏自動編碼器。

大家可以下載您所喜愛的深層學習軟件包并開始編程。為了幫助大家更好地找到起點，我們可以立足以下問題以建立一套適合自身實際情況的深層學習模型。

• 共有多少神經(jīng)元需要使用輸入層？決定輸入或者功能數(shù)量。
• 應該使用多少個隱藏層？要了解所需使用的具體隱藏層數(shù)量，我們應當利用標準機器學習方案進行交叉驗證。
• 每個隱藏層中應包含多少個神經(jīng)元？我們無法純粹依靠現(xiàn)成技術(shù)確定隱藏層中的具體神經(jīng)元數(shù)量。最常見的隱藏層***神經(jīng)元數(shù)量應介于輸入層與輸出層神經(jīng)元數(shù)量之間。另外，我們亦可使用幾何金字塔規(guī)則計算出一項粗略的近似值，這是一套擁有N個輸入與輸出神經(jīng)元的三層網(wǎng)絡，其中隱藏層的神經(jīng)元數(shù)量為sqrt(n * m)sqrt(n * m)個。
• 深層學習網(wǎng)絡能否在無需隱藏層的情況下實現(xiàn)？是的，但請不要將其稱為“深層”學習網(wǎng)絡。其能夠接納數(shù)量，并對數(shù)據(jù)進行線性分離。
• 我們應當設置多少輸出層神經(jīng)元？ 等同于我們持有的目標類數(shù)量。

原文標題：Dive Deep Into Deep Learning    原文作者：Sibanjan Das

【51CTO譯稿，合作站點轉(zhuǎn)載請注明原文譯者和出處為51CTO.com】