延恩·樂存與卷積神經網絡

說完辛頓教授，我們來聊聊深度學習領域的另一位名人，曾經跟隨辛頓教授作過博士后研究的樂存。1960年，樂存出生在法國巴黎附近，父親是航空工程師。1988年開始，樂存在著名的貝爾實驗室工作了20年。樂存目前是紐約大學終身教授，同時是Facebook的人工智能實驗室負責人。樂存教授對人工智能領域的最核心貢獻是發展和推廣了卷積神經網絡（Convolutional Neural Networks，CNN），卷積神經網絡是深度學習中實現圖像識別和語言識別的關鍵技術。和辛頓教授一樣，樂存教授也是在人工智能和神經網絡的低潮時期，長期堅持科研并最終取得成功的典范。正如辛頓教授所說：“是樂存高舉著火炬，沖過了最黑暗的時代。”

卷積神經網絡是受生物自然視覺認知機制啟發而來，20世紀60年代初，大衛·休伯爾（David Hunter Hubel）和托斯坦·維厄瑟爾（Torsten Nils Wiesel）通過對貓視覺皮層細胞的研究，提出了感受野（Receptive Field）的概念。受此啟發，1980年，福島邦彥（Kunihiko Fukushima）提出了卷積神經網絡的前身Neocognitron。20世紀80年代，樂存發展并完善了卷積神經網絡的理論。1989年，樂存發表了一篇著名的論文《反向傳播算法用于手寫郵政編碼的識別》（Backpropagation Applied to Handwritten Zip Code Recognition）。1998年，他設計了一個被稱為Le Net-5的系統，一個7層的神經網絡，這是第一個成功應用于數字識別問題的卷積神經網絡。在國際通用的MNIST手寫體數字識別數據集上，Le Net-5可以達到接近99.2%的正確率。這一系統后來被美國的銀行廣泛用于支票上數字的識別。

樂存是一位成果豐碩的計算機科學大師，不過筆者最佩服的還是他的業余愛好——制造飛機！在一次IEEE組織的深度對談中，他和C++之父比揚尼·斯特朗斯特魯普（Bjarne Stroustrup）有一個有趣的對話。斯特朗斯特魯普問：“你曾經做過一些非常酷的玩意兒，其中大多數能夠飛起來。你現在是不是還有時間擺弄它們，還是這些樂趣已經被你的工作壓榨光了？”樂存回答：“工作里也有非常多樂趣，但有時我需要親手創造些東西。這種習慣遺傳于我的父親，他是一位航空工程師，我的父親和哥哥也熱衷于飛機制造。因此當我去法國度假的時候，我們就會在長達三周的時間里沉浸于制造飛機。”

卷積神經網絡通過局部感受野和權值共享的方式極大減少了神經網絡需要訓練的參數的個數，因此非常適合用于構建可擴展的深度網絡，用于圖像、語音、視頻等復雜信號的模式識別。給你一個規模上的概念，目前用作圖像識別的某個比較典型的卷積神經網絡，深度可達30層，有著2400萬個節點，1億4000萬個參數和150億個連接。連接個數遠遠多于參數個數的原因就是權值共享，也就是很多連接使用相同的參數。訓練這么龐大的模型，必然要依靠大量最先進的CPU和GPU，并提供海量的訓練數據。

GPU與海量訓練數據

談到GPU和海量的訓練數據，可以說說我們華人的貢獻。目前多數深度學習系統，都采用NVIDIA公司的GPU通過大規模并行計算實現訓練的加速，而NVIDIA公司的聯合創始人和首席執行官（Chief Executire Officer，CEO），是來自中國臺灣地區的黃仁勛（Jen-Hsun Huang，見圖3.4）。據黃仁勛介紹，2011年，是人工智能領域的研究人員發現了NVIDIA公司的GPU的強大并行運算能力。當時谷歌大腦（Google Brain）項目剛剛取得了驚人的成果，谷歌大腦的深層神經網絡系統通過觀看一周的You Tube視頻，自主學會了識別哪些是關于貓的視頻。但是它需要使用谷歌一家大型數據中心內的16000個服務器CPU。這些CPU的運行和散熱能耗巨大，很少有人能擁有這種規模的計算資源。NVIDIA及其GPU出現在人們的視野中。NVIDIA研究院的布萊恩·卡坦扎羅（Bryan Catanzaro）與斯坦福大學吳恩達教授的團隊展開合作，將GPU應用于這個項目的深度學習。事實表明，12個NVIDIA公司的GPU可以提供相當于2000個CPU的深度學習性能。此后，紐約大學、多倫多大學以及瑞士人工智能實驗室的研究人員紛紛在GPU上加速其深度神經網絡。再接下來，全世界的人工智能研究者都開始使用GPU，NVIDIA公司從此開始了又一輪的高速成長。

[[391585]]

圖3.4 黃仁勛（左）與伊隆·馬斯克（右）

在海量訓練數據方面，1976年出生于北京的李飛飛教授（見圖3.5）功不可沒。李飛飛16歲時隨父母移居美國，現在是斯坦福大學終身教授，人工智能實驗室與視覺實驗室主任。2007年，李飛飛與普林斯頓大學的李凱教授合作，發起了Image Net計劃。利用互聯網，Image Net項目組下載了接近10億張圖片，并利用像亞馬遜網站的土耳其機器人（Amazon Mechanical Turk）這樣的眾包平臺來標記這些圖片。在高峰期時，Image Net項目組是亞馬遜土耳其機器人這個平臺上最大的雇主之一，來自世界上167個國家的接近5萬個工作者在一起工作，幫助項目組篩選、排序、標記了接近10億張備選照片。2009年，Image Net項目誕生了——這是一個含有1500萬張照片的數據庫，涵蓋了22000種物品。這些物品是根據日常英語單詞進行分類組織的，對應于大型英語知識圖庫Word Net的22000個同義詞集。無論是在質量上還是數量上，Image Net都是一個規?？涨暗臄祿欤瑫r，它被公布為互聯網上的免費資源，全世界的研究人員都可以免費使用。Image Net這個項目，充分體現了人類通過互聯網實現全球合作產生的巨大力量。

圖3.5 李飛飛

隨著機器學習算法的不斷優化，并得到了GPU并行計算能力和海量訓練數據的支持，原來深層神經網絡訓練方面的困難逐步得到解決，“深度學習”的發展迎來了新的高潮。在2012年Image Net挑戰賽中的圖像分類競賽中，由辛頓教授的學生埃里克斯·克里澤夫斯基教授實現的深度學習系統AlexNet獲得了冠軍，分類的Top5錯誤率，由原來的26%大幅降低到16%。從此以后，深度學習在性能上超越了機器學習領域的其他很多算法，應用領域也從最初的圖像識別擴展到機器學習的各個領域，掀起了人工智能的新浪潮。

深度學習的應用

接下來我們舉幾個例子，來看看深度學習在各個領域的應用情況。首先來看計算機視覺領域，這方面較早實用化的是光學字符識別（Optical Character Recognition，OCR）。所謂光學字符識別，就是將計算機無法理解的圖片文件中的字符，比如數字、字母、漢字等，轉化為計算機可以理解的文本格式。2004年，谷歌公司發起了谷歌圖書項目（http://books.google.com），通過與哈佛大學、牛津大學、斯坦福大學等大學圖書館的合作，目前已經掃描識別了幾千萬本圖書，并可以實現全文檢索，對沒有版權問題的書籍，還提供PDF格式的文件下載。當筆者在谷歌圖書中，打開哈佛大學圖書館珍藏的線裝古本王陽明的《傳習錄》，還有惠能的《六祖壇經》時，心里真是非常的感動，谷歌相當于把全世界的圖書館都搬到了每個人的電腦上，真是功德無量。

計算機視覺另外兩個熱門的應用領域就是無人駕駛車和人臉識別。2010年，7輛車組成的谷歌無人駕駛汽車車隊開始在加州道路上試行，這些車輛使用攝像機、雷達感應器和激光測距機來“看”交通狀況，并且使用詳細地圖來為前方的道路導航，真正控制車輛的是基于深度學習的人工智能駕駛系統。2012年5月8日，在美國內華達州允許無人駕駛汽車上路3個月，經過了幾十萬公里的測試之后，機動車駕駛管理處為谷歌的無人駕駛汽車頒發了一張合法車牌。圖3.6是谷歌無人駕駛車的設計原型。2014年，Facebook研發了Deep Face，這個深度學習系統可以識別或者核實照片中的人物，在全球權威的人臉識別評測數據集LFW中，人臉識別準確率達97.25%。

圖3.6 谷歌無人駕駛車的設計原型

在不遠的將來，十年以內，肯定會有很多無人駕駛車開始上路行駛。到那時，除了馬路上那些固定的攝像頭，又會多出無人車上成千上萬的移動攝像頭，配合基于深度學習的人臉識別技術和高速的通信網絡，保護社會安全、抓捕罪犯的工作也許會得到很多的方便，同時，所有人的隱私也受到極大的威脅，只能祈禱人工智能的強大力量被善用了。

隨著深度學習的快速發展，人工智能科學家近年來在語音識別、自然語言處理、機器翻譯、語音合成等與人類語言交流相關的領域都實現了巨大的技術突破。2012年，在微軟亞洲研究院的21世紀計算大會上，微軟高級副總裁理查德·拉希德（Richard Rashid）現場演示了微軟開發的從英語到漢語的同聲傳譯系統，這次演講得到了全世界的廣泛關注，YouTube上就有超過100萬次的播放量。同聲傳譯系統，結合了語音識別、機器翻譯和語音合成的最新技術，并且要求在很短的時間內高效完成。微軟的同聲傳譯系統，已經被應用到Skype網絡電話中，支持世界各地持不同語言的人們改善交流。蘋果公司的Siri、谷歌公司的Google Now等智能手機上的語音助手已經打入了很多人的日常生活，而亞馬遜公司基于Alexa語音交互系統的Echo智能音箱（見圖3.7）更加厲害，可以直接實現語音購物和語音支付，并且可以回答你包裹已經運到了什么地方，還能播放你喜歡的音樂、設置鬧鐘、叫外賣、叫Uber出租車，與智能開關、智能燈具連接后，可以把你的整個家庭變成全聲控的智能家居環境。

圖3.7 亞馬遜公司的Echo智能音箱

對天才少年的一點建議

當然，目前這些人工智能系統還都處于比較初級的階段，有時Siri或者Echo的回答會讓你啼笑皆非，筆者也經常聽到朋友逗這些語音助手取樂的故事。期待未來有更多的杰出人士投身這一領域，做出更智能更通人性的系統。如果你有家有個天才少年，筆者特別推薦一本深度學習方面的經典著作，由伊恩·古德費洛（Ian Goodfellow）、本吉奧、亞倫·庫爾維爾（Aaron Courville）三位大師合作推出的Deep Learning（《深度學習》），這本書的作者非常無私，將這本書的內容和相關資料都放在互聯網上讓大家免費學習，網址是
http://www.deeplearningbook.org。

在本章的最后，如果要再給你家的天才少年送上一點建議，請允許筆者引述深度學習領域一位大師本吉奧（見圖3.8）與學生的一個對話。2014年，本吉奧教授有一次在著名網絡社區Reddit的機器學習板塊參加了“Ask Me Anything”活動，回答了機器學習愛好者許多問題。

[[391586]]

圖3.8 本吉奧教授

有一個學生問：“我正在寫本科論文，關于科學和邏輯的哲學方面。未來我想轉到計算機系讀碩士，然后攻讀機器學習博士學位。除了惡補數學和編程以外，您覺得像我這樣的人還需要做些什么來吸引教授的目光呢？”

本吉奧教授回答如下：

“1．閱讀深度學習論文和教程，從介紹性的文字開始，逐漸提高難度。記錄閱讀心得，定期總結所學知識。

2．把學到的算法自己實現一下，從零開始，保證你理解了其中的數學。別光照著論文里看到的偽代碼復制一遍，實現一些變種。

3．用真實數據來測試這些算法，可以參加Kaggle競賽。通過接觸數據，你能學到很多。

4．把你整個過程中的心得和結果寫在博客上，跟領域內的專家聯系，問問他們是否愿意接收你在他們的項目上遠程合作，或者找一個實習。

5．找個深度學習實驗室，申請。

這就是我建議的路線圖，不知道是否足夠清楚？”

獻上筆者的祝福，并期待在未來的某一天，可以和你家的天才少年，或者和他/她開發的超級智能機器人相遇，也許在這個藍色星球的某一片秀麗山河之間，也許在茫茫宇宙中飛行的太空飛船里……