85 歲的圖靈獎得主 Raj Reddy 參加了最近舉行的第九屆海德堡獲獎者論壇。他發出由衷感嘆：「我在人工智能領域工作了近 60 年，沒想到這種技術會在有生之年實用化?！?

10 年前，也就是 2012 年，深度學習取得了突破。當時，一種基于多層神經網絡的圖像分類創新算法突然被證明比之前的所有算法都要好得多。這一突破使得深度學習在語音和圖像識別、自動翻譯和轉錄以及機器人等領域得到應用。

隨著深度學習被嵌入到越來越多的日常應用中，越來越多可能出錯的樣本也浮出水面：人工智能系統會進行歧視，制定刻板印象，做出難以捉摸的決定，并需要大量的數據，有時還需要大量的能源。?

在此背景下，第九屆海德堡獲獎者論壇為來自 50 多個國家的約 200 名青年研究人員組織了一場關于深度學習的應用和影響的小組討論。包括圖靈獎獲得者 Yoshua Bengio、Yann LeCun 和 Raj Reddy，2011 年 ACM 計算機獎獲得者 Sanjeev Arora，以及研究人員 Shannon Vallor、Been Kim、Dina Machuve 和 Shakir Mohamed 都參與了討論。

Meta 首席 AI 科學家 Yann LeCun 是小組成員中最樂觀的：「有很多人聲稱深度學習不能做這個或那個，而這些說法在經過幾年的工作后大多被證明是錯誤的。過去五年，深度學習已經能夠做到我們所有人都想象不到的事情，而且進展正在加速?！?

LeCun 舉例說，Meta 公司旗下的 Facebook 現在能自動檢測出 96% 的仇恨言論，而大約四年前，這個比例只有 40%。他把這種改進歸功于深度學習?！肝覀兠刻於际艿酱罅啃畔⒌霓Z炸，而且這種情況只會越來越嚴重。我們將需要更多的自動化系統，使我們能夠篩選這些信息?！?/span>

英國愛丁堡大學教授 Shannon Vallor 則反對 LeCun 的觀點，即技術只是向前發展，它似乎有自己的意志，而社會只需適應?！高@正是我們陷入某些問題的原因。技術可以走很多分叉的道路，人們決定哪條分叉路是最佳的。深度學習系統是人類根據自己的價值觀、激勵措施和權力結構建造和部署的徹頭徹尾的人工制品，因此我們要對它們負全責?！?

對深度學習的批評之一是，雖然它擅長模式識別，但目前不適合進行邏輯推理，而老式的符號 AI 卻適合。然而，Bengio 和 LeCun 都認為沒有理由不能讓深度學習系統進行推理。正如 Bengio 所觀察到的，「人類也在他們的大腦中使用某種神經網絡，我相信有辦法通過深度學習架構達到類似人類的推理。」

然而，Bengio 補充說，他不認為僅僅擴大現今的神經網絡就足夠了。「我相信，我們可以從生物學和人類智能中獲得更多的靈感，以彌補當前人工智能和人類智能之間的差距。」

普林斯頓大學的理論計算機科學家 Sanjeev Arora 補充說，不僅僅是深度學習還不能推理，其實我們也不能推理深度神經網絡。Arora 說：「我們需要更多地了解深度學習系統的黑匣子里面發生了什么，而這正是我正在努力做的事情。」?

Raj Reddy 是迄今為止參與人工智能社區時間最長的小組成員，他從 20 世紀 60 年代起就參與了人工智能先驅約翰 · 麥卡錫的博士研究工作。Reddy 認為杯子是半滿的，而不是半空的?！干疃葘W習的一個重要應用是幫助了社會金字塔底部的人。世界上大約有 20 億人不能閱讀或書寫。各種語言技術現在已經足夠好用了，比如語音識別和翻譯。我在這個領域工作了近 60 年，沒想到這種技術會在有生之年實用化。十年后，即使是文盲也能閱讀任何書籍，觀看任何電影，并與世界上任何地方的任何人用他們的母語進行對話?！?

然而，對于深度學習技術來說，處理較小眾的語言仍然是一個未解決的問題，因為可用的數據要少得多。數據科學顧問 Dina Machuve 說，僅在非洲，就有 2000 種語言，但沒有人工智能技術可用。重要的是要進入一個社區，看看什么對該社區有用，所以在為非洲尋找深度學習應用時，Machuve 集中于圖像應用方面——「我們已經開發了基于圖像識別的家禽疾病和農作物疾病的早期檢測系統?！?

不幸的是，在許多方面，非洲仍然是深度學習研究和部署中「缺失的大陸」，DeepMind 的研究員 Shakir Mohamed 補充說。「我們統計了 2006 年至 2016 年期間，在著名的神經信息處理會議 NeurIPS 上，有多少來自非洲人的論文被提交，答案是：0。拉丁美洲也是如此，或許是 1 篇。我希望你們所有人，無論你們在哪里，都能認真對待代表性的問題，誰在做這項工作，在哪里做，以及如何與他人分享你們的經驗?！?

谷歌大腦的研究科學家 Been Kim 說，她希望大家認識到，深度學習并不是一個可以解決所有社會問題的神奇工具。事實上，她觀察到，「可能有比機器學習更適合你所遇到問題的非 AI 解決方案。你要停下來質疑：這是正確的工具嗎？」

當被問及普通大眾應該知道什么是人工智能及其前景時，Mohamed 說：「未來還沒有被決定。我們仍然可以創造和塑造未來，這就是我們應該永遠記住的。」