對(duì)于 DeepMind 來(lái)說(shuō)，2023 是充滿變化的一年。這年的 4 月份，谷歌宣布將 Google Brain 和 DeepMind 進(jìn)行合并，成立名為 Google DeepMind 的新部門。新部門將在保持道德標(biāo)準(zhǔn)的同時(shí)，引領(lǐng)突破性的 AI 產(chǎn)品研究和進(jìn)步。

Google Brain 和 DeepMind——一個(gè)創(chuàng)造了 Transformer，一個(gè)創(chuàng)造了 AlphaGo、AlphaFold…… 兩個(gè)部門強(qiáng)強(qiáng)聯(lián)合，在 2023 年底打造出了對(duì)標(biāo) ChatGPT 的 Gemini。如今，在大模型排行榜 LMSYS Chatbot Arena 上，Gemini 經(jīng)常名列前三。可見(jiàn)，二者的合并是有一定成效的。

那么，Google DeepMind 今后的路要怎么走？在與倫敦大學(xué)學(xué)院高級(jí)空間分析中心城市數(shù)學(xué)副教授 Hannah Fry（漢娜?弗萊）最近的一次對(duì)談中，Google DeepMind 首席執(zhí)行官兼聯(lián)合創(chuàng)始人 Demis Hassabis（戴密斯?哈薩比斯）透露了公司的一些規(guī)劃，同時(shí)也就當(dāng)前 AI 領(lǐng)域的一些問(wèn)題發(fā)表了自己的看法。

哈薩比斯的核心觀點(diǎn)如下：

• 從短期來(lái)看，AI 被過(guò)度炒作了，但從長(zhǎng)期來(lái)看，它是被低估的。至于如何分辨 AI 領(lǐng)域哪些是炒作，哪些是可以實(shí)現(xiàn)的，哈薩比斯表示，除了做調(diào)研，你還得看看發(fā)表言論的人是什么背景，有多懂技術(shù)，是不是去年才從別的方向轉(zhuǎn)到 AI 的。如果發(fā)表言論的人只是跟風(fēng)，那 ta 貢獻(xiàn)好點(diǎn)子的概率就會(huì)像彩票開(kāi)獎(jiǎng)一樣。
• DeepMind 和 Google Brain 的合并帶來(lái)了很多創(chuàng)新機(jī)會(huì)，他們的目標(biāo)是發(fā)明下一個(gè)能夠推動(dòng) AI 前沿的架構(gòu)，就像 Google Brain 發(fā)明了 Transformer 架構(gòu)一樣。
• 現(xiàn)有的學(xué)術(shù)基準(zhǔn)測(cè)試已經(jīng)趨于飽和，無(wú)法區(qū)分頂尖模型之間的細(xì)微差異。哈薩比斯認(rèn)為，AI 領(lǐng)域需要更好的基準(zhǔn)測(cè)試，特別是在多模態(tài)理解、長(zhǎng)期記憶和推理能力等方面。
• 現(xiàn)在很多模型都是從五、六年前發(fā)明的技術(shù)中產(chǎn)生的。所以，這些模型仍然缺少很多東西，會(huì)產(chǎn)生幻覺(jué)、不擅長(zhǎng)長(zhǎng)期規(guī)劃，無(wú)法主動(dòng)完成復(fù)雜任務(wù)。針對(duì)這些問(wèn)題，谷歌打算通過(guò)結(jié)合其在游戲智能體和大語(yǔ)言模型方面的專業(yè)知識(shí)，比如將 AlphaGo 在規(guī)劃和決策上的優(yōu)勢(shì)與 Gemini 等多模態(tài)模型結(jié)合，開(kāi)發(fā)具備更強(qiáng)智能體行為的系統(tǒng)。
• 在談到開(kāi)源時(shí)，哈薩比斯表示他們已經(jīng)開(kāi)源了很多技術(shù)，如 Transformer、AlphaFold。但他認(rèn)為前沿模型需要經(jīng)過(guò)更多的審核，在發(fā)布一到兩年后才能開(kāi)源，這種模式也是谷歌正在遵循的。谷歌會(huì)開(kāi)源模型，但這些模型會(huì)比最先進(jìn)的模型落后大約一年。哈薩比斯進(jìn)一步談到，開(kāi)源的主要問(wèn)題在于它就像是走過(guò)一扇單向門，一旦發(fā)布，就無(wú)法撤回。因此在開(kāi)源之前需要非常謹(jǐn)慎。
• AI 可能會(huì)在一些復(fù)雜的數(shù)學(xué)問(wèn)題上取得突破，例如幫助解決著名的數(shù)學(xué)猜想或在國(guó)際數(shù)學(xué)競(jìng)賽中表現(xiàn)出色。然而，目前的 AI 系統(tǒng)還無(wú)法自行提出新的數(shù)學(xué)假設(shè)或原創(chuàng)性理論。哈薩比斯認(rèn)為，AGI 的一個(gè)重要測(cè)試標(biāo)準(zhǔn)將是其是否能夠自主生成像廣義相對(duì)論那樣的全新假設(shè)和理論。
• 關(guān)于如何確保 AGI 能夠使每個(gè)人都受益，哈薩比斯認(rèn)為不可能將所有偏好都包含在一個(gè)系統(tǒng)中，但是可以構(gòu)建一套安全的架構(gòu)，然后人們根據(jù)自己的偏好、使用目的、部署目的，決定 AI 系統(tǒng)可以用來(lái)做什么，不能用來(lái)做什么。

在看了這個(gè)采訪后，有人評(píng)價(jià)說(shuō)，這個(gè)采訪讓他感覺(jué)很舒服，因?yàn)楣_比斯聽(tīng)起來(lái)更像是一個(gè)計(jì)算機(jī)科學(xué)家，而不是推銷員。還有人說(shuō)，收購(gòu) DeepMind 并讓他們自由發(fā)展是谷歌做出的最好的人工智能決策，希望谷歌能讓他們繼續(xù)自己的工作，盡可能不要打擾。

以下是機(jī)器之心整理的采訪內(nèi)容。

AI 的發(fā)展出乎意料

弗萊：回想起來(lái)，當(dāng)我們?cè)?2017 年開(kāi)始策劃這個(gè)播客時(shí)，DeepMind 還是一個(gè)相對(duì)較小、專注的 AI 研究實(shí)驗(yàn)室，它剛被 Google 收購(gòu)，并被賦予了在倫敦安全距離內(nèi)進(jìn)行自己獨(dú)特研究項(xiàng)目的自由。但自那以后，情況發(fā)生了巨大變化。自去年以來(lái)，Google 已經(jīng)重新梳理了其整個(gè)架構(gòu)，將 AI 和 DeepMind 團(tuán)隊(duì)置于其戰(zhàn)略核心。

Google DeepMind 繼續(xù)追求賦予 AI 人類級(jí)別的智能，即所謂的通用人工智能（AGI）。它推出了一系列強(qiáng)大的新 AI 模型，稱為 Gemini，以及一個(gè)名為 Project Astra 的 AI 智能體，能夠處理音頻、視頻、圖像和代碼。該實(shí)驗(yàn)室還在將 AI 應(yīng)用于包括人類體內(nèi)所有分子結(jié)構(gòu)預(yù)測(cè)在內(nèi)的多個(gè)科學(xué)領(lǐng)域中取得了巨大飛躍，不僅僅是蛋白質(zhì)。2021 年，他們還分拆出一家新公司 Isomorphic Labs，致力于發(fā)現(xiàn)治療疾病的新藥。Google DeepMind 還在研究能夠通過(guò)強(qiáng)化學(xué)習(xí)自行學(xué)習(xí)執(zhí)行任務(wù)的強(qiáng)大 AI 智能體，并繼續(xù)著 Alpha Go 在圍棋游戲中戰(zhàn)勝人類的傳奇。

我們今天請(qǐng)來(lái)了 DeepMind 聯(lián)合創(chuàng)始人、CEO Demis Hassabis。

我想知道，自從公眾對(duì) AI 的興趣激增以來(lái)，你的工作是變得更容易還是更困難了？

哈薩比斯：我認(rèn)為這是雙刃劍。困難之處在于，現(xiàn)在有太多的審查、關(guān)注，整個(gè)領(lǐng)域有很多噪音。我更喜歡人少一些的時(shí)候，我們可以更專注于科學(xué)。但從好的方面來(lái)看，這表明技術(shù)已經(jīng)準(zhǔn)備好以許多不同的方式影響現(xiàn)實(shí)世界，并以積極的方式影響人們的日常生活，所以我認(rèn)為這也很令人興奮。

弗萊：你有沒(méi)有對(duì)公眾的想象力被迅速吸引感到驚訝？我想你預(yù)料到最終會(huì)是這個(gè)樣子，是嗎？

哈薩比斯：確實(shí)如此。我們這些人已經(jīng)研究這個(gè)領(lǐng)域幾十年了，最終在某個(gè)時(shí)間點(diǎn)，公眾會(huì)意識(shí) AI 將會(huì)變得多么重要。但看到這一切真正實(shí)現(xiàn)，并且以這種方式發(fā)生，感覺(jué)還是有點(diǎn)超現(xiàn)實(shí)。我想，這確實(shí)是因?yàn)榱奶鞕C(jī)器人的出現(xiàn)和語(yǔ)言模型的發(fā)展，因?yàn)槊總€(gè)人都使用語(yǔ)言，每個(gè)人都能理解語(yǔ)言，所以這是公眾理解和衡量 AI 發(fā)展水平的簡(jiǎn)單方式。

弗萊：我聽(tīng)說(shuō)你形容這些聊天機(jī)器人是「 超乎尋常得有效」，這是什么意思？   

哈薩比斯：我的意思是，如果回顧 5 到 10 年前，當(dāng)時(shí)人們可能會(huì)認(rèn)為要實(shí)現(xiàn) AI 的發(fā)展，需要構(gòu)建一些令人驚嘆的架構(gòu)，并在此基礎(chǔ)上進(jìn)行擴(kuò)展，而不必特別去解決像抽象概念這樣的具體問(wèn)題。在 5 到 10 年前的許多討論中，人們認(rèn)為需要一種特別的方式來(lái)處理抽象概念，因?yàn)榇竽X顯然就是這樣工作的。但是，如果給 AI 系統(tǒng)足夠的數(shù)據(jù)，例如整個(gè)互聯(lián)網(wǎng)上的數(shù)據(jù)，它們似乎確實(shí)能夠從中學(xué)習(xí)并泛化出一些模式，不僅僅是死記硬背，而是實(shí)際上在某種程度上理解它們正在處理的內(nèi)容。這有點(diǎn)「 超乎尋常得有效」，因?yàn)槲艺J(rèn)為 5 年前沒(méi)有人會(huì)想到它會(huì)像現(xiàn)在這樣有效。

弗萊：所以，這是一個(gè)驚喜……

哈薩比斯：是的，我們之前討論了概念和 grounding—— 將語(yǔ)言置于真實(shí)世界體驗(yàn)中，可能在模擬或機(jī)器人具身智能中。當(dāng)然，這些系統(tǒng)還沒(méi)有達(dá)到那個(gè)水平，它們犯了很多錯(cuò)誤，它們還沒(méi)有一個(gè)真正的世界模型。但是僅僅通過(guò)從語(yǔ)言中學(xué)習(xí)，他們已經(jīng)走得比預(yù)期中遠(yuǎn)了。

弗萊：我覺(jué)得我們需要解釋一下 grounding 這個(gè)概念。

哈薩比斯：Grounding 問(wèn)題是 80 年代和 90 年代在像麻省理工學(xué)院這樣的地方構(gòu)建的經(jīng)典 AI 系統(tǒng)中遇到的一個(gè)問(wèn)題。你可以把這些系統(tǒng)想象成巨大的邏輯數(shù)據(jù)庫(kù)，單詞之間互有聯(lián)系。問(wèn)題在于，你可以說(shuō)「狗有腿」，這會(huì)在數(shù)據(jù)庫(kù)中，但當(dāng)你給系統(tǒng)看一張狗的圖片時(shí)，它并不知道那一堆像素點(diǎn)與那個(gè)符號(hào)有什么關(guān)系。這就是 grounding 問(wèn)題 —— 你有這種符號(hào)性的、抽象的表示，但它們?cè)诂F(xiàn)實(shí)世界中，特別是在混亂的現(xiàn)實(shí)世界中真正意味著什么呢？他們?cè)噲D解決這個(gè)問(wèn)題，但從未完全成功。

而今天的系統(tǒng)，它們直接從數(shù)據(jù)中學(xué)習(xí)，所以從某種意義上說(shuō)，它們從一開(kāi)始就在形成那種聯(lián)系，但有趣的是，如果它只是從語(yǔ)言中學(xué)習(xí)，理論上應(yīng)該缺少很多你需要的 grounding，但結(jié)果卻是，很多 grounding 信息不知怎么地是可以推斷出來(lái)的。

弗萊：為什么這么說(shuō)？

哈薩比斯：理論上講，因?yàn)檫@些最初的大型語(yǔ)言模型并不存在于現(xiàn)實(shí)世界中，它們沒(méi)有連接到模擬器，沒(méi)有連接到機(jī)器人，甚至最初也不是多模態(tài)的 —— 它們沒(méi)有接觸到視覺(jué)或其他任何東西，它們僅僅存在于語(yǔ)言空間中。所以，它們是在抽象領(lǐng)域中學(xué)習(xí)的。因此，它們能夠從那個(gè)領(lǐng)域推斷出關(guān)于現(xiàn)實(shí)世界的一些事情是很令人驚訝的。

弗萊：如果說(shuō) grounding 是通過(guò)人們與這個(gè)系統(tǒng)的互動(dòng)而獲得的，這很有道理……

哈薩比斯：確實(shí)。所以可以肯定的是，如果它們?cè)诨卮鹉承﹩?wèn)題時(shí)出了錯(cuò)，比如早期版本由于 grounding 缺失，在處理現(xiàn)實(shí)世界中狗的叫聲這樣的問(wèn)題時(shí)回答錯(cuò)誤。人們會(huì)通過(guò)反饋來(lái)糾正它們。這種反饋部分源自我們自己的現(xiàn)實(shí)知識(shí)。因此，一些 grounding 就是這樣逐漸滲透進(jìn)來(lái)的。

弗萊：我記得我看到過(guò)一個(gè)非常生動(dòng)的例子，關(guān)于「穿越（cross）英吉利海峽」與「步行穿越（walking across）英吉利海峽」的區(qū)別。

哈薩比斯：這個(gè)例子確實(shí)可以。如果它回答錯(cuò)誤，你會(huì)告訴它這是錯(cuò)誤的，然后它就不得不弄清楚 —— 你不能步行穿越英吉利海峽。

AI 是被過(guò)度炒作還是低估了？  

弗萊：我要問(wèn)你一點(diǎn)關(guān)于炒作的問(wèn)題，你認(rèn)為就現(xiàn)在來(lái)說(shuō)，AI 是被過(guò)度炒作了，還是被低估了，或者只是在錯(cuò)誤的方向上炒作？  

哈薩比斯：一方面，從短期來(lái)看，AI 被過(guò)度炒作了。人們聲稱它能做很多事情，但實(shí)際上它不能，有很多創(chuàng)業(yè)公司和風(fēng)險(xiǎn)投資追逐一些瘋狂的想法，但其實(shí)這些想法還不夠成熟。

另一方面，我認(rèn)為 AI 仍然被低估了。或許人們還沒(méi)有完全理解當(dāng)我們達(dá)到 AGI 之后會(huì)發(fā)生什么，責(zé)任是多么大。

弗萊：你在這個(gè)領(lǐng)域已經(jīng)幾十年了，對(duì)于這些創(chuàng)業(yè)公司和風(fēng)險(xiǎn)投資所追逐的東西，你很容易發(fā)現(xiàn)哪些是現(xiàn)實(shí)的目標(biāo)，哪些不是。但其他人要怎么分辨？  

哈薩比斯：顯然你得做一些技術(shù)盡職調(diào)查，對(duì)技術(shù)和最新的趨勢(shì)有一些了解。同時(shí)，你也得看看發(fā)表言論的人的背景，他們有多懂技術(shù)，是不是去年才從別的方向轉(zhuǎn)到 AI 的？他們?nèi)ツ晔遣皇窃谧黾用茇泿牛窟@些可能是一些線索，表明他們可能是在跟風(fēng)，這并不意味著他們會(huì)有一些好點(diǎn)子，即使有也可能會(huì)像彩票一樣。

我認(rèn)為，當(dāng)一個(gè)領(lǐng)域突然受到大量關(guān)注時(shí)，這種情況總是會(huì)發(fā)生，然后資金就會(huì)隨之而來(lái)，每個(gè)人都覺(jué)得他們不能錯(cuò)過(guò)。

這就創(chuàng)造了一種我們可以說(shuō)是機(jī)會(huì)主義的環(huán)境，這與那些幾十年來(lái)一直致力于深度科技、深度科學(xué)的人有點(diǎn)相反，我認(rèn)為后者才是我們接近 AGI 時(shí)應(yīng)該繼續(xù)堅(jiān)持的方式。

Gemini：谷歌大腦與 DeepMind 合并后的首個(gè)燈塔項(xiàng)目

弗萊：接下來(lái)談?wù)?Gemini 吧。Gemini 在哪些方面不同于其他實(shí)驗(yàn)室發(fā)布的其他大型語(yǔ)言模型？

哈薩比斯：從一開(kāi)始，我們就希望 Gemini 能夠處理多種模態(tài)，所以它不僅能處理語(yǔ)言，還能處理音頻、視頻、圖像、代碼等各種模態(tài)。我們之所以想要這樣做，首先是因?yàn)椋艺J(rèn)為這是讓這些系統(tǒng)真正理解周圍世界并構(gòu)建更好的世界模型的方法，這又回到了之前的 grounding 問(wèn)題上。

我們也有一個(gè)愿景，即擁有一個(gè)通用助手。我們做了一個(gè)叫 Astra 的原型，它不僅理解你正在輸入的內(nèi)容，實(shí)際上還理解你所處的環(huán)境。這樣的智能助手會(huì)更有用。所以我們從一開(kāi)始就內(nèi)置了多模態(tài)。這是另一件在那個(gè)時(shí)候只有我們的模型在做的事情，現(xiàn)在其他模型正在追趕。

我們?cè)谟洃浄矫娴钠渌卮髣?chuàng)新，比如長(zhǎng)上下文，實(shí)際上可以記住大約一百萬(wàn)個(gè)或兩百萬(wàn)個(gè) token。所以你可以給它《戰(zhàn)爭(zhēng)與和平》或者整個(gè)電影，然后讓它回答問(wèn)題或在視頻流中找到東西。

弗萊：在 Google I/O 上，你用了一個(gè)例子，說(shuō)明 Astra 如何幫助你記住你把眼鏡放在哪里了，對(duì)吧？但我懷疑這是否只是那些舊的 Google Glasses 的高級(jí)版本。

哈薩比斯：當(dāng)然，谷歌在開(kāi)發(fā)眼鏡設(shè)備方面有著悠久的歷史，實(shí)際上可以追溯到 2012 年左右，遠(yuǎn)遠(yuǎn)領(lǐng)先于時(shí)代。但它們也許只是缺少這種技術(shù)，而智能體或智能助手可以真正理解你在說(shuō)什么。所以，我們對(duì)數(shù)字助理感到非常興奮，它可以隨時(shí)陪伴著你，了解你周圍的世界。當(dāng)你使用它時(shí)，它似乎真的是一個(gè)很自然的用例。

弗萊：接下來(lái)我想稍微回顧一下 Gemini 的起源，畢竟它來(lái)自谷歌的兩個(gè)不同的研究部門。

哈薩比斯：是的，去年我們將 Alphabet 的兩個(gè)研究部門合并，即將 Google Brain 和 DeepMind 整合為了 Google DeepMind。我們稱它為超級(jí)部門（super unit），將整個(gè)公司的優(yōu)秀人才聚集到了一個(gè)部門中。這意味著，我們將所有研究中獲得的最佳知識(shí)結(jié)合起來(lái)，尤其是在語(yǔ)言模型方面。

所以，我們推出了 Chinchilla、Gopher 等模型，并構(gòu)建了 PaLM、LaMDA 以及其他早期模型。這些模型各有優(yōu)缺點(diǎn)，所以我們將它們整合到了 Gemini 中，成為了部門合并后推出的首個(gè)燈塔項(xiàng)目（Lighthouse Project）。然后，另一件重要的事情是將所有計(jì)算資源整合起來(lái)，這樣就可以進(jìn)行超大規(guī)模的訓(xùn)練運(yùn)行。我覺(jué)得這些很棒。

弗萊：從很多方面來(lái)講，Google Brain 和 DeepMind 的重點(diǎn)略有不同。我可以這樣說(shuō)嗎？  

哈薩比斯：谷歌各個(gè)部門顯然都專注于人工智能的前沿，而且在個(gè)體研究層面已經(jīng)有很多合作，但在戰(zhàn)略層面有所不同。隨著 Google DeepMind 的合并，我想把它描述成谷歌的引擎室（Engine Room），它運(yùn)行得非常好。我認(rèn)為，我們工作方式的相似之處要比差異多得多，我們將繼續(xù)保持并加強(qiáng)自身在基礎(chǔ)研究等方面的優(yōu)勢(shì)。

比如說(shuō)，下一個(gè) Transformer 架構(gòu)從何而來(lái)？我們想發(fā)明它。Google Brain 研究人員發(fā)明了如今流行的 Transformer 架構(gòu)。我們將該架構(gòu)與自己開(kāi)創(chuàng)的深度強(qiáng)化學(xué)習(xí)相結(jié)合。我認(rèn)為仍然需要更多創(chuàng)新。我支持這樣做，就像過(guò)去 10 年 Google Brain 和 DeepMind 團(tuán)隊(duì)所做的那樣。這很令人興奮。

未來(lái)方向：將 AlphaGo 與 Gemini 相結(jié)合

弗萊：我想討論一下 Gemini，它的表現(xiàn)怎么樣？與其他模型相比如何？

哈薩比斯：這個(gè)問(wèn)題涉及到了基準(zhǔn)，我認(rèn)為整個(gè)領(lǐng)域都需要更好的基準(zhǔn)。目前存在一些眾所周知的學(xué)術(shù)基準(zhǔn)，但現(xiàn)在它們已經(jīng)飽和了，而且并沒(méi)有真正區(qū)分不同頂級(jí)模型之間的細(xì)微差別。

在我看來(lái)，目前有三類模型處于頂端和前沿，我們的 Gemini、OpenAI 的 GPT 和 Anthropic 的 Claude。此外還有很多表現(xiàn)不錯(cuò)的模型，比如 Meta、Mistral 等推出的 Llama 系列、Mistral 系列模型，它們擅長(zhǎng)的任務(wù)各有不同。這取決于你要執(zhí)行什么類型的任務(wù)，編碼選擇 Claude、推理選擇 GPT，記憶、長(zhǎng)上下文和多模態(tài)理解選擇 Gemini。

當(dāng)然，各家公司還會(huì)繼續(xù)不斷改進(jìn)模型。比如，Gemini 只是一個(gè)推出不到一年的模型。我認(rèn)為我們的發(fā)展軌跡非常好，希望我們下次交談時(shí)，Gemini 可以站在最前沿。

弗萊：是的，大模型還有很長(zhǎng)的路要走。這是否也意味著，這些模型在某些方面還不是很好。

哈薩比斯：當(dāng)然。實(shí)際上，這是目前最大的爭(zhēng)論。現(xiàn)在很多模型都是從五、六年前發(fā)明的技術(shù)中產(chǎn)生的。所以，這些模型仍然缺少很多東西，會(huì)產(chǎn)生幻覺(jué)、不擅長(zhǎng)規(guī)劃。

弗萊：哪方面的規(guī)劃呢？

哈薩比斯：比如一些長(zhǎng)期規(guī)劃，模型無(wú)法長(zhǎng)期解決問(wèn)題。你給它一個(gè)目標(biāo)，它們無(wú)法真正為你采取行動(dòng)。所以，模型很像被動(dòng)問(wèn)答系統(tǒng)。你提出問(wèn)題，然后它們會(huì)給你某種回應(yīng)，但卻無(wú)法為你解決問(wèn)題。比如你想要一個(gè)數(shù)字助理幫你全程預(yù)訂意大利的假期，以及預(yù)定所有的餐館、博物館等事項(xiàng)。遺憾的是，它卻做不到這些事情。

我認(rèn)為這是下一個(gè)時(shí)代的研究主題，我們稱它們?yōu)椋ǜ蟪潭壬希┗谥悄荏w的系統(tǒng)或者擁有類似智能體行為的智能系統(tǒng)。當(dāng)然，這是谷歌所擅長(zhǎng)的。谷歌過(guò)去構(gòu)建了游戲智能體 AlphaGo 以及其他智能體。所以，我們?cè)谧龅暮芏嗍虑槭菍⒊擅捻?xiàng)目與新的大規(guī)模多模態(tài)模型結(jié)合起來(lái)，并成為下一代系統(tǒng)，比如 AlphaGo 與 Gemini 的結(jié)合。

弗萊：我覺(jué)得 AlphaGo 非常擅長(zhǎng)規(guī)劃。

哈薩比斯：是的，AlphaGo 非常擅長(zhǎng)規(guī)劃。當(dāng)然，它只在游戲領(lǐng)域。所以，我們需要將它泛化到日常工作和語(yǔ)言等通用領(lǐng)域。

弗萊：你剛才提到 Google DeepMind 現(xiàn)在已經(jīng)成為谷歌的引擎室。這是一個(gè)相當(dāng)大的轉(zhuǎn)變。那么，谷歌是否在 AI 領(lǐng)域下了很大的賭注？

哈薩比斯：我想是的。我認(rèn)為谷歌一直都明白 AI 的重要性。當(dāng) Sundar 接任首席執(zhí)行官時(shí)，他就說(shuō)過(guò)谷歌是一家 AI 優(yōu)先的公司。我們?cè)谒温毘跗诰陀懻撨^(guò)這個(gè)問(wèn)題，他認(rèn)為 AI 有潛力成為繼移動(dòng)互聯(lián)網(wǎng)之后的下一個(gè)重大范式轉(zhuǎn)變，并且比以往發(fā)展?jié)摿Ω蟆?/span>

也許在過(guò)去一兩年里，我們真的開(kāi)始體驗(yàn)到這意味著什么，不僅僅是從研究的角度，而且在產(chǎn)品和其他方面也是如此。這非常令人興奮，因此我認(rèn)為我們把所有人才協(xié)調(diào)起來(lái)，然后盡最大努力推動(dòng) AI 進(jìn)展是正確的選擇。

弗萊：我們知道，Google DeepMind 非常重視研究和科學(xué)層面的東西。但隨著它成為谷歌的引擎室，是否意味著必須更加關(guān)心商業(yè)利益， 而不再是那種最純粹的東西。

哈薩比斯：是的，我們肯定更加關(guān)心在職權(quán)范圍內(nèi)的商業(yè)利益。但實(shí)際上，我有以下幾件事要說(shuō)。首先，我們將繼續(xù) AlphaFold 相關(guān)的科學(xué)工作，幾個(gè)月前發(fā)布了 AlphaFold 3。我們也在加倍投資于此。我認(rèn)為這是 Google DeepMind 所做的獨(dú)特的工作。

你知道，甚至連我們的競(jìng)爭(zhēng)對(duì)手都認(rèn)為這會(huì)是通用 AI 產(chǎn)品。我們成立了一個(gè)新公司 Isomorphic Labs 來(lái)進(jìn)行藥物研發(fā)。這些都非常令人興奮，一切都進(jìn)展順利。所以我們會(huì)繼續(xù)這樣做。同時(shí)，我們?cè)跉夂蝾A(yù)測(cè)和其他方面也做了很多工作。

我們擁有一支龐大的團(tuán)隊(duì)，所以可以同時(shí)做多項(xiàng)工作。我們?cè)跇?gòu)建我們的大型模型 Gemini 等。我們正在組建一支產(chǎn)品團(tuán)隊(duì)，將所有這些驚人的技術(shù)帶到谷歌所在的所有領(lǐng)域。所以在某種程度上，這是我們的一個(gè)優(yōu)勢(shì)，可以隨時(shí)插入我們所有的技術(shù)。我們發(fā)明的東西可以立即讓十億人用上，這真的很激勵(lì)人心。

另一件事是，現(xiàn)在我們需要為產(chǎn)品開(kāi)發(fā)的 AI 技術(shù)與為純 AGI 研究目的所做工作之間的融合程度大大提高。五年前，你必須為一個(gè)產(chǎn)品構(gòu)建一些特殊的 AI。現(xiàn)在你可以將主要研究分離出來(lái)，當(dāng)然仍然需要做一些特定于產(chǎn)品的工作，但這可能只占所有工作的 10%。

因此，實(shí)際上在開(kāi)發(fā) AI 產(chǎn)品和構(gòu)建 AGI 之間不再存在矛盾。我想說(shuō)，90% 是相同的研究計(jì)劃。所以，如果你推出產(chǎn)品并將它們推向世界，你會(huì)從中學(xué)到很多東西。人們也會(huì)使用它，這樣你會(huì)了解到很多信息，比如你的內(nèi)部指標(biāo)與人們所說(shuō)的不太相符，然后你可以進(jìn)行更新。這對(duì)你的研究非常有幫助。

如何測(cè)試 GenAI 技術(shù)

弗萊：我想知道，將 AI 應(yīng)用于科學(xué)所帶來(lái)的突破與向公眾發(fā)布這些東西的正確時(shí)機(jī)之間是否存在矛盾。在 Google DeepMind 內(nèi)部，大語(yǔ)言模型等工具被用于研究，而不是被視為潛在的商業(yè)產(chǎn)品。

哈薩比斯：我們從一開(kāi)始就非常重視責(zé)任和安全。早在 2010 年以前，谷歌就將一些基本道德規(guī)范納入了其 AI 準(zhǔn)則之中。我們一直與整個(gè)谷歌保持一致，并希望作為這個(gè)領(lǐng)域的領(lǐng)導(dǎo)者之一負(fù)責(zé)任地進(jìn)行部署。

所以，現(xiàn)在開(kāi)始推出具有 GenAI 能力的真實(shí)產(chǎn)品很有趣。實(shí)際上還有很多需要學(xué)習(xí)的地方，而且我們學(xué)得很快，這很好。對(duì)于當(dāng)前技術(shù)而言，我們的風(fēng)險(xiǎn)相對(duì)較低，畢竟這些技術(shù)還沒(méi)有那么強(qiáng)大。但隨著技術(shù)變得越來(lái)越強(qiáng)大，我們必須更加小心。

產(chǎn)品團(tuán)隊(duì)以及其他團(tuán)隊(duì)正在學(xué)習(xí)如何測(cè)試 GenAI 技術(shù)。這些技術(shù)不同于普通的技術(shù)，因?yàn)樗⒉豢偸亲鐾瑯拥氖虑椤＿@幾乎就像測(cè)試一個(gè)開(kāi)放世界的游戲，你可以嘗試用它做的事情幾乎是無(wú)限的。所以，弄清楚如何對(duì)它進(jìn)行紅隊(duì)測(cè)試（Red Teaming）是很有趣的。

弗萊：所以，這里的紅隊(duì)測(cè)試是你們相互之間進(jìn)行對(duì)抗競(jìng)爭(zhēng)？

哈薩比斯：是的。紅隊(duì)測(cè)試是指你從開(kāi)發(fā)技術(shù)團(tuán)隊(duì)中抽出一個(gè)專門的團(tuán)隊(duì)來(lái)對(duì)技術(shù)進(jìn)行壓力測(cè)試，并嘗試以任何可能的方式破解。你實(shí)際上需要使用工具來(lái)自動(dòng)化測(cè)試，即使有成千上萬(wàn)的人在做這件事，但與數(shù)十億用戶相比，這還不夠。

此外，我認(rèn)為我們必須分階段進(jìn)行，包括了實(shí)驗(yàn)階段、封閉測(cè)試階段以及再次發(fā)布，就像我們過(guò)去發(fā)布游戲一樣。所以你在每一步中都在學(xué)習(xí)。我認(rèn)為我們需要做的更多的是，使用 AI 本身來(lái)幫助我們內(nèi)部進(jìn)行紅隊(duì)測(cè)試，實(shí)際上可以自動(dòng)發(fā)現(xiàn)一些錯(cuò)誤或進(jìn)行三重篩選。這樣我們的開(kāi)發(fā)人員和測(cè)試人員就可以真正專注于那些棘手的情況。

弗萊：這里有一些非常有趣的事情，你處在一個(gè)概率更大的空間。所以，即使某件事情發(fā)生的可能性很小，但如果嘗試得足夠多，最終就會(huì)出錯(cuò)。我想已經(jīng)出現(xiàn)過(guò)一些公開(kāi)的錯(cuò)誤。

哈薩比斯：正如我提到的，我認(rèn)為產(chǎn)品團(tuán)隊(duì)已經(jīng)習(xí)慣了各種測(cè)試。他們知道自己測(cè)試過(guò)這些東西，但具有隨機(jī)性和概率性。事實(shí)上，在很多情況下，如果只是一個(gè)普通的軟件，你可以說(shuō)自己已經(jīng)測(cè)試了 99.999% 的東西。然后推斷，這樣就足夠了。

但是，生成式系統(tǒng)并非如此。它們可以做各種各樣的事情，這些事情有點(diǎn)超出常規(guī)，有點(diǎn)超出你以前見(jiàn)過(guò)的范疇。如果某些聰明人或?qū)κ譀Q定以某種方式來(lái)測(cè)試這些系統(tǒng)，就像黑客一樣。

這些系統(tǒng)可能以組合的方式存在，里面包含了你之前對(duì)它說(shuō)過(guò)的所有事情。然后它處于某種特殊狀態(tài)，或者記憶中充滿了特殊的東西，這就是它們需要輸出一些東西的原因。這里很復(fù)雜，而且并不是無(wú)限的。所以有辦法解決這個(gè)問(wèn)題，但又與推出普通技術(shù)存在很多細(xì)微差異。

弗萊：我記得你曾經(jīng)說(shuō)過(guò)，我想那應(yīng)該是我第一次采訪你的時(shí)候，你提到實(shí)際上我們必須認(rèn)識(shí)到這是一種完全不同的計(jì)算方式。你得從我們完全理解的確定性事物中抽身，轉(zhuǎn)向更加混亂的東西，比如概率性的。你覺(jué)得公眾是否也需要稍微改變他們對(duì)計(jì)算類型的看法呢？ 

哈薩比斯：是的，我同意。也許這也是我們需要考慮的另一件事，有趣的是，在你發(fā)布某個(gè)系統(tǒng)之前，實(shí)際上可以發(fā)布一份原則性文件或類似的東西，來(lái)明確展示這個(gè)系統(tǒng)的預(yù)期用途，它設(shè)計(jì)用來(lái)做什么？它有什么用？它不能做什么？我認(rèn)為這里確實(shí)需要某種認(rèn)知，比如，如果你按這些方法使用它，你會(huì)發(fā)現(xiàn)它很有用，但不要嘗試用它來(lái)做其他事情，因?yàn)楦静粫?huì)起作用。

我認(rèn)為這是我們?cè)谀承╊I(lǐng)域需要做的事情，用戶可能也需要在這方面的經(jīng)驗(yàn)。實(shí)際上這很有趣，這可能是為什么聊天機(jī)器人本身有些出人意料，甚至對(duì)于 OpenAI 來(lái)說(shuō)，包括 ChatGPT 在內(nèi)，他們也感到驚訝。我們也有自己的聊天機(jī)器人，我們也注意到這些機(jī)器人仍然存在缺陷，比如會(huì)產(chǎn)生幻覺(jué)等問(wèn)題。 

但我們沒(méi)有意識(shí)到的是，盡管存在這些缺陷，實(shí)際上聊天機(jī)器人仍然有很多非常好的使用場(chǎng)景。現(xiàn)在人們發(fā)現(xiàn)一些非常有價(jià)值的用途，比如總結(jié)文件和長(zhǎng)文檔，寫郵件，填寫表格等。由于使用場(chǎng)景廣泛，即使存在一些小錯(cuò)誤，實(shí)際上人們并不介意，人類可以輕松修正這些錯(cuò)誤，并且能節(jié)省大量的時(shí)間。我猜這就是人們發(fā)現(xiàn)的令人驚訝的事情，當(dāng)使用時(shí)，人們發(fā)現(xiàn)了這些有價(jià)值的使用場(chǎng)景，盡管這些系統(tǒng)以我們所知的各種方式存在缺陷。 

關(guān)于開(kāi)源：一旦發(fā)布，就無(wú)法撤回

弗萊：這又引出了我想問(wèn)的下一個(gè)問(wèn)題，即關(guān)于開(kāi)源的問(wèn)題。正如你提到的，當(dāng)事物掌握在人們手中時(shí)，就會(huì)發(fā)生真正非凡的事情。據(jù)我了解 DeepMind 在過(guò)去已經(jīng)開(kāi)源了許多項(xiàng)目，但隨著時(shí)間的推移，這種情況似乎有所改變。

哈薩比斯：是的，我們非常支持開(kāi)源和開(kāi)放科學(xué)。正如你所知道的，我們幾乎公開(kāi)了我們所做的所有事情，比如 Transformer，又比如 AlphaGo 和 AlphaFold 這些研究都發(fā)表在《自然》和其他期刊上，并且 AlphaFold 也是開(kāi)源的。通過(guò)分享信息，使得技術(shù)和科學(xué)得以快速地進(jìn)步。所以我們幾乎總是這么做，我們認(rèn)為這是非常有益的事情，這是科學(xué)的工作方式。 

唯一的例外是，AI、AGI 和強(qiáng)大的 AI 具有雙面性。問(wèn)題在于誰(shuí)在使用，真正本著好意行事的科學(xué)家和技術(shù)人員，可以提出建設(shè)和批評(píng)性建議，這是社會(huì)進(jìn)步最快的方式。但問(wèn)題是，你如何同時(shí)限制不懷好意的人的訪問(wèn)權(quán)限，這些人可能會(huì)將相同的系統(tǒng)用于不良目的，誤用它們，比如武器系統(tǒng)，但這些我們不能提前預(yù)知。而且，通用系統(tǒng)本身可以被這樣重新利用。今天我們還能把握住，因?yàn)槲艺J(rèn)為這些系統(tǒng)還沒(méi)有那么強(qiáng)大。

在接下來(lái)的兩到四年時(shí)間里，尤其是當(dāng)我們開(kāi)始開(kāi)發(fā)具有智能體行為的系統(tǒng)時(shí)，如果這些系統(tǒng)被某些人誤用，可能會(huì)造成嚴(yán)重的危害。雖然我們沒(méi)有具體的解決方案，但作為一個(gè)社區(qū)，我們需要思考這對(duì)開(kāi)源意味著什么。

也許前沿模型需要經(jīng)過(guò)更多的審核，然后在發(fā)布一年或兩年后才能開(kāi)源。這種模式是我們正在遵循的，因?yàn)槲覀冇凶约旱拈_(kāi)源模型，稱為 Gemma。這些模型較小，不屬于前沿模型，因此它們的功能對(duì)開(kāi)發(fā)者來(lái)說(shuō)仍然非常有用，也易于在筆記本電腦上運(yùn)行，且參數(shù)較少。這些功能目前已被很好地理解。不過(guò)，這些模型的性能不如最新的前沿模型，如 Gemini 1.5。我們最終可能采取的方法是，我們會(huì)有開(kāi)源模型，但這些模型會(huì)比最先進(jìn)的模型落后大約一年，這樣我們可以在公開(kāi)場(chǎng)合真正評(píng)估用戶使用這些模型的情況，了解前沿模型的能力。 

開(kāi)源的主要問(wèn)題在于，一旦發(fā)布，就無(wú)法撤回。如果使用者以不當(dāng)方式使用開(kāi)源模型，與專有模型不同，開(kāi)發(fā)者不能簡(jiǎn)單地關(guān)閉它。一旦開(kāi)源，就像是走過(guò)了一扇單向門，因此在開(kāi)源之前需要非常謹(jǐn)慎。

弗萊：是否能夠?qū)⑼ㄓ萌斯ぶ悄埽ˋGI）限制在某個(gè)組織內(nèi)部的護(hù)城河之內(nèi)。

哈薩比斯：這還是一個(gè)未解的問(wèn)題。我們目前還不知道如何做到這一點(diǎn)，因?yàn)檫@是當(dāng)我們開(kāi)始討論高級(jí)別、類似人類水平的 AI 時(shí)需要考慮的問(wèn)題。 

弗萊：那中間層呢？

哈薩比斯：在中間層，我們有一些較好的想法來(lái)處理這些問(wèn)題。例如，可以通過(guò)安全沙箱環(huán)境來(lái)測(cè)試。這意味著在游戲環(huán)境或部分連接的互聯(lián)網(wǎng)版本中測(cè)試智能體的行為。在這個(gè)領(lǐng)域以及金融科技等其他領(lǐng)域，已經(jīng)進(jìn)行了大量的安全工作。我們可能會(huì)借鑒這些想法，然后構(gòu)建相應(yīng)的系統(tǒng)，這就是我們測(cè)試早期原型系統(tǒng)的方式。但我們也知道，這些措施可能不足以限制 AGI，一個(gè)可能比我們更聰明的系統(tǒng)。因此，我們需要更好地理解這些系統(tǒng)，以便為 AGI 設(shè)計(jì)協(xié)議。到那時(shí)，我們將有更好的方法來(lái)控制它，可能還會(huì)利用 AI 系統(tǒng)和工具來(lái)監(jiān)控 AI 系統(tǒng)的下一代。

如何監(jiān)管 AI

弗萊：關(guān)于安全性的話題，許多人似乎認(rèn)為監(jiān)管這個(gè)詞就能解決所有問(wèn)題。你認(rèn)為監(jiān)管應(yīng)該如何構(gòu)建？

哈薩比斯：政府正在加快對(duì) AI 技術(shù)的了解和介入，這是一個(gè)積極的現(xiàn)象。我認(rèn)為國(guó)際合作是必需的，特別是在監(jiān)管、安全措施和部署規(guī)范等方面。

隨著我們接近 AGI，我們需要認(rèn)識(shí)到，由于技術(shù)發(fā)展迅速，我們的監(jiān)管方式也需要靈活且迅速適應(yīng)最新的技術(shù)發(fā)展。如果你在五年前對(duì) AI 進(jìn)行了監(jiān)管，那么你監(jiān)管的將是一種完全不同的東西。今天我們看到的是生成式 AI，但五年后可能又會(huì)有所不同。

目前，基于智能體的系統(tǒng)可能帶來(lái)最高風(fēng)險(xiǎn)。因此，我建議加強(qiáng)已經(jīng)有監(jiān)管的領(lǐng)域（如健康、交通等）的現(xiàn)有規(guī)定，使其適應(yīng) AI 時(shí)代，就像之前為移動(dòng)和互聯(lián)網(wǎng)更新過(guò)監(jiān)管一樣。

首先我會(huì)做的是保持關(guān)注，確保我們理解并測(cè)試前沿系統(tǒng)。隨著情況變得更加明朗，需要圍繞這些情況開(kāi)始制定規(guī)定，可能在幾年后進(jìn)行會(huì)更有意義。我們目前缺失的是基準(zhǔn)測(cè)試，正確的能力測(cè)試，包括整個(gè)行業(yè)都想知道的，我們的能力在什么點(diǎn)上可能構(gòu)成重大風(fēng)險(xiǎn)。目前沒(méi)有對(duì)此的答案，我剛才說(shuō)的基于智能體的能力可能是下一個(gè)閾值，但目前還沒(méi)有公認(rèn)的測(cè)試方法。

 一個(gè)可能的測(cè)試是檢測(cè)系統(tǒng)是否具有欺騙性能力。系統(tǒng)中如果存在欺騙性，那么它報(bào)告的其他內(nèi)容都無(wú)法被信任。因此，測(cè)試欺騙性應(yīng)該是首要考慮的新興能力。此外，還有許多其他能力值得測(cè)試，如實(shí)現(xiàn)特定目標(biāo)的能力、復(fù)制能力等，目前已有不少相關(guān)工作正在進(jìn)行。我認(rèn)為這些基本上是政府機(jī)構(gòu)正在發(fā)揮作用的地方。我認(rèn)為對(duì)他們來(lái)說(shuō)，大力推動(dòng)這方面的工作會(huì)非常好，當(dāng)然，實(shí)驗(yàn)室也應(yīng)該貢獻(xiàn)他們所知道的信息。 

弗萊：在你描述的這個(gè)世界中，機(jī)構(gòu)處于什么位置？即使我們達(dá)到了擁有能夠支持所有科學(xué)研究的 AGI 的階段，機(jī)構(gòu)是否還能保留一席之地？

哈薩比斯：我認(rèn)為有。在達(dá)到 AGI 的過(guò)程中，我認(rèn)為這將是社區(qū)、學(xué)術(shù)界、政府和工業(yè)實(shí)驗(yàn)室之間的合作。我真的相信這是我們達(dá)到這個(gè)最終階段的唯一方式。 

哈薩比斯對(duì) AGI 的測(cè)試標(biāo)準(zhǔn)

哈薩比斯：如果你問(wèn)的是 AGI 出現(xiàn)之后的情況，我一直想構(gòu)建 AGI 的原因之一是我們可以利用它開(kāi)始回答一些關(guān)于自然、現(xiàn)實(shí)、物理和意識(shí)等方面的最大、最根本的問(wèn)題。這取決于它采取何種形式，可能是人類專家與 AI 的結(jié)合。我認(rèn)為在探索下一個(gè)前沿領(lǐng)域方面，這種情況還會(huì)持續(xù)一段時(shí)間。 

目前這些系統(tǒng)還不能自己提出猜想或假設(shè)。目前來(lái)看，它們可以幫助你證明某些問(wèn)題，能夠在國(guó)際數(shù)學(xué)奧林匹克競(jìng)賽中獲得金牌，甚至可能解決著名的數(shù)學(xué)猜想，但它們還沒(méi)有能力提出像黎曼假設(shè)或廣義相對(duì)論這樣的假設(shè)。這一直是我對(duì)真正的通用人工智能的測(cè)試標(biāo)準(zhǔn) —— 它將能夠做到這些，甚至發(fā)明新的理論。我們還沒(méi)有任何系統(tǒng)，我們甚至可能不知道如何理論上設(shè)計(jì)能做到這些的系統(tǒng)。 

弗萊：計(jì)算機(jī)科學(xué)家斯圖爾特?羅素曾向我表達(dá)了他的擔(dān)憂， 他擔(dān)心一旦我們達(dá)到了 AGI 的發(fā)展階段，我們所有人可能會(huì)變得只會(huì)享受無(wú)拘無(wú)束的奢華生活，并且沒(méi)有任何生活目的。這種生活雖然充滿了物質(zhì)享受，但缺乏深層次的意義和目標(biāo)。 

哈薩比斯：這確實(shí)是一個(gè)有趣的問(wèn)題。這可能超越了 AGI，更像是人們有時(shí)所說(shuō)的 ASI。屆時(shí)我們應(yīng)該擁有極大的資源，假設(shè)我們能確保公平、均等地分配這些資源，那么我們將處于一個(gè)可以自由選擇如何行動(dòng)的位置，而「意義」將成為一個(gè)重大的哲學(xué)問(wèn)題。我認(rèn)為我們將需要哲學(xué)家，甚至可能是神學(xué)家，以及社會(huì)科學(xué)家現(xiàn)在就開(kāi)始思考這個(gè)問(wèn)題。什么能帶來(lái)意義？我仍然認(rèn)為自我實(shí)現(xiàn)是重要的，我不認(rèn)為我們所有人都只會(huì)沉浸在冥想中，也許我們會(huì)玩電腦游戲。但即便如此，這真的是壞事嗎？這是一個(gè)值得探討的問(wèn)題。

盡管 AGI 將帶來(lái)巨大的變革，例如治愈眾多疾病甚至所有疾病，解決能源和氣候問(wèn)題，但它也可能讓我們面對(duì)一個(gè)更深層次的問(wèn)題：生活的意義何在？就像人們攀登珠穆朗瑪峰或參與極限運(yùn)動(dòng)一樣，這些活動(dòng)表面看似無(wú)意義，但實(shí)際上是人們對(duì)挑戰(zhàn)自我的追求。隨著 AGI 的發(fā)展，我們可能會(huì)在物質(zhì)層面擁有一切，但隨之而來(lái)的是對(duì)生活意義的再思考。這個(gè)問(wèn)題在科技發(fā)展的早期和晚期階段都被低估了，我們需要重新評(píng)估所謂的炒作以及它對(duì)我們未來(lái)的真正影響。 

弗萊：讓我們回到關(guān)于 AGI 的問(wèn)題。我知道你們的重大使命是構(gòu)建能夠造福所有人的 AI。但你如何確保它確實(shí)使每個(gè)人受益？如何考慮所有人的偏好而不僅僅是設(shè)計(jì)師的偏好？

哈薩比斯：我認(rèn)為不可能將所有偏好都包含在一個(gè)系統(tǒng)中，因?yàn)槿藗儗?duì)很多問(wèn)題無(wú)法達(dá)成一致。我想我們可能將擁有一套安全的架構(gòu)，可以在其上構(gòu)建個(gè)性化的人工智能，然后人們根據(jù)自己的偏好、使用目的、部署目的，決定 AI 系統(tǒng)可以用來(lái)做什么，不能用來(lái)做什么。總的來(lái)說(shuō)，架構(gòu)需要確保安全，然后人們可以在架構(gòu)的基礎(chǔ)上做一些變體、增量。

所以我認(rèn)為，當(dāng)我們接近通用人工智能時(shí)，我們可能必須在國(guó)際上進(jìn)行更理想的合作，然后確保我們?cè)诎踩沫h(huán)境中構(gòu)建通用人工智能。

一旦我們完成了這個(gè)任務(wù)，每個(gè)人都可以擁有自己的個(gè)性化袖珍 API（如果他們?cè)敢猓?/span>

弗萊：好的。但我的意思是 AI 可能會(huì)出現(xiàn)一些不良行為。

哈薩比斯：是的，不良的新興行為、能力。欺騙就是一個(gè)例子。我們必須更好地理解所有這些問(wèn)題。

有兩種情況需要擔(dān)心：一種是人類可能會(huì)濫用 AI；一種是人工智能本身（隨著它越來(lái)越接近 AGI，它的表現(xiàn)卻偏離了軌道）。我認(rèn)為這兩個(gè)問(wèn)題需要不同的解決方案。是的，這就是當(dāng)我們?cè)絹?lái)越接近構(gòu)建 AGI 時(shí)，我們必須應(yīng)對(duì)的問(wèn)題。

回到你讓每個(gè)人受益的觀點(diǎn)，以 AlphaFold 為例，我認(rèn)為如果 AI 藥物設(shè)計(jì)有效的話，我們可以在未來(lái)一兩年內(nèi)治愈大多數(shù)疾病。然后它們可以轉(zhuǎn)化成個(gè)性化藥物，以最大限度地減少對(duì)個(gè)人的副作用，這與人的個(gè)人疾病和個(gè)人新陳代謝等相關(guān)。所以這些都是令人驚奇的事情，你知道，清潔能源、可再生能源，技術(shù)將會(huì)帶來(lái)巨大的好處，但我們也必須降低風(fēng)險(xiǎn)。

弗萊：你說(shuō)你想要減輕風(fēng)險(xiǎn)的一種方式是，有一天你基本上會(huì)做科學(xué)版的「復(fù)仇者集結(jié)」？

哈薩比斯：當(dāng)然。

弗萊：那么，你怎么知道什么時(shí)候是合適的時(shí)間？

哈薩比斯：好吧，這是一個(gè)大問(wèn)題。你不能太早這樣做，因?yàn)槟阌肋h(yuǎn)無(wú)法獲得一些反對(duì)者的支持。如今，你會(huì)看到一些非常有名的人說(shuō) AI 沒(méi)有風(fēng)險(xiǎn)。然后像 Geoffrey Hinton 這樣的人說(shuō)存在很多風(fēng)險(xiǎn)。

弗萊：我想和你多談?wù)勆窠?jīng)科學(xué)。它對(duì)你正在做的事情還有多大啟發(fā)？因?yàn)槲易⒁獾角皫滋?DeepMind 揭開(kāi)了一只具有人工大腦的虛擬老鼠的面紗，這有助于改變我們對(duì)大腦如何控制運(yùn)動(dòng)的理解。我記得我們?cè)務(wù)摿撕芏嚓P(guān)于如何從生物系統(tǒng)中直接獲得靈感的話題，這仍然是您方法的核心嗎？

哈薩比斯：不，它現(xiàn)在已經(jīng)發(fā)展起來(lái)，我認(rèn)為我們已經(jīng)進(jìn)入了工程階段，例如大型系統(tǒng)、大規(guī)模的訓(xùn)練架構(gòu)。神經(jīng)科學(xué)對(duì)此影響有點(diǎn)小。神經(jīng)科學(xué)是思路來(lái)源之一，但當(dāng)工程量大時(shí)，神經(jīng)科學(xué)處于次要地位。因此，現(xiàn)在可能更多地是將人工智能應(yīng)用于神經(jīng)科學(xué)。我認(rèn)為，隨著我們?cè)絹?lái)越接近 AGI，理解大腦將是 AGI 最酷的用例之一。

弗萊：我想知道你是否也在設(shè)想將會(huì)有一些超出人類理解范圍的事情，而 AGI 將幫助我們發(fā)現(xiàn)、理解？

哈薩比斯：我認(rèn)為 AGI 系統(tǒng)有可能比我們更能理解更高層次的抽象。我認(rèn)為人工智能系統(tǒng)可以有效地?fù)碛腥我忸愋偷那邦~葉皮質(zhì)，所以可以想象更高層次的抽象和模式，它能夠看到我們無(wú)法立即真正理解或記住的宇宙。

然后我認(rèn)為，從可解釋性的角度來(lái)看，我們不能無(wú)限擴(kuò)展我們自己的大腦，但理論上只要有足夠的時(shí)間、SPE 和內(nèi)存，AGI 就能理解任何可計(jì)算的東西。

弗萊：你說(shuō) DeepMind 是一個(gè)為期 20 年的項(xiàng)目。您距離步入正軌還有多遠(yuǎn)？

哈薩比斯：我們已經(jīng)步入正軌。

弗萊：2030 年會(huì)實(shí)現(xiàn) AGI 嗎？

哈薩比斯：如果它在未來(lái)十年內(nèi)出現(xiàn)，我不會(huì)感到驚訝。