最近幾年，AI技術(shù)的發(fā)展遠(yuǎn)遠(yuǎn)超出普通大眾和研究者的預(yù)期，「通用人工智能（AGI）」的概念也從科幻小說中走進(jìn)了日常生活的討論中，成為了許多科技公司和研究機(jī)構(gòu)所追求的最終目標(biāo)。

AI行業(yè)的領(lǐng)頭羊OpenAI表示，其使命是「確保通用人工智能造福全人類」；

DeepMind在公司愿景聲明中也指出，「人工通用智能有可能推動歷史上最偉大的變革之一」；

AGI概念在英國政府的國家人工智能戰(zhàn)略和美國政府的人工智能文件中也被著重提及；

微軟的研究人員聲稱在大型語言模型GPT-4中發(fā)現(xiàn)了「AGI火花」（sparks of AGI）存在的證據(jù)；

論文鏈接：??https://arxiv.org/pdf/2303.12712.pdf??

現(xiàn)任和前任谷歌高管宣稱「AGI已經(jīng)到了」（AGI is already here）；

「GPT-4能否算作是一種AGI算法」的問題也是Elon Musk對OpenAI提起訴訟的核心... ...

雖然術(shù)語AGI已經(jīng)在商業(yè)、政府和媒體中被廣泛使用，但不同群體的用戶對AGI概念的含義并沒有達(dá)成共識。

「AGI的含義到底是什么？」在AI社區(qū)內(nèi)引起了激烈的爭論，這以問題不僅是一場關(guān)于「術(shù)語」定義的學(xué)術(shù)爭論，也將影響著科技公司、政府部門等關(guān)于AGI做出的重要決策。

最近，圣菲研究所的教授Melanie Mitchell在Science上發(fā)表了一篇letter，討論了大眾對通用人工智能概念的爭論。

深入研究AGI后可以發(fā)現(xiàn)，人工智能從業(yè)者對智能本質(zhì)（the nature of intelligence）的看法與研究人類和動物認(rèn)知的人截然不同，這種差異對于「理解當(dāng)下、預(yù)測機(jī)器智能的未來前景」等至關(guān)重要。

人工智能概念

人工智能領(lǐng)域的最初目標(biāo)是創(chuàng)造出具有與人類相當(dāng)、具有通用智能的機(jī)器。

早期的人工智能先驅(qū)們對此持樂觀態(tài)度：1965年，赫伯特·西蒙（Herbert Simon）在著作《人類和管理的自動化形態(tài)》中預(yù)測「20年后，機(jī)器可以承擔(dān)所有人類能做的工作」；

在1970年出版的《生活》雜志上，馬文·明斯基（Marvin Minsky）宣稱：在三到八年后，我們就能擁有一臺具有普通人智力水平的機(jī)器，一臺能夠閱讀莎士比亞、潤滑汽車、玩弄辦公室政治、講笑話和打架的機(jī)器。

遺憾的是，這些樂觀的預(yù)測并沒有實(shí)現(xiàn)。

在接下來的幾十年里，唯一成功的人工智能系統(tǒng)只能算是專用，而非通用：只能執(zhí)行單一任務(wù)或有限范圍的任務(wù)，例如手機(jī)上的語音識別軟件可以轉(zhuǎn)錄口述內(nèi)容，但不能理解具體內(nèi)容并生成回復(fù)。

通用人工智能（AGI）一詞是在21世紀(jì)初創(chuàng)造的，以重新追尋人工智能先驅(qū)最初的崇高愿望，尋求重新關(guān)注「試圖以獨(dú)立于領(lǐng)域的方式研究和復(fù)制智能」。

但直到最近，這種崇高的追求在人工智能領(lǐng)域內(nèi)仍然相當(dāng)模糊，領(lǐng)先的人工智能公司將實(shí)現(xiàn)AGI作為其主要目標(biāo)，但AGI的存在性（existential threat from AGI）仍然是他們最害怕的事。

許多人工智能從業(yè)者都在預(yù)測AGI的實(shí)現(xiàn)時(shí)間軸，例如，有人預(yù)測「到2028年，有50%的機(jī)會擁有AGI」；但也有人質(zhì)疑AGI的前提，稱其定義模糊不清，甚至有研究人員在推特上表示：AGI的概念是不科學(xué)的，人們應(yīng)該對使用這個(gè)詞感到尷尬。

雖然早期的AGI支持者認(rèn)為機(jī)器很快就會承擔(dān)所有人類活動，但研究人員已經(jīng)意識到，打造一個(gè)「國際象棋機(jī)器人」或是「回答搜索查詢的AI系統(tǒng)」要比開發(fā)一個(gè)機(jī)器人來「疊衣服」或「修水管」容易得多。

AGI的定義也相應(yīng)地進(jìn)行了調(diào)整，包含了所謂的「認(rèn)知任務(wù)」（cognitive tasks）。

DeepMind聯(lián)合創(chuàng)始人Demis Hassabis將AGI定義為「應(yīng)該能夠完成幾乎任何人類可以完成的認(rèn)知任務(wù)」的系統(tǒng)，OpenAI將其描述為「高度自主的系統(tǒng)，在最有經(jīng)濟(jì)價(jià)值的工作中優(yōu)于人類」（most economically valuable work)，其定義大多忽視了需要物理智能（physical intelligence）的任務(wù)。

人工智能中的「智能」概念，即認(rèn)知或其他方面，通常是以個(gè)體智能體為獎(jiǎng)勵(lì)或目標(biāo)進(jìn)行優(yōu)化的方式來構(gòu)建的。

一篇有影響力的論文將通用智能定義為「智能體在各種環(huán)境中實(shí)現(xiàn)目標(biāo)的能力」。

論文鏈接：https://link.springer.com/article/10.1007/s11023-007-9079-x

也有論文指出，「智力及其相關(guān)能力可以被理解為促進(jìn)獎(jiǎng)勵(lì)最大化」。

論文鏈接：

??https://www.sciencedirect.com/science/article/pii/S0004370221000862??

事實(shí)上，這也是當(dāng)下人工智能系統(tǒng)的運(yùn)行方式，例如，計(jì)算機(jī)程序AlphaGo被訓(xùn)練來優(yōu)化「贏得比賽」的獎(jiǎng)勵(lì)函數(shù)，而GPT-4被訓(xùn)練來優(yōu)化「預(yù)測短語中的下一個(gè)單詞」的獎(jiǎng)勵(lì)函數(shù)。

一些人工智能研究人員猜測：一旦人工智能系統(tǒng)實(shí)現(xiàn)了AGI，就會將其優(yōu)化能力應(yīng)用于自身軟件來快速實(shí)現(xiàn)超越人類的智能水平，迭代地推進(jìn)自己的智能；在極端預(yù)測下，AGI系統(tǒng)會「比我們聰明數(shù)千倍或數(shù)百萬倍」。

這種對優(yōu)化的關(guān)注導(dǎo)致人工智能社區(qū)的一些人擔(dān)心「沒有與人類標(biāo)準(zhǔn)對齊」（unaligned）的AGI會給人類帶來生存風(fēng)險(xiǎn)，可能會偏離其創(chuàng)造者的目標(biāo)。

在2014年出版的《超級智能》一書中，哲學(xué)家尼克·博斯特羅姆（Nick Bostrom）提出了一個(gè)著名的思想實(shí)驗(yàn)：假設(shè)人類給一個(gè)超級智能人工智能系統(tǒng)一個(gè)「優(yōu)化回形針生產(chǎn)」的目標(biāo)，人工智能系統(tǒng)會利用它的智能來控制地球上所有的資源，并將地球上所有的東西都變成回形針。

當(dāng)然，人類并不是為了制造更多的回形針而毀滅地球和人類，只是他們在說明書中沒有提到這一點(diǎn)。

人工智能研究員Yoshua Bengio也提供了一個(gè)思想實(shí)驗(yàn)：我們可能會要求人工智能解決氣候變化問題，但AGI可能會設(shè)計(jì)一種病毒來毀滅人類，因?yàn)槲覀兘o出的指令對「傷害的含義」解釋得不夠清楚，人類實(shí)際上是解決氣候危機(jī)的主要障礙。

這種對AGI（或超級智能）的推測性觀點(diǎn)與研究生物智能，特別是人類認(rèn)知的人所持的觀點(diǎn)不同。

雖然認(rèn)知科學(xué)并沒有嚴(yán)格地定義「通用智能」，但大多數(shù)認(rèn)知科學(xué)家認(rèn)可，智力水平不是一個(gè)可以量化的指標(biāo)，可以簡單地向上或向下調(diào)整，而是一個(gè)復(fù)雜的綜合通用和專項(xiàng)能力，在大多數(shù)情況下，可以適應(yīng)特定的進(jìn)化生態(tài)位（specific evolutionary niche）。

許多研究生物智能的人也懷疑智能的所謂「認(rèn)知」方面可以從其他模式中分離出來，并在一個(gè)無實(shí)體的機(jī)器中捕獲：心理學(xué)家已經(jīng)表明，人類智力的重要方面是建立在一個(gè)人的身體和情感體驗(yàn)的基礎(chǔ)上的。

證據(jù)還表明，個(gè)人的智力深深依賴于一個(gè)人對社會和文化環(huán)境的參與，理解、協(xié)調(diào)和向他人學(xué)習(xí)的能力，可能比個(gè)人的「優(yōu)化能力」更重要。

此外，與之前提到的回形針人工智能（paper clip–maximizing AI）不同，人類智能并不以固定目標(biāo)的優(yōu)化為中心，一個(gè)人的目標(biāo)是通過先天需求和支持其智能的社會和文化環(huán)境的復(fù)雜整合形成的。

與超級智能體不同的是，智力的提高恰恰使人類能夠更好地洞察他人的意圖以及自身行為的可能影響，并相應(yīng)地修正行為。

正如哲學(xué)家卡佳·格雷斯（Katja Grace）所說，把「接管宇宙」作為目標(biāo)對于任何人來說都是可笑的，所以為什么我們會認(rèn)為實(shí)現(xiàn)人工智能的目標(biāo)是不同的呢？

一臺機(jī)器改進(jìn)自己的軟件以提高其智能水平也偏離了生物學(xué)的觀點(diǎn)，即智能是一個(gè)高度復(fù)雜的系統(tǒng)，不只是需要大腦的參與。

如果人類水平的智能需要不同認(rèn)知能力的復(fù)雜整合以及社會和文化的加持，那么系統(tǒng)的「智能」水平很可能無法提升自身的「軟件」能力，就像人類無法設(shè)計(jì)大腦（或基因）使自己更聰明一樣。

然而，人類可以作為一個(gè)集體，通過外部技術(shù)工具（如計(jì)算機(jī)）和建立文化機(jī)構(gòu)（如學(xué)校、圖書館和互聯(lián)網(wǎng)）來提高有效智力水平。

對AGI的含義，以及AGI是否是一個(gè)連貫的概念仍在爭論中，對于AGI機(jī)器能夠做什么的猜測主要是基于直覺，而不是科學(xué)證據(jù)。

但這種直覺能有多少可信度呢？人工智能的歷史一再證明我們對智能的直覺是錯(cuò)誤的。

許多早期的人工智能先驅(qū)認(rèn)為，用邏輯編程的機(jī)器將捕捉人類智能的全部；其他學(xué)者預(yù)測，讓機(jī)器在國際象棋中擊敗人類，或在語言之間進(jìn)行翻譯，或進(jìn)行對話，將需要它具有一般人類水平的智能，但結(jié)果被證明是錯(cuò)誤的。

在人工智能進(jìn)化的每一步，人類水平的智能都比研究人員預(yù)期的要復(fù)雜。

目前關(guān)于機(jī)器智能的猜測是否也會被證明是錯(cuò)誤的？我們能否發(fā)展出一種更嚴(yán)謹(jǐn)、更通用的智能科學(xué)來回答這些問題？

目前還人工智能科學(xué)是否更像人類智能科學(xué)，還是更像天體生物學(xué)（預(yù)測其他星球上的生命可能是什么樣的）。

對從未見過甚至可能不存在的東西做出預(yù)測，無論是外星生命還是超級智能機(jī)器，都需要基于通用原理的理論。

最終，所謂AGI的含義和后果不會通過媒體的辯論、訴訟或直覺和猜測來達(dá)到共識，而是通過對這些原理的長期科學(xué)調(diào)研。

本文轉(zhuǎn)自 新智元 ，作者：新智元

原文鏈接:??https://mp.weixin.qq.com/s/Caj2OFqoZQJPIFhaNvA2Bw??