OpenAI向超級(jí)人工智能邁進(jìn)
OpenAI首席執(zhí)行官Sam Altman在2025年剛開始就對(duì)人工智能的未來發(fā)出了大膽的宣言。Altman表示,OpenAI現(xiàn)在對(duì)如何創(chuàng)建AGI(通用人工智能)充滿信心,并將重點(diǎn)轉(zhuǎn)移到下一個(gè)前沿領(lǐng)域:超級(jí)人工智能。
OpenAI的最新模型o3于去年12月發(fā)布,目前正在進(jìn)行安全評(píng)估,成功通過了領(lǐng)先的AGI基準(zhǔn)ARC-AGI挑戰(zhàn)。在標(biāo)準(zhǔn)計(jì)算條件下,該模型取得了75.7%的高分,更強(qiáng)大的版本達(dá)到了87.5%。雖然ARC-AGI測(cè)試中的這一里程碑值得注意,但它還不能證實(shí)OpenAI已經(jīng)打開了通往AGI的道路。
ARC的創(chuàng)建者Fran?ois Chollet分享道:“通過ARC-AGI并不等于實(shí)現(xiàn)AGI,事實(shí)上,我認(rèn)為o3還不是AGI。o3在一些非常簡(jiǎn)單的任務(wù)上仍然失敗,這表明它與人類智能存在根本差異。”
OpenAI似乎開始完全致力于超級(jí)智能的概念,并正在大力投資于這一追求。一個(gè)新的團(tuán)隊(duì)已經(jīng)成立,由Ilya Sutskever和Jan Leike領(lǐng)導(dǎo),專注于超級(jí)智能和AGI。它還將投入20%的計(jì)算資源來支持這個(gè)新團(tuán)隊(duì)的工作。
有趣的是,OpenAI的聯(lián)合創(chuàng)始人Ilya Sutskever于2024年5月離開公司,由Jakub Pachocki接替。自Sutskever離職以來,沒有公開宣布他重返OpenAI。據(jù)報(bào)道,Sutskever在試圖罷免Altman擔(dān)任首席執(zhí)行官的那場(chǎng)失敗運(yùn)動(dòng)中發(fā)揮了關(guān)鍵作用。這讓他作為超級(jí)對(duì)齊(Superalignment)團(tuán)隊(duì)的聯(lián)合負(fù)責(zé)人突然出現(xiàn)有點(diǎn)令人驚訝。
OpenAI決定將其應(yīng)對(duì)將超級(jí)智能(superintelligent)人工智能與人類價(jià)值觀相結(jié)合的挑戰(zhàn)的方法稱為超級(jí)對(duì)齊(Superalignment)。這一術(shù)語(yǔ)反映了人工智能界對(duì)如何確保人工智能系統(tǒng)在超越人類智能后不會(huì)以有害或與人類目標(biāo)不一致的方式行事的愿景。
那么,AGI和超級(jí)智能有什么,為什么它會(huì)引起如此多的炒作呢?圍繞AGI和超級(jí)智能的熱議來自它們將徹底改變從科學(xué)到日常生活的一切潛力。
雖然對(duì)于AGI的確切含義還沒有達(dá)成共識(shí),但它代表了可以自主執(zhí)行任何人類任務(wù)的計(jì)算機(jī)或機(jī)器。超級(jí)智能將走得更遠(yuǎn),在各個(gè)領(lǐng)域超越人類的能力。
“超級(jí)智能將是人類有史以來發(fā)明的最具影響力的技術(shù),可以幫助我們解決世界上許多最重要的問題。”O(jiān)penAI在一篇介紹超級(jí)對(duì)齊的文章中分享道。“但超級(jí)智能的巨大力量也可能非常危險(xiǎn),可能導(dǎo)致人類被剝奪權(quán)力,甚至人類滅絕。雖然超級(jí)智能現(xiàn)在似乎還很遙遠(yuǎn),但我們相信它可能會(huì)在這個(gè)十年到來。”
OpenAI的一些戰(zhàn)略舉措受到了批評(píng),包括解散專注于人工智能安全的團(tuán)隊(duì),導(dǎo)致該公司幾名專注于安全的研究人員離職。
Altman關(guān)于AGI和超級(jí)智能的說法遭到了懷疑。從Altman到OpenAI通往超級(jí)智能之路的轉(zhuǎn)變時(shí)間表引發(fā)了人們的懷疑。不要忘記人工智能的一些基本問題,如幻覺、驚人的高能量需求和犯錯(cuò)的傾向,這引發(fā)了人們對(duì)該技術(shù)是否準(zhǔn)備好兌現(xiàn)Altman做出的巨大承諾的擔(dān)憂。
盡管面臨挑戰(zhàn),Altman仍然對(duì)OpenAI實(shí)現(xiàn)其雄心勃勃目標(biāo)的能力充滿信心。雖然他的愿景是樂觀的,但它提出了一個(gè)關(guān)鍵問題:OpenAI能否兌現(xiàn)如此高風(fēng)險(xiǎn)的承諾,還是炒作會(huì)超過現(xiàn)實(shí)?
Altman在他的個(gè)人博客中寫道:“我們喜歡我們目前的產(chǎn)品,但我們是為了美好的未來而來。”“超級(jí)智能工具可以極大地加速科學(xué)發(fā)現(xiàn)和創(chuàng)新,遠(yuǎn)遠(yuǎn)超出我們自己的能力,從而大大增加財(cái)富和繁榮。”
Altman強(qiáng)調(diào),人工智能系統(tǒng)通常比人類更聰明,有了超級(jí)智能,人工智能只會(huì)變得更聰明。
OpenAI雄心勃勃地宣稱即將實(shí)現(xiàn)AGI,甚至冒險(xiǎn)進(jìn)入超級(jí)智能領(lǐng)域,這無疑是大膽的。然而,考慮到該公司過去的成就,很難完全否定。如果OpenAI真的成功實(shí)現(xiàn)了AGI,那么變化的速度將是驚人的。它可能會(huì)以我們難以想象的方式重塑我們生活的方方面面。