許多AI大佬都給我們畫過同樣的餅——AI可以成為科學家。

不僅如此，根據(jù)他們的說法：諾獎級AI近在眼前，屆時所有的研發(fā)工作將被自動化，世界也會因為各種科學突破變得愈發(fā)繁榮和美好。

OpenAI奧特曼曾表示，AI 可能會像晶體管一樣，成為一種可廣泛擴展并滲透到經(jīng)濟各個角落的重大突破。雖然他的觀點較為溫和，但他仍然認為 AI 在推動科學進步方面的影響“將超越其他一切”。

DeepMind CEO Demis Hassabis 也對 AI 在研發(fā)領(lǐng)域的影響持樂觀態(tài)度。他在最近的一次采訪中具體闡述了 AI 可能帶來的變革機制：AI 或可治愈所有疾病，并“解決能源問題”。他還提到 AI 可能帶來“極端的富足”（radical abundance），但除了科學研發(fā)這一渠道之外，他并未指出 AI 還能通過哪些方式實現(xiàn)這一目標。

最激進的莫過于Anthropic 的CEO，Dario Amodei。他在最近的一次采訪中表示，他有70~80%的信心，AI還能保持指數(shù)增長，并在四年內(nèi)成功達到諾貝爾獲獎者水平。他還曾在文章《Machines of Loving Grace》中，列舉了 AI 在理想情況下如何造福人類的五種方式，其中三種涉及生物學研發(fā)、神經(jīng)科學研發(fā)和經(jīng)濟學研發(fā)。然而，他并未明確主張 AI 會因在整個經(jīng)濟中的廣泛應用而帶來高經(jīng)濟增長，相反，他更關(guān)注 AI 通過加速研發(fā)和改善經(jīng)濟治理所帶來的影響。

Epoch AI的兩位研究員撰文稱，以上大佬的觀點，缺乏嚴謹?shù)慕?jīng)濟學論證，但卻擁有著巨大的影響力。該文章認為，那種技術(shù)樂觀主義的論調(diào)很可能是錯誤的，比起得諾獎，AI造成大規(guī)模失業(yè)的概率大得多，簡單來說：

• AI 的真正價值將主要來自于大規(guī)模的自動化，而不僅僅依靠前沿的研發(fā)工作；
• 廣泛的自動化能夠顯著提升經(jīng)濟效率和生產(chǎn)率，推動整個社會和行業(yè)的變革；
• 自動化有助于使我們擺脫重復性工作，從而專注于更高價值和創(chuàng)造性的任務；
• 行業(yè)變革將由 AI 賦能的自動化驅(qū)動；
• AI 成功的關(guān)鍵在于如何將現(xiàn)有的 AI 技術(shù)有效轉(zhuǎn)化為現(xiàn)實應用，解決實際問題。

圖片

撰寫這篇文章的Epoch AI是一家非營利性質(zhì)的研究機構(gòu)，致力于分析人工智能的歷史趨勢，并幫助預測其未來發(fā)展。

這篇帖子在Hacker News上的討論度非常高：

圖片

一位網(wǎng)友留言，認為AI的樂觀主義無法說服自己。

有沒有人覺得技術(shù)樂觀主義其實很讓人沮喪？

我想，首先是因為它用技術(shù)取代了人類，這應該是更常見的原因。但另一個原因是，你很難對一場不太可能實現(xiàn)的炒作感到興奮。

它感覺與對社會的實際好處脫節(jié)了。

圖片

也有人指出，技術(shù)進步本身是好的，但這波AI發(fā)展太快，我們的社會還沒有做好承接新技術(shù)的準備：

技術(shù)進步本來會很棒，如果它的好處不會主要流向社會頂層的話。

我?guī)缀蹩梢钥隙ǎ诓贿h的未來，我們的技術(shù)會足夠先進，讓人們可以依靠機器人在某個地方自給自足，或者讓它們幫你做所有的家務。

原則上，這聽起來很棒，但我們的社會并沒有為“大量人口不工作，而技術(shù)進步主要由少數(shù)高技能人才推動”這種情況做好準備。

我不確定未來會如何發(fā)展，但如果技術(shù)繼續(xù)以當前的速度進步，社會將需要進行一些重大變革。

圖片

原貼涉及很多經(jīng)濟學知識，在此整理了文章的重點部分，感興趣閱讀全文的朋友可以移步：??https://epoch.ai/gradient-updates/most-ai-value-will-come-from-broad-automation-not-from-r-d??

1.事多錢少：諾獎級AI對AI獨角獸的吸引力并不大

文章指出了一個殘酷的現(xiàn)實，能勝任自主研發(fā)工作的AI對AI創(chuàng)企來說吃力不討好。

所謂開發(fā)諾獎級AI,很可能是AI企業(yè)們寫在PPT第一頁用來“撐門面”的“謊言”。

首先，自動研發(fā)的經(jīng)濟價值并沒有人們想象的那么高。提高生產(chǎn)率和新技術(shù)固然是長期增長的關(guān)鍵，但研發(fā)在這一過程中所占的比重通常比人們預期的要小。

更重要的是，即便研發(fā)確實有所貢獻，其大部分成果往往是外部化的，并不會直接轉(zhuǎn)化為AI企業(yè)的利潤，這也降低了企業(yè)部署 AI 進行自主研發(fā)的激勵。因此，大多數(shù) AI 系統(tǒng)實際上會被用于與研發(fā)無關(guān)的任務，并且這些任務在整體上更具經(jīng)濟價值。

其次，自動化研發(fā)遠比看起來困難得多。研究員的工作不僅僅是“推理任務”，還依賴于諸如自主性（agency）、多模態(tài)處理（multimodality）和長上下文一致性（long-context coherence）等能力。如果 AI 已經(jīng)發(fā)展到足以完全自動化研究員的工作，那么它也很可能已經(jīng)能夠自動化經(jīng)濟中大多數(shù)其他崗位，而這些崗位帶來的經(jīng)濟價值很可能遠遠超過單純的研發(fā)自動化。

綜合這兩點，沒有理由認為 AI 的主要經(jīng)濟價值會來自研發(fā)。更有可能的情況是，AI 價值的主要來源是其在整個經(jīng)濟中的廣泛部署。盡管 AI 會因規(guī)模報酬遞增帶來生產(chǎn)率和人均產(chǎn)出的提升，但這類增長很可能并非主要來自研發(fā)，而是源于 AI 在更廣泛經(jīng)濟活動中的應用。

也就是，取代大多數(shù)普通人的工作。

2.與AI共存的未來：Agent代替白領(lǐng)，人類進入漫長磨合期

以下是文章從商業(yè)、政策和個人角度出發(fā)，對未來AI影響所作出的一些預測：

首先，從商業(yè)角度來看，我們認為在可預見的未來，AI實驗室更有可能通過自動化普通工作任務來獲得更大的利潤，而不是專注于開發(fā)具備“諾貝爾獎級”推理能力的模型，以幫助生物學或醫(yī)學等領(lǐng)域的研究人員。更現(xiàn)實的商業(yè)目標是開發(fā)能熟練瀏覽互聯(lián)網(wǎng)、操作商業(yè)軟件并執(zhí)行標準白領(lǐng)任務的計算機智能體。與此同時，我們也認為，衡量和基準測試AI在這些普通任務上的表現(xiàn)，可能比評估AI在研發(fā)（研究與開發(fā)）任務上的能力更為重要。

其次，從政策角度來看，我們認為公眾對AI的態(tài)度將在未來發(fā)生深刻變化，尤其是在AI開始對世界產(chǎn)生變革性影響——如引發(fā)爆炸性的經(jīng)濟增長或大幅延長人類壽命——之前。屆時，社會可能已經(jīng)經(jīng)歷了多輪大規(guī)模勞動力替代的自動化浪潮，這將極大地改變公眾對AI的看法。因此，我們認為，假設(shè)公眾對AI的態(tài)度會保持不變，直到變革性AI出現(xiàn)前后，可能是錯誤的。

最后，從個人角度來看，我們認為應該規(guī)劃并投資于一個AI逐步取代工作的未來，這一過程可能會持續(xù)數(shù)年甚至數(shù)十年，而不是假設(shè)AI一旦掌握AI 研發(fā)，就會立即讓人類勞動力完全過時。與其設(shè)想AI會通過遞歸式的自我研發(fā)突然爆發(fā)為超級智能，我們更傾向于預見經(jīng)濟會經(jīng)歷更平緩的全自動化過渡。

在我們看來，AI很可能會經(jīng)歷一個較長的過渡期，在此期間，它在某些任務上超越人類，但在其他互補性任務上仍然不如人類。需要明確的是，我們同意AI最終將在幾乎所有具有經(jīng)濟價值的活動中超越人類，并推動經(jīng)濟增長的顯著加速。但我們認為，這種轉(zhuǎn)變不會是瞬間發(fā)生的，而是會經(jīng)歷多年或數(shù)十年的廣泛而具有破壞性的自動化進程，而且這一過程遠不止局限于研發(fā)領(lǐng)域。

那么，我們又該如何“規(guī)劃并投資于一個AI逐步取代工作的未來”呢？

本文轉(zhuǎn)載自??51CTO技術(shù)棧??