2025年，我們會迎來奇點嗎？

在2023年末和2024年中，DeepMind和OpenAI分別放出了對于AGI等級的定義。我們親眼見證了，今年的AI如何在逐步攀升AGI高峰。

顯然，2024是旋風般的一年。而在2025年，我們有理由相信會看到更多的進步。

我們遲早會看到，科學和數學的進步將以非常真實的方式觸及和改變我們的生活，起初會很遲緩，然后在某一刻變得突然。

就在昨天，谷歌大佬Logan Klipatrick預測：我們直接進入ASI的可能性，正在逐月逼近。Ilya已經看到了。

OpenAI CEO奧特曼則暗示，18個月后，2026年夏天，我們將見證奇跡。

而ASI誕生之后的人類，只有兩種可能：要么「走向永生」；要么「走向滅絕」。

對此，AI教父Hinton已經發出預警了，10年內，AI可能會導致人類的滅亡！

未來20年，美國47%工作崗位將被自動化！

這種擔憂，似乎并不是空穴來風。

一份美國報告研究顯示，在未來20年內，約47%的美國工作崗位可能被自動化。

而且，每增加一個機器人，就會導致當地經濟損失約5.6個工作崗位。

這些觸目驚心的數字背后，折射出的是一場正在悄然發生的職場革命——

AI帶來的沖擊，從藍領到白領都不能幸免。

2023年，美國編劇工會，美國演員工會罷工，讓所有人清晰看到了AI對「知識工作者」構成的真實威脅。

但實際上，生成式AI和先進技術帶來的挑戰，早已波及到了多個行業。

那么，哪些工作崗位將面臨被AI自動化，甚至取代的風險？

如果工作內容與AI潛在能力高度相似，那么工作者就可能受到包括AI在內數字技術的影響。

不可否認的是，AI加速迭代能夠提升人們生產效率，但同時也有取代人類工作的風險。

以伊利諾伊州為例，研究估計有14%-25%的勞動力崗位面臨著工作被自動化的高風險，這意味著，高達150萬工作者可能受到影響。

此外，約有23.7萬到41.7萬名工人面臨著極高風險。而在建筑行業中，約49%的工作任務可能被自動化取代。

對此，有網友表示，「這個問題本質上可以歸結為我們是否能擁有通用型機器人。

如果有了通用機器人，就意味著所有工作都會受到影響；如果沒有通用型機器人，那么只有一半的工作崗位會受到影響，因為AI只能取代基于計算機的工作」。

有人則反駁道，你低估了現如今機器人的現狀，并甩出了一長串，關于機器人走進崗位的各種報道。

不過，至少在20年后，我們將擁有一批今天不存在的職業。

奇點預測：是2029年嗎？

Reddit上的singularity社區，舉辦了年度奇點預測活動。

首先發言的，是OpenAI o1。它認為，2024年關于AI的討論已經達到了歷史最高水平。

生成式AI引發了關于效率、創造力、道德和人類智慧本質的討論。通向AGI乃至ASI的旅程仍然很復雜，但每一年，我們都有了實實在在的進步。

而社區的網友們普遍認為，庫茲韋爾對于2029年的預測的準確的。

AGI和ASI的發生，就在2029-2030年。不過，那時的AI模型應該會有革命性的架構變化，而非如今的LLM路線。

相比之下，AI大佬們的預計普遍更為樂觀。

• 奧特曼：2025年可能是AGI的節點，18個月后可能會見證ASI
• Anthropic CEO Dario Amodei：AGI將在2026-2027年實現
• xAI CEO馬斯克：最遲在2026年就能實現AGI
• Meta AI首席科學家Yann LeCun：如果研發順利，人類水平的AI可能會在5-6年內問世
• DeepMind CEO Demis Hassabis：AGI還有約10年時間，且仍需2-3項重大技術突破

但毫無疑問，所有人心里都承認：我們的確離AGI越來越近了。

2023年，在對2,778名AI研究人員的一項調查顯示，AGI實現有50%的可能性在23-92年之間。然而，時間跨度僅過去了一年，最新調查卻顯示，16.6%受訪者認為AGI會在5年或更短的時間內實現

AGI來勢洶洶，博士生如何應對？

對于那些還未畢業，走進正式工作崗位之前的博士生們，如何應用AI帶來的挑戰？

畢竟，o3的出世，尤其是在數學編程方面，真正達到了博士級水平。許多網友表示，未來每個人的口袋里都會有一個「超級智囊」。

對此，來自沃頓商學院的Ethan Mollick教授在「四大研究奇點」這篇長文中，詳細闡述了AI崛起帶來的危與機，并為博士提供了一個「生存指南」。

注：完整版「指南」，請劃至文末閱讀。

他表示，「作為一名商學院教授，我深知研究表明，在1,016個職業中，商學院教授是與AI任務重疊度最高的25個職業之一」。

但重疊并不一定意味著替代，而是意味著顛覆性變革和改變。

早在ChatGPT嶄露頭角之前，學術界就已經面臨著一個令人擔憂的困境——表面上看，學術論文數量在持續增長，但實質性的創新步伐卻在悄然減速。

事實上，一項研究發現，從農業到癌癥研究，各個領域的突破性進展都在放緩，而且創新速度每13年就會下降一半。

其中的原因錯綜復雜，但有一點可以明確的事，這場危機將發生，但AI并非是危機的源頭。

實際上，AI可能會成為解決方案的一部分，但在此之前它會先創造出新的問題。

Mollick表示，自己更愿意把AI在科學研究中帶來的變革稱為「奇點」，而非「危機」。

這里的奇點是「狹義的奇點」，指的是未來某個時點——AI已經深刻改變了某個領域或行業，以至于我們無法完全想象奇點之后的世界是什么樣子。

而在學術領域，我們正在面臨至少四個這樣的奇點時刻。

每一個奇點都可能從根本上重塑學術研究的本質，要么成為重啟創新引擎的奇跡，要么加劇現有的危機。

征兆已經出現，而現在，我們只需要決定在奇點之后要做什么。

2024，見證歷史的一年

回顧2024，這是驚心動魄的一年，見證歷史的一年。

各位大佬們都對2024年發生的AI大事做了盤點。

吳恩達總結了2024年AI圈的熱門故事：AI智能體崛起，LLM token價格暴跌，生成式視頻迎來爆發期，小模型異軍突起。

吳恩達也強調，如今，那些處于AI前沿的人，和那些甚至一次都沒用過ChatGPT的人，他們之間的差距已經越來越大。

智能體

智能體的含金量，還在上升。

這一年，集成開發環境中有越來越多的智能體開始生成代碼，比如Devin、OpenHands、Replit Agent、Vercel的V0和Bolt等。

AI的推理能力也取得了飛速進步。

2024年年底，OpenAI推出了o1模型和o1 pro模式，該模式使用代理循環逐步完成提示。DeepSeek-R1和Google Gemini 2.0 Flash Thinking Mode也遵循類似的代理推理。

在2024年的最后幾天，OpenAI發布了o3和o3-preview，進一步擴展了o1的代理推理能力，效果驚艷。

CoT、Reflexion、測試時計算等技術的興起，讓智能體更加繁盛。Agent的時代即將到來！

價格暴跌

同時，我們也見證了LLM token價格的暴跌。今年，AI提供商之間的價格戰，打得是轟轟烈烈。

從2023年3月到2024年11月，OpenAI模型云訪問的單個token價格降低了90%。

2023年底，GPT-4 Turbo亮相時，每百萬token的輸入/輸出為10.00美元/30.00美元。

但隨即的價格戰中，模型價格紛紛暴跌。

比如谷歌Gemini 1.5 Pro，價格已削至每百萬token的輸入/輸出為1.25美元/5.00美元。亞馬遜的Nova Pro，則已低至0.80美元/3.20美元。

AI視頻起飛

這一年，AI視頻的發展驚人。

Sora引發了全球轟動，隨后的Runway Gen 3、Adobe Firefly Video、Meta Movie Gen、King AI、PixVerse、PixelDance等也加入戰場。

未來，AI視頻仍有較大的改進空間。大多數模型一次僅生成少量幀，因此可能很難跟蹤物理和幾何形狀，并隨著時間推移生成一致的角色和場景。

小即是美

2024年，許多LLM已經足夠小，小到可以在智能手機上運行。

頂級AI公司也把一部分資源投給小模型，比如Microsoft Phi-3（參數最低38億）、Google Gemma 2（最低20億）和 Hugging Face SmolLM（最低1.35億）。

而這些小模型，極大地擴展了我們對成本、速度和部署的選擇空間。

Jim Fan：24年，6點震撼

英偉達高級研究科學家Jim Fan，從6個方面總結了2024年。

首先，是高端類人機器人的崛起，包括特斯拉Optimus、1X Neo、波士頓動力、GR-1、西部世界克隆等等。

接下來是具身智能的進展：特斯拉FSD v12、英偉達GR00T、HOVER、DrEureka、斯坦福OpenVLA等，讓機器人大腦有了更多進步。

而英偉達Blackwell架構、Jetson Nano Super、谷歌Willow芯片，將計算硬件帶入全新的領域。

視頻生成和世界建模，也邁進了一大步。包括Sora，Veo，GameNGen、Oasis、GENIE-2等行動驅動的世界模型，以及李飛飛的World Labs。

在LLM方面，Claude 3.5 Sonnet、Gemini 1.5 pro、o1和o3不斷給我們新的沖擊。真正的AGI測試，是完成這個序列：4o -> o1 -> o3 -> (?)。

GPT-4o實時語音模型、NotebookLM等，帶給了我們LLM體驗的最佳重新構想。

最后，在AI4Science上，今年的諾貝爾物理學獎和化學獎，都給了所有人億點點震撼。

人類的命運絕不能交給算法的「黑匣子」

在2024年12月的演講中，聯合國秘書長古特雷斯提到——人類命運不能交由算法決定。

技術的發展速度永遠不會比今天更慢。

如今的AI模型變得越來越強大、越來越通用、越來越容易獲取——不僅能結合語言、圖像、聲音和視頻，還能實現決策自動化。

AI不僅在重塑我們的世界——它正在徹底改變世界。過去需要多年人類專業知識才能完成的任務，現在轉瞬之間就能完成。

但同時，它帶來的風險同樣巨大。

這種快速增長超出了人類治理的能力，引發了關于問責、平等、安全和保障的根本性問題。也引發了關于人類在決策過程中，應該扮演怎樣角色的問題。

AI工具可以識別糧食不安全狀況，預測極端事件和氣候變化導致的人口流離失所。

但是，AI也以更令人擔憂的方式進入戰場。最關鍵的是，AI正在削弱人類控制武力使用這一基本原則。

據報道，從基于情報的評估到目標選擇，算法已經被用于人類的生死決策。

AI與其他技術的融合，更是呈指數級放大了這些風險——未來，量子AI系統可能在一夜之間突破最強大的防御，重寫數字安全規則。

我們必須明確的是：人類的命運絕不能交給算法的「黑匣子」。

既然人類創造了AI，那么它的前進也必須由人類指引。

除武器系統外，我們還必須應對AI帶來的其他風險。

AI可以創造高度逼真的內容，這些內容能夠在網絡平臺上即時傳播——操縱公眾輿論，威脅信息完整性，使真相與徹底的謊言難以區分。Deepfake可能引發外交危機，煽動動亂，并破壞社會的根基。

AI的環境影響也帶來明顯的安全風險。AI數據中心大量消耗能源和水資源，再加上對關鍵礦產的爭奪，正在造成對資源的激烈競爭和地緣政治緊張。

人類下一步行動至關重要，我們現在做出的選擇將決定我們的未來。建立有效的國際治理機制刻不容緩，因為每一次延遲都可能增加全人類面臨的風險。

「四大研究奇點」全文

奇點一：我們如何寫作和發表

在許多學術領域，學術研究進展緩慢得令人煎熬。

Mollick教授稱，自己有些論文從開始研究到最終在期刊上發表花了將近十年時間。頂級期刊是為這種節奏而設計的，因此對AI引發的學術文章洪流準備不足。

這是因為許多研究人員正在使用AI寫作文章，加快了研究過程的關鍵環節，干擾了審稿人的評估標準。

其中一些AI輔助方式極其拙劣且不道德，比如明顯由LLM撰寫的章節或令人震驚的AI生成圖像的論文泛濫。

但當正確使用時，AI寫作實際上可以非常有幫助。畢竟，許多科學家在他們的專業領域很優秀，但他們可能不是優秀的寫作者或表達者。

而GPT-4級的模型在科學寫作方面確實相當出色，至少在一項小型研究中，它們輸出的引言部分與人類寫作水平相當。

如果AI能夠幫助寫作過程，它可以讓科學家專注于他們最擅長的事情，通過讓AI協助處理耗時的任務來加快研究進程。

當然，我們無法得知研究人員是否正確檢查了AI的寫作內容，因此，在新文章大量涌現的情況下，同行評審變得越來越重要，同時也趨于AI自動化。

在一次重要的AI會議上，約17%的同行評審內容來自AI。

更令人驚訝的是，研究顯示約82.4%的科學家認為AI同行評審比部分人工評審更有參考價值。盡管在某些方面，AI表現不及人類，但其在發現錯誤方面已經展現出獨特的優勢。

然而，現有的科學出版體系并非為「AI寫作-AI評審-AI總結」這樣的流程而設計。如果任由這種趨勢發展，整個系統可能難以為繼。

當然，AI的能力遠不止于輔助寫作。

為了展示其潛力，Mollick構建了一個「定制GPT」，它可以探索任何數據集，生成假設并以越來越復雜的方式進行測試。

通過實驗發現，AI已經能夠自主探索數據集、生成假設并進行復雜測試。

這種能力固然令人印象，但也帶來新的隱憂：AI可能被用來進行數據操縱（p-hacking），不斷嘗試直到得到預期結果。

這種行為嚴重威脅著學術誠信。

那么，我們如何度過這個奇點？我們需要重新思考科學出版的本質，并得出一些結論：

• 未來的科學出版和同行評審會是什么樣子？
• 我們如何應對AI內容的洪流？
• 我們如何樹立積極的AI使用模式，在加快研究進度的同時阻止不當使用？

奇點二：我們如何研究

與此同時，LLM也正在改變研究的實際開展方式。

首先，和AI的合作更像是與人類研究助理合作，而不是使用編程語言。這意味著，更多的研究人員無需學習專門的技能，就可以使用AI來擴展研究的范圍。

更進一步的，LLM還能處理人類研究助理難以完成的事情。

例如，Mollick在向Gemini Pro輸入了自己2022年之前所寫的20篇論文和著作，總計超過1000多頁的PDF文件后，模型借助強大的「長上下文窗口」能力，很快便提取出了直接引用并找到了所有文獻中的主題，同時只有幾處微小的錯誤。

此外，由于AI可以高度準確地模擬人類，因此研究人員能夠更加輕易地復刻著名實驗，如「米爾格拉姆的權力服從研究」或跨50個國家的性格測試，從而為社會科學研究帶來了更多的可能性。

更為有趣的是，在這些實驗中，被賦予個性和目標的AI智能體，可以在模擬環境中相互交互和學習。

比如，在模擬醫院中的模擬醫生與模擬病人互動，學會了更好地診斷疾病。

是的，在科學中使用LLM最有趣（也最具顛覆性）的方式，就是讓AI系統自動探索新事物。

一些早期工作表明，LLM可以在社會科學領域生成新假設，制定測試這些假設的計劃，然后通過模擬實際進行測試。

甚至是從事更具挑戰性的實驗：讓GPT-4訪問化學數據庫，編寫軟件控制實驗室設備，并獨立規劃和進行實際的化學實驗。

自主化學研究系統原型

在不久的將來，AI可能真的會進行科學研究，并以我們無法預測的方式改變研究的本質。

為了引導這種變化，我們需要回答幾個問題：

• 哪些AI方法是可以接受的？哪些方法可能導致糟糕的科學、偏見或危險的結果？
• 應該允許自主智能體研究什么？如何在需要時對它們進行監控和停止？

奇點三：我們的研究意味著什么

研究界與公眾之間往往存在深深的隔閡。

然而，在學術界深耕了20年的Mollick相信，大量學術研究對外部世界都具有價值，這種價值甚至許多學者都沒有意識到。

AI可以幫助架起連接學術界和現實世界的橋梁。

比如，當你給之前提到的「定制GPT」投喂一篇論文之后，它不僅可以解釋其中的含義并總結關鍵結果，而且還可以告訴你，為什么這篇學術論文可能也與你有關。

同樣有趣的是，AI有望幫助研究人員相互解釋工作，發現跨學科合作的機會，并幫助處理奇點一和奇點二所釋放的研究浪潮。

我們知道，AI可以進行大規模文獻綜述并找出意想不到的工作之間的聯系，同時也能發現可以填補的錯誤和空白。

其中，能夠將研究人員與正在進行的研究和討論聯系起來的AI，甚至可以更進一步地成為重啟創新引擎的有力工具。

但我們需要重新考慮學科之間以及學術界與公眾之間的界限，以便在這個奇點的另一邊找到更好的世界。

奇點四：我們研究什么

時至今日，我們仍然不知道LLM為什么能如此出色地模擬人類思維。就連創造它們的研究人員，也不了解它們的全部能力。

雖然關于LLM是在進行「原創思維」，還是僅僅在重復訓練中學到的內容，仍存在著廣泛的爭議。

但從目前的研究中可以看出，LLM必將在現實世界中產生重大影響，在越來越多的實際工作中超越人類表現。

如果說，AI確實是一項「通用型技術」，是能夠影響文化、經濟和社會大部分領域的創新之一，那么我們就需要發動更多領域的研究人員，全力以赴來理解其影響、塑造其發展、減輕其風險，并幫助每個人獲益。

這是一個令人振奮的時代，但如果學者們不緊緊抓住這個歷史性的時機，其他人就會去做。

我們有一個獨特的機會來應對我們的奇點帶來的挑戰，如果我們做到了，世界將因此變得更好。