近日，OpenAI 的掌舵人 Sam Altman 在其個人博客上發表了一篇題為《The Gentle Singularity》（溫和的奇點, https://blog.samaltman.com/the-gentle-singularity）的重磅文章，再次將人工智能的未來推向了輿論的風口浪尖。Altman 以其一貫的前瞻性視角，大膽宣稱：“我們已越過事件視界；起飛已經開始。人類已接近構建數字超級智能，而且至少到目前為止，它遠沒有看起來那么怪異。”

這番“奇點宣言”無疑是震撼性的。它不僅暗示著 AI 發展的某個關鍵轉折點已經到來，更描繪了一個由 AI 驅動的、既熟悉又陌生的未來。那么，Altman 的“溫和奇點”究竟意味著什么？我們是否真的站在了一個新時代的門檻上？本文就來轉述和提煉一下Altman的觀點，分享給大家，期望能引發各位小伙伴兒的思考。

不那么怪異”的超智能跡象：奇跡正在常態化

Altman 開篇即指出，盡管機器人尚未遍布街頭，我們大多數人也并非整日與 AI 對話，人類依然面臨疾病、太空探索的困境以及對宇宙的諸多未知，但一個不爭的事實是：“我們最近構建的系統在很多方面比人類更聰明，并且能夠顯著放大使用者的產出。”

他認為，通往通用人工智能（AGI）道路上“最不可能的部分已經過去”。那些讓我們得以擁有像 GPT-4 和 o3這樣強大系統的科學洞察，是“來之不易的”，但它們的影響將極其深遠。

一個核心的觀察是，AI 正在經歷一個“奇跡變成常規，然后成為基本要求”的演進過程。 Altman 生動地描述了這種轉變：

• 我們從驚嘆 AI 能生成優美的段落，到開始期待它能創作出整部小說；
• 從驚嘆 AI 能做出拯救生命的醫學診斷，到開始期待它能研發出治療方法；
• 從驚嘆 AI 能創建小型計算機程序，到開始期待它能構建全新的公司。

這種期望值的快速提升和對 AI 能力的迅速適應，正是“奇點”發生方式的體現——曾經的奇跡迅速融入日常，成為我們對技術能力的新基線。

未來的核心驅動力：AI 加速科學進步與生產力飛躍

Altman 強調，AI 將在多方面為世界做出貢獻，但其中最為顯著的，將是由 AI 驅動的“更快的科學進步”和“大幅提升的生產力”，這將極大地改善人類的生活質量。

“科學進步是整體進步的最大驅動力，” Altman 寫道，“思考我們還能擁有多少，是極其令人興奮的。”

而更具顛覆性的是，AI 本身也將被用于加速 AI 研究。 “先進 AI 之所以引人注目，有很多原因，但也許沒有什么比我們能用它來更快地進行 AI 研究這一事實更重要了。” 他設想，如果我們能將原本需要十年的研究時間縮短到一年甚至一個月，那么進步的速度將發生質的飛躍。這雖然不等同于 AI 系統完全自主地更新其代碼，但 Altman 認為這是一種“遞歸式自我改進 (larval version of recursive self-improvement)”的雛形。

“智能與能源的極大豐富”：打破人類進步的根本限制

在 Altman 的構想中，未來三十年最核心的變革在于：“智能和能源——想法，以及讓想法發生的能力——將變得極其豐富。”

他認為，這兩者長期以來一直是制約人類進步的根本因素。一旦它們（在良好治理的前提下）不再稀缺，人類理論上可以擁有其他任何東西。

一個大膽的預測是，隨著數據中心生產的自動化，智能的成本最終應趨近于電力的成本。 為了讓這個概念更具體，他甚至給出了一個 ChatGPT 平均查詢的能耗數據：約 0.34 瓦時，相當于一個烤箱一秒多一點的耗電量，或一個高效燈泡幾分鐘的耗電量。

這種對未來資源充裕程度的樂觀預期，是 Altman “溫和奇點”論的重要基石。

2030年的深刻變革：一個既熟悉又陌生的世界

Altman 并沒有描繪一個完全脫離現實的烏托邦或反烏托邦。他認為，在最重要的方面，2030年可能與現在并無太大不同：“人們依然會愛他們的家人，表達他們的創造力，玩游戲，在湖中游泳。” 人類的核心情感需求和生活方式的基本面將得以延續。

然而，在“仍然非常重要的方面”，到2030年將發生前所未有的劇變：

• Agent 的崛起與工作模式的顛覆：

• 2025年： 能執行真正認知工作的 Agent 將出現，“編寫計算機代碼將永遠改變。”
• 2026年： 能夠發現新穎見解的系統可能會出現。
• 2027年： 能夠在現實世界執行任務的機器人可能會出現。

• 個人生產力的指數級提升： “總的來說，一個人在 2030 年能夠完成的工作量將遠超其在 2020 年所能完成的，這將是一個驚人的變化。”
• 社會契約的重塑： 技術進步的加速和財富的極大增長，將使我們能夠認真考慮以前無法想象的新政策理念。但 Altman 也坦言，“整個職業類別的消失將是非常艱難的部分。” 他預測社會契約的調整將是漸進的，而非一蹴而就。

自我強化的循環與加速的進步

除了 AI 本身的進步，Altman 還指出了其他自我強化的循環在起作用：

• 經濟價值創造的飛輪： AI 創造的經濟價值，正在推動建設更龐大的基礎設施來運行日益強大的 AI 系統。
• 機器人制造機器人： “能制造其他機器人的機器人（某種意義上，能建設其他數據中心的數據中心）”的出現，將進一步指數級地加速發展進程。例如，如果首批百萬級人形機器人能以傳統方式制造出來，然后它們能接管整個供應鏈（從采礦、精煉到工廠運營）來制造更多的機器人、芯片廠、數據中心等，那么進步的速度將不可同日而語。

我們面臨的挑戰與前進之路：對齊、普及與集體智慧

面對如此巨大的潛力和變革，Altman 強調了兩個核心挑戰及應對之道：

1. 解決對齊問題 (Alignment Problem)： 這是技術和社會層面的雙重挑戰。我們需要確保 AI 系統的學習和行動目標與人類的長期集體意愿真正對齊。他以社交媒體算法為例，指出它們雖然能極好地理解并利用用戶的短期偏好（讓你不停地刷），但卻可能與用戶的長期福祉相悖，這便是“錯位的 AI (misaligned AI)”的體現。
2. 讓超級智能廉價、廣泛可用且不過度集中： 在解決了安全和對齊問題之后，至關重要的是將超級智能的訪問權廣泛分配，避免其被少數個人、公司或國家壟斷。Altman 相信“社會是富有韌性、創造力且適應迅速的。”

他提出的前進路徑是：首先解決對齊問題，然后致力于降低超級智能的成本，使其廣泛可及。在這個過程中，“賦予用戶在社會決定的廣泛邊界內的大量自由，似乎非常重要。世界越早開始就這些廣泛邊界是什么以及我們如何定義集體對齊進行對話，就越好。”

OpenAI 的使命與對未來的展望

Altman 最后重申了 OpenAI (乃至整個 AI 行業) 的使命：“我們正在為世界構建一個大腦。” 這個大腦將是高度個性化且易于使用的，其潛力將僅受限于“好的想法”。他甚至樂觀地認為，那些曾被技術圈嘲笑的“只有想法的人 (the idea guys)”，將在 AI 時代迎來他們的“高光時刻”。

“OpenAI 現在有很多身份，但歸根結底，我們是一家超級智能研究公司。” Altman 寫道，“我們面前還有很多工作，但大部分道路已經被照亮，黑暗區域正在迅速退去。”

對于未來，Altman 的預測是：“智能便宜到可以計量 (Intelligence too cheap to meter) 已觸手可及。” 他承認這聽起來可能有些瘋狂，但對比五年前我們對今天 AI 發展的預測，當前對 2030 年的預測或許已顯得不那么“瘋狂”了。

文章的結尾，Sam Altman 以一句充滿期許的話結束：“愿我們能夠平穩、指數級且波瀾不驚地邁向超級智能 (May we scale smoothly, exponentially and uneventfully through superintelligence)。”

小結：“溫和奇點”已至，我們準備好了嗎？

Sam Altman 的這篇博文，以其一貫的宏大敘事和對未來的堅定信念，為我們描繪了一個 AI 正在深刻重塑世界的圖景。他所說的“溫和奇點”，并非遙不可及的科幻概念，而是已經開始在我們身邊發生的、漸進但影響深遠的變革。

從 AI 在編碼、科研、醫療等領域的加速滲透，到對未來工作模式、社會結構乃至人類進步根本動力的重塑，Altman 的觀點為我們提供了極具價值的思考框架。當然，其中也伴隨著對“職業消失”、“對齊難題”等嚴峻挑戰的坦誠。

無論我們是否完全認同 Altman 的所有預測和時間表，一個不爭的事實是，AI 技術的指數級發展正在以前所未有的速度改變著我們的世界。作為技術從業者，理解這些趨勢，思考我們自身的定位，并積極參與到構建一個負責任、普惠的 AI 未來的討論中，顯得尤為重要。

“事件視界”或許已然越過，“起飛”的引擎也已點燃。我們是否準備好迎接這個由 AI 定義的，既熟悉又陌生的未來了呢？

聊一聊，也幫個忙：

• 你如何理解 Sam Altman 提出的“溫和奇點”？你認為我們真的已經“起飛”了嗎？
• Altman 對 2025-2027 年 AI Agent 和機器人的預測，你認為哪些最有可能實現？它們將如何改變我們的生活和工作？
• 面對 AI 可能帶來的“整個職業類別的消失”，你認為個人和社會應該如何應對？“對齊問題”和“超級智能的普及”哪個挑戰更大？