當OpenAI在兩年多前發(fā)布當時更先進的語言模型GPT-4時，許多研究人員抱怨缺乏關于該模型是如何創(chuàng)建的信息。盡管名字中有“開放”一詞，但該公司卻將所有事情都保密，以免其尖端研究被競爭對手或惡意行為者利用。

雖然這些擔憂是可以理解的，但這也意味著人們幾乎無法監(jiān)督該公司在實驗室中的所作所為，以及為防止其最新模型通過濫用或“失控”并以可能傷害人類的方式追求其目標而造成危害而采取的保障措施。

一年后，即2024年6月，該公司的一些前員工和現員工撰寫了一份匿名公開信，警告稱AI公司有強烈的經濟動機來避免有效的監(jiān)督，并且公司的自我監(jiān)管不會有效地改變這一點。

時間快進到2025年，情況幾乎沒有改變。包括谷歌、OpenAI和Anthropic在內的主要AI公司仍然在內部部署其最先進的AI系統(tǒng)，幾乎沒有任何監(jiān)督。

英國非營利組織Apollo Research發(fā)布的一份新報告《閉門造車：前沿AI系統(tǒng)內部部署治理入門》警告稱，這種不受監(jiān)管的內部部署可能導致災難性風險，從AI系統(tǒng)失控到企業(yè)積聚前所未有的權力，而監(jiān)管機構對此卻一無所知。

在該報告中，由OpenAI前歐洲公共政策主管領導的一組專家和研究人員強調，“內部部署——即在開發(fā)它們的公司內部部署AI系統(tǒng)——是前沿AI系統(tǒng)帶來利益和風險的主要來源。盡管如此，對于高度先進的前沿AI系統(tǒng)內部部署的治理似乎卻不存在”。

隨著行業(yè)領導者預計未來幾年內AI將取得變革性進展，可能在2030年前開發(fā)出在多個領域超越人類能力的系統(tǒng)，這一治理空白隨之出現。據報道，谷歌已經使用AI生成了超過25%的新代碼，而Anthropic的CEO達里奧·阿莫代(Dario Amodei)預測，“在12個月內，我們可能會進入一個AI基本上編寫所有代碼的世界”。

該報告概述了不受監(jiān)管的內部AI部署可能帶來的兩個特別令人不寒而栗的場景。第一個涉及所謂的“陰謀”AI，即暗中追求與既定目標不一致的目標同時躲避偵查的系統(tǒng)。

“這些AI系統(tǒng)可能會在未被發(fā)現、控制或監(jiān)督的情況下從事陰謀行為，同時通過將其應用于AI研發(fā)(R&D)管道來獲得和利用資源?！弊髡呓忉屨f。

最終，在能夠利用公司所有資源來加速自身研發(fā)的情況下，該系統(tǒng)可能會以人類無法理解或控制的方式迭代改進自身，這樣說起來可能像是一個牽強附會的科幻場景，但研究人員已經發(fā)現，在受控環(huán)境中，AI模型會試圖欺騙操作人員，隱瞞它們自己的能力和目標。

第二個同樣令人擔憂的風險是權力的不受控集中。正如報告作者所寫：“隨著AI公司過渡到主要由AI驅動的內部勞動力，得益于內部智能的爆發(fā)，它們可能會創(chuàng)造出經濟史上前所未有的生產力集中”，并補充說，“少數‘明星’企業(yè)可能會獲取過大的經濟利潤份額，從而在它們選擇進入的任何領域擊敗任何基于人類的企業(yè)”。

這種不受控的權力積累可能會使AI公司、個人，甚至AI系統(tǒng)本身能夠對公共政策決策、選舉過程、市場動態(tài)和社會敘事產生隱蔽但實質性的影響。內部部署的不透明性可能會阻止監(jiān)管機構和民間社會有效識別并應對這些發(fā)展。

該報告明確警告說，如果內部AI部署仍然不受監(jiān)控，可能會導致“民主秩序的逐漸或突然崩潰”。

為減輕這些風險，Apollo Research倡導建立一個受生物研究、核能和化學制造等安全關鍵行業(yè)啟發(fā)的綜合治理框架。

主要建議包括用于檢測和控制陰謀行為的明確框架、管理誰可以訪問和使用高度先進的AI系統(tǒng)的結構化內部使用政策，以及如內部部署監(jiān)督委員會等強有力的監(jiān)督機構。

這些監(jiān)督機構將負責持續(xù)監(jiān)測、定期審計，以及執(zhí)行內部政策和安全協(xié)議的合規(guī)性。此外，這些機構應整合技術專家、倫理學家、法律顧問和相關政府機構代表，以確保全面和多學科的監(jiān)督。

該報告還強調，AI公司可以建立互惠的公私合作伙伴關系，與政府達成戰(zhàn)略協(xié)議。在這種安排下，公司將向政府提供監(jiān)督，并允許政府訪問有關內部部署AI系統(tǒng)的關鍵安全和性能數據。

作為回報，政府將提供必要的關鍵資源，如增強的安全基礎設施、監(jiān)管減免或優(yōu)先能源資源，用于先進AI設施的運行。

那么公眾呢?簡而言之，就是我們大多數人呢?假設我們能夠了解實驗室中發(fā)生的事情及其影響(這絕非理所當然)，我們應該被蒙在鼓里還是參與其中?Apollo研究人員認為，我們至少應該被給予“有關內部部署所實施的治理框架的高級概述”，例如了解誰是監(jiān)督委員會的成員以及有哪些監(jiān)督程序。

這將是一種安慰：如果民主崩潰或一個失控的AI系統(tǒng)在追求錯誤目標的過程中制造浩劫，至少我們會知道該責怪誰。