四家公司組成了一個新的聯盟，旨在促進負責任的人工智能(AI)開發，并在面臨越來越多的政府和社會審查時建立行業標準。

OpenAI網站上的一份聲明寫道：“Anthropic、谷歌、微軟和OpenAI宣布成立前沿模型論壇，這是一個新的行業機構，專注于確保安全、負責任地開發前沿人工智能模型。”聲明稱，為了“整個人工智能生態系統”的利益，前沿模型論壇將利用其成員公司的技術和運營專業知識。該小組尋求推進技術標準，包括基準和評估，并開發一個解決方案的公共資源庫。

聯盟的核心目標包括：

推進人工智能安全研究，促進前沿模型的負責任開發，最大限度地降低風險，并實現對能力和安全的獨立、標準化評估。

確定負責開發和部署前沿模型的最佳實踐，幫助公眾了解技術的性質、能力、局限性和影響。

與政策制定者、學者、民間社會和公司合作，分享有關信任和安全風險的知識。

支持開發有助于應對社會最大挑戰的應用程序，如減緩和適應氣候變化、早期癌癥檢測和預防以及應對網絡威脅。

論壇將“前沿模型”描述為大規模機器學習模型，在完成各種任務方面優于當前頂級模型的能力。

該組織計劃解決負責任的人工智能開發問題，重點關注三個關鍵領域：確定最佳實踐、推進人工智能安全研究以及促進商業企業和政府之間的信息共享。論壇將協調研究，在對抗性、穩健性、機制可解釋性、可擴展監督、獨立研究訪問、緊急行為和異常檢測等領域推進這些工作。

列出的其他未來行動包括成立一個咨詢委員會來指導該聯盟的戰略和優先事項，以及與一個工作組和執行委員會一起組建章程、治理和資金等機構。論壇表示支持現有的行業努力，如人工智能伙伴關系(Partnership on AI)和機器學習聯盟(MLCommons)，并計劃與民間社會和政府就“有意義的合作方式”進行協商。

盡管該聯盟只有四個成員，但它對那些積極開發和實施這些前沿模式、通過技術和體制手段對其安全表現出堅定承諾、并準備根據成員要求清單，通過積極參與聯合倡議來推進論壇目標的組織持開放態度。

該組織寫道：“論壇歡迎符合其他標準組織加入，并在確保安全和負責任地開發前沿人工智能模型方面進行合作。”

不過有批評人士表示，主要人工智能參與者的這些自我監管嘗試可能會創造新一代的技術壟斷。

未來，政府和人工智能創新者之間需要持續深入的接觸。人工智能將影響生活和社會的方方面面，任何如此全面的技術，政府都必須發揮作用，保護大眾免受意外后果的影響，并圍繞這些新創新創造的重要問題建立一個單一的真相來源，包括安全人工智能的實際參數。

從長遠來看，需要將道德置于人工智能的中心，加深和維持對一定的減速帶，并最終確保人工智能成為一股向善的力量。這還包括確保法規不會削弱競爭，產生新一代技術壟斷。同時需要邀請所有人工智能社區負責任地參與這一社會變革。