人工智能的發展日新月異，尤其是生成型人工智能，已經成為科技行業的熱門話題。然而，生成型人工智能也存在著失控的風險。為了確保生成型人工智能的“安全和負責任”地發展，今天，四家領先的人工智能科技公司宣布成立前沿模型論壇（Frontier Model Forum）。

前沿模型論壇是一個專注于前沿人工智能模型的組織，由微軟、OpenAI、谷歌和 Anthropic 四家公司共同發起。所謂前沿人工智能模型，是指那些超越現有最先進模型的能力，并且可以執行多種任務的大規模機器學習模型。

在谷歌的博客文章中，該組織公布了其目標，IT之家翻譯如下：

• 推進人工智能安全研究，促進前沿模型的負責任開發，降低風險，并實現獨立、標準化的能力和安全評估。
• 確定前沿模型負責任開發和部署的最佳實踐，幫助公眾了解這項技術的性質、能力、局限和影響。
• 與政策制定者、學者、民間社會和企業合作，分享有關信任和安全風險的知識。
• 支持開發可以幫助應對社會最大挑戰的應用，例如減緩和適應氣候變化、早期癌癥檢測和預防、以及應對網絡威脅。

該組織將首先建立一個顧問委員會，以便開始制定前沿人工智能模型的安全標準建議，并開展人工智能安全研究，并與其他公司和政府分享這些工作成果。

聯合聲明中引用了微軟總裁 Brad Smith 的話：“創造人工智能技術的公司有責任確保它是安全、可靠且受人類控制的。這一倡議是讓科技界共同推進負責任的人工智能發展并應對挑戰的重要一步，以便它造福全人類。”

前沿模型論壇也歡迎更多從事前沿人工智能模型開發的公司加入該組織，只要他們也表現出對前沿模型安全的堅定承諾，包括通過技術和制度方面的方法。