谷歌、微軟、OpenAI 和 Anthropic 發(fā)布聯(lián)合聲明，任命美國智庫學(xué)會高管 Chris Meserole 為前沿模型論壇 (Frontier Model Forum) 首任執(zhí)行董事。并宣布設(shè)立 1000 萬美元的 AI 安全基金，“以推動正在進(jìn)行的工具開發(fā)研究，幫助社會能夠有效地測試和評估最有能力的 AI 模型。”

前沿模型論壇由微軟、OpenAI、谷歌和 Anthropic 在今年 7 月聯(lián)合創(chuàng)立而成，是一個專注于確保安全和負(fù)責(zé)任地開發(fā)前沿人工智能模型的行業(yè)機(jī)構(gòu)。該論壇旨在幫助：

• 推動人工智能安全研究，促進(jìn)負(fù)責(zé)任地開發(fā)前沿模型并最大限度地降低潛在風(fēng)險(xiǎn)；
• 確定前沿模型的安全最佳實(shí)踐；
• 與政策制定者、學(xué)術(shù)界、民間社會和其他方面分享知識，推動負(fù)責(zé)任的人工智能發(fā)展；
• 以及大力支持開發(fā)有助于應(yīng)對社會挑戰(zhàn)的 AI 應(yīng)用程序。

公告指出，AI 安全基金將支持來自世界各地附屬于學(xué)術(shù)機(jī)構(gòu)、研究機(jī)構(gòu)和初創(chuàng)公司的獨(dú)立研究人員。初始資金來自 Anthropic、谷歌、微軟和 OpenAI，以及其他慈善合作伙伴。

基金的主要重點(diǎn)將在于，支持開發(fā)新的模型評估技術(shù)，以幫助開發(fā)和測試前沿系統(tǒng)潛在危險(xiǎn)能力的評估技術(shù)。“我們相信，增加該領(lǐng)域的資金將有助于提高安全標(biāo)準(zhǔn)，并為行業(yè)、政府和民間社會應(yīng)對 AI 系統(tǒng)帶來的挑戰(zhàn)所需的緩解和控制提供見解。 ”

該基金將在未來幾個月內(nèi)征集提案。前沿模型論壇還計(jì)劃成立一個顧問委員會，以幫助指導(dǎo)其戰(zhàn)略和優(yōu)先事項(xiàng)。

1000 萬美元不算小數(shù)目，但在 AI 安全研究的背景下以及與前沿模式論壇成員在商業(yè)活動上的花費(fèi)相比，這一數(shù)目就 “顯得相當(dāng)保守了”。科技媒體 TechCrunch 指出，僅今年一年，Anthropic 就從亞馬遜籌集了數(shù)十億美元，用于開發(fā)下一代 AI 助手，此前谷歌也向其投資了 300 美元。

且與其他 AI 安全基金相比，該基金的規(guī)模也很小。根據(jù)博客 Less Wrong 的分析，由 Facebook 創(chuàng)始人 (Dustin Moskovitz 聯(lián)合創(chuàng)辦的資助和研究基金會 Open Philanthropy 已為 AI 安全捐贈了約 3.07 億美元。

公益公司 “The Survival and Flourishing Fund” 也已向 AI 安全項(xiàng)目捐贈了約 3000 萬美元。美國國家科學(xué)基金會表示，未來兩年將斥資 2000 萬美元用于 AI 安全研究，部分資金由 Open Philanthropy 資助。

“前沿模型論壇暗示下一步將成立一個規(guī)模更大的基金。如果這一目標(biāo)實(shí)現(xiàn)，它可能有機(jī)會推動 AI 安全研究 —— 前提是我們相信該基金的明確營利性支持者不會對研究施加不當(dāng)影響。但無論你如何劃分，首批資金似乎都過于有限，無法取得多大成就。”