人工智能基準組織MLCommons宣布成立人工智能安全（AIS：AI Safety）工作組。AIS將開發(fā)一個平臺和來自許多貢獻者的測試庫，以支持不同用例的人工智能安全基準。

人工智能系統(tǒng)為社會提供了巨大利益的潛力，但它們并非沒有風險，如有害性、錯誤信息和偏見。與其他復(fù)雜技術(shù)一樣，社會需要行業(yè)標準的安全測試來實現(xiàn)效益，同時將風險降至最低。

新平臺將支持定義從測試庫中選擇的基準，并將輸出匯總為有用的、可理解的分數(shù)——類似于其他行業(yè)的標準，如汽車安全測試評級和能源星級分數(shù)。

這項工作的當務(wù)之急是支持更嚴格、更可靠的人工智能安全測試技術(shù)的快速發(fā)展。AIS工作組將利用其成員和更大的人工智能社區(qū)的技術(shù)和運營專業(yè)知識，幫助指導(dǎo)和創(chuàng)建人工智能安全基準技術(shù)。

埃因霍溫理工大學(xué)機器學(xué)習(xí)（ML）副教授Joaquin Vanschoren表示：“廣泛的人工智能社區(qū)正在制定的安全基準具有開放性和動態(tài)性，這為制定和實現(xiàn)共同目標創(chuàng)造了真正的激勵?！薄叭绻魏稳丝吹轿唇鉀Q的安全問題，他們都可以提出新的測試。我們有一些世界上最聰明的人聚在一起實際解決這些問題，使用基準意味著我們將清楚地了解哪些人工智能模型最能解決安全問題。”

初始重點將是開發(fā)大型語言模型（LLM）的安全基準，以斯坦福大學(xué)基礎(chǔ)模型研究中心（CRFM）及其語言模型整體評估（HELM）的研究人員所做的開創(chuàng)性工作為基礎(chǔ)。除了建立在HELM框架的基礎(chǔ)上并納入其許多安全相關(guān)測試外，工作組還希望一些公司將其內(nèi)部用于專有目的的人工智能安全測試外部化，并與MLCommons社區(qū)公開分享，這將有助于加快創(chuàng)新步伐。

基礎(chǔ)模型研究中心主任Percy Liang表示：“我們開發(fā)HELM這一模塊化評估框架已經(jīng)有大約2年的時間了。我很高興能與MLCommons合作，利用HELM進行人工智能安全評估，這是我思考了7年的課題，隨著強大的基礎(chǔ)模型的興起，這一課題變得極其緊迫?！?/span>

AIS工作組認為，隨著測試的成熟，標準的人工智能安全基準將成為人工智能安全方法的重要組成部分。這與負責任的人工智能技術(shù)發(fā)展和基于風險的政策框架相一致，例如幾家科技公司于2023年7月向美國白宮做出的關(guān)于安全、安保和信任的自愿承諾、NIST的人工智能風險管理框架以及歐盟即將出臺的《人工智能法》。

MLCommons支持行業(yè)和學(xué)術(shù)界的廣泛利益相關(guān)者開發(fā)共享數(shù)據(jù)、工具和基準，以更有效地構(gòu)建和測試人工智能系統(tǒng)。MLCommons執(zhí)行董事David Kanter表示：“我們很高興能與會員合作。……明年，我們將專注于構(gòu)建和部署人工智能安全基準，首先從開源模型開始，目的是在初步方法得到驗證后，將基準更廣泛地應(yīng)用于其他LLM?！?/span>

首次參與AIS工作組的包括一個由人工智能專家組成的多學(xué)科小組，包括：Anthropic、Coactive AI、Google、Inflection、Intel、Meta、Microsoft、NVIDIA、OpenAI、高通，以及埃因霍溫理工大學(xué)的學(xué)者Joaquin Vanstoren、斯坦福大學(xué)的Percy Liang和芝加哥大學(xué)的Bo·Li。學(xué)術(shù)界和產(chǎn)業(yè)界的研究人員和工程師以及民間社會和公共部門的領(lǐng)域?qū)＜揖蓞⒓庸ぷ鹘M。點擊閱讀原文，了解如何參與AIS工作組。

關(guān)于MLCommons

MLCommons是構(gòu)建人工智能基準的世界領(lǐng)導(dǎo)者組織。它是一個開放的工程聯(lián)盟，其使命是通過基準和數(shù)據(jù)讓每個人都能更好地進行機器學(xué)習(xí)。MLCommons的基礎(chǔ)始于2018年的MLPerf基準，該基準作為一組行業(yè)指標迅速擴展，以衡量機器學(xué)習(xí)性能并提高機器學(xué)習(xí)技術(shù)的透明度。MLCommons與其125多名成員、全球技術(shù)提供商、學(xué)者和研究人員合作，專注于通過基準和指標、公共數(shù)據(jù)集和最佳實踐為整個機器學(xué)習(xí)行業(yè)構(gòu)建工具的協(xié)同工程工作。