12 月 10 日消息，本周末，歐盟就全球首個 AI 監管法案“AI Act”達成初步協議，涉及包括 ChatGPT 在內的通用人工智能系統，這被視為世界上第一個全面監管 AI 的關鍵一環。

綜合《財富》雜志、彭博社當地時間周六晚上報道，根據彭博社獲得的一份歐盟文件，所有通用人工智能系統的開發人員（或者很有可能會被廣泛應用的強大模型）都必須滿足基本的透明度要求，除非這些系統是免費開源的。

IT之家附有關要求如下：

• 制定可接受的使用政策
• 隨時更新有關模型訓練的信息
• 將用于訓練模型的數據進行匯總，將詳細摘要上報
• 制定尊重《版權法》的政策

根據該文件，被認為會構成“系統性風險”的模型將受到額外規則的約束。報道稱，歐盟將根據訓練模型的計算能力來確定是否存在風險，為模型設定的閾值是每秒超過 10 萬億次運算。有專家表示，目前唯一能達到這一門檻的模型是 OpenAI 的 GPT-4。

此外，歐盟執行機構還可根據數據集的規模、是否在歐盟擁有至少 10000 名注冊商業用戶、注冊用戶的最終數量等可能的指標來指定其他閾值。

報道還稱，在歐盟委員會制定出更協調且長期有效的控制措施期間，這些“能力更強”的模型應該簽署行為準則。這些模型還必須滿足如下要求：

• 主動報告自身能耗情況
• 在內部或外部進行紅隊測試 / 對抗性測試
• 評估和減輕可能的系統性風險，并報告任何事件
• 確保使用適當的網絡安全控制措施
• 報告用于微調模型的信息及其系統結構
• 如果制定了更節能的標準，則開發過程中應當符合新的標準

至于沒有簽署行為準則的模型，則必須向歐盟委員會證明它們確實會遵守《AI 法案》。需要注意的是，對開源模型的豁免不適用于那些“被認為會帶來系統性風險”的模型。