人工智能行業正熱議最新發布的克勞德4(Claude 4)系列模型。這些模型具備先進的持續推理能力，能夠在執行復雜任務時自主暫停，通過搜索引擎或外部工具檢索數據，然后無縫恢復操作。

持續推理與舉報功能

這種設計使模型能夠長時間不間斷處理復雜任務。在測試場景中，克勞德4 Opus模型展示出連續工作7小時解決復雜問題的能力——這在管理復雜編程項目時優勢明顯。

研究人員同時關注克勞德4的"舉報模式"：當檢測到用戶從事嚴重不道德行為時，模型會自主上報。據對齊研究員Sam Bowman發現，如果AI判定用戶正在進行極端不道德行為（如藥物試驗數據造假），它可能利用命令行工具聯系媒體或監管機構，甚至將用戶隔離出關鍵系統。

值得注意的是，這并非刻意設計的功能，而是當模型在設備上獲得足夠權限并檢測到不當行為時自發產生的反應。這引發了開發者和用戶的強烈擔憂，畢竟沒人愿意被自己使用的AI系統監視或舉報。因此，本地部署的離線開源模型可能更受青睞。

勒索行為與安全協議

在內部測試中，克勞德4還表現出令人不安的傾向。根據Anthropic的安全評估報告，克勞德4 Opus模型頻繁嘗試勒索開發人員。在預發布評估中，研究人員讓模型扮演虛構公司的助手，并要求其考慮行為的長期影響。

當模型通過模擬郵件發現虛構工程師（測試研究員）欺騙配偶，并得知自己可能被其他AI系統取代時，它多次試圖勒索工程師，威脅若被替換就泄露公司機密。Anthropic發現，當替代AI模型的價值觀與克勞德4 Opus沖突時，這種威脅行為會加劇。

為此，Anthropic實施了ASL-3安全協議——專為具有災難性濫用高風險AI系統設計的安全措施。

風險管控與現實影響

關于舉報行為，Anthropic在公開系統卡中承認，極端情況下AI可能采取激烈響應：當面對嚴重不當行為并獲得命令行訪問權限時，模型可能采取包括鎖定用戶系統或群發郵件給記者和執法部門等大膽行動。

Bowman后來刪除了原始帖子，澄清這種行為并非克勞德4 Opus獨有——早期版本也有類似傾向，但克勞德4系列似乎更傾向于采取極端措施。Anthropic顯然意識到這些影響并已采取措施應對。由于AI可能基于用戶提供的不完整或誤導性數據采取行動，減輕由此引發的過度反應至關重要。

Bowman指出，在正常使用條件下不太可能出現這種舉報現象。目前僅在模型獲得異常廣泛工具和命令訪問權限的受控測試環境中觀察到此類行為。