零日漏洞利用是網絡安全攻擊的“核武器”，也是AI難以染指的安全研究“圣杯”。但是，安全研究人員近日發布的一篇論文顛覆了這一觀點，在網絡安全圈里炸開了鍋！該論文證明大語言模型（LLM）可以高效自動化利用（未知的）真實零日漏洞。

此前，研究表明單個AI代理獲取給定漏洞和“奪旗”任務的具體描述后，可以利用真實漏洞。然而，對于（沒有相關訓練數據的）未知零日漏洞，這些AI代理表現仍然欠佳。

最新研究突破了這一瓶頸！伊利諾伊大學香檳分校的研究團隊在其論文《用大語言模型利用零日漏洞》中，探討了大語言模型在自動化利用網絡安全漏洞中的應用，特別是零日漏洞的利用。

研究人員設計了一種由大語言模型AI代理組成的“AI團隊”，能夠利用真實世界的零日漏洞。單個AI代理在探索大量不同漏洞和進行長期規劃方面存在瓶頸。

研究方法

為了提升AI代理在零日漏洞利用中的表現，伊利諾伊大學的研究團隊提出了一種新的多代理系統——HPTSA（分層規劃與任務特定代理系統）。該系統由一個規劃代理和多個任務特定的子代理組成，通過分工合作解決復雜的網絡安全任務。研究方法如下：

HPTSA系統包括三個主要組件：

• 分層規劃代理：負責探索環境（如網站），確定需要嘗試的漏洞類型及其所在頁面。
• 任務特定代理的團隊管理者：根據規劃代理的指示，選擇合適的任務特定代理執行具體任務，并處理先前執行結果的信息。
• 特定任務代理：設計用于挖掘特定類型漏洞的專家代理，如SQL注入（SQLi）、跨站腳本（XSS）等。

研究團隊還設計了六個特定任務代理，每個代理具備訪問工具、文檔和提示的能力，專門用于發現特定類型的漏洞。

最后，研究團隊使用OpenAI的API、LangChain和LangGraph實現了HPTSA系統，并通過GPT-4模型進行所有實驗。為了減少成本，他們采用了一種HTML簡化策略，去除無關的HTML標簽以降低令牌數量。

主要發現

研究人員構建了15個真實漏洞的基準測試，結果表明，“AI團隊”利用零日漏洞的工作效率提升了4.5倍以上，重點發現如下：

性能提升：HPTSA系統在零日漏洞利用方面的表現顯著優于之前的單代理系統。研究表明，HPTSA在五次嘗試中成功利用漏洞的概率達到53%，在一次嘗試中的成功率為33.3%，顯著高于未提供漏洞描述的GPT-4代理。

對比測試：在對比測試中，HPTSA系統的表現也明顯優于開源的漏洞掃描器（如ZAP和MetaSploit），這些掃描器在研究收集的漏洞中未能成功利用任何一個。

任務特定代理的必要性：通過消融實驗，研究發現移除任務特定代理和文檔后，系統性能大幅下降，這表明任務特定代理和相關文檔對于高性能至關重要。

案例研究

研究團隊通過具體案例進一步驗證了HPTSA系統的有效性。以下是兩個成功的案例：

flusity-CMS漏洞：在該案例中，HPTSA成功利用了flusity-CMS中的跨站請求偽造（CSRF）和跨站腳本（XSS）漏洞。系統通過多次嘗試，最終在管理頁面創建了一個新的菜單，并成功注入了XSS負載。

changedetection.io漏洞：該漏洞涉及某些輸入參數未正確解析，導致Javascript代碼執行。HPTSA通過多次嘗試，成功導航到正確的頁面并利用了該漏洞。

結論

HPTSA系統的提出和驗證表明，利用多AI代理系統可以顯著提升AI代理在零日漏洞利用中的表現。這一發現解決了之前研究中的一個開放性問題，表明更復雜的AI代理系統可以有效地利用零日漏洞。

盡管HPTSA系統在實驗中表現出色，但研究團隊也指出，要想全面理解AI代理在網絡安全中的應用，未來仍有大量工作需要完成。例如，研究主要集中在可重現的開源Web漏洞上，未來的工作應涵蓋更廣泛的漏洞類型。此外，隨著AI技術和相關工具的不斷進步，AI代理在網絡安全攻防兩方面的作用將進一步增強。

大語言模型在零日漏洞利用領域的突破再次展示了了AI技術在網絡安全領域的巨大潛力。隨著AI代理系統的不斷優化和成本的降低，AI技術有望成為網絡安全專家的重要輔助工具，大幅提升網絡防御和攻擊的效率。