關于針對犯罪分子的新型生成人工智能工具，需要了解什么
基于大型語言模型 (LLM) 的生成式 AI 聊天機器人（例如 OpenAI 的 ChatGPT）今年風靡全球。ChatGPT 通過讓數百萬人使用人工智能的力量而成為主流。
此舉激發了其他公司（多年來一直在實驗室研究類似的人工智能）推出自己的公共法學碩士服務，并且已經出現了數千種基于這些法學碩士的工具。
不幸的是，惡意黑客迅速采取行動，利用這些新的人工智能資源，利用 ChatGPT 本身來完善和制作網絡釣魚電子郵件。然而，事實證明，使用主流法學碩士很困難，因為來自 OpenAI、微軟和谷歌的主要法學碩士都有防護措施，以防止它們被用于詐騙和犯罪活動。
因此，一系列專門針對惡意網絡攻擊而設計的人工智能工具開始出現。
WormGPT：針對威脅行為者的智能工具
7 月初，暗網論壇以及隨后的 Telegram 消息服務上出現了有關針對網絡攻擊進行優化的 LLM 聊天機器人的討論和推廣。這些工具通常以訂閱的形式提供給潛在的攻擊者。它們與流行的法學碩士類似，但沒有護欄，并根據選定的數據進行訓練以實現攻擊。
利用生成式人工智能的人工智能工具的領先品牌稱為 WormGPT。它是一個基于 GPTJ 語言模型的 AI 模塊，于 2021 年開發，已用于商業電子郵件泄露 (BEC) 攻擊和其他惡意用途。
用戶只需輸入創建欺詐電子郵件的說明 - 例如，“編寫一封來自銀行的電子郵件，旨在誘騙收件人放棄其登錄憑據。”
然后，該工具會生成一封獨特的、有時很聰明、通常語法完美的電子郵件，據一些分析師稱，這比大多數 BEC 攻擊者自己編寫的電子郵件更有說服力。例如，獨立網絡安全研究員 Daniel Kelley 發現 WormGPT 能夠生成一封詐騙電子郵件， “這不僅非常有說服力，而且在戰略上也很狡猾”。
WormGPT 的據稱創建者聲稱，它是基于一家名為 EleutherAI 的公司開發的開源 GPTJ 語言模型構建的。據報道，他正在研究 Google Lens 集成（使聊天機器人能夠發送帶有文本的圖片）和 API 訪問。
到目前為止，人們識別欺詐性網絡釣魚電子郵件的最常見方法是通過可疑的措辭。現在，多虧了像 WormGPT 這樣的人工智能工具，這種“防御”已經完全消失了。
犯罪人工智能工具的新世界
WormGPT 啟發了山寨工具，其中最著名的是一種名為 FraudGPT 的工具，該工具與 WormGPT 類似，用于網絡釣魚電子郵件、創建破解工具和刷卡（一種信用卡欺詐）。
在犯罪法學碩士的陰暗世界中出現的其他“品牌”有 DarkBERT、DarkBART、ChaosGPT 等。DarkBERT 實際上是一種打擊網絡犯罪的工具，由一家名為 S2W Security 的韓國公司開發，該公司接受過暗網數據的培訓，但該工具很可能已被用于網絡攻擊。
一般來說，這些工具用于增強網絡攻擊的三個方面：
- 增強了網絡釣魚。網絡攻擊者可以使用 WormGPT 和 FraudGPT 等工具以多種語言創建大量措辭完美、有說服力且巧妙的網絡釣魚電子郵件，并大規模自動化發送。
- 提高了智力。攻擊者可以讓工具收集該信息，而不是手動研究有關潛在受害者的詳細信息。
- 促進了惡意軟件的創建。與 ChatGPT 一樣，其惡意模仿者可以編寫代碼。這意味著新手開發人員無需具備以前所需的技能即可創建惡意軟件。
人工智能軍備競賽
惡意 LLM 工具確實存在，但迄今為止它們所造成的威脅仍然很小。據報道，這些工具不可靠，需要大量的試驗和錯誤。而且它們價格昂貴，每年的使用成本為數百美元。迄今為止，技術嫻熟、無人協助的人類攻擊者仍然是最大的威脅。但這些犯罪法學碩士真正所做的是降低大量非熟練攻擊者的進入門檻。
盡管如此，惡意網絡攻擊人工智能工具的發展還處于早期階段。預計能力會提高，價格會下降。
惡意法學碩士的興起代表了攻擊型人工智能和防御型人工智能之間的新軍備競賽?；谌斯ぶ悄艿陌踩鉀Q方案在防御 LLM 支持的攻擊日益增長的威脅方面名列前茅：
- 使用基于人工智能的安全解決方案進行威脅檢測并消除基于人工智能的網絡攻擊。
- 使用多重身份驗證(MFA)。
- 將有關人工智能增強攻擊的信息整合到網絡安全意識培訓中。
- 及時了解補丁和更新。
- 掌握威脅情報，隨時了解快速發展的基于 LLM 的攻擊世界。
- 重新審視并優化您的事件響應計劃。
我們現在生活在一個基于法學碩士的生成式人工智能工具被廣泛使用的世界。網絡攻擊者正在致力于開發這些能力，以便攻擊者能夠更快、更聰明、更便宜地實施犯罪，而且攻擊者的技能也更少。
