英國國家網(wǎng)絡安全中心（NCSC）警告稱，人工智能工具可能會助長勒索軟件威脅的升級，將對網(wǎng)絡安全產(chǎn)生一定的不利影響。

該機構(gòu)稱，網(wǎng)絡犯罪分子現(xiàn)在已經(jīng)利用人工智能進行一些惡意攻擊行為，這種現(xiàn)象極可能在未來兩年內(nèi)進一步惡化，這增加了網(wǎng)絡攻擊的數(shù)量和嚴重程度。

國家安全委員會認為，人工智能能夠幫助那些缺乏經(jīng)驗的威脅行為者、以及雇傭黑客和低技能的黑客節(jié)省時間，進行更有效、更有針對性的攻擊。

大多數(shù)現(xiàn)有的大型學習模型（LLM）平臺，如 ChatGPT 和 Bing Chat，都有防止平臺創(chuàng)建惡意內(nèi)容的保護措施。

但NCSC 稱目前網(wǎng)絡犯罪分子正在制作和營銷專門的生成式人工智能服務，以輔助他們進行犯罪活動。比如 WormGPT，這是一種付費的 LLM 服務，允許威脅行為者生成惡意內(nèi)容，包括惡意軟件和網(wǎng)絡釣魚誘餌。這表明，該技術(shù)已經(jīng)擺脫了受控安全框架的限制，并能夠在更廣泛的犯罪生態(tài)系統(tǒng)中使用。

國家安全委員會在另一份威脅評估報告中提到：目前包括勒索軟件行為者在內(nèi)的不少威脅行為者都已經(jīng)開始使用人工智能來提高網(wǎng)絡行動各方面的效率和效果，如偵察、網(wǎng)絡釣魚和編碼。可以確信這樣的趨勢將持續(xù)到 2025 年以后。

報告指出，人工智能在網(wǎng)絡風險領(lǐng)域的作用預計將是演變性的，它將增強現(xiàn)有的威脅，而不是變革性的。

國家計算機安全委員會的評估要點如下：

• 未來兩年，人工智能可能會加劇網(wǎng)絡攻擊，特別是通過當前戰(zhàn)術(shù)的演變
• 目前，包括國家和非國家實體在內(nèi)的熟練和不太熟練的網(wǎng)絡威脅行為者都在利用人工智能
• 人工智能加強了偵察和社會工程學，使其更加有效和難以察覺
• 在 2025 年之前，人工智能在網(wǎng)絡行動中的復雜應用將主要局限于能夠獲得高質(zhì)量數(shù)據(jù)、專業(yè)知識和資源的行為體
• 通過更快、更有效的數(shù)據(jù)分析和人工智能模型訓練，人工智能將使針對英國的網(wǎng)絡攻擊更具影響力
• 人工智能降低了網(wǎng)絡犯罪新手的準入門檻，加劇了全球勒索軟件威脅
• 到 2025 年，人工智能能力的商品化可能會擴大網(wǎng)絡犯罪分子和國家行為者獲取先進工具的渠道。

下表總結(jié)了人工智能對三種技能水平的特定威脅領(lǐng)域的影響：

NCSC 認為人工智能能夠幫助復雜的 APT幫助更便捷、更快速地生成躲避性定制惡意軟件。

人工智能有可能生成能夠躲避當前安全過濾器檢測的惡意軟件，但前提是必須使用高質(zhì)量的漏洞利用數(shù)據(jù)對其進行訓練。還有一種可能性是，能力強大的國家已擁有足夠大的惡意軟件庫，可以為此有效地訓練人工智能模型。

分析報告指出：人工智能可能會通過提高現(xiàn)有技術(shù)的效率，協(xié)助惡意軟件和漏洞開發(fā)、漏洞研究和橫向移動。同時，中級黑客將在偵察、社會工程學和數(shù)據(jù)提取方面獲得優(yōu)勢，而技能較低的威脅行為者將看到全面的提升，但橫向移動除外，因為它仍然具有挑戰(zhàn)性。

NCSC 認為，生成式人工智能和大型語言模型的出現(xiàn)，讓人們在識別網(wǎng)絡釣魚、欺騙和社交工程企圖等方面面臨巨大挑戰(zhàn)。