AI的強(qiáng)大和快速發(fā)展正在迅速改變網(wǎng)絡(luò)安全格局，給網(wǎng)絡(luò)安全捍衛(wèi)者帶來(lái)機(jī)遇和挑戰(zhàn)。隨著ChatGPT等流行的AI工具以及最近更強(qiáng)大的GenAI系統(tǒng)成為數(shù)字生態(tài)系統(tǒng)的中流砥柱，網(wǎng)絡(luò)安全專(zhuān)業(yè)人員將越來(lái)越多地應(yīng)對(duì)新的威脅，同時(shí)也轉(zhuǎn)向AI技術(shù)來(lái)識(shí)別和抵御這些威脅。

安全公司Axonius發(fā)布了一項(xiàng)關(guān)于IT和安全團(tuán)隊(duì)狀況的調(diào)查，其中揭示了AI如何上升到網(wǎng)絡(luò)安全議程的首位，以實(shí)現(xiàn)AI時(shí)代的希望和應(yīng)對(duì)危險(xiǎn)。Axonius調(diào)查了美國(guó)、英國(guó)和澳大利亞擁有500名或更多員工的950家公司的IT和安全決策者。

調(diào)查發(fā)現(xiàn)，76%的受訪者表示，與12個(gè)月前相比，他們的企業(yè)在AI或ML方面的支出更多，超過(guò)85%的受訪者表示，他們有興趣在來(lái)年將AI應(yīng)用于企業(yè)的IT和安全運(yùn)營(yíng)。Axonius還發(fā)現(xiàn)，近39%的IT和安全決策者表示，他們的企業(yè)在過(guò)去12個(gè)月中減少了IT或安全員工人數(shù)，他們的企業(yè)采用了基于AI的工具來(lái)簡(jiǎn)化任務(wù)，以跟上減少的員工人數(shù)而帶來(lái)的工作量相對(duì)增加的趨勢(shì)。

這些調(diào)查結(jié)果與另一項(xiàng)調(diào)查結(jié)果相吻合：近72%的IT和安全決策者報(bào)告擔(dān)心GenAI對(duì)其企業(yè)的網(wǎng)絡(luò)安全的潛在不利影響。

正如調(diào)查顯示的那樣，網(wǎng)絡(luò)防御者將越來(lái)越多地使用AI技術(shù)來(lái)防御AI帶來(lái)的網(wǎng)絡(luò)威脅。Axonius高級(jí)安全總監(jiān)Daniel Trauner告訴記者：“如果這項(xiàng)技術(shù)讓攻擊者可以更快或更便宜地做一些事情，那么防御者也必須考慮如何才能更快、成本更低地做一些事情，并有效地利用我們擁有的資源做更多的事情。”

網(wǎng)絡(luò)攻擊者越來(lái)越善于利用由AI支持的惡意軟件進(jìn)行網(wǎng)絡(luò)攻擊

在AI技術(shù)采用的早期，可能會(huì)使天平傾向于惡意行為者的一個(gè)因素是，防御者采用最新AI防御工具的速度相對(duì)較慢，也更單一，這至少讓攻擊者獲得了暫時(shí)的優(yōu)勢(shì)。Phylum的CSO Peter Morgan告訴記者：“AI的進(jìn)步如此之快，我們不可能希望所有使用它的人都能完全理解正在發(fā)生的事情。”“時(shí)間上的差異現(xiàn)在是個(gè)大問(wèn)題。”

“與建立攻擊者可以使用的東西相比，建立網(wǎng)絡(luò)防御系統(tǒng)需要很長(zhǎng)時(shí)間，比如說(shuō)，1%的時(shí)間是有效的。如果他們追求的是1000、10000或100000個(gè)目標(biāo)，那么很容易計(jì)算出1%的成功會(huì)給你帶來(lái)多少，但作為一名防守者，1%的成功對(duì)你幫助不大。真的，你想要的東西產(chǎn)品化，并在可靠的意義上擺在客戶或用戶面前，這需要很長(zhǎng)的時(shí)間。”

一些專(zhuān)家認(rèn)為，網(wǎng)絡(luò)攻擊者擁有不對(duì)稱(chēng)的優(yōu)勢(shì)是網(wǎng)絡(luò)安全專(zhuān)業(yè)人士已經(jīng)習(xí)慣并已經(jīng)處理了很長(zhǎng)時(shí)間的問(wèn)題。“每個(gè)從事網(wǎng)絡(luò)安全防護(hù)工作的人，我們不可能只看到好的一面而不看到不好的一面，對(duì)吧?”CrowdSec的合作主管Andrea Hervier告訴記者，“我們總是試圖思考一項(xiàng)潛在的新技術(shù)可能會(huì)帶來(lái)什么后果，但當(dāng)我們此刻審視AI在網(wǎng)絡(luò)安全方面的好處時(shí)，我們也可以說(shuō)，許多好處同時(shí)也是缺陷。”

Hervier說(shuō)，“AI的出現(xiàn)代表了一枚硬幣的兩面。我可以肯定地說(shuō)，一邊GenAI可以自動(dòng)完成很多日常任務(wù)，它可以大規(guī)模地完成它們，并且可以非常快地完成它們，這可以被視為一件好事。如果它掌握在網(wǎng)絡(luò)罪犯手中，也可以被視為一件壞事。”

Viking Cloud的全球安全架構(gòu)師Fayyaz Makhani告訴記者，“即使AI目前是一個(gè)不對(duì)稱(chēng)的威脅，防御者也沒(méi)有什么可害怕的。我們不需要害怕AI，我們可以用幾種不同的方式來(lái)看待它，如果我們把它視為工具，并將其視為對(duì)我們所做的任何事情的支持，無(wú)論它是網(wǎng)絡(luò)安全的白色一面還是非白色一面，我認(rèn)為無(wú)論哪種方式，我們都有能力以許多不同的方式利用AI。”

AI防御者將面臨的網(wǎng)絡(luò)威脅

盡管很難預(yù)見(jiàn)隨著AI技術(shù)的發(fā)展，防御者將面臨哪些類(lèi)型的威脅，但攻擊者大規(guī)模生成合成內(nèi)容的能力是一個(gè)最令人擔(dān)憂的問(wèn)題。“綜合生成新的或看似真實(shí)的內(nèi)容的能力將非常具有危害性。如果你舉一個(gè)發(fā)生在民族國(guó)家層面的事情為例，如果一個(gè)民族國(guó)家攻擊者試圖為一系列賬戶在網(wǎng)上建立一個(gè)存在，讓它們看起來(lái)像是真實(shí)的，那就有一個(gè)完整的過(guò)程。”

“你創(chuàng)建一個(gè)新的賬戶，在里面放一堆內(nèi)容，然后讓它互動(dòng)。通常情況下，威脅參與者多年來(lái)一直讓人們這樣做，在網(wǎng)上建立這些身份，它看起來(lái)像是真人，花了大量的人類(lèi)時(shí)間和精力來(lái)綜合創(chuàng)造這些東西，并在這些時(shí)間段里讓它們成熟，ChatGPT的內(nèi)容生成可以為你完成所有這些工作。現(xiàn)在，它只是編寫(xiě)一些代碼來(lái)自動(dòng)化處理，它正在改變攻擊者在音量水平上所能做的事情的格局。”

當(dāng)談到攻擊者目前使用的最常見(jiàn)的惡意AI用例——改進(jìn)釣魚(yú)電子郵件的語(yǔ)言時(shí)，網(wǎng)絡(luò)防御者正在迅速應(yīng)對(duì)這一挑戰(zhàn)。Makhani說(shuō)：“釣魚(yú)的例子是一個(gè)很好的例子，說(shuō)明了一種對(duì)雙方都有效的技術(shù)。”因此，邪惡的用戶使用AI、ChatGPT或其他生成模型來(lái)創(chuàng)建更好的釣魚(yú)電子郵件，但另一方面，我們正在開(kāi)發(fā)的工具采用了許多類(lèi)似的技術(shù)來(lái)檢測(cè)這些網(wǎng)絡(luò)釣魚(yú)電子郵件或其他類(lèi)型的垃圾郵件中的模式。“。

“AI將使攻擊者更容易進(jìn)行更好的釣魚(yú)攻擊，但它也不可避免地會(huì)使防御變得更強(qiáng)大。”Morgan說(shuō)。

需要謹(jǐn)慎實(shí)施AI技術(shù)

AI技術(shù)快速、復(fù)雜，而且在運(yùn)營(yíng)中往往不透明，如果不仔細(xì)實(shí)施，會(huì)不會(huì)給網(wǎng)絡(luò)捍衛(wèi)者帶來(lái)負(fù)擔(dān)?包括三星、蘋(píng)果、Spotify、Verizon和亞馬遜在內(nèi)的越來(lái)越多的公司正在限制員工使用ChatGPT，以避免一種這樣的責(zé)任：泄露敏感的客戶或企業(yè)數(shù)據(jù)。

自美國(guó)證交會(huì)10月下旬指控SolarWinds及其CISO在涉嫌已知的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)和漏洞方面存在欺詐和內(nèi)部控制失誤以來(lái)，圍繞組織網(wǎng)絡(luò)安全做法的質(zhì)疑進(jìn)一步加劇，這一事態(tài)發(fā)展在信息安全界引發(fā)了激烈辯論。Phylum的Morgan說(shuō)：“將會(huì)出現(xiàn)涉及AI的新攻擊，我認(rèn)為你不能指望或合理地起訴一個(gè)沒(méi)有防御的人，因?yàn)樗鼈兛赡苁侨碌摹！?/p>

Axonius的Trauner認(rèn)為，該行業(yè)已經(jīng)在主動(dòng)監(jiān)控AI風(fēng)險(xiǎn)和責(zé)任。只需看看一堆已經(jīng)出來(lái)的框架，你就能看出安全行業(yè)對(duì)這里的風(fēng)險(xiǎn)和責(zé)任給予了非常仔細(xì)的關(guān)注。對(duì)于大型語(yǔ)言模型應(yīng)用程序，已經(jīng)有了OWASP前10名。NIST發(fā)布了其AI風(fēng)險(xiǎn)管理框架，還有拜登的行政命令。

AI發(fā)展如此之快，Trauner說(shuō)：“關(guān)于這項(xiàng)技術(shù)，我要說(shuō)的是，它與我親身經(jīng)歷過(guò)的許多其他技術(shù)不同，它的進(jìn)步速度是獨(dú)一無(wú)二的，我還沒(méi)有見(jiàn)過(guò)任何東西發(fā)展得如此之快。”