隨著AI技術(shù)的突破性發(fā)展，攻擊者正在加速AI的武器化，結(jié)合社會(huì)工程技術(shù)讓企業(yè)防不勝防；與此同時(shí)，在防御側(cè)，AI也是CISO贏得人工智能軍備競(jìng)賽的關(guān)鍵武器。

2024年，AI將如何改變網(wǎng)絡(luò)安全的游戲規(guī)則？近日，科技媒體VentureBeat采訪了13家公司的15位網(wǎng)絡(luò)安全領(lǐng)導(dǎo)者，匯總了他們對(duì)2024年的預(yù)測(cè)。受訪者普遍認(rèn)為，2024年CISO的首要目標(biāo)是建立安全人員與AI和合作關(guān)系。AI需要人類的洞察力才能充分發(fā)揮其抵御網(wǎng)絡(luò)攻擊的潛力，以下為安全大咖們的主要預(yù)測(cè)觀點(diǎn)：

人工智能帶來(lái)檢測(cè)能力的提升和挑戰(zhàn)

——Ericom網(wǎng)絡(luò)安全部門(mén)Peter Silva

人工智能的模式識(shí)別能力可用于提升檢測(cè)能力（例如新的攻擊模式或CVE漏洞，包括攻擊嘗試，甚至預(yù)測(cè)某個(gè)L3DDoS攻擊是在掩護(hù)被疏忽的撞庫(kù)攻擊）。但同時(shí)人工智能也會(huì)讓檢測(cè)變得更加困難，例如探測(cè)器無(wú)法區(qū)分人類網(wǎng)絡(luò)釣魚(yú)攻擊和人工智能生成的網(wǎng)絡(luò)釣魚(yú)攻擊，這將促進(jìn)檢測(cè)技術(shù)的不斷發(fā)展。

影子AI和大模型部署帶來(lái)新的數(shù)據(jù)安全風(fēng)險(xiǎn)

——CrowdStrike首席技術(shù)官Elia Zaitsev

CrowdStrike預(yù)計(jì)，到2024年攻擊者將把注意力轉(zhuǎn)移到人工智能系統(tǒng)上，將其作為最新的威脅媒介，通過(guò)批準(zhǔn)的人工智能部署中的漏洞以及員工未經(jīng)批準(zhǔn)使用人工智能工具（影子AI）的盲點(diǎn)來(lái)攻擊目標(biāo)組織。

安全團(tuán)隊(duì)對(duì)人工智能威脅模型的了解以及監(jiān)控員工影子AI仍處于早期階段，這些盲點(diǎn)和新技術(shù)為渴望滲透企業(yè)網(wǎng)絡(luò)或訪問(wèn)敏感數(shù)據(jù)的威脅行為者打開(kāi)了大門(mén)。在沒(méi)有安全團(tuán)隊(duì)監(jiān)督的情況下使用新人工智能工具的員工將給公司帶來(lái)新的數(shù)據(jù)泄漏風(fēng)險(xiǎn)。

過(guò)度依賴人工智能導(dǎo)致安全運(yùn)營(yíng)缺乏監(jiān)管

——CyCognito首席執(zhí)行官Rob Gurzeev

生成式AI將對(duì)安全產(chǎn)生積極的影響，但也帶來(lái)一個(gè)巨大風(fēng)險(xiǎn)：AI可能會(huì)讓安全團(tuán)隊(duì)過(guò)于自滿，這很危險(xiǎn)。過(guò)度依賴人工智能可能會(huì)導(dǎo)致組織的安全運(yùn)營(yíng)缺乏監(jiān)督，很容易在攻擊面中造成漏洞。不要認(rèn)為一旦人工智能變得足夠聰明，就可以減少對(duì)人類洞察力的依賴，這實(shí)際上是一種“滑坡”。

AI能幫助企業(yè)提高防御響應(yīng)速度

——Cyberhaven首席執(zhí)行官Howard Ting

Cyberhaven今年早些時(shí)候的調(diào)查數(shù)據(jù)顯示，4.7%的員工曾將機(jī)密數(shù)據(jù)粘貼到ChatGPT中，其中11%的數(shù)據(jù)是敏感數(shù)據(jù)。但情況最終會(huì)朝好的方向轉(zhuǎn)變，隨著大語(yǔ)言模型/生成式AI的成熟，安全團(tuán)隊(duì)將能夠使用它來(lái)加速防御。

生成式AI可提高安全大數(shù)據(jù)的可用性

——Gutsy聯(lián)合創(chuàng)始人兼首席技術(shù)官John Morello

生成式AI有巨大的潛力，可以幫助安全團(tuán)隊(duì)高效處理海量事件數(shù)據(jù)。數(shù)據(jù)湖和SIEM傳統(tǒng)方法只是收集數(shù)據(jù)，在數(shù)據(jù)的易用性方面沒(méi)有多少建樹(shù)，對(duì)話式人工智能可以大大提高數(shù)據(jù)的可用性。

生成式AI降低了關(guān)鍵基礎(chǔ)設(shè)施攻擊門(mén)檻

——霍尼韋爾互聯(lián)企業(yè)首席技術(shù)官Jason Urso

關(guān)鍵基礎(chǔ)設(shè)施一直是惡意行為者的主要目標(biāo)。之前成功的攻擊涉及的復(fù)雜性超出了普通黑客的能力。然而，生成式AI降低了門(mén)檻，讓經(jīng)驗(yàn)不足的黑客能夠生成惡意軟件、發(fā)起復(fù)雜的網(wǎng)絡(luò)釣魚(yú)攻擊以獲得對(duì)系統(tǒng)的訪問(wèn)權(quán)限，并執(zhí)行自動(dòng)滲透測(cè)試。

關(guān)鍵基礎(chǔ)設(shè)施的威脅態(tài)勢(shì)正在演變?yōu)槿斯ぶ悄芊烙斯ぶ悄堋?/p>

在關(guān)鍵基礎(chǔ)設(shè)施的防御側(cè)，生成式AI將用作閉環(huán)OT防御方法——根據(jù)威脅形勢(shì)的變化動(dòng)態(tài)改變安全配置和防火墻規(guī)則，并執(zhí)行自動(dòng)滲透測(cè)試以了解風(fēng)險(xiǎn)變化。”

人工智能不意味著網(wǎng)絡(luò)安全人才將失業(yè)

——Ivanti首席產(chǎn)品官Srinivas Mukkamala

2024年，很多員工將更加擔(dān)心人工智能對(duì)其職業(yè)生涯的影響。例如，最近的研究發(fā)現(xiàn)，近三分之二的IT員工擔(dān)心未來(lái)五年內(nèi)人工智能將取代他們的工作。企業(yè)領(lǐng)導(dǎo)者需要向員工明確、透明地說(shuō)明他們計(jì)劃如何實(shí)施人工智能，以便留住有才華的員工——因?yàn)榭煽康娜斯ぶ悄苄枰斯けO(jiān)督。

此外，人工智能將產(chǎn)生更復(fù)雜的社會(huì)工程攻擊。到2024年，人工智能工具的可用性不斷提高將使社會(huì)工程攻擊更容易得手。隨著公司在檢測(cè)傳統(tǒng)網(wǎng)絡(luò)釣魚(yú)電子郵件方面的能力越來(lái)越強(qiáng)，黑客已經(jīng)轉(zhuǎn)向新技術(shù)來(lái)提高釣魚(yú)郵件的可信度。此外，不法分子使用人工智能工具制造的錯(cuò)誤信息將對(duì)組織、政府和整個(gè)社會(huì)構(gòu)成真正的威脅。

生成式人工智能將改變網(wǎng)絡(luò)安全崗位的工作性質(zhì)

——Lacework首席信息官M(fèi)erritt Baer

機(jī)器人不會(huì)接管安全崗位，但會(huì)讓網(wǎng)絡(luò)安全工作的性質(zhì)發(fā)生變化。很多安全人士已經(jīng)開(kāi)始用AI自動(dòng)執(zhí)行重復(fù)性任務(wù)，如果更進(jìn)一步呢？如果生成式AI代理不僅可以提示你編寫(xiě)自動(dòng)化程序（“這是您本周已經(jīng)見(jiàn)過(guò)X次的問(wèn)題/請(qǐng)求；您想自動(dòng)化它嗎？”），而且還可以給出執(zhí)行該操作所需的代碼（例如編寫(xiě)漏洞緩解或補(bǔ)丁代碼），該怎么辦？。我預(yù)計(jì)網(wǎng)絡(luò)安全工作崗位的最終價(jià)值將符合計(jì)算機(jī)編程教母艾達(dá)·洛夫萊斯(AdaLovelace)的預(yù)見(jiàn)：人類的創(chuàng)造性和創(chuàng)新性思維至關(guān)重要；計(jì)算機(jī)擅長(zhǎng)的是可靠的處理，從大型數(shù)據(jù)集中導(dǎo)出模式，并以數(shù)學(xué)準(zhǔn)確性執(zhí)行行動(dòng)。”

AI可幫助安全團(tuán)隊(duì)跟上開(kāi)發(fā)的腳步

——Palo Alto Networks Prisma Cloud高級(jí)副總裁Ankur Shah

如今的安全團(tuán)隊(duì)已經(jīng)無(wú)法跟上應(yīng)用程序開(kāi)發(fā)的步伐，這導(dǎo)致生產(chǎn)環(huán)境中存在無(wú)數(shù)安全風(fēng)險(xiǎn)。糟糕的是，應(yīng)用開(kāi)發(fā)正在不斷提速，越來(lái)越多的開(kāi)發(fā)人員利用AI技術(shù)快速編寫(xiě)和發(fā)布新代碼，不久的將來(lái)人工智能將把應(yīng)用開(kāi)發(fā)速度提高10倍以上。為了給安全團(tuán)隊(duì)提供公平的競(jìng)爭(zhēng)環(huán)境以跟上步伐，企業(yè)安全需要轉(zhuǎn)向人工智能。最后，人工智能主要是一個(gè)數(shù)據(jù)問(wèn)題，如果你沒(méi)有強(qiáng)大的安全數(shù)據(jù)來(lái)訓(xùn)練人工智能，那么你阻止風(fēng)險(xiǎn)的能力就會(huì)滯后。

生成式AI打造全能安全分析師

——Palo Alto Networks Cortex首席技術(shù)官M(fèi)att Kraning

今天，安全分析師必須成為全能的“獨(dú)角獸”，不僅需要了解攻擊者如何入侵，還需要了解如何設(shè)置復(fù)雜的自動(dòng)化和查詢來(lái)高效處理海量數(shù)據(jù)。現(xiàn)在，生成式人工智能將使安全分析師能夠更輕松地與數(shù)據(jù)交互。

人工智能是檢測(cè)釣魚(yú)郵件的關(guān)鍵能力

——Telesign首席執(zhí)行官Christophe Van de Weyer

欺詐者正在使用AI技術(shù)來(lái)擴(kuò)大他們的攻擊規(guī)模，例如使用AI生成的深度偽造語(yǔ)音或行文風(fēng)格來(lái)提高成功率，這導(dǎo)致2023年釣魚(yú)郵件數(shù)量創(chuàng)下新的歷史紀(jì)錄。到2024年，消費(fèi)者將很難辨別欺詐性電子郵件和短信，這將迫使企業(yè)企業(yè)加強(qiáng)防御，更加關(guān)注賬戶完整性，因?yàn)榫W(wǎng)絡(luò)釣魚(yú)通常用于接管帳戶并執(zhí)行更重大的盜竊行為。企業(yè)應(yīng)該根據(jù)對(duì)欺詐信號(hào)的持續(xù)分析，使用人工智能對(duì)登錄和交易進(jìn)行風(fēng)險(xiǎn)評(píng)分。網(wǎng)絡(luò)安全公司應(yīng)該擴(kuò)大機(jī)器學(xué)習(xí)的欺詐信號(hào)學(xué)習(xí)范圍，為郵件安全方案提供高質(zhì)量信息。

AI將解決威脅檢測(cè)、分類和響應(yīng)難題

——Telstra Purple EMEA負(fù)責(zé)人Rob Robinson

現(xiàn)在，網(wǎng)絡(luò)安全專業(yè)人員負(fù)責(zé)監(jiān)控和管理的數(shù)據(jù)點(diǎn)數(shù)量多得令人咋舌。隨著云和智能邊緣的普及，這種情況在未來(lái)幾年只會(huì)加劇。AI技術(shù)非常適合解決安全行業(yè)在威脅檢測(cè)、分類和響應(yīng)方面的一些最困難的問(wèn)題。因此，到2024年，我們將看到人工智能再次改變CISO所需的必要技能。

生成式AI將全面提高安全運(yùn)營(yíng)自動(dòng)化水平

——WinWire首席技術(shù)官Vineet Arora

生成式AI將顯著增強(qiáng)網(wǎng)絡(luò)安全運(yùn)營(yíng)管理能力。AI將在威脅情報(bào)、安全強(qiáng)化、滲透測(cè)試和檢測(cè)工程等當(dāng)前由人工管理的安全工作流程中實(shí)現(xiàn)更多自動(dòng)化。日志分析、事件響應(yīng)和安全補(bǔ)丁等許多日常任務(wù)都可以通過(guò)生成式AI實(shí)現(xiàn)自動(dòng)化，從而為安全分析師騰出寶貴的時(shí)間來(lái)專注于更復(fù)雜的網(wǎng)絡(luò)安全問(wèn)題。與此同時(shí)，攻擊者會(huì)利用生成式AI為社會(huì)工程攻擊、惡意軟件偽裝以及復(fù)雜的網(wǎng)絡(luò)釣魚(yú)活動(dòng)創(chuàng)建高度“真實(shí)”的場(chǎng)景。

生成式AI大大提高合規(guī)效率

——Zscaler首席人工智能官Claudionor Coelho和產(chǎn)品管理副總裁Sanjay Kalra

生成式AI將對(duì)2024年的合規(guī)產(chǎn)生重大而深遠(yuǎn)的影響。從歷史上看，合規(guī)性一直是一項(xiàng)耗時(shí)的工作，包括制定法規(guī)、實(shí)施限制、獲取證據(jù)以及回答客戶問(wèn)題。這主要集中在文本和程序上，生成式AI將大大提高其自動(dòng)化水平。