從超強(qiáng)的社交攻擊到AI驅(qū)動(dòng)的個(gè)人電腦，本文探討了AI今年將如何重塑網(wǎng)絡(luò)安全。

最近的AI進(jìn)步為網(wǎng)絡(luò)安全捍衛(wèi)者和惡意行為者提供了新的工具和能力，網(wǎng)絡(luò)犯罪分子已經(jīng)開(kāi)始探索AI如何加強(qiáng)攻擊，并以新一代快速射擊威脅的企業(yè)為目標(biāo)，但AI也可以被永遠(yuǎn)利用——安全團(tuán)隊(duì)使用AI來(lái)加強(qiáng)威脅檢測(cè)，并提高補(bǔ)救效率，這來(lái)得正是時(shí)候，據(jù)報(bào)道，全球需要400萬(wàn)名網(wǎng)絡(luò)安全專業(yè)人員。

今年，我們預(yù)計(jì)AI及其影響將在網(wǎng)絡(luò)安全領(lǐng)域變得普遍，提升釣魚(yú)誘餌，識(shí)別防御中的薄弱環(huán)節(jié)，并縮短開(kāi)發(fā)和應(yīng)對(duì)攻擊的時(shí)間。網(wǎng)絡(luò)安全團(tuán)隊(duì)還將把AI放在首位——為應(yīng)對(duì)新一波AI驅(qū)動(dòng)的威脅做準(zhǔn)備，并利用這項(xiàng)技術(shù)為自己的優(yōu)勢(shì)做好準(zhǔn)備。

AI將在三個(gè)方面影響網(wǎng)絡(luò)安全格局：

1.AI將為社交攻擊增壓

網(wǎng)絡(luò)犯罪分子將利用AI以前所未有的規(guī)模加強(qiáng)社交攻擊，在幾秒鐘內(nèi)產(chǎn)生令人信服且難以發(fā)現(xiàn)的釣魚(yú)誘餌，這很可能是非?？尚诺?，因?yàn)榫W(wǎng)絡(luò)犯罪分子使用從社交媒體或受攻擊郵箱收集的數(shù)據(jù)自動(dòng)進(jìn)行個(gè)性化引誘，因此，即使在網(wǎng)絡(luò)釣魚(yú)培訓(xùn)之后，員工也很難發(fā)現(xiàn)誘餌，攻擊者還將使用AI來(lái)生成更多少數(shù)民族語(yǔ)言的誘餌，這將給人以更合法的印象。

我們可能也會(huì)看到大規(guī)模的AI生成的活動(dòng)在關(guān)鍵日期周圍激增，例如，2024年將看到歷史上最多的人在選舉中投票，使用AI，網(wǎng)絡(luò)犯罪分子將能夠輕松地針對(duì)特定地區(qū)制作本地化誘餌，同樣，年終納稅申報(bào)等重大年度活動(dòng)，巴黎奧運(yùn)會(huì)和2024年歐洲杯等體育活動(dòng)，以及黑色星期五和光棍節(jié)等零售活動(dòng)，也將給網(wǎng)絡(luò)犯罪分子提供誘騙用戶的鉤子。

隨著偽造電子郵件與合法電子郵件變得難以區(qū)分，企業(yè)不能僅依靠員工教育，為了防范AI支持的社交攻擊，企業(yè)必須為其用戶創(chuàng)建一個(gè)虛擬安全網(wǎng)。微虛擬化創(chuàng)建了與PC操作系統(tǒng)隔離的一次性虛擬機(jī)，因此即使用戶無(wú)意中點(diǎn)擊了不應(yīng)該點(diǎn)擊的東西，它們也會(huì)受到保護(hù)。

2.低成本管理既帶來(lái)機(jī)遇，也帶來(lái)挑戰(zhàn)

本地大型語(yǔ)言模型(LLM)將于今年內(nèi)置于個(gè)人電腦中，“AIPC”將徹底改變?nèi)藗兣c終端設(shè)備的交互方式，這些LLM將通過(guò)利用獨(dú)立于互聯(lián)網(wǎng)的AI來(lái)提高用戶的效率和生產(chǎn)力，并帶來(lái)一些安全和隱私方面的好處，這些個(gè)性化的助手和聊天機(jī)器人將降低個(gè)人數(shù)據(jù)在云中發(fā)送和保存的安全風(fēng)險(xiǎn)，然而，隨著這些本地模型收集的數(shù)據(jù)越來(lái)越多，終端將成為威脅參與者的首要目標(biāo)。

隨著企業(yè)希望使用LLM聊天機(jī)器人來(lái)提高便利性，安全團(tuán)隊(duì)將有另一個(gè)系統(tǒng)需要防御，這些聊天機(jī)器人可以充當(dāng)以前無(wú)法獲得的數(shù)據(jù)的入口。通過(guò)使用有針對(duì)性的提示來(lái)欺騙企業(yè)聊天機(jī)器人并超越控制，威脅參與者可以在社交方面設(shè)計(jì)企業(yè)LLM，以獲取機(jī)密數(shù)據(jù)。

3.AI降低了對(duì)有害固件和硬件攻擊的障礙

網(wǎng)絡(luò)安全技術(shù)的進(jìn)步將使攻擊者更難進(jìn)入系統(tǒng)并逃避檢測(cè)，但隨著AI將強(qiáng)大的技術(shù)交到許多人手中，復(fù)雜的能力將變得更容易獲得，這一可用性將使攻擊者能夠創(chuàng)新并繼續(xù)增加針對(duì)固件和硬件層的攻擊，而安全團(tuán)隊(duì)在這些層的日?？梢?jiàn)性較低。從歷史上看，訪問(wèn)操作系統(tǒng)(OS)需要豐富的技術(shù)知識(shí)，但AI將使針對(duì)較低級(jí)別技術(shù)堆棧的攻擊更容易獲得。

我們預(yù)計(jì)，更難發(fā)現(xiàn)、更具破壞性的高級(jí)網(wǎng)絡(luò)攻擊的數(shù)量將會(huì)增加。隨著攻擊者使用AI來(lái)發(fā)現(xiàn)和利用漏洞并在操作系統(tǒng)下方站穩(wěn)腳跟，網(wǎng)絡(luò)事件將變得更加頻繁。為了防御這種情況，組織現(xiàn)在必須在硬件和固件安全方面投入更多資金。

網(wǎng)絡(luò)安全的新時(shí)代

AI將對(duì)威脅格局產(chǎn)生巨大影響，盡管如此，安全團(tuán)隊(duì)仍然有平等的機(jī)會(huì)利用AI來(lái)增強(qiáng)威脅檢測(cè)和響應(yīng)，并緩解安全團(tuán)隊(duì)的壓力。AI助手還將通過(guò)自動(dòng)掃描來(lái)幫助保護(hù)用戶，以識(shí)別試圖誘騙員工進(jìn)行銀行轉(zhuǎn)賬或共享敏感數(shù)據(jù)的目標(biāo)釣魚(yú)誘餌。

2024年AI PC的到來(lái)將帶來(lái)巨大的安全優(yōu)勢(shì)，使用戶能夠在設(shè)備上更安全地利用AI，而不會(huì)有數(shù)據(jù)發(fā)送和保存在云中的安全風(fēng)險(xiǎn)，它們還將帶來(lái)新的數(shù)據(jù)保密層，例如自動(dòng)鎖定無(wú)人操作的設(shè)備或在設(shè)備被監(jiān)視時(shí)啟動(dòng)隱私屏幕。

為了安全地使用AI使其發(fā)揮優(yōu)勢(shì)，企業(yè)迫切需要一種集成的安全方法，采用零信任原則，與值得信賴的AI安全供應(yīng)商合作將確?？蛻糇畲笙薅鹊匕l(fā)揮AI的優(yōu)勢(shì)，同時(shí)免受新的安全和隱私威脅。