網(wǎng)絡(luò)安全得益于AI和ML的進(jìn)步。今天的安全團(tuán)隊(duì)被關(guān)于潛在可疑活動(dòng)的數(shù)據(jù)所淹沒(méi)，常常大海撈針。人工智能通過(guò)網(wǎng)絡(luò)流量、惡意軟件指標(biāo)和用戶(hù)行為趨勢(shì)中的模式識(shí)別，幫助安全團(tuán)隊(duì)在這些數(shù)據(jù)中發(fā)現(xiàn)真正的威脅。

而黑客常常利用人工智能和機(jī)器學(xué)習(xí)方面來(lái)對(duì)付企業(yè)。例如輕松訪(fǎng)問(wèn)云環(huán)境，使得開(kāi)始使用AI并構(gòu)建強(qiáng)大、有能力的學(xué)習(xí)模型變得簡(jiǎn)單。

讓我們看看黑客如何使用人工智能和機(jī)器學(xué)習(xí)來(lái)瞄準(zhǔn)企業(yè)，以及防止以人工智能為重點(diǎn)的網(wǎng)絡(luò)攻擊的方法。

黑客使用AI對(duì)抗安全團(tuán)隊(duì)的3種方式

1.在基于人工智能的工具測(cè)試惡意軟件是否成功

黑客能以多種方式使用ML。第一種方法是通過(guò)構(gòu)建他們自己的機(jī)器學(xué)習(xí)環(huán)境，并對(duì)自己的惡意軟件和攻擊實(shí)踐進(jìn)行建模，以確定安全團(tuán)隊(duì)尋找的事件和行為的類(lèi)型。

例如，一個(gè)復(fù)雜的惡意軟件可能會(huì)修改本地系統(tǒng)庫(kù)和組件，在內(nèi)存中運(yùn)行進(jìn)程，并與黑客控制基礎(chǔ)設(shè)施擁有的一個(gè)或多個(gè)域通信。所有這些活動(dòng)結(jié)合在一起創(chuàng)建了一個(gè)稱(chēng)為戰(zhàn)術(shù)、技術(shù)和程序(TTP)的配置文件。機(jī)器學(xué)習(xí)模型可以觀察TTP，并使用它們來(lái)構(gòu)建檢測(cè)能力。

通過(guò)觀察和預(yù)測(cè)安全團(tuán)隊(duì)如何檢測(cè)TTP，黑客可以巧妙而頻繁地修改指標(biāo)和行為，領(lǐng)先于依賴(lài)基于人工智能的工具檢測(cè)攻擊的安全團(tuán)隊(duì)。

2.用不準(zhǔn)確的數(shù)據(jù)破壞AI模型

黑客還利用機(jī)器學(xué)習(xí)和人工智能，用不準(zhǔn)確的數(shù)據(jù)破壞人工智能模型，從而破壞環(huán)境。機(jī)器學(xué)習(xí)和人工智能模型依靠正確標(biāo)記的數(shù)據(jù)樣本，來(lái)構(gòu)建準(zhǔn)確和可重復(fù)的檢測(cè)配置文件。通過(guò)引入看起來(lái)類(lèi)似于惡意軟件的良性文件或創(chuàng)建被證明是誤報(bào)的行為模式，黑客可以誘騙AI模型，使其相信攻擊行為不是惡意的，還可以通過(guò)引入AI訓(xùn)練標(biāo)記為安全的惡意文件來(lái)毒化AI模型。

3.繪制現(xiàn)有AI模型

黑客積極尋求繪制網(wǎng)絡(luò)安全供應(yīng)商和運(yùn)營(yíng)團(tuán)隊(duì)使用的現(xiàn)有和正在開(kāi)發(fā)的AI模型。通過(guò)了解人工智能模型的功能及其作用，黑客可以在其周期內(nèi)積極干擾機(jī)器學(xué)習(xí)操作和模型。這可以使黑客通過(guò)欺騙系統(tǒng)來(lái)影響模型，使系統(tǒng)有利于黑客。它還可以讓黑客通過(guò)巧妙地修改數(shù)據(jù)來(lái)避開(kāi)基于已識(shí)別模式的檢測(cè)，從而完全避開(kāi)已知模型。

如何防御以人工智能為中心的攻擊

防御以人工智能為重點(diǎn)的攻擊是極其困難的。安全團(tuán)隊(duì)必須確保與學(xué)習(xí)模型和模式開(kāi)發(fā)中使用的數(shù)據(jù)相關(guān)聯(lián)的標(biāo)簽是準(zhǔn)確的。通過(guò)確保數(shù)據(jù)具有準(zhǔn)確的標(biāo)簽標(biāo)識(shí)符，用于訓(xùn)練模型的數(shù)據(jù)集可能會(huì)變得更小，這對(duì)人工智能的效率沒(méi)有幫助。

對(duì)于那些構(gòu)建AI安全檢測(cè)模型的人來(lái)說(shuō)，在建模時(shí)引入對(duì)抗技術(shù)和策略可以幫助將模式識(shí)別與野外看到的策略結(jié)合起來(lái)。約翰霍普金斯大學(xué)的研究人員開(kāi)發(fā)了木馬軟件框架，以幫助生成木馬和其他惡意軟件模式的人工智能模型。麻省理工學(xué)院(MIT)的研究人員發(fā)布了一款用于自然語(yǔ)言模式的工具TextFooler，該工具可能有助于構(gòu)建更具彈性的人工智能模型，以檢測(cè)銀行欺詐等問(wèn)題。

隨著人工智能的重要性日益增長(zhǎng)，黑客將尋求通過(guò)自己的研究來(lái)超越安全團(tuán)隊(duì)的努力。對(duì)于安全團(tuán)隊(duì)來(lái)說(shuō)，及時(shí)了解黑客的攻擊策略以防御他們是至關(guān)重要的。