奮力反擊深度偽造的五個有效措施

作者：布加迪 2025-01-24 08:00:00

公司企業(yè)正在竭力跟上網(wǎng)絡(luò)犯罪分子不斷創(chuàng)新的步伐。據(jù)本人所在公司VikingCloud的報告顯示，53%的公司承認(rèn)自己沒有準(zhǔn)備好防御新的基于人工智能的網(wǎng)絡(luò)攻擊方法。

譯者 | 布加迪

審校 | 重樓

隨著深度造假日益猖獗，技能方面的缺口正在進(jìn)一步拉大，造成了新的準(zhǔn)備不足和風(fēng)險。

作為網(wǎng)絡(luò)犯罪分子手中最有力的新武器，深度偽造可以冒充從總統(tǒng)候選人到公司高管的任何人。它們可以散布錯誤信息或傳播高價值的欺詐騙局。而且它們正變得更難被發(fā)現(xiàn)，更容易被開發(fā)。

為了保護(hù)所在組織，企業(yè)領(lǐng)導(dǎo)者必須重新考慮自己的網(wǎng)絡(luò)培訓(xùn)和防御方法。面對在人工智能優(yōu)先的網(wǎng)絡(luò)安全環(huán)境中新的需求，這將是事關(guān)生存和發(fā)展的首要任務(wù)。

深度偽造泛濫的原因

深度偽造依賴社會工程伎倆，利用人類情感來引發(fā)它們想要的反應(yīng)。

如果一名員工收到老板的電子郵件，要求他轉(zhuǎn)賬，該員工很可能已經(jīng)受過學(xué)會識別騙局的培訓(xùn)。但是當(dāng)員工接到有“老板聲音”的電話，或者在Zoom通話時“看到”老板，又會發(fā)生什么？黑客的這種老練程度讓員工放松了警惕。

最近一名財(cái)務(wù)人員深有體會，他上當(dāng)受騙，向冒充其公司首席執(zhí)行官的騙子轉(zhuǎn)賬2500萬美元。這名員工起初懷疑這是網(wǎng)絡(luò)釣魚騙局，但在與其他公司員工通了電話后放心下來，殊不知這全是深度偽造的內(nèi)容。

這一幕可能發(fā)生在任何公司身上，包括法拉利。這家公司差點(diǎn)成為深度偽造欺詐的受害者，原因是被盯上的精明高管問了騙子一個只有真正的首席執(zhí)行官在線下對話中才能知道的問題。而其他公司就沒這么幸運(yùn)了。英國一家能源公司的首席執(zhí)行官被一名騙子利用人工智能模仿其母公司首席執(zhí)行官的聲音，騙走了22萬歐元（約合23.8萬美元）。

問題在于，深度偽造被設(shè)計(jì)成用戶使用生成式對抗網(wǎng)絡(luò)（GAT）都無法檢測出來。在GAN中，一個人工智能模型生成虛假的圖像或音頻，另一個模型檢測它是否真實(shí)。人工智能模型之間這種貓捉老鼠的游戲一直持續(xù)下去，直到虛假內(nèi)容與現(xiàn)實(shí)無從區(qū)分，這有助于犯罪分子繞過其他人工智能檢測系統(tǒng)。

當(dāng)深度偽造內(nèi)容抵達(dá)目標(biāo)時，已經(jīng)經(jīng)歷了數(shù)千次迭代，變得盡可能強(qiáng)大。結(jié)果是：深度偽造的開發(fā)者與試圖阻止它們的人之間上演了一場軍備競賽。

更糟糕的是什么？如今，只要有一臺基本的游戲電腦，誰都可以制作深度偽造內(nèi)容。犯罪分子不需要特殊的技術(shù)或?qū)?/span>長，影響卻巨大。僅在2023年下半年，換臉攻擊就猛增704%。隨著網(wǎng)絡(luò)犯罪分子的進(jìn)入門檻不斷放低，這個問題的嚴(yán)重性會繼續(xù)加大。

如何防范深度造假？

隨著深度造假技術(shù)日益興起，公司企業(yè)須加強(qiáng)防御基于人工智能的攻擊的能力。以下是奮力反擊的五個基本步驟：

1. 別信任保密和緊迫的請求。強(qiáng)調(diào)保密和緊迫性的請求是危險信號。培訓(xùn)員工學(xué)會質(zhì)疑溝通內(nèi)容（比如電子郵件和視頻電話等）是否符合正常的公司流程，并驗(yàn)證來自多個可信來源的信息。別害怕請求授權(quán)，即使提出請求的對方是更高層。人是網(wǎng)絡(luò)安全中最薄弱的環(huán)節(jié)。隨著這種攻擊變得越來越復(fù)雜，并利用社會工程伎倆，它們會繼續(xù)存在。

2. 加強(qiáng)身份驗(yàn)證流程。簡單的電話、電子郵件或人臉識別不再是可信賴的身份驗(yàn)證機(jī)制。實(shí)施額外的安全流程，比如多因素身份驗(yàn)證。此外，使用私密的、可驗(yàn)證的信息。想想那位法拉利高管如何利用線下談話中獲悉的私密信息。深度偽造永遠(yuǎn)接觸不到這種信息。

3. 將深度偽造緩解機(jī)制整合到安全策略中。整合深度偽造檢測技術(shù)，建立快速識別和響應(yīng)流程。深度偽造檢測工具使用人工智能來發(fā)現(xiàn)被操縱媒體中細(xì)微的不一致之處，比如面部運(yùn)動的不規(guī)則性或可能逃過人類檢測的像素偽像。除了技術(shù)外，還必須定期更新安全策略以應(yīng)對最新的深度偽造威脅，員工應(yīng)該接受持續(xù)培訓(xùn)，以有效識別和應(yīng)對潛在的攻擊。

4. 執(zhí)行紅隊(duì)測試。讓紅隊(duì)充分利用深度偽造工具來測試公司的防御。這有助于識別安全流程方面的弱點(diǎn)，這樣企業(yè)領(lǐng)導(dǎo)者可以更好地教育員工如何發(fā)現(xiàn)和應(yīng)對潛在的威脅。

5. 仔細(xì)篩選供應(yīng)商。網(wǎng)絡(luò)犯罪分子通常將第三方供應(yīng)商和平臺視為伺機(jī)潛入大組織的一條途徑。到2031年，供應(yīng)鏈網(wǎng)絡(luò)攻擊給公司企業(yè)造成的年度成本預(yù)計(jì)將達(dá)到1380億美元。確保所有供應(yīng)商都采取了措施，以保護(hù)自己免受深度偽造和其他基于人工智能的攻擊。及早發(fā)現(xiàn)是關(guān)鍵。第三方系統(tǒng)的漏洞很容易演變成更大范圍的網(wǎng)絡(luò)攻擊。