在過(guò)去的一年中，可用于生成逼真、虛假或人為操控的音視頻機(jī)器學(xué)習(xí)模型deepfake逐漸見(jiàn)諸報(bào)端，成為媒體爭(zhēng)相報(bào)道的對(duì)象，并成為新興的網(wǎng)絡(luò)安全威脅。公眾接觸到deepfake首先是通過(guò)娛樂(lè)視頻，可用deepfake工具生成，將明星的臉部疊加在色情視頻中。

[[314304]]

盡管這些視頻低質(zhì)且明顯可以看出來(lái)是不合法的，但是這項(xiàng)新技術(shù)對(duì)于人們區(qū)分虛擬和現(xiàn)實(shí)還是有一定的潛在影響。在政治世界中，尤其值得人們關(guān)注，deepfake可以成為一種攻擊政客或政黨的武器，操縱公眾輿論來(lái)影響選舉甚至股市。

幾年前，deepfake技術(shù)研發(fā)有限，這種工具只為資源豐富且技術(shù)先進(jìn)的國(guó)家使用，但是現(xiàn)在deepfakes工具免費(fèi)提供、隨處可得，且簡(jiǎn)單易學(xué)，因此任何能夠上網(wǎng)、有時(shí)間和目的的人都能夠隨時(shí)制作deepfake視頻，并將虛假內(nèi)容視頻在社交媒體中傳播開(kāi)來(lái)。

進(jìn)一步來(lái)說(shuō)，deepfake工具越來(lái)越智能，生成視頻所需要的素材也越來(lái)越少。早期需要幾個(gè)小時(shí)的視頻和音頻或者是大數(shù)據(jù)集，才可以進(jìn)行機(jī)器分析和生成。這意味著較高關(guān)注度的人比如政客、名人、知名CEO或擁有大量網(wǎng)絡(luò)資源的人容易被盯上，成為虛假視頻的主角。

現(xiàn)在，只要有一張照片就可以生成這類虛假視頻了。未來(lái)生成虛假視頻只會(huì)越來(lái)越容易，比如Facebook上的個(gè)人資料圖片或者Instagram的音頻片段，由此可見(jiàn)，人人都應(yīng)該提高警惕了，防止自己成為下一個(gè)目標(biāo)。

虛假的現(xiàn)實(shí)

Deepfake之所以強(qiáng)大，是因?yàn)樗嵏擦巳祟悓?duì)現(xiàn)實(shí)的基本理解：眼見(jiàn)為實(shí)。Deepfake讓真相與現(xiàn)實(shí)脫節(jié)，此外還能夠引起情感上的回應(yīng)。比如你看到一些令人不快的東西，即使之后你知道它是假的，但是你依然會(huì)有負(fù)面情緒，并且將所見(jiàn)所感和潛意識(shí)聯(lián)系起來(lái)。

去年10月，州長(zhǎng)Gavin Newsom簽署了加利福尼亞州的AB 730法案(稱為“反Deepfake法案”)，希望在2020年大選之前減少惡意deepfake虛假視頻的傳播。雖然這一舉措值得稱贊，但法案本身沒(méi)有任何進(jìn)展。它人為地設(shè)置了一個(gè)時(shí)間線，這個(gè)時(shí)間線只適用于在選舉的60天內(nèi)具有“真實(shí)惡意”原則的deepfake虛假視頻，這就免除了傳播平臺(tái)監(jiān)管和刪除deepfake虛假視頻的責(zé)任，相反地，法律依賴于虛假視頻生產(chǎn)者的自我承認(rèn)和所有權(quán)聲明，而對(duì)于“真實(shí) 惡意”的證據(jù)查找過(guò)程不是那么明確的。

[[314305]]

制定該法律的初衷并非去執(zhí)行它，更可能的是立法者向人們展示自己已經(jīng)邁出的第一步，表明他們知道deepfake對(duì)民主的嚴(yán)重威脅。而這場(chǎng)斗爭(zhēng)才剛剛開(kāi)始。在理想情況下，該法律將影響并指導(dǎo)聯(lián)邦政府和其他州的工作，以此為初始模板進(jìn)行更有效和更具執(zhí)行力的立法。

Deepfake技術(shù)將成為2020年的商業(yè)威脅

迄今為止，和deepfake相關(guān)的討論主要集中在通過(guò)社交媒體(尤其是在政治領(lǐng)域)推動(dòng)的虛假信息運(yùn)動(dòng)和大規(guī)模人為操縱的潛在影響上。2020年將是deepfake成為企業(yè)真正威脅的一年，而企業(yè)的網(wǎng)絡(luò)防御團(tuán)隊(duì)還沒(méi)有能力應(yīng)對(duì)這種威脅。

魚叉式網(wǎng)絡(luò)攻擊針對(duì)的是高級(jí)員工，通常會(huì)誘使他們手動(dòng)完成任務(wù)，比如支付偽造發(fā)票，發(fā)送實(shí)體文件或者手動(dòng)設(shè)置網(wǎng)絡(luò)犯罪分子的登錄憑證。從技術(shù)角度來(lái)看，這些郵件通常更難檢測(cè)，因?yàn)樵撾娮余]件不包含任何可疑的鏈接或附件，并且通常與BEC攻擊結(jié)合使用(當(dāng)黑客控制了員工的電子郵件時(shí)，他們可以從合法地址發(fā)送電子郵件)。

根據(jù)FBI的數(shù)據(jù)，在過(guò)去三年中，BEC攻擊給全球組織造成的損失超過(guò)260億美元。而deepfake能夠加劇這些攻擊，比如利用語(yǔ)音郵件模擬高層欺騙員工，這就讓網(wǎng)絡(luò)犯罪更加容易。

[[314306]]

有一種觀點(diǎn)認(rèn)為，攻擊打破了真相壁壘，與其認(rèn)為攻擊請(qǐng)求是虛假的，接受請(qǐng)求并相信它是真實(shí)可信的做法反倒更有意義，能夠直接地揭露它。

然而，當(dāng)deepfake技術(shù)進(jìn)一步發(fā)展時(shí)，攻擊的真實(shí)和虛假反而難以辨別了。比如員工與其認(rèn)為的CEO進(jìn)行視頻通話，屏幕后的犯罪分子實(shí)時(shí)生成deepfake視頻。去年早些時(shí)候，一位CEO被AI產(chǎn)生的聲音欺騙，將243000美元轉(zhuǎn)移到他認(rèn)為是公司供應(yīng)商的銀行賬戶中。

當(dāng)前，安全行業(yè)還沒(méi)有設(shè)備、電子郵件篩選或任何技術(shù)來(lái)防御deepfake技術(shù)。但是，也不是一無(wú)所獲。例如，F(xiàn)acebook，微軟和大學(xué)研究人員發(fā)起了Deepfake檢測(cè)挑戰(zhàn)賽，呼吁推動(dòng)開(kāi)源deepfake檢測(cè)工具的開(kāi)發(fā)。國(guó)防高級(jí)研究計(jì)劃局(DARPA)宣布了語(yǔ)義取證或”SemaFor計(jì)劃”，該計(jì)劃旨在開(kāi)發(fā)“語(yǔ)義取證”，作為過(guò)去使用的統(tǒng)計(jì)檢測(cè)技術(shù)的另一種防御方法。

當(dāng)前存在的唯一防范方法是教育用戶，讓他們了解這些新型攻擊的方法，并警惕任何看起來(lái)不同尋常的行為或者活動(dòng)。

信任早已不再是我們負(fù)擔(dān)得起的奢侈品了。