國(guó)際現(xiàn)狀

惡意攻擊者現(xiàn)在可以通過(guò)云計(jì)算、人工智能工具和人工智能算法來(lái)制造惡意信息。這些惡意攻擊成功的結(jié)果既有技術(shù)基礎(chǔ)，也有社會(huì)基礎(chǔ)，為國(guó)家和非國(guó)家的攻擊者提供了制造和傳播虛假信息的強(qiáng)大渠道和工具。上述數(shù)字平臺(tái)和網(wǎng)站服務(wù)還為惡意攻擊者提供了實(shí)驗(yàn)、監(jiān)控、迭代和優(yōu)化虛假信息活動(dòng)影響的能力。這些攻擊通常是發(fā)起其他網(wǎng)絡(luò)攻擊(如網(wǎng)絡(luò)釣魚(yú)、社會(huì)工程或惡意軟件感染)之前的預(yù)熱行動(dòng)。

例如，全球數(shù)據(jù)公司(GlobalData) 2022年的一項(xiàng)研究估計(jì)，推特上10%的活躍賬戶都在發(fā)布垃圾內(nèi)容。推特稱這一數(shù)字遠(yuǎn)低于5%。

表：虛假信息和虛假信息威脅的目標(biāo)、手段和后果

虛假信息或錯(cuò)誤信息的流動(dòng)以及國(guó)家和非國(guó)家人士的相關(guān)網(wǎng)絡(luò)行動(dòng)正在充斥網(wǎng)絡(luò)空間，目的是造成不確定性的信息、引起人們對(duì)真相的冷漠、疲于尋找真相甚至畏懼尋找真相。更加嚴(yán)重的是，虛假信息和不實(shí)信息已變成對(duì)民主、公開(kāi)辯論和自由的現(xiàn)代社會(huì)的主要威脅，政策制定者應(yīng)該把虛假信息的解決方案放在議程的核心位置，同時(shí)也應(yīng)考慮安全和隱私問(wèn)題。隨著俄羅斯和烏克蘭戰(zhàn)爭(zhēng)的爆發(fā)，大量虛假信息的攻擊浪潮進(jìn)一步加劇了這一情況，并引起了研究界、政府和公眾的注意。因此，歐洲議會(huì)于2022年3月9日發(fā)布了一項(xiàng)關(guān)于外國(guó)干涉歐盟所有民主進(jìn)程的決議。

趨  勢(shì)

與2021年類(lèi)似，世界經(jīng)濟(jì)論壇2022年發(fā)布的《全球風(fēng)險(xiǎn)報(bào)告》指出，數(shù)字化和日益增長(zhǎng)的網(wǎng)絡(luò)威脅之間的相互作用也會(huì)產(chǎn)生潛在的后果。深度造假和“雇傭假信息”的業(yè)務(wù)數(shù)量增長(zhǎng)可能會(huì)加深社會(huì)、企業(yè)和政府之間的信任割裂。例如，深度造假可能會(huì)影響選舉或政治結(jié)果。除此之外，虛假信息還影響著國(guó)家之間的合作，因?yàn)榫W(wǎng)絡(luò)安全已成為分歧而非合作的來(lái)源。根據(jù)全球風(fēng)險(xiǎn)認(rèn)知調(diào)查(GRPS)，跨境網(wǎng)絡(luò)攻擊和錯(cuò)誤信息被認(rèn)為是目前緩解風(fēng)險(xiǎn)的努力“尚未開(kāi)始”或處于“早期發(fā)展”的領(lǐng)域。

根據(jù)歐盟CONCORDIA H2020項(xiàng)目平臺(tái)，深度造假、宣傳虛假信息和傳謠運(yùn)動(dòng)無(wú)處不在，它們旨在引導(dǎo)用戶認(rèn)知出錯(cuò)，直接影響人們的日常生活和社會(huì)。

俄烏戰(zhàn)爭(zhēng)

虛假信息作為一種信息戰(zhàn)方法可以追溯到冷戰(zhàn)時(shí)期，并在2016年美國(guó)大選后在美國(guó)復(fù)蘇，源于當(dāng)時(shí)俄羅斯被指控干預(yù)了美國(guó)選舉過(guò)程。在俄羅斯和烏克蘭之間的戰(zhàn)爭(zhēng)中，虛假信息在網(wǎng)絡(luò)戰(zhàn)中的核心作用得到了證實(shí)，網(wǎng)絡(luò)戰(zhàn)從攻擊骨干網(wǎng)演變?yōu)樘摷傩畔⑤浾摴?。甚至在“物理”?zhàn)爭(zhēng)開(kāi)始之前，虛假信息攻擊就被用作俄羅斯入侵烏克蘭的準(zhǔn)備計(jì)劃，并在入侵期間大規(guī)模地實(shí)施。

例如，歐洲新聞?lì)l道(Euronews)發(fā)布了歐洲專家協(xié)會(huì)(European Expert Association)的一份報(bào)告，該報(bào)告最近由全球虛假信息指數(shù)(Global Disinformation Index)獨(dú)立評(píng)估，內(nèi)容是俄羅斯用來(lái)為軍事行動(dòng)辯護(hù)的各種未經(jīng)證實(shí)的說(shuō)法，比如烏克蘭正準(zhǔn)備攻擊頓巴斯的新聞。在此背景下，根據(jù)歐洲專家協(xié)會(huì)烏克蘭創(chuàng)始人兼研究總監(jiān)瑪麗亞·阿夫迪娃的說(shuō)法，虛假信息傾向于數(shù)量而非質(zhì)量，試圖耗盡人們辨別真實(shí)信息和事實(shí)的能力。這種方法類(lèi)似于旨在耗盡物理機(jī)器資源的傳統(tǒng)DDoS攻擊。

戰(zhàn)爭(zhēng)中的所有參與者都使用了虛假信息。俄羅斯的虛假信息集中在入侵的動(dòng)機(jī)(例如，去納粹化，解放烏克蘭)，烏克蘭和北約的侵略，或美國(guó)向?yàn)蹩颂m提供生物武器。烏克蘭的虛假信息集中在激勵(lì)軍隊(duì)和強(qiáng)調(diào)俄羅斯的軍事?lián)p失上。其他國(guó)家也助長(zhǎng)了虛假信息的傳播，例如在烏克蘭使用的化學(xué)武器據(jù)傳由中國(guó)提供。

此外，基于深度偽造的人工智能虛假信息在戰(zhàn)爭(zhēng)中發(fā)揮了重要作用，并導(dǎo)致偽造了俄羅斯總統(tǒng)弗拉基米爾·普京和烏克蘭總統(tǒng)弗拉基米爾·澤連斯基的視頻，其中的視頻信息出現(xiàn)了支持?jǐn)硨?duì)方的觀點(diǎn)。然而，這些視頻是假的，并在網(wǎng)上大肆傳播開(kāi)來(lái)。

在這場(chǎng)由人工智能、深度造假和社交網(wǎng)絡(luò)引發(fā)的虛假信息完美風(fēng)暴中，包括Meta、YouTube和Twitter在內(nèi)的互聯(lián)網(wǎng)網(wǎng)站大公司宣布了一波又一波的新措施，以回應(yīng)烏克蘭政府、世界領(lǐng)導(dǎo)人和公眾日益增長(zhǎng)的要求。

人工智能技術(shù)支持下的虛假信息和深度造假

人工智能支持的虛假信息在制造和傳播虛假信息方面的作用越來(lái)越重要，它可以使未來(lái)虛假信息的供應(yīng)無(wú)限大。模擬真人的機(jī)器人激增很容易破壞“通知-評(píng)論”規(guī)則制定過(guò)程，以及社區(qū)互動(dòng)，因?yàn)檎畽C(jī)構(gòu)會(huì)充斥著虛假評(píng)論。

在2021年的ETL（歐盟網(wǎng)絡(luò)安全威脅態(tài)勢(shì)）中，我們已經(jīng)觀察到人工智能驅(qū)動(dòng)的社交媒體是虛假信息傳播的基礎(chǔ)，導(dǎo)致社會(huì)混亂。在這種背景下，深度造假技術(shù)正在迅速發(fā)展。輔助技術(shù)使得深度造假的創(chuàng)作更加簡(jiǎn)單，而社交媒體則有助于深度造假的傳播。此外，由于還無(wú)法完全消除深度造假，虛假信息和虛假信息運(yùn)動(dòng)正變得越來(lái)越可信。

特別是，政治領(lǐng)導(dǎo)人制作或傳播的內(nèi)容幾十年來(lái)一直被操縱或斷章取義，且這種趨勢(shì)正在加劇。深度造假的出現(xiàn)將這種做法提升到了一個(gè)全新的水平，為惡意行為者提供了更智能和簡(jiǎn)單易用的工具，用于生成幾乎不可能與真實(shí)內(nèi)容區(qū)分開(kāi)來(lái)的虛假內(nèi)容(音頻、視頻、圖像和文本)。人工智能的力量允許惡意行為者（包括國(guó)家和非國(guó)家行為者）進(jìn)行有針對(duì)性的攻擊，一方面針對(duì)個(gè)人和用戶進(jìn)行攻擊，另一方面定制個(gè)性化的虛假信息。

深度造假和基于人工智能的虛假信息傳播的結(jié)果是信息、媒體和新聞業(yè)可信度的喪失。這種情況可能會(huì)導(dǎo)致騙子紅利，這是文獻(xiàn)作者Chesney和Citron描述的主要風(fēng)險(xiǎn)，虛假信息攻擊的目標(biāo)不是創(chuàng)造假新聞，而是否認(rèn)真相。

如果虛假信息被用來(lái)針對(duì)整個(gè)社區(qū)，制造意識(shí)形態(tài)沖突，擾亂選舉，抵消限制大流行病傳播的努力，那么它在很大程度上也被用來(lái)傷害個(gè)人。據(jù)微軟稱，超過(guò)96%的深度偽造視頻與色情有關(guān)，而不同的攻擊針對(duì)的是人的聲譽(yù)。這些攻擊造成的損害在虛假信息被正確揭穿后仍然存在。

定制化造假服務(wù)

ETL 2021觀察到，專業(yè)的虛假信息是由主要政府、政黨和公關(guān)公司大規(guī)模制造的。自2019年以來(lái)，越來(lái)越多的第三方一直在提供虛假信息服務(wù)，為客戶提供有針對(duì)性的攻擊方案。許多國(guó)家都提供服務(wù)，越來(lái)越多的非國(guó)家和私營(yíng)商業(yè)組織正在使用這些服務(wù)。

這種雇傭虛假信息的趨勢(shì)正在增加，使得虛假信息宣傳活動(dòng)易于實(shí)施和管理。這些服務(wù)加上深度造假很可能會(huì)增加整個(gè)社會(huì)的不信任。根據(jù)國(guó)際媒體評(píng)估中心(CIMA)的說(shuō)法，雇傭虛假信息是一個(gè)蓬勃發(fā)展的行業(yè)，在這個(gè)行業(yè)中，私人營(yíng)銷(xiāo)、傳播和公關(guān)公司通過(guò)在網(wǎng)上傳播虛假信息和操縱內(nèi)容來(lái)制造不和。CIMA稱，自2009年以來(lái)，用于宣傳服務(wù)的資金總額至少為6000萬(wàn)美元。

新冠肺炎與綠色轉(zhuǎn)型

2019冠狀病毒病(COVID-19)是2021年虛假信息攻擊的首要話題，導(dǎo)致世界衛(wèi)生組織(世衛(wèi)組織)警告稱，網(wǎng)上虛假信息和錯(cuò)誤信息泛濫。這些虛假信息運(yùn)動(dòng)旨在傳播人們對(duì)冠狀病毒疫苗有效性的恐懼、不確定性和懷疑。企業(yè)和個(gè)人成為虛假信息運(yùn)動(dòng)的目標(biāo)，其攻擊重點(diǎn)是綠色通行證(根據(jù)COVID-19疫苗接種為邊境過(guò)渡提供便利)、強(qiáng)制疫苗接種、衛(wèi)生護(hù)照、大規(guī)模免疫檢測(cè)和封鎖。2022年，圍繞COVID-19以及虛假信息和不實(shí)信息的辯論仍在繼續(xù)，努力尋找抵消或至少容忍虛假信息和不實(shí)信息的方法。

路透社研究所《2021數(shù)字新聞報(bào)道》（The Reuters Institute Digital News Report 2021）報(bào)告稱，對(duì)于新冠肺炎的虛假和誤導(dǎo)性信息位居調(diào)查榜首，54%的受訪者聲稱看到了有關(guān)新冠肺炎的虛假和誤導(dǎo)性信息，其中虛假信息和不實(shí)信息來(lái)自政客(29%)、普通人(16%)、活動(dòng)家(15%)、記者(11%)和外國(guó)政府(9%)通過(guò)社交網(wǎng)絡(luò)、搜索引擎和其他信件程序傳播的。

新型冠狀病毒對(duì)能源部門(mén)和綠色轉(zhuǎn)型產(chǎn)生了強(qiáng)烈影響。在疫情期間，我們的能源消耗有所減少，但碳密集型技術(shù)和化石燃料的消耗仍大得令人印象深刻。后新冠時(shí)期的恢復(fù)能源措施大多忽視了綠色轉(zhuǎn)型，而傾向于短期穩(wěn)定的能源政策，而寬松的貨幣政策進(jìn)一步扭曲了綠色、基于市場(chǎng)的解決方案或投資。與此同時(shí)，不同的行為群體投入了大量精力來(lái)減緩綠色轉(zhuǎn)型，比如分享虛假信息和錯(cuò)誤信息，以及表達(dá)對(duì)氣象科學(xué)領(lǐng)域的不信任。

相關(guān)虛假信息攻擊事件

1．選舉仍然是虛假信息攻擊的主要目標(biāo)和關(guān)注重點(diǎn)。微軟聲稱已經(jīng)關(guān)閉了許多針對(duì)民選官員和候選人、促進(jìn)民主的組織、活動(dòng)人士和媒體的網(wǎng)站。在這種情況下，社交媒體平臺(tái)的操縱者試圖傳播虛假信息和錯(cuò)誤信息。

2．根據(jù)PwC的數(shù)據(jù)顯示，在3602名受訪者中，分別有19%和33%的人對(duì)以下問(wèn)題回答“顯著增加”和“增加”:“您預(yù)計(jì)組織中這些事件的可報(bào)告事件將如何變化?與2021年相比，您預(yù)計(jì)2022年來(lái)自這些信息載體/行為群體的威脅會(huì)發(fā)生什么變化?”

3．虛假信息運(yùn)動(dòng)越來(lái)越復(fù)雜，虛假信息的范圍越來(lái)越大?，F(xiàn)代的計(jì)算基礎(chǔ)設(shè)施、社交媒體、數(shù)據(jù)生成工具和人工智能方法的技術(shù)結(jié)合，正在瞄準(zhǔn)攻擊民主的基礎(chǔ)。

4．根據(jù)微軟的說(shuō)法，越來(lái)越多的惡意攻擊者同時(shí)使用網(wǎng)絡(luò)安全和虛假信息進(jìn)行攻擊以實(shí)現(xiàn)他們的目標(biāo)。

5．在對(duì)未經(jīng)審查的平臺(tái)進(jìn)行的一項(xiàng)分析中發(fā)現(xiàn)，在20萬(wàn)篇Telegram帖子中，那些鏈接到誤導(dǎo)性信息來(lái)源的帖子比那些鏈接到專業(yè)新聞內(nèi)容的帖子被分享得更多，但只有少數(shù)幾個(gè)頻道成為了目標(biāo)。

6．澳大利亞制定了《關(guān)于虛假信息和錯(cuò)誤信息的澳大利亞行為準(zhǔn)則》，該準(zhǔn)則已被澳大利亞的Twitter、谷歌、Facebook、微軟、Redbubble、TikTok、Adobe和蘋(píng)果公司采用。

7．TikTok一直被用于傳播虛假信息，得益于其對(duì)視頻的不審核和快速投放的軟件設(shè)計(jì)。

8.  生成對(duì)抗網(wǎng)絡(luò)(GANs)越來(lái)越多地被用于傳播虛假信息。2021年，業(yè)余的攻擊者利用GAN傳播了虛假信息活動(dòng)，并偽造了社交媒體檔案。

參考文獻(xiàn)

1.Caroline Jack, 'Lexicon of Lies: Terms for Problematic Information' (New York: Data & Society, 2017),

2.Europol, EU SERIOUS AND ORGANISED CRIME THREAT ASSESSMENT (SOCTA 2021), 2021

3.Microsoft FY21 Digital Defense Report

4.ENISA Threat Landscape 2021.

5.The Global Economic Forum, The Global Risks Report 2021 16th Edition, 2021

6.Chesney, Robert and Citron, Danielle Keats, Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security (July 14, 2018). 107 California Law Review 1753 (2019), U of Texas Law, Public Law Research Paper No. 692, U of Maryland Legal Studies Research Paper No. 2018-21, Available at SSRN: https://ssrn.com/abstract=3213954 or http://dx.doi.org/10.2139/ssrn.3213954

7.Chuck Brooks, Alarming Cybersecurity Stats: What You Need To Know For 2021, March 2021,

8.Samantha Bradshaw, Hannah Bailey, Philip N. Howard, Industrialised Disinformation 2020 Global Inventory of Organised Social Media Manipulation, 2020,

9.PwC, 2022 Global Digital Trust Insights, October 2021