怎么也不會想到，韓國“深度偽造”（Deepfake）AI換臉事件鬧大了后，韓國網友會來中國社交平臺上發求助帖，并登上了熱搜。

*圖片來源：微博

在這次事件中，韓國男性用自己熟人的kakaotalk頭像（類似微信的聊天軟件）或上傳到instagram的照片（社交軟件）制造“deepfake視頻”并戲弄女性。導致以女性為主的近千人受到侵害，200多所學校牽涉其中，初高中生未成年人作案比例驚人，網友直呼是“韓國N號房2.0版本”案件再現。

*圖片來源：微博

并且據該位韓國女網友表示：該事件的加害者，目前是暫時關閉了telegram(可加密聊天視頻軟件），并預告說如果安靜的話會重新建立deepfake房間......

*圖片來源：微博

面對瘋狂的輿論環境，集體失聲的韓國主流媒體以及沉默不作為的相關執法部門，不敢想象韓國女性到底有多無助，才會選擇將這一事件翻譯成多國語言，去其他國家的互聯網平臺尋求幫助。目前，此事件已經引起了全球媒體的關注，整個世界都為韓國發生的事感到震驚。

AI換臉技術橫行，色情視頻泛濫爆發恐慌

事情的起因始于8月28日，一位IP定位在韓國的網友在社交平臺發布了一則求救信息，其中提到：韓國國內AI換臉技術橫行，很多女學生、老師、甚至是未成年人都被AI換臉做成了特殊用途的視頻，這些視頻在網絡上廣為傳播，給當事人的生活帶來了巨大的挑戰，她請求中國網友幫她們轉發擴散，以引起社會的關注。

*圖片來源：微博

次日，又有一名韓國網友出來發聲，她說自己是一名18歲的學生，由于AI換臉現象泛濫，導致她現在走在路上都怕被人偷拍，就連最親近的人都不敢相信，她希望中國的網友能幫她走出困境。

*圖片來源：微博

事實上，這件事的開端可以追溯到今年5月。據《韓聯社》5月21日報道稱，首爾大學畢業生樸某和姜某，從2021年7月至2024年4月期間，涉嫌利用 Deepfake 技術換臉合成色情照片和視頻，并在 Telegram私密聊天室里傳播，受害女性多達61人，其中包括12名首爾大學學生。當時，該事件被稱為“首爾大學版 N 號房”。也就是從那時起，韓國社會因 Deepfake 出現了恐慌情緒，人們越發開始擔心自己會被 Deepfake 的魔爪抓住。

更可怕的是，諸如此類這樣的聊天室還不止一個，而是大量存在，里面鋪天蓋地都是韓國女高中生、大學生、白領，甚至未成年人的暴露視頻，涉及人數高達22萬人，都快要趕上韓國一年的出生人口了。

*圖片來源：網絡

之所以會有這么多的視頻，是因為事件背后的策劃者推出了一個類似投名狀的規定，那就是每個進入聊天室的新人，必須要上傳數個女性熟人的AI換臉成人視頻，群組里只接受一起干齷齪事的人進入，他們認為只有這樣才能保證組織的純凈性。

*圖片來源：Telegram

在這種病毒式拉新的推動下，受害的韓國女性越來越多，有的是被自己的弟弟或者哥哥偷拍，有的是在學校被自己的同學偷拍，有的是被熟人在朋友圈找到了素材……總之，只要你有一張照片流傳出去，用不了多久，你的暴露視頻就會被大量韓國男性見證。

更有甚者還會拿著AI換臉視頻去敲詐勒索當事人，甚至提出過分要求，有的還會直接公布受害者的姓名、電話、家庭地址，導致當事人聲名盡毀，完全不敢出門。而今，這份恐慌，終于全面爆發了。

*圖片來源：網絡

Deepfake與「惡」的距離，到底有多遠？

所以我們頻繁提到的這個Deepfake到底是個什么東西？它為什么如此“神通廣大”？

事實上，Deepfake技術是一種基于深度學習算法的人臉交換技術，還可以生成對抗網絡（GANs），來創建或操縱音視頻內容，使得生成的圖像、視頻和音頻看起來極其逼真。簡單來說就是它能夠在圖像或視頻中將一張臉替換成另一張臉，它的出現使得篡改或生成高度逼真且難以甄別的音視頻內容成為可能，觀察者最終無法通過肉眼明辨真偽。再說的通俗易懂點，就是把圖片或者視頻中A的臉換到B的頭上，達到以假亂真的效果。

*圖片來源：mdpi官網

從技術角度來說，它的核心是一個自動編碼器，實際上是一個深度神經網絡，它能夠接收數據輸入，并將其壓縮成一個小的編碼，然后從這個編碼中重新生成原始的輸入數據。

*圖片來源：維基百科

Deepfake通過訓練一個編碼器和多個解碼器來實現人臉的替換，其中編碼器負責將人臉圖像編碼成一個中間表示，而解碼器則負責將這個表示解碼成目標人物的臉。

Deepfake技術的潛在應用領域非常廣泛，包括但不限于電影制作、游戲開發、廣告、教育、娛樂、社交網絡以及虛擬現實等。近幾年隨著技術的發展，Deepfake開始被不懷好意的人用于制造虛假信息和深度偽造內容，比如偽造政治人物的演講視頻或制作非自愿的色情內容等等。

此前就有網友曾在Reddit 論壇上利用 AI 換臉軟件，將《神奇女俠》的主角蓋兒?加朵的臉移花接木到成人電影主角身上。

*圖片來源：網絡

今年年初，X、Facebook 等社交平臺上出現了大量泰勒?斯威夫特的 Deepfake“不雅照”，也鬧得滿城風雨。

*圖片來源：網絡

甚至有人將公開的的算法加以改造推出相關 App，大大降低了使用 AI 換臉的門檻。由于操作簡單，Deepfake 可以做到害人于無形，僅需一張自拍照或帶有肖像的照片，就會被合成到不雅圖片或視頻中。因此不少網友將女明星的臉換到色情片中，給諸多女星造成了極大困擾。

雖然后續各個平臺為了遏止“換臉色情電影”的歪風，紛紛禁止相關內容出現，但“潘多拉之盒”已然打開，想關上就沒那么容易。

而Deepfake 的危害不僅僅體現了色情方面，運用于詐騙中亦能做到防不勝防。

今年2月，香港一家跨國公司員工，被騙子邀請進了用Deepfake做的「高管視頻會議」中，下令讓他轉了2億港幣到不知名中賬戶，5天之后才發現被騙了。這不僅是香港歷史上損失最慘重的“變臉”案例，而且也是首次涉及AI“多人變臉”的詐騙案。

直播版Deepfake支持實時視頻換臉，升級速度太恐怖

其實自近幾年 AI 的浪潮興起后，由于其展現出的功能性過于強大，加上其迭代速度日新月異，因此圍繞在AI身上的爭議就沒斷過。

可能很多人對它的印象都還只停留在照片換臉的階段，然而Deepfake早已經為人們帶來了新的“驚喜”。

某天，你漫不經心地打開視頻軟件，卻突然看見穿著老汗衫的馬斯克坐在出租屋里一本正經的直播中，你揉揉眼睛覺得是自己看錯了。

*圖片來源：網絡

結果繼續點進下一個直播間，又發現一個敞著POLO衫領口的馬斯克。打著手機閃光燈，對著自己的臉晃來晃去。

*圖片來源：網絡

這下你突然意識到，這些馬斯克都是利用Deepfake生成的“副本”。而這樣的直播，僅需一張照片，就能換臉生成。本地安裝一下，就能達到實時無延遲，還支持實時預覽。

也就是說，無論搞在線會議還是直播帶貨，可以用任何人的臉了。比如一打開會議軟件，50個扎克伯格正在開視頻會議；再一打開直播間，100個羅永浩正坐在里面發大額優惠券。怎么樣？是不是有點瘆人了。

這款軟件名為Deep-Live-Cam，使用時甚至無需專用硬件加速。其憑借“僅需1張照片就能偷走你的臉去直播”的噱頭，直奔GitHub熱榜第一，24小時狂瀾1600+星。不少圍觀網友戲稱：這下好了，以后開會不用我本人出席了。

根據作者本人分享的“食用技巧”，主要分為四個步驟：

首先進行一些配置：python (3.10版本推薦）；pipgit；ffmpe；visual studio 2022 runtimes (windows)；克隆存儲庫，然后下載兩個模型：GFPGANv1.4和inswapper_128_fp16.onnx，并將其放到models這個文件夾中。

*圖片來源：網絡

最后再安裝依賴項；如果想使用GPU加速，作者也進一步提供了操作指導。安裝完成之后就可以進行使用了，不過首次運行時會下載一個大約300M的模型。

*圖片來源：Deep-Live-Cam

如圖所示，選擇一張臉的圖像以及目標圖像or視頻，然后點擊Live。這個項目的前身叫做roop-cam，拍攝一段視頻，用你選擇的人臉替換其中的人臉。您只需要準備一張所需人臉，比如寡姐的圖像。整個過程無需數據集，無需訓練。

*圖片來源：網絡

而且你猜怎么著？操作門檻這么低、效果這么好的項目，它居然還開源了。隨著開源時間漸長，開發者和圍觀網友們的討論也日益增多，不少網友認為開源的這個決定十分瘋狂。同時，也有很多人表示，這個世界已經真假難辨了。但不可否認的是，AI生成、AI換臉走向幾乎無法區分的照片級真實感，已經是大勢所趨。AI技術的演變，讓后真相時代到來成為現實。而今肉眼難辨真假也確實令人細思恐極。

從照片換臉到視頻換臉、再到如今的直播換臉，面對被黑灰產玩到飛起的AI技術，作為防護方只能在后面見招拆招，每個人都必須提高安全警惕，畢竟不是每個“馬斯克”都是真的馬斯克。

AI“貼臉開大”，不如試試用魔法打敗魔法

AI技術作為21世紀最具變革力的科技之一，在帶來機遇的同時，也帶來了風險與挑戰。特別是近幾年伴隨著生成式 AI 的火熱出圈，AI 開始加快在各行各業的技術落地，越來越多的場景涌現。與此同時，AI 也為不法之徒提供了更便捷的工作，給個人、企業網絡安全都帶來了更多威脅。

通過 AI 技術，攻擊者將更加快速、高效地擊潰企業的安全防御，而企業的數據也將在這種情況下面臨更大的威脅。

雖然在AI 時代下企業面臨著更大的網絡安全和數據安全的挑戰，但如果我們換個思路來看，其強大能力也為安全防護技術的變革提供了新的思路。“用 AI 的力量來對抗 AI ”也不失為一個守護網絡安全的方向。除了傳統的 AI 技術與安全產品的融合以外，去年火熱的 AIGC 技術也為安全行業提供了更多的技術選擇。比如：通過 AI 自動學習識別，預測一些潛在的風險，并將這些風險自動隔離起來，或者通過 AI 的賦能，讓企業級防火墻具備更強的應變能力等等。

AI大模型能夠基于海量文本進行預訓練的大模型，成為提供智能安全“參謀”，對癥提出適當的分析和防御策略。企業可以基于“以攻測防——以攻促防——攻防一體化”的安全理念，利用AI大模型模擬各類攻擊場景，不斷探索模型和系統的弱點，以此推動算法和工程端的防御能力加強，也可實現更智能化的安全防控。通過簡單的自然語言描述快速分析安全局勢，提出應對措施建議，輔助安全團隊規劃解決方案等等。

另外，還可以通過AI大模型技術學習風險知識和標準規則來提升 AI 對于風險的認知理解能力，以實現用大模型對抗大模型來進行極速防御和快速冷啟動的目的。

此前有業內專家就曾表示過：相比人工收集的有限樣本，大模型生成的海量多樣化樣本，將使安全檢測模型“見多識廣”，更快適應新的威脅方式，以AI對抗AI，將成為網絡安全的一個關鍵的進化方向。

在AI技術飛速發展的浪潮下，人們看到了AI驚艷表現的光彩一面，但同時黑暗的一面也正在暗自發力，野蠻生長。

無論是對企業還是個人而言，AI安全問題至關重要。但說歸說，真正想做好還是很難，即便像OpenAI這樣的巨頭，也被曝出“超級對齊團隊”疑似解散，并沒有分給AI安全足夠的資源與關注度的問題。那可想而知其他更多追趕其后的AI企業，在平衡技術與安全的問題上勢必會面臨更大的阻力。但無論如何，如今的AI安全已經不再是一個可選項，而是必選項。