今年以來，隨著ChatGPT和GPT-4等技術的應用，深度合成產(chǎn)品和服務日漸增多。利用AI換臉、AI擬聲等虛假音視頻進行詐騙的違法行為屢見不鮮，這些新的詐騙手法十分隱蔽和高效，給社會造成很大的安全威脅。

近日，“AI詐騙正在全國爆發(fā)”一度沖上微博熱搜。6月10日，國家反詐中心辟謠爆發(fā)傳言不實。但AI詐騙相關話題的熱度依然居高不下，甚囂塵上。

2023年5月，內(nèi)蒙古包頭警方發(fā)布一起利用AI實施電信詐騙的典型案例：2023年4月，福建一家科技公司的法人代表郭先生被騙子通過AI換臉和擬聲技術，佯裝好友對其實施詐騙。在10分鐘內(nèi)，先后分兩筆把430萬元轉到了對方的銀行賬戶上。

無獨有偶，2023年5月22日，AI換臉詐騙事件再次發(fā)生。安徽一男子9秒被騙132萬，詐騙分子使用了一段9秒鐘的智能AI換臉視頻，佯裝“熟人”讓受害人放松警惕從而得手。其詐騙速度之快，令人乍舌。

這兩則受騙事件套路如出一轍。不法分子利用AI換臉技術，偽裝成特定人物，提前制作冒充熟人的視頻，并與他人進行視頻通話，或使用特定的換臉應用程序，以假亂真，博取被害人信任后實施詐騙行為。

AI換臉的應用邊界

新科技的發(fā)展應用，可謂是一把雙刃劍，AI 換臉技術亦是。給我們的生活帶來了便利的同時，但也可能會被用于欺詐和虛假信息傳播，對隱私和安全構成威脅，同時導致誤解和誤導等問題。

AI換臉，即通過AI人工智能技術，把別人的臉換成自己的臉，而且臉部表情自然，效果十分逼真。AI換臉技術主要通過使用深度學習算法和大型模型來實現(xiàn)，其實現(xiàn)原理是通過人臉檢測、人臉對齊、特征提取、特征融合和重建等步驟，將不同人的面部特征進行融合，生成具有換臉效果的新圖像。

具體來說，首先，大型模型可以自動檢測人臉，并在輸入圖像中定位人臉區(qū)域。接著，對輸入圖像中的人臉進行對齊，使得不同人臉的面部特征點位置相同。這通常需要使用人臉關鍵點和仿射變換等技術。再者，使用深度學習模型，可以提取人臉的特征，這些特征可以用來指導替換操作。將兩張不同人臉的面部特征進行融合，生成新的面部特征。最后，使用重建算法，例如反卷積神經(jīng)網(wǎng)絡（DCNN）或GAN等，將新的面部特征映射回圖像空間中，生成一張具有換臉效果的新圖像。

總而言之，AI換臉采用的是深度合成技術，通過AI建模實現(xiàn)換臉。利用深度學習、虛擬現(xiàn)實等生成合成類算法，制作圖像、音頻、視頻等信息，目前在社交、影視、廣告等諸多領域不斷深化應用。

比如，在影視劇中，劇組可以運用AI換臉技術對原演員或危險情節(jié)拍攝進行巧妙處理；在教學方面，AI換臉技術能夠實現(xiàn)互動性強的虛擬教學。

同時，AI換臉技術也存在著濫用風險。此前，有多個電商直播間被曝使用明星AI換臉直播，博取流量。這些直播并不會直接提到相關明星藝人的名字，但也不會主動聲明或者否認，通過社交媒體傳播，誘導用戶和粉絲點擊鏈接下載惡意軟件或輸入個人信息，以達到直播賣貨或進行詐騙的目的。更有甚者，利用AI換臉軟件及技術非法處理和制作虛假的淫穢視頻后進行非法售賣，繞過人臉識別系統(tǒng)監(jiān)管從而實施詐騙、盜竊等犯罪。

可以看出，不法分子使用AI技術分析目標用戶的行為特征和個人信息，進行精準定向攻擊，竊取個人敏感信息。這類詐騙往往通過非法獲取他人個人數(shù)據(jù)，以及運用各種黑灰軟件來替換數(shù)據(jù)信息來實現(xiàn)，從而達到目的。

AI詐騙“魔高一尺”，防范“道高一丈”

AI換臉詐騙的背后，是隱私信息泄露與詐騙陷阱的結合。針對技術花樣翻新的AI詐騙，公眾要提高防范意識，加強監(jiān)管、健全立法是重要手段。趨利避害，需要從個人、政策、技術、安全企業(yè)等多個層面和維度共同發(fā)力，才能應對未來可能出現(xiàn)的新型詐騙手段。

在個人層面，提高自身使用數(shù)字工具的安全意識和安全能力。一是當在涉及到轉賬交易等行為時要格外留意，可以通過電話、視頻等方式再三確認對方是否是本人；二是加強個人信息保護意識，謹慎點擊不明鏈接，不管是在互聯(lián)網(wǎng)上還是社交軟件上，盡量避免過多地暴露自己的信息，以免被騙子精準圍獵。

在政策層面，已出臺相關文件，但更要加強對AI技術的監(jiān)管和管理。2022年11月25日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》，明確了深度合成數(shù)據(jù)和技術管理規(guī)范。要求深度合成服務提供者和技術支持者加強訓練數(shù)據(jù)管理和技術管理，保障數(shù)據(jù)安全，不得非法處理個人信息。其中提到：深度合成服務提供者對使用其服務生成或編輯的信息內(nèi)容，應當添加不影響使用的標識。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務的，應當進行顯著標識，避免公眾混淆或者誤認。

今年4月11日，國家網(wǎng)信辦公布了《生成式人工智能服務管理辦法（征求意見稿）》，其中提到，AI內(nèi)容必須真實準確，還明確提到，禁止非法獲取、披露、利用個人信息和隱私、商業(yè)秘密。

對于提供“AI換臉”技術的互聯(lián)網(wǎng)科技類企業(yè)，要加大監(jiān)管力度。此外，各網(wǎng)絡平臺對于AI換臉的應用應當擔負起責任。目前，推出AI換臉功能的平臺以及允許AI換臉相關內(nèi)容傳播的平臺，都應該加強審核，以避免AI技術被不法分子利用。

在技術層面，緊盯數(shù)據(jù)的信息采集、儲存、共享、披露等各環(huán)節(jié)，進行全鏈條管理。當前AI安全研究仍然落后于AI能力研究，這也是安全技術廠商應持續(xù)攻關的方向。加大對AI換臉技術的技術研究和防范措施的開發(fā)力度，提高AI換臉技術的安全性和可靠性，研發(fā)更加智能化的識別系統(tǒng)用于辨別真?zhèn)危瑴p少此類詐騙行為的生存空間。

人臉信息作為敏感個人信息，不正當使用將對社會公眾的人身和財產(chǎn)安全帶來重大風險。在使用新興技術時，我們不能忘記法律的規(guī)制、道德倫理的約束，這是所有技術發(fā)展應有的邊界。于此同時，必須時刻保持高度警惕，增強自我安全意識和能力，才能防范網(wǎng)絡詐騙。