deepfake 出現(xiàn)以來引發(fā)了大量爭議，也帶來了諸多倫理和社會(huì)問題。最近，F(xiàn)acebook、微軟等巨頭已開始著手打擊 deepfake 濫用，斥資 1000 多萬美元舉辦 deepfake 檢測挑戰(zhàn)賽。谷歌也不甘落后，近日，這家科技巨頭宣布開源大型 deepfake 視頻數(shù)據(jù)集，以支持社區(qū)對 deepfake 檢測的研究。

深度學(xué)習(xí)催生出許多幾年前難以想象的技術(shù)。現(xiàn)代生成模型（modern generative model）就是其中一例，它能夠合成超逼真的圖像、語音、音樂甚至視頻。這些模型已被廣泛應(yīng)用于大量用途，包括直接基于文本生成類人語音、為醫(yī)療影像研究生成訓(xùn)練數(shù)據(jù)等。

和其他革新性技術(shù)一樣，生成模型也帶來了新的挑戰(zhàn)，如「deepfake」。2017 年底，deepfake 首次亮相，之后出現(xiàn)了很多開源 deepfake 生成方法，導(dǎo)致合成視頻片段大量涌現(xiàn)。盡管很多此類視頻的制作初衷是搞笑，但還是有一些 deepfake 視頻對個(gè)人和社會(huì)造成了惡劣影響。

谷歌嚴(yán)肅地考慮了這些問題。去年，谷歌發(fā)布了「AI 準(zhǔn)則」，承諾探索 AI 優(yōu)秀實(shí)踐，以減輕 AI 濫用和 AI 危害。去年 1 月，谷歌發(fā)布了一個(gè)合成語音數(shù)據(jù)集，用于支持 ASVspoof 2019 挑戰(zhàn)賽，幫助開發(fā)高性能的假音頻檢測器。作為賽事的數(shù)據(jù)庫，該數(shù)據(jù)集已被 150 多個(gè)研究機(jī)構(gòu)和工業(yè)界組織下載，目前該數(shù)據(jù)集已向公眾免費(fèi)開放。

近日，谷歌 AI 與 Jigsaw（原 Google Ideas）合作發(fā)布了大型視覺 deepfake 數(shù)據(jù)集，該數(shù)據(jù)集已被納入慕尼黑工業(yè)大學(xué)和那不勒斯腓特烈二世大學(xué)創(chuàng)建的 FaceForensics 基準(zhǔn)（由谷歌聯(lián)合贊助）。

FaceForensics 基準(zhǔn)數(shù)據(jù)集地址：https://github.com/ondyari/FaceForensics/

谷歌此次發(fā)布的 deepfake 數(shù)據(jù)集中的視頻示例。在其生成過程中，隨機(jī)選擇一對演員，深度神經(jīng)網(wǎng)絡(luò)對其執(zhí)行換臉操作。

為了制作該數(shù)據(jù)集，谷歌在過去一年中與多名有償和無償演員合作拍攝了數(shù)百個(gè)視頻。然后，谷歌使用公開可用的 deepfake 生成方法，基于這些視頻創(chuàng)建出數(shù)千個(gè) deepfake 視頻。這些真假視頻共同構(gòu)成了該數(shù)據(jù)集，谷歌創(chuàng)建此數(shù)據(jù)集的目的是支持 deepfake 檢測方面的研究。作為 FaceForensics 基準(zhǔn)的一部分，該數(shù)據(jù)集目前已開源，研究社區(qū)可免費(fèi)獲取并用于開發(fā)合成視頻檢測方法。

在多種場景中對演員進(jìn)行拍攝。上圖為真實(shí)演員，下圖是對應(yīng)的 deepfake 示例，二者的差異程度取決于創(chuàng)建 deepfake 所用的另一位演員。

deepfake 技術(shù)發(fā)展迅速，谷歌表示將繼續(xù)增加該數(shù)據(jù)集中的數(shù)據(jù)，并在該領(lǐng)域中持續(xù)開展合作。谷歌堅(jiān)定地支持研究社區(qū)減輕合成媒介濫用所帶來的潛在危害，而該數(shù)據(jù)集的發(fā)布就是其中的重要一步。