200 多年前，曹雪芹在《紅樓夢(mèng)》中寫下這樣一句話：假作真時(shí)真亦假，無為有處有還無。翻譯成大白話就是，當(dāng)虛假被當(dāng)作真實(shí)時(shí)，真實(shí)也會(huì)被視為虛假；當(dāng)虛無被強(qiáng)行視為存在時(shí)，存在也會(huì)消解為虛無。萬萬沒想到，放在今天的 AI 語境下，這句古話竟精準(zhǔn)地映照了現(xiàn)實(shí)。

最近在 X 上沖浪，刷到了一段「人類在飛機(jī)上吵架看呆袋鼠」的視頻。視頻中，一只緊握登機(jī)牌、站得直挺挺的袋鼠，正滿臉無辜地看著自己的主人和一名空乘人員在登機(jī)口 battle。

視頻來自：https://www.instagram.com/infiniteunreality/

由于袋鼠的舉止表情「比小朋友還乖」，引發(fā)不少網(wǎng)友點(diǎn)贊轉(zhuǎn)發(fā)。其中 X 賬號(hào) @DramaAlert 就在短時(shí)間內(nèi)獲得了 7460 萬次觀看，Instagram 上這段視頻光點(diǎn)贊量就有 110.4 萬次。

不過很快有細(xì)心的網(wǎng)友發(fā)現(xiàn)了不對(duì)勁。袋鼠手中的「登機(jī)牌」上全是難以辨認(rèn)的文字亂碼，而這往往是 AI 生成視頻的最大「罪證」。

視頻中的人類說著并不存在的語言，空乘人員佩戴的胸牌上也沒有名字。

此外，乘客的左手無名指一開始并沒有任何首飾，但突然無中生有出現(xiàn)了一枚戒指。

以上種種端倪，都在告訴我們一個(gè)真相：這是 AI 生成的。

我們繼續(xù)深扒，找到了這段視頻的最初來源 —— 一個(gè)名為 InfiniteUnreality 的 Instagram 賬號(hào)。

如果往下扒拉扒拉就會(huì)發(fā)現(xiàn)，該賬號(hào)還有一堆超現(xiàn)實(shí)的 AI 動(dòng)物視頻，比如一只系在飛機(jī)座椅上的河馬、一只登機(jī)的長(zhǎng)頸鹿以及一只躺在嬰兒車?yán)锏男∝i。

那么問題來了：為什么千萬網(wǎng)友都被這個(gè) AI 視頻騙了？

一方面，如今的視頻生成技術(shù)已經(jīng)進(jìn)化到「離譜」的地步，比如谷歌 Veo3 不僅能做出高清、自然的影像，連眨眼、輕微頭部動(dòng)作都極其協(xié)調(diào)，還能生成逼真的聲音，普通網(wǎng)友很難一眼辨真假。

另一方面，該博主雖然在簡(jiǎn)介和視頻中打上了 AI 標(biāo)簽，就是那個(gè)代表無窮大的 Infinite Unreality 符號(hào)，但這種提示非常隱蔽，絕大多數(shù)網(wǎng)友根本意會(huì)不到。

同時(shí)在流量爭(zhēng)奪的賽道上，越「真實(shí)」、「離譜」的素材越容易火，其他博主在轉(zhuǎn)發(fā)時(shí)往往不會(huì)重復(fù)標(biāo)注「AI 生成」，比如知名 X 賬號(hào) DramaAlert 轉(zhuǎn)發(fā)時(shí)就未透露該視頻出自 AI 之手，這就更導(dǎo)致了大規(guī)模誤判。

這個(gè) AI 生成說明還是后來讀者添加的。

還有網(wǎng)友本身也是「幫兇」。很多人在評(píng)論區(qū)半開玩笑地說「這是袋鼠日常」、「袋鼠看著很有禮貌」，進(jìn)一步造成「這是真的」的印象疊加。即使有少部分人指出「AI 生成」，也會(huì)被淹沒在玩梗與調(diào)侃中。

AI 制造的混亂還遠(yuǎn)不止于此。

有人用 AI 生成的視頻假裝是真實(shí)的，還有人反其道而行之，直接用真實(shí)的視頻冒充 AI 生成的。

這事還得從半個(gè)月前說起。

當(dāng)時(shí)我們?cè)谝黄恼吕锝榻B了網(wǎng)友用 Veo 3 生成演唱會(huì)視頻，效果一個(gè)比一個(gè)逼真自然，其中就提到了一個(gè)妝容怪誕的鋼琴家彈唱歌曲的視頻。

該視頻來自 X 博主 @bitfalls 發(fā)布的帖子，聲稱這個(gè)視頻是使用 Veo3 生成的，甚至還給出了提示詞：Early 2000s footage of an australian goth pianist making a whimsical song about God in front of an orchestra（2000 年代初，一位澳大利亞哥特風(fēng)鋼琴家在管弦樂隊(duì)前創(chuàng)作了一首關(guān)于上帝的異想天開的歌曲。）

我們?cè)僖宦牳柙~：「感恩你，感恩你，我的上帝，治好山姆媽媽的白內(nèi)障多虧了你……」越聽越像 AI 整活。??

但在網(wǎng)友的提醒下，我們才后知后覺這是 12 年前 Tim Minchin 的真實(shí)鏡頭。

我們又去網(wǎng)上一搜，發(fā)現(xiàn)這并不是孤例，還有博主用 Vitas 的真實(shí)影像假冒 Veo3 生成的。或許該博主有開玩笑的成分，但確實(shí)誤導(dǎo)了不少人。

面對(duì)這種真假混雜的局面，我們普通人到底該怎么分辨？

說實(shí)話，現(xiàn)在靠「肉眼」去識(shí)別真?zhèn)我呀?jīng)越來越不靠譜了。AI 視頻不像以前的那種低劣 P 圖，僅憑「這個(gè)好像哪里不太自然」、「光線感覺有點(diǎn)怪」等直覺去判斷很容易掉坑里，有時(shí)候還得靠魔法打敗魔法。

Google DeepMind 和 Google AI Labs 推出了一款多模態(tài) AI 內(nèi)容鑒偽工具 ——SynthID，用來識(shí)別谷歌旗下生成式 AI（如 Gemini、Imagen、Lyria、Veo 等）所「生成」或「編輯」的圖片、視頻、音頻、文本中是否帶有 SynthID 水印，幫助用戶快速判斷內(nèi)容是否來自谷歌 AI 模型。

地址：https://deepmind.google/science/synthid/

SynthID 本質(zhì)上是一種「數(shù)字水印」技術(shù)。當(dāng)你在使用谷歌生成 AI 時(shí)，系統(tǒng)會(huì)在內(nèi)容中隱性嵌入一組不易察覺、但特定工具能探測(cè)到的數(shù)字「指紋」，即便你給它加濾鏡、裁剪、轉(zhuǎn)格式，這種水印依然能被檢測(cè)出來。

不過它的限制也比較明顯：只識(shí)別內(nèi)置 SynthID 的內(nèi)容，也就是必須是谷歌系模型（或者有合作伙伴模型）的產(chǎn)物。如果你用 ChatGPT、Stable Diffusion、Midjourney 生成內(nèi)容，或者第三方 AI 服務(wù)根本沒嵌水印，它是檢測(cè)不出來的。換句話說它不是通用 AI 鑒定器，只是幫你確認(rèn)「是不是用了谷歌 AI」的工具。

此外，雖然這種水印足夠隱蔽、兼容常規(guī)編輯，但如果有人惡意反復(fù)大幅改動(dòng)、轉(zhuǎn)碼、翻譯、徹底重寫等，水印可能被破壞，從而導(dǎo)致檢測(cè)失敗。

目前它還在「早期測(cè)試」階段，需要提交 waitlist。