1 月 10 日消息，據(jù)《紐約時報》當(dāng)?shù)貢r間周二報道，最近幾周在 Facebook 等平臺陸續(xù)出現(xiàn)了美國著名歌手泰勒?斯威夫特的“代言廣告”：她在這則廣告中“宣布”將會為粉絲免費送出 Le Creuset 品牌的廚具套裝，人們只需要點擊一個按鈕并回答幾個問題。

不過，這則廣告的“當(dāng)事方”Le Creuset 卻表示，公司并沒有參與任何消費者贈品活動，盡管她平時愛用這個品牌的廚具。在這則案例中，AI 技術(shù)用來合成了泰勒?斯威夫特的聲音，并將聲音與 Le Creuset 廣告片段拼湊在一起。

騙子還利用合成的聲音稱呼泰勒?斯威夫特的粉絲為“Swifties”。當(dāng)受害者被引導(dǎo)至虛假網(wǎng)站后，會被要求支付 9.96 美元的運費。當(dāng)然，號稱免費送的廚具也并不可能真的送出去。

報道稱，在過去一年內(nèi)，AI 技術(shù)的重大進步使未經(jīng)名人本人授權(quán)的“數(shù)字替身”制作門檻愈發(fā)降低。美國布法羅大學(xué)“媒體取證實驗室”的計算機科學(xué)教授 Siwei Lyu 表示，這起“深度偽造”詐騙活動很可能是利用文字轉(zhuǎn)語音服務(wù)制作的。這類工具可將腳本轉(zhuǎn)譯成聲音，并用唇語同步程序?qū)⑵浜铣芍烈曨l片段。

Lyu 稱，如今要獲得這些工具非常容易，不到 45 分鐘內(nèi)就可以制作出質(zhì)量“不錯”的視頻。

據(jù)IT之家此前報道，美國著名演員湯姆?漢克斯（Tom Hanks）去年也聲稱自己肖像的 AI 版本被用于牙科計劃的在線廣告中，而且沒有經(jīng)過他本人的同意。

“明天我可能會被公共汽車撞到，僅此而已，但表演可以繼續(xù)下去，”他說。“除了對 AI 和深度造假的自身鑒別，沒有什么可以告訴你這不是我。這當(dāng)然是一種藝術(shù)挑戰(zhàn)，也是一種法律挑戰(zhàn)。”