12 月 23 日消息，近年來，人工智能（AI）技術的快速發展為社會帶來了諸多便利，但也伴隨著安全隱患。據IT之家了解，其中深度偽造技術就帶來了不小的隱患，其生成高度逼真但并非真實的視頻或圖像的能力，已經引發了一系列社會問題。

據央視新聞報道，今年以來，利用 AI 深度偽造假冒名人的案例層出不窮。例如，不久前就有不法分子通過 AI 技術偽造張文宏醫生的面部和聲音，用于直播帶貨，賣出 1200 多件蛋白棒產品。

此外，名人劉德華和企業家雷軍也成為 AI 偽造的目標。劉德華的聲音被惡意用于增加短視頻流量，其電影公司也多次發布聲明以警示公眾。

專家指出，目前的 AI 技術可以通過深度學習輕松克隆他人面部和聲音，甚至只需一張照片和一段語音樣本即可完成。然而，這種技術并非毫無破綻。例如，偽造視頻通常無法實時直播，同時在臉部輪廓和背景融合度等細節上存在缺陷。觀眾通過仔細觀察可發現破綻，尤其是在口型和語音匹配度方面。

專家表示，未經授權使用他人形象或聲音屬于侵權行為，根據《民法典》和《網絡安全法》，發布者可能面臨包括損害賠償和刑事責任在內的處罰。同時，消費者如因 AI 假冒名人帶貨受騙，可依據消費者權益保護法要求“退一賠三”。

專家還呼吁短視頻平臺承擔主體責任，及時下架違規內容，并對發布者采取信用管理和處罰措施。