10 月 6 日消息，據(jù)外媒 Engadget、Wired 等報(bào)道，美國(guó)馬里蘭大學(xué)的一個(gè)研究小組對(duì) AI 生成內(nèi)容的“數(shù)字水印”技術(shù)可靠性進(jìn)行研究，發(fā)現(xiàn)這一技術(shù)可被輕易破解。

該校計(jì)算機(jī)科學(xué)教授 Soheil Feizi 面對(duì) AI 生成圖像的水印現(xiàn)狀時(shí)直言不諱：“目前我們沒(méi)有任何可靠的水印技術(shù)，我們破解了所有的水印。”

在測(cè)試過(guò)程中，研究人員可輕松避開(kāi)現(xiàn)有的水印方法，并發(fā)現(xiàn)在非 AI 生成的圖像上添加“假水印”更為容易。同時(shí)，該團(tuán)隊(duì)還開(kāi)發(fā)出了一種“幾乎無(wú)法”從圖像中去除的水印技術(shù)，且不會(huì)完全損害圖像的知識(shí)產(chǎn)權(quán)。

而在加州大學(xué)圣巴巴拉分校和卡內(nèi)基梅隆大學(xué)合作的一項(xiàng)類似研究中，研究人員發(fā)現(xiàn)通過(guò)“模擬攻擊”，AI 生成圖像的水印可被輕易去除：通過(guò)破壞性的調(diào)整亮度、對(duì)比度或壓縮乃至旋轉(zhuǎn)圖像來(lái)去除，或通過(guò)建設(shè)性的高斯模糊等技術(shù)來(lái)去除。

據(jù)報(bào)道，AI 生成數(shù)字水印將成為一場(chǎng)與黑客之間的競(jìng)爭(zhēng)。這種水印盡管肉眼不可見(jiàn)，但可以打擊濫用 AI 生成的內(nèi)容。

IT之家此前報(bào)道，美國(guó)政府曾在 7 月下旬宣布，已獲得多家人工智能頭部公司的自愿承諾，將對(duì)人工智能生成的內(nèi)容加水印等措施，以幫助提高技術(shù)的安全性。

亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和 OpenAI 這七家公司都同意提高其系統(tǒng)的安全性和透明度，包括允許第三方專家對(duì)其模型進(jìn)行審查。

在發(fā)給 TechRadar 的一份聲明中，美國(guó)政府表示：“正在開(kāi)發(fā)這些新興技術(shù)的公司有責(zé)任確保其產(chǎn)品的安全。為了充分發(fā)揮人工智能的潛力，美國(guó)政府鼓勵(lì)該行業(yè)堅(jiān)持最高標(biāo)準(zhǔn)，以確保創(chuàng)新不會(huì)以犧牲美國(guó)人的權(quán)利和安全為代價(jià)。”