隨著生成式人工智能的迅速發(fā)展，人們越來越關(guān)注 AI 生成內(nèi)容帶來的潛在風(fēng)險。例如，人們可能會有意或無意地傳播 AI 生成的虛假信息。特別是在圖像生成領(lǐng)域，分辨 AI 生成的圖像和真實圖像顯得尤為重要。

一些研究嘗試用「加水印」的方法來分辨 AI 生成的內(nèi)容。ICML 2023 杰出論文《A Watermark for Large Language Models》就針對文本生成提出為模型的輸出添加水印。

現(xiàn)在，Google DeepMind 宣布針對圖像生成推出一種添加水印的工具 SynthID，以識別 AI 生成的圖像，目前 SynthID Beta 版已經(jīng)上線。谷歌 CEO Sundar Pichai 和 Google DeepMind CEO 都轉(zhuǎn)推介紹了 SynthID 工具。

SynthID 目前可以為谷歌的文生圖模型 Imagen 生成的圖像添加水印，并且在視覺上難以察覺。如下圖所示，有無水印的圖像看起來沒有區(qū)別：

通過掃描圖像中的數(shù)字水印，SynthID 可以評估圖像是由 Imagen 生成的可能性。

SynthID 不會影響圖像質(zhì)量，并且即使在添加濾鏡、更改顏色以及使用各種有損壓縮方案（例如 JPEG）進行保存等修改之后，水印仍然可以被檢測到。

在 SynthID 使用兩種深度學(xué)習(xí)模型（用于水印和識別），這兩種模型已在多個圖像集上一起進行了訓(xùn)練，并針對一系列目標(biāo)進行了優(yōu)化。

目前，部分用戶可以在谷歌的 Vertex AI 平臺上對 Imagen 使用 SynthID 工具（Beta 版）。

值得注意的是，SynthID 并不能保證水印可以萬無一失地抵御極端圖像處理，但它提供了一種有前途的技術(shù)方法，使人們能夠負(fù)責(zé)任地使用人工智能生成的內(nèi)容。研究團隊表示之后可能還會面向音頻、視頻和文本等模態(tài)推出類似的工具。