近日，倫敦帝國理工學院研究小組提出一種新的算法，能在不改變圖像內容的情況下，輕松騙過圖像內容掃描算法，使得人眼看起來相同的照片在算法面前顯得不同。這其中就包括蘋果的CSAM掃描算法。

[[434677]]

什么是CSAM掃描算法?

CSAM(兒童性虐待材料)是蘋果公司今年早些時候推出的一份提案，具體內容是為了阻止非法圖像的傳播，蘋果公司專門開發了一項算法，對用戶私下分享和保存在 iCloud 云端的照片，利用算法進行哈希值比對。一旦與第三方CSAM數據庫中的照片比對成功，蘋果將選擇屏蔽這張照片，甚至報警。

因為未經授權訪問用戶圖片信息嚴重侵犯了用戶隱私，該項提案推出不久便遭到用戶及媒體的強烈反對，最終導致該提案在今年9月被撤回。然而蘋果公司并未放棄CSAM，而是將其推廣時間延遲到2022年，并承諾將對該算法進行進一步的改進。

圖像掃描算法能精準檢測非法圖像嗎?

針對蘋果提出的CSAM掃描算法能否像它說的那樣，精準檢測出非法圖像并進行攔截，研究人員在一開始就提出質疑。實際研究結果表明：無論是蘋果的CSAM還是任何其他圖像掃描算法都不能實現非法圖像的精準檢測。

研究人員解釋說，論文研究針對基于離散余弦變換的算法，提出兩個白盒攻擊和一個黑盒攻擊，成功改變了圖像上的獨特特征，并幫助它躲過算法掃描。

簡單而言，僅需要在圖像上應用一種特殊的哈希過濾器，就能使兩張人眼看起來相同的圖像在算法檢測面前顯得不同。

圖片來源：倫敦帝國理工學院

如何防止圖像掃描算法”上當受騙“?

為保障圖像掃描算法做到”有效“工作，不被算法欺騙，研究人員提出兩種方法：一是擴大檢測閾值;二是在圖像ID匹配達到某個閾值后才標記用戶。

但這兩種方法都不能從根本上讓圖像掃描結果變得更可靠，反而會造成更多問題，比如無可避免地侵犯更多用戶隱私。

參考來源：

https://www.bleepingcomputer.com/news/technology/researchers-show-that-apple-s-csam-scanning-can-be-fooled-easily/