[[337659]]

資料圖

很明顯，面部識(shí)別模型被面部識(shí)別系統(tǒng)用來(lái)識(shí)別一個(gè)特定的人。AI接受的圖像越多，它就能越能準(zhǔn)確地識(shí)別隨機(jī)視頻和圖像中的人物--包括實(shí)時(shí)監(jiān)控等。很多人都沒(méi)有意識(shí)到這些面部識(shí)別模型的存在，而這對(duì)隱私的影響真的很可怕。

企業(yè)和政府能通過(guò)簡(jiǎn)單地收集人們?cè)诰W(wǎng)上自由發(fā)布的自己的圖片來(lái)訓(xùn)練他們的人工智能模型。大量的信息被輸入到人工智能系統(tǒng)中并由此形成一個(gè)難以阻止的難題。

芝加哥大學(xué)SAND實(shí)驗(yàn)室的研究人員為解決這一問(wèn)題邁出了一步，他們讓普通人能對(duì)自己的圖像進(jìn)行復(fù)雜的控制。該團(tuán)隊(duì)已經(jīng)公開(kāi)發(fā)布了Fawkes，一個(gè)簡(jiǎn)單、免費(fèi)的工具，它使用人工智能對(duì)一個(gè)圖像進(jìn)行微調(diào)從而使其在人類看來(lái)是不變的但在人工智能系統(tǒng)訓(xùn)練時(shí)卻變得“高度扭曲”。

研究人員解釋稱，通過(guò)向系統(tǒng)輸入這些圖像，某人本質(zhì)上是在參與一種“攻擊”，通過(guò)破壞系統(tǒng)對(duì)那個(gè)人長(zhǎng)相的理解來(lái)毒害系統(tǒng)。輸入給人工智能的每一張“中毒”圖像都降低了它在圖像和視頻中準(zhǔn)確識(shí)別那個(gè)人的能力，使得它對(duì)于任何想要利用它的公司或政府來(lái)說(shuō)幾乎毫無(wú)用處。

Fawkes并不是一個(gè)簡(jiǎn)單的圖像操縱器，而是一個(gè)更復(fù)雜的人工智能驅(qū)動(dòng)的應(yīng)用，它會(huì)產(chǎn)生一些無(wú)法被目標(biāo)面部識(shí)別訓(xùn)練系統(tǒng)檢測(cè)到的變化，這意味著它們將無(wú)法識(shí)別并移除那些有害的“有毒”圖像。研究人員稱，由于無(wú)法分辨出哪些圖像被隱藏了，這些公司將不得不投入相當(dāng)大的精力，對(duì)收集到的所有內(nèi)容進(jìn)行分類以找到導(dǎo)致圖像失真的圖像。

根據(jù)這項(xiàng)研究，對(duì)人工智能的測(cè)試顯示了非常高的準(zhǔn)確率。