機器學習難以直面“房間里的大象”
作者：佚名
AI 不具有人類那種對異?，F(xiàn)象感到難以置信但同時能坦然接受的能力，比如房間里突然出現(xiàn)一只大象。
AI 不具有人類那種對異常現(xiàn)象感到難以置信但同時能坦然接受的能力，比如房間里突然出現(xiàn)一只大象。根據(jù)發(fā)表在預(yù)印本網(wǎng)站 arxiv.org 上的一項研究（PDF），計算機科學家發(fā)現(xiàn)深度學習并不真的“深度”，AI 在發(fā)現(xiàn)難以置信的事情后會“發(fā)瘋”。
在計算機視覺領(lǐng)域，人工智能系統(tǒng)會嘗試識別和分類對象。在這項研究中，研究人員向計算機視覺系統(tǒng)展示了一幅客廳的場景，系統(tǒng)正確的識別了椅子、人和書架上的書。研究人員隨后向場景中引入了異常對象：一只大象的圖像。
然后 AI 系統(tǒng)瘋了，它忘記了已經(jīng)識別的對象，將椅子識別為沙發(fā)，將大象識別為椅子，其它此前已經(jīng)識別的對象都視而不見了。
論文合作者 Amir Rosenfeld 稱，研究顯示了目前的對象識別系統(tǒng)是多么的脆弱。研究人員仍然在嘗試理解為什么計算機視覺系統(tǒng)如此容易犯錯。他們猜測是 AI 缺乏人類那種從容處理海量信息的能力。
責任編輯：張燕妮
來源：
solidot
