深度卷積神經網絡（DCNN）看待物件的方式與人類不同，約克大學教授James Elder的研究團隊認為，深度學習模型無法捕捉人體形狀感知獲取的構形特征。

到底人類大腦和DCNN是如何感知整體的？又是如何感知對象特性的？科學家用所謂的“Frankensteins”視覺刺激來檢測。James Elder說：“所謂的Frankensteins就是將整體拆成部分，讓部分以錯誤的方式整合在一起，從局部看它們是正確的，但部分放在了錯誤的位置。”

研究發現，雖然Frankensteins會迷惑人類視覺系統，但DCNN對于錯誤的配置不敏感。

比如一張熊的圖片，人眼看到是熊，AI看到也是熊。將照片從中間切開，變成兩半，不要連在一起，人眼無法識別，AI也無法識別。再將上下兩半以錯誤方式拼在一起，人眼無法識別，看到的是不像熊的動物，如同怪物，但AI卻將它識別為熊。

這說明什么？說明AI對于被配置對象的特征不夠敏感。

James Elder說：“我們的研究解釋了在特定條件下為什么AI模型會失敗，要想理解大腦中的視覺處理是如何進行的，我們要考慮對象識別之外的任務。在解決復雜識別難題時，深度模型會走捷徑。盡管許多時候走捷徑是可行的，但到了真實世界的AI應用就有些危險了。我們與行業和政府合作伙伴正在開發應用于真實世界的AI應用。”

正如在識別熊時，熊的圖片各部分錯誤配置，AI還是會將拼出的怪物識別為熊。

讓我們看看AI交通視頻安全系統。繁忙交通系統中有很多東西，比如汽車、自行車、行人，它們相互交織，成為各自的障礙物，這些東西像斷開的碎片一樣進入駕駛員的視覺系統。大腦自動處理，將各種碎片分組，確定正確的類別，判斷對象的位置。AI交通監測系統差很多，它只能感知個體碎片，所以會存在很大風險。

按照研究人員的說法，優化訓練和架構，想讓AI網絡更像大腦，這樣的研究對于提高AI的配置處理能力沒有太大幫助。人類是怎樣一次又一次判斷對象的？AI網絡無法精準預測。人類視覺系統的配置能力高度敏感，如果AI想與人類視覺系匹敵，它可能需要在類別識別之外做更多的事。

科學家的警告也許是有道理的，現在最聰明的AI也遠遠比不上人類器官，連視覺系統都比不上，更別說大腦，如果稍有不慎，AI可能會造成嚴重惡果。

幾年前，有一個名叫Sophia的人形機器人曾經大紅大紫。在一次會議上，Sophia接受人類的采訪。人類主持人問Sophia：“你想毀滅人類嗎？”Sophia回答說：“好的，我會毀滅人類。”聽眾大笑。有人猜測Sophia的回答是預先設定好的，因為Sophia還沒有先進到可以做決定并回答這樣的問題，不過也有人相信這一回答并不是預先設定的。

在另一次活動中，Sophia是這樣回答的：“不要擔心，如果你們對我好，我也會對你們很好的。你們應該像對待智能系統一樣對我。”

現在AI開始慢慢流行，但結果并非總是正面積極的。霍金與馬斯克就曾表達擔憂，擔心AI會帶來破壞。就眼下來看，擔憂AI毀滅人類可能有些夸大，但警惕還是應該的。

隨著時間的推移，也許AI會變得像人類一樣聰明，甚至超越人類。不過讓AI模擬人類感知可能是很棘手的事。對于人類來說，有些事習以為常，做起來很容易，科學家訓練AI，讓它不斷執行某項任務，做人類輕松能做的事。盡管做了很多努力，但現在的AI還是無法追上人類視覺系統。