[[122220]]

翻譯/赤龍飛、楊涵舒、Viola、微胖、趙賽坡、趙云峰

Elon Musk不久前曾公開表示人工智能就如同“召喚惡魔”，用科幻電影來說明人工智能的危害。但在本文作者看來卻是非常不負責任的誤導大眾，而且還在傳遞一種沒來由的恐懼，這將對目前人工智能領域的具體工作產生嚴重傷害。作者對Musk的言論進行了強有力反駁，并對人工智能的風險評估和發展提供了非常完善的論證。

Elon Musk縮短了未來和當下的距離。他的SpaceX成功的完成了太空探索任務，特斯拉也在電動車行業發揮了關鍵作用。因此，當Musk談論未來時，人們總會側耳傾聽。這就是他最近對人工智能的言論引起如此多關注的原因。

在巧舌如簧的對人工智能研究的走向大潑臟水方面，Musk的行為不斷升級加碼。就在最近，他將當下的人工智能研究描述成“召喚惡魔”，并且惡搞的將影片《2001太空漫游》中的超級電腦HAL9000戲稱為小狗，拿它和未來的機器人做比較。前段時間，他解釋之所以參與人工智能公司DeepMind，是因為他渴望時刻關注可能出現的“終結者”情形的進展。這樣的談論總體來說弊大于利，特別是對于那些Musk的鐵桿粉絲來說。

從根本上講，Musk的言論被大肆炒作和宣傳，當這樣的負面宣傳涉及到具體的研究工作時，會產生非常消極和有害的后果。就像去年Gary Marcus在《New Yorker》雜志的一篇專題報道中所說，在過去的幾十年中，公眾關注熱點的反復無常、投機行為蔓延、以及研究先驅們的接連放棄一直困擾著人工智能的研究。這一現象被稱作“人工智能寒冬”——研究者在燒掉投資之后卻無法兌現他們之前在媒體上公開發表的承諾，這一過程在人工智能的歷史上重復出現。

正如1993年Daniel Crevier（加拿大企業家、人工智能和圖像處理專家）在一本對人工智能歷史研究的書里所描述的那樣，或許人工智能研究中最聲名狼籍的宣傳（也就是宣揚人工智能將戰勝人類）發生在20世紀70年代，當時，DARPA（美國國防部先進研究項目局）資助了很多類似項目，但最終效果卻都未達到預期。

Facebook 人工智能實驗室的負責人Yann LeCun去年在Google＋上總結道：“一些不實宣傳對于人工智能是非常危險的。在過去的50年里，人工智能就先后因為不實宣傳而沉淪了四次。關于人工智能的炒作必須停止。”如果不能如Musk所愿，我們五年內造不出一臺功能齊全的自動駕駛汽車，會對這個領域產生何種影響？因此，還是忘記所謂的終結者吧，我們應該重新考量如何談論人工智能。

Musk對于人工智能的尖刻評論只會誤導那些比他更不熟悉人工智能的人。事實上，我們現在最聰明的人工智能產品也僅僅是與一個剛會走路的孩子智力相當，而這還僅限于處理一些需要外部幫助的任務（如信息召回）。大多數機器學家仍然在努力使機器人們能夠撿起一個球，跑步時不會摔倒，這看起來離“天網”的最終結局還有十萬八千里。

的確，歐盟的Human Brain Project和美國的BRAIN Initiative花費巨資，希望能夠找到人類大腦的“數字地圖”，但他們任重道遠，大多數支撐研究結果的技術還處在研發階段，比如，能夠更好掃描大腦的納米生物傳感器。當然，這不是說這些研究完全沒有意義，這項工作當然有意義，而且這些研究并沒有向公眾宣揚所謂的恐懼。

“當我們聽到這些關于人工智能的令人驚悚的事情時，就感覺像是那種源于外星人和科幻小說的恐懼。外星人出現了，帶著比我們高三倍的智商。”紐約倫斯勒理工學院人工智能實驗室主任Selmer Bringsjord告訴我，“那些政府支持下的人工智能研究員也開始產生這種電影情節里的恐懼情緒。這與自己現在所做的研究無關，而是一種更深層次的、非理性的恐懼。”

以Musk和霍金為代表的這些人最害怕的是人工智能所帶來的“存在風險（existential risk）。” 存在風險是指那些威脅到整個人類發展、或者是將我們徹底毀滅的風險，該名詞于2001年由牛津大學人類未來學院（FHI，Oxford）院長Nick Bostrom首次提出并從此流行開來。Musk是Bostrom最近所著一本書《Superintelligence》的粉絲。

來自牛津大學人類未來學院的科學家Daniel Dewey表示，“存在風險”可能是戰爭、財富不均蔓延、自然災害、以及惡意的人工智能。有一個明顯的事實Musk沒有搞清楚，至少是沒表達出來——與其他風險不同，在評估人工智能所帶來的風險時需要單獨對待，因為目前對該風險的討論在很大程度上是一種帶有推測性的、哲學上的見仁見智，沒有統一的路徑可循，而這些推斷正確與否只有在遙遠的未來才能得到驗證。即便如此，只有當機器突然具備了出乎我們意料的智能之后，人類未來學院研究者眼中的“智能爆炸”才會出現。

“我認為，我們要足夠重視我們目前對人工智能風險狀況的未知程度。” Dewey說到，“我們現在對人工智能的評估大多是一種可能性討論，而不是嚴謹的計算——例如，我們雖然可以談論智能爆炸有可能出現，但無法百分之百確認這種可能性，也無法預測這會在何時發生。

像霍金一樣（譯者注：霍金曾表示人工智能或將威脅到人類生存），Musk認為相關的監督管理委員會應該開始監督人工智能的發展，以免我們做出一些“非常愚蠢的事情”，比如說造出一個能干掉我們的機器人。但我們對此表示嚴重懷疑，一個負責頒布公共政策的人工智能委員會此時能做出些什么？誠然，就像華盛頓大學法學院教授Ryan Calo提議的那樣，針對已經具備一定智能的機器人制定一套規則是有好處的，例如我們已經擁有的自動駕駛汽車、無人機殺手和戰爭機器人等等。但對于那些依然遙不可及的強人工智能，就完全另當別論了。

“危險會很嚴重，在某些具體的情景下，人工智能可能會做出錯誤決定。舉例來說，一臺自動駕駛汽車只會考慮更加現實和直接的風險，就像最近廣為人知的倫理困境（譯者注：例如桑德爾在《公正》中提到的案例），所以當撞車成為最符合現實主義和最可靠的選擇時，機器會毫不猶豫的這樣去做。"

"我認為人工智能是一個數學和工程學問題，而非公共政策問題。”Bringsjord坦言，"如果我們建立一個委員會，我們應重點關注人工智能的工程層面。”

根據Bringsjord的觀點，在出臺公共政策之前，應該先從優秀的工程設計入手來對人工智能潛在的社會弊病進行規范。這不僅僅是因為人工智能剛剛上路，更是因為嚴謹的設計過程能夠緩解計算機程序中出現的弊端。

解決這個問題的方法之一就是恢復對正式軟件認證的研究，他說，正式認證可以精確的檢測出程序的缺陷和潛在錯誤，將功能失常的風險降到幾乎為零。過去隨著資助減少，這方面的研究活動曾一度消失，但DARPA已經開始通過開源和眾包的形式來重新開啟這項研究（譯者注：即DARPA的CSFV，開源正式認證）。

“相比這類監管委員會，我們更愿意為那些有能力進行必要的工程設計的人買單，”Bringsjord對我說，“就像新奧爾良洪水，眾所周知，工程師曾事無巨細的向我們解釋了如何保護新奧爾良免于洪水侵害——但別人卻認為這項計劃耗資太過巨大。因此，從本質上來說，輕率的吝嗇行為才是真正威脅，而非人工智能。

但是，先進人工智能與生俱來的潛在危險似乎才是Musk們所重點關注的。技術有招致毀滅的風險，這種黑色預言不但捏造了人工智能在可預見的將來真正能做的事情，而且還使現在對人工智能的討論陷入混亂。

比如，科技發展所帶來的失業。資本控制下的人工智能和便攜機器人研發正徹底改變世界，取代無數勞動者，完全體現不出任何的未來進步。隨著無人機技術的不斷進步和應用范圍的擴大，軍用機器人雖然沒有強人工智能的支持，但也能夠自行完成殺人任務，這已經成為極具爭議的話題，但那些呼吁停止這類研發的組織卻被直接忽視。

事實上，我們不需要這樣的技術突破——人工智能變得和人一樣聰明，因為我們的世界將不可避免的被機器和軟件改變，不論好壞。這不是說，我們不該考慮先進人工智能的未來應用，而是應該更加負責一點，尤其是面對公眾時。

Musk的評論適時給媒體的炒作加了一把火，也加劇了這種未經證實的恐懼，而這種恐懼僅僅是來源于對一種還處于嬰兒階段的技術的過分夸大，不管它每天的進步是多么令人印象深刻。自動駕駛汽車、智能安檢員、機器人同事......這些可能性雖讓人恐懼，但也很美妙。這就是我們的未來，而人工智能決不會讓它陷入瘋狂。

本文原載Vice，作者Jordan Pearson，由機器之心翻譯。

添加個人微信號"jiqizhixin2014"為好友可更加方便的查看歷史文章和申請加入機器之心交流群，申請時請提交個人簡介和符合機器之心主題的個人感悟。

機器之心希望在令人眼花繚亂的科技中思考和尋找人類的共同未來。