最近，圖靈三巨頭之一的Yoshua Bengio接受了BBC的采訪。

Bengio在訪談中透出了一股濃濃的「憂郁風」，表示他對自己一生所追求的事業感到某種程度上的迷失。

往具體了說，他覺得如果自己能早點認識到AI可能的發展速度，那他可能就會傾向于AI的安全性優先，而非實用性優先。

要知道，Bengio剛剛簽署了前幾天公布的「AI可能滅絕人類」的公開信。

迷失的Bengio

公開信的簽署立場鮮明地表明了Bengio的態度。

這封只有22個字的公開信，將AI可能滅絕人類的風險和核戰爭、傳染病等社會危機做對比。

在BBC的訪談中，Bengio詳細地闡述了自己的觀點。

他呼吁，我們應該對AI進行更嚴格地規范，舉例來說，軍方就絕對不應該被賦予使用AI的權力。

當然，政治機構也并不是對AI的發展熟視無睹。

歐盟可能就會是最早針對AI進行立法的組織。也是在最近，歐盟表示，AI相關的行為準則可能會在未來幾周內創建。

這種擔心不無道理。畢竟，AI的高性能可能被使用在對人類有害的目標上，比如開發新型化學武器。

Bengio表示，自己很擔心那些「有惡意」的人掌握AI，尤其是在AI發展速度如此之快的情況下。

「可能是軍方，可能是恐怖分子，也可能是精神情緒并不穩定的人。總之，如果這些人掌握了AI，讓AI執行一些極度危險的事情，那么后果是不可預料的。」

另外，他表示，如果AI繼續發展，我們可能無法中斷進程中的AI。

接下來，Bengio又聊到了自己。

這些擔憂無疑增加了他的內耗，對他的個人生活和工作產生了影響。

從前的Bengio是榮譽傍身的AI大牛（當然現在也是），當時的他，愿意為自己所熱愛和擅長的事業奮斗終生。

AI事業曾經給他帶來了身份感、認同感和人生方向。但現在，因為這些擔憂的存在，這些東西對他來說已經不再清晰。

「對于那些身在AI行業的人來說，這在情感上是具有挑戰性的。」

不過，憂郁的背后仍然是積極的態度。

「你可以說我感到迷失。但你必須堅持下去，你必須參與討論，鼓勵別人和你一起思考。」

馬斯克也表達過類似的擔憂。

雖然他并不認為AI一定會滅絕人類，但他認為AI可能會限制并控制人類。

Bengio認為，所有和AI產品相關的科技巨頭公司都需要受管控，登記在冊。

「政府需要追蹤他們在做什么，他們需要能夠審計他們。而這只是我們對其他任何行業（如建造飛機、汽車或制藥）所做的最基本的事情。」

「我們還需要引入一種道德訓練，而這通常來說都是計算機科學及不會接受到的。」

Huggingface的科學家Sasha Luccioni博士表示，社會應該關注諸如AI偏見，信息的錯誤傳播等問題，她認為這些問題是具體的。

她的理念是，具體的問題應該被我們更多關注。滅絕人類什么的，有點虛，還聊不到。

而實際上，也有許多實例顯示了AI為社會帶來的諸多好處。

就在上周，憑借AI的力量，一個癱瘓的人只需靠意念控制就能再次嘗試行走，這得益于使用AI開發的微芯片。

而在科技影響以外，AI對國家經濟產生的深遠影響也不能忽視。

很多公司已經開始用AI工具取代人工，這也正是好萊塢劇作家發動罷工的一個重要原因。

毅然離職的Hinton

無獨有偶，前一陣子，同為圖靈三巨頭的Hinton也因為同樣的原因上過一次熱搜。

當時，各大媒體充斥著這個標題：深度學習泰斗、神經網絡之父Geoffrey Hinton突然宣布離職谷歌。

為了能夠自由談論人工智能風險，而不考慮這對谷歌的影響。

在紐約時報的報道中，Hinton直接警示世人：注意，前方有危險，前方有危險，前方有危險！

而這正是他對人工智能風險深深地擔憂。Hinton直言：「我對自己的畢生工作，感到非常后悔。」

從人工智能的開創者到末日預言者，Hinton的轉變，也標志著科技行業正處于幾十年來最重要的一個拐點。

這一點同樣讓許多業內人士感到不安，他們擔心自己所做的研究，正在向外釋放某種危險。

因為生成式人工智能可能已經成為產生錯誤信息的工具。并在未來的某個時候，可能會對人類構成威脅。

在Hinton看來，如何防止壞人利用它做壞事，我們還未能找到方法。

而在Hinton辭職錢，在喧囂的反對浪潮中，人工智能教父Hinton卻并未在限制AI發展的兩封公開信上簽名。

他表示，自己在辭去工作之前，并不想公開批評谷歌，或其他公司。

忍到上個月，Hinton終于下定決心，通知谷歌自己即將辭職。

選擇離職谷歌后，Hinton終于可以暢所欲言地談論AI的風險了。

我對我的畢生工作，感到十分后悔。

我只能這樣安慰自己：即使沒有我，也會有別人。