起底OpenAI“地震”中的焦點人物Ilya,他對AI到底有何看法?
OpenAI CEO山姆·奧特曼(Sam Altman)上周五被解雇,不再領導公司。
投資者對這種安排多有不滿,嘗試讓奧特曼回歸,但失敗了。OpenAI最大的投資者微軟發布消息稱,已經聘請奧特曼領導微軟新成立的AI研發部門。
為什么會出現人事動蕩?我們不得而知,但有一個名字越來越耀眼,他就是新任CEO伊爾亞·蘇茨克維(Ilya Sutskever)。
蘇茨克維與奧特曼觀點素有不合
有消息稱,在技術研發和利潤方面,奧特曼與董事會其它成員多有不合。蘇茨克維是OpenAI的首席科學家和聯合創始人,他也是董事會成員。蘇茨克維與奧特曼站在對立面。
上周末,奧特曼、微軟、OpenAI董事會、蘇茨克維和追隨他的幾名董事開會討論奧特曼的去留,最終他們于周日晚上簽署備忘錄,確認驅逐奧特曼,因為這是推動OpenAI發展、保護公司使命的唯一選擇。
奇怪的是,沒過多久蘇茨克維便在Twitter上發消息稱:“因為參與董事會的行動,我深感后悔。我無意傷害OpenAI。”奧特曼讀到了這條消息,用一連串紅心回應。
更古怪的是蘇茨克維還聯合500多名OpenAI員工在公開信上簽字,信件稱,如果不讓奧特曼復職,他們就離開公司,加入微軟,與奧特曼一起共事。他們還要求董事會成員辭職。
蘇茨克維成為事件的焦點,那么他到底是何方神圣呢?我們不妨了解一下。
蘇茨克維是OpenAI成功的關鍵
蘇茨克維生于蘇聯(俄羅斯),在以色列長大,后來到多倫多大學學習,成為Machine Learning Group的學生,師從AI先驅Geoffrey Hinton。2018年Geoffrey Hinton因為深度學習研究成果獲得圖靈獎,他曾在谷歌工作,但最終離開,據說是因為他擔心AI會變得比人類更聰明。
后來蘇茨克維到斯坦福大學讀博士后,與知名AI科學家吳恩達(Andrew Ng)是同學。再后來蘇茨克維創建了名叫AlexNet的神經網絡,大約10年前他成為谷歌Brain Team的一員。蘇茨克維在谷歌呆了3年,然后成為OpenAI聯合創始人。蘇茨克維精通俄語、希伯來語和英語。
上個月《麻省理工科技評論》曾采訪Y Combinator高管Dalton Caldwell,他談到蘇茨克維時說:“我記得奧特曼曾說蘇茨克維是世界上最受尊敬的研究者之一,他認為蘇茨克維能吸引更多的頂級AI人才加入,他甚至還提到了另一名頂級AI科學家Yoshua Bengio,他說很難找到比蘇茨克維更合適的人來擔任OpenAI首席科學家。”
馬斯克也曾說,蘇茨克維是OpenAI成功的關鍵。
早在2016年時OpenAI就推出了GPT大語言模型,但直到去年11月才向公眾開放。因為免費,OpenAI模型快速流行起來,影響了科技產業。
蘇茨克維關注如何控制超級智能
相比奧特曼及其它人,蘇茨克維很少在公眾場合出現,比較低調,他也很少接受采訪。當他接受采訪時,經常談論的是AI的意義,包括好的一面和壞的一面,他還特別喜歡談論AGI(強人工智能,通用人工智能)。
蘇茨克維在《衛報》制作的紀錄片中說:“AI很好,它會解決我們今天面臨的所有問題,會解決失業、疾病、貧困問題。但它也會創造新問題,比如假新聞會嚴重無數倍,網絡攻擊將會變得更極端,人類還會開發出自動化AI武器。”
自ChatGPT發布之后,蘇茨克維越來越關注AGI,經常思考OpenAI是否真的堅守造福人類的非盈利性使命。蘇茨克維經常會在推特上發表一些言論,比如:“你所需要的是少一點困惑。”“想看得清楚,最大的障礙是相信已經看清的東西。”“自我是成長的敵人。”一般都是深思式的名言。
最近推文的風格突然變了,開始關注如何控制超級智能。蘇茨克維似乎深信AI會變得比人聰明,而且聰明很多,他認為人類應該確保AI系統符合人類意圖。
最近,OpenAI及一些同行開始用人類反饋信息強化AI學習,進而開發更先進的大語言模型,目的是創造所謂的“人工智能對齊技術”,蘇茨克維認為這些模型已經觸及“超級智能”。
“AI對齊”是AI控制問題中的一個主要的問題,即要求AI系統的目標要和人類的價值觀與利益相對齊(保持一致)。
7月份,蘇茨克維與對齊技術大佬 Jan Leike合作,建立所謂的“超級對齊團隊”,他們準備用OpenAI約20%的算力來解決此問題,在未來4年內解決。
新團隊說:“這是一個無比宏大的目標,我們并不能保證一定取得成功。我們只是很樂觀,相信一個更專注、更集中的團隊能解決此問題。”(小刀)