前OpenAI CTO另立門戶，2/3 ChatGPT骨干被挖！北大校友Lilian Weng加盟

作者：新智元 2025-02-19 08:29:27

OpenAI前CTO Murati離職后，終于官宣新動(dòng)向！她創(chuàng)立的「思考機(jī)器實(shí)驗(yàn)室」匯聚了OpenAI、谷歌DeepMind等頂尖AI人才，包括OpenAI聯(lián)合創(chuàng)始人Schulman、前安全副總Lilian Weng等。

離職近5個(gè)月，OpenAI前CTO Mira Murati終于官宣了！

新公司名叫「思考機(jī)器實(shí)驗(yàn)室」（Thinking Machines Lab），將人類價(jià)值觀編碼到AI模型中，讓其更安全、更可靠。

Mira任CEO，OpenAI前后訓(xùn)練研究副總Barret Zoph任CTO，OpenAI聯(lián)創(chuàng)John Schulman任首席科學(xué)家。

圖片

思考機(jī)器實(shí)驗(yàn)室現(xiàn)共有29名員工，其中2/3均來自O(shè)penAI，集結(jié)了最豪華的陣容。

其中，有我們熟知的，OpenAI前安全副總裁、北大校友翁荔（Lilian Weng）、前OpenAI多模態(tài)后訓(xùn)練負(fù)責(zé)人Alexander Kirillov等等。

圖片

Karpathy對前CTO成立的新公司表示了祝賀，并稱贊道「非常強(qiáng)大的團(tuán)隊(duì)，其中大部分成員直接參與并創(chuàng)造了ChatGPT這個(gè)奇跡」。

圖片

對此，賈揚(yáng)清表示，「這是我看到豪華的陣容」。

圖片

OpenAI前員工，又多一家新去處

Thinking Machines Lab如何保證，自己的方法有別于競爭對手？

重點(diǎn)就在于，研究是由研究團(tuán)隊(duì)和產(chǎn)品團(tuán)隊(duì)共同設(shè)計(jì)。該公司表示，將通過共享代碼、數(shù)據(jù)集和模型規(guī)范為AI對齊研究做出貢獻(xiàn)。

「雖然當(dāng)前的系統(tǒng)在編程和數(shù)學(xué)方面表現(xiàn)出色，但我們正在構(gòu)建能夠適應(yīng)人類全部專業(yè)知識(shí)并實(shí)現(xiàn)更廣泛應(yīng)用的人工智能。」

也就是說，Murati創(chuàng)業(yè)公司的重點(diǎn)，就是將人類價(jià)值觀編碼到AI模型中，使其更安全、更可靠。

圖片

截至一月份，Murati已經(jīng)從競爭對手那里為她的公司招募了大約10名員工，其中包括來自Character AI和Google DeepMind以及她的老東家OpenAI的人員。

消息人士稱，還會(huì)有更多OpenAI員工加入Murati的公司。此前，該公司一直在從投資者那里籌措風(fēng)投資金。

與Thinking Machines Lab類似， Anthropic和Safe Superintelligence也都吸引了大批前 OpenAI研究人員，并籌集了數(shù)十億美元的資金。

Murati在OpenAI工作了六年半，擔(dān)任CTO，參與了ChatGPT和其他AI研究項(xiàng)目的開發(fā)。

2023年11月，在OpenAI董事會(huì)突然解雇奧特曼之后，她曾短暫擔(dān)任臨時(shí)CEO，這一舉動(dòng)在公司內(nèi)部引發(fā)了動(dòng)蕩。在奧特曼重新?lián)蜟EO后，Murati繼續(xù)擔(dān)任CTO職務(wù)。

Murati是少數(shù)幾位離開OpenAI后創(chuàng)辦自己公司的前OpenAI高管之一。

前OpenAI首席科學(xué)家兼聯(lián)合創(chuàng)始人Ilya Sutskever于2024年5月離開公司，并在離職后不久創(chuàng)辦了Safe Superintelligence Inc.。

Dario和Daniela Amodei也曾在OpenAI工作，于2021年共同創(chuàng)辦了 Anthropic。

「思考機(jī)器」實(shí)驗(yàn)室

Thinking Machines Lab是一個(gè)AI研究和產(chǎn)品公司。目標(biāo)是讓每個(gè)人都能獲得知識(shí)和工具，使AI能夠滿足他們獨(dú)特的需要和目標(biāo)。

團(tuán)隊(duì)認(rèn)為盡管AI的能力有了顯著的進(jìn)步，但在關(guān)鍵領(lǐng)域仍存在差距。科學(xué)界對前沿AI系統(tǒng)的理解落后于其快速發(fā)展的能力。

關(guān)于這些系統(tǒng)是如何訓(xùn)練的知識(shí)主要集中在頂級研究實(shí)驗(yàn)室中，這既限制了公眾對AI的討論，也限制了人們有效使用AI的能力。盡管這些系統(tǒng)具有巨大的潛力，但人們?nèi)匀浑y以將它們定制以滿足自己的特定需求和價(jià)值觀。

Thinking Machines Lab的建立正是為了彌合這些差距，以使AI系統(tǒng)更廣泛地被理解、定制和普遍具備能力。

Thinking Machines Lab的團(tuán)隊(duì)包括科學(xué)家、工程師，以及諸如ChatGPT和Character.ai等最廣泛使用的AI產(chǎn)品創(chuàng)建者，還包括Mistral等開源模型，以及PyTorch、OpenAI Gym、Fairseq和Segment Anything等流行的開源項(xiàng)目的開發(fā)者。

共享讓科學(xué)更美好

· 科學(xué)進(jìn)步是集體努力的成果

通過與更廣泛的研究者和創(chuàng)造者社區(qū)合作，將更有效地推進(jìn)人類對AI的理解。團(tuán)隊(duì)計(jì)劃經(jīng)常發(fā)布技術(shù)博客文章、論文和代碼，來分享他們的工作。這樣不僅能造福公眾，還能改善自己的研究文化。

為每個(gè)人服務(wù)的AI

· 人機(jī)協(xié)作至關(guān)重要

團(tuán)隊(duì)不僅僅專注于打造完全自主的AI系統(tǒng)，更致力于構(gòu)建能與人協(xié)作的多模態(tài)系統(tǒng)。

· 更靈活、適應(yīng)性更強(qiáng)、更個(gè)性化的AI系統(tǒng)

在各個(gè)領(lǐng)域，AI都有著為人類提供幫助的巨大潛力。雖然當(dāng)前系統(tǒng)在編程和數(shù)學(xué)方面表現(xiàn)出色，但團(tuán)隊(duì)正在構(gòu)建的，是能適應(yīng)人類各種專業(yè)領(lǐng)域并支持更廣泛應(yīng)用的AI。

夯實(shí)基礎(chǔ)

· 模型智能是基石

除了人機(jī)協(xié)作和定制化外，模型的智能也是關(guān)鍵。為此，團(tuán)隊(duì)將會(huì)構(gòu)建在科學(xué)和編程等領(lǐng)域處于前沿水平的模型。最終，最先進(jìn)的模型將釋放最具變革性的應(yīng)用和效益，如實(shí)現(xiàn)新的科學(xué)發(fā)現(xiàn)和工程突破。

· 將基礎(chǔ)設(shè)施質(zhì)量作為首要任務(wù)

研究生產(chǎn)力至關(guān)重要，它在很大程度上取決于基礎(chǔ)設(shè)施的可靠性、效率和易用性。團(tuán)隊(duì)的目標(biāo)是正確構(gòu)建長期可用的系統(tǒng)，以最大化生產(chǎn)力和安全性，而不是采取捷徑。

· 先進(jìn)的多模態(tài)能力

團(tuán)隊(duì)認(rèn)為，多模態(tài)對實(shí)現(xiàn)更自然高效的交流、保留更多信息、更好地捕捉意圖以及支持與現(xiàn)實(shí)環(huán)境更深入的整合至關(guān)重要。

實(shí)踐出真知

· 研究和產(chǎn)品協(xié)同設(shè)計(jì)

產(chǎn)品能通過部署實(shí)現(xiàn)迭代學(xué)習(xí)，而優(yōu)秀的產(chǎn)品和研究又能相互促進(jìn)。產(chǎn)品讓團(tuán)隊(duì)能夠腳踏實(shí)地，去解決最有影響力的問題。

· 實(shí)證和迭代的AI安全方法

最有效的安全措施來自主動(dòng)研究和謹(jǐn)慎的實(shí)際測試的結(jié)合。團(tuán)隊(duì)計(jì)劃通過以下方式為AI安全做出貢獻(xiàn)：

保持高安全標(biāo)準(zhǔn)——防止我們發(fā)布的模型被濫用，同時(shí)最大化用戶的自由度；
與業(yè)界分享構(gòu)建安全AI系統(tǒng)的最佳實(shí)踐和方法；
通過分享代碼、數(shù)據(jù)集和模型規(guī)范來加速外部對對齊問題的研究。

團(tuán)隊(duì)相信，為當(dāng)前系統(tǒng)開發(fā)的方法，如有效的紅隊(duì)測試和部署后監(jiān)控，將為未來更強(qiáng)大的系統(tǒng)提供寶貴的見解。

· 衡量真正重要的事物

團(tuán)隊(duì)將專注于理解系統(tǒng)如何在現(xiàn)實(shí)世界中創(chuàng)造真正的價(jià)值。最重要的突破往往來自重新思考自己的目標(biāo)，而不僅僅是優(yōu)化現(xiàn)有指標(biāo)。

20名OpenAI員工加盟

坊間早有傳聞，Mira Murati初創(chuàng)公司將會(huì)把大部分OpenAI員工收入麾下，如今約2/3的人均加入。

接下來，讓我們一起盤點(diǎn)下都有哪些OpenAI大佬。

Mira Murati（前OpenAI CTO）

圖片

Mira Murati于2018年加入OpenAI，并在2022年晉升為首席技術(shù)官。她在開發(fā)開創(chuàng)性AI模型方面，發(fā)揮了關(guān)鍵作用。其中就包括GPT-3，以及ChatGPT、DALL·E等。

Barret Zoph（前OpenAI后訓(xùn)練團(tuán)隊(duì)研究副總）

圖片

Barret Zoph主要致力于對齊、工具使用、評估、ChatGPT、搜索、多模態(tài)等等。他曾于2022年加入OpenAI，任職兩年。此前，曾在谷歌擔(dān)任6年研究科學(xué)家。

John Schulman（OpenAI聯(lián)合創(chuàng)始人）

圖片

Schulman在研究生學(xué)業(yè)完成后，以創(chuàng)始人身份正式加入OpenAI，并在OpenAI供職9年。值得一提的是，這是Schulman除實(shí)習(xí)之外，唯一工作的公司。他曾負(fù)責(zé)領(lǐng)導(dǎo)了對齊團(tuán)隊(duì)，以及「后訓(xùn)練」團(tuán)隊(duì)——對部署在ChatGPT和OpenAI API中的模型進(jìn)行微調(diào)。

Lilian Weng（前OpenAI安全研究副總裁）

圖片

Lilian Weng曾是OpenAI安全系統(tǒng)負(fù)責(zé)人，主要從事機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等研究。Weng本科畢業(yè)于北京大學(xué)信息系統(tǒng)與計(jì)算機(jī)科學(xué)專業(yè)，曾前往香港大學(xué)進(jìn)行短期交流，之后在印第安納大學(xué)布魯明頓（Indiana University Bloomington）分校獲得博士學(xué)位。

Alexander Kirillov（前OpenAI多模態(tài)后訓(xùn)練負(fù)責(zé)人）

圖片

在OpenAI，Alexander Kirillov帶領(lǐng)團(tuán)隊(duì)致力于多模態(tài)模型的研發(fā)工作，推動(dòng)模型不僅能夠處理文本，還能同時(shí)理解和生成圖像、音頻等多種數(shù)據(jù)。此前，他在Meta參與并主導(dǎo)爆火的「Segment Anything」項(xiàng)目。

Mario Saltarelli （前OpenAI IT和安全部門負(fù)責(zé)人）

圖片