成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

最神秘國產大模型團隊冒泡,一出手就是萬億參數MoE,兩款應用敞開玩

人工智能
和很多大模型一樣,躍問的知識庫信息只截止到2023年,后面的信息自然只能現搜了。“今天的天氣如何”太簡單,我們直接問它馬斯克腦機接口公司的進展如何。結果,準確檢索到1月份首位志愿者植入芯片的重大事件。

國內基礎大模型創業公司,最后一位強實力選手終于正式來到臺前。

它就是微軟前全球副總裁姜大昕所創辦的階躍星辰。

圖片

一年前,量子位就對這位大牛的創業動向有所耳聞。

姜大昕在微軟工作16年有余,曾任職微軟全球副總裁,微軟亞洲互聯網工程院(STCA)首席科學家,全面負責微軟必應搜索的技術研發工作。但就是這么一位風云人物,此番創業,卻有不少令人費解的動作。

一來,他在微軟職級極高,在微軟混得風生水起,怎么想不開創業?

二來,階躍星辰已經成立一年,但在百模群戰的2023年,這家公司低調得近乎隱形。不僅沒有主動對外發聲,連量子位在圈內打聽消息也探不得虛實。

現如今,大模型五虎已經初成格局,市場的注意力已經被瓜分不少,階躍星辰的亮相才姍姍來遲——會不會晚了?

會者不晚。

一出手,階躍星辰就亮出了自己蟄伏水下一年沉淀的成績:

千億模型有了,ToC產品有了,萬億模型在路上,且通往AGI的路也十分明確:

走一條“單模態—多模態—多模理解和生成的統一—世界模型—AGI(通用人工智能)”的路。

圖片

2款C端產品全面開放使用

階躍星辰的產品是什么?

不玩虛的,一露面,階躍星辰就直接帶來了2款面向C端市場的應用:

躍問冒泡鴨,均全面開放使用。

它們一個是聊天類應用,定位個人效率助手。

圖片

一個是AI開放世界平臺,提供海量智能體,主打一個休閑娛樂。

圖片

具體效果怎么樣?火速注冊登錄,量子位帶大伙一睹為快。

先來看效率工具躍問。

第一輪基本問答我們讓它對比一下ChatGPT和Claude的不同,重點:以圖表形式呈現。

結果很快啊——

不止是開發公司、模型結構、文件讀取能力這種硬性對比,也有專注方向、創新水平、安全性等偏主觀的總結,一共14個小項,主打一個全面:

圖片

第二輪看看聯網、信息檢索能力。

和很多大模型一樣,躍問的知識庫信息只截止到2023年,后面的信息自然只能現搜了。

“今天的天氣如何”太簡單,我們直接問它馬斯克腦機接口公司的進展如何。

結果,準確檢索到1月份首位志愿者植入芯片的重大事件。

圖片

不過不知道是不是對“重大進展”這一詞有不同理解,躍問沒提幾天前這位志愿者可以打游戲的報道。

我們追問之下,它倒也準確“交代”出來,包括志愿者名字、玩的什么游戲——除了游戲,下象棋7勝4負的事兒也一并提了。

圖片

第三輪:文件處理。

身處AI科技圈,最新論文和大佬教程我們自然要緊跟步伐。

先用OpenAI前科學家Karpathy不久前的《從頭構建GPT Tokenizer》視頻摸摸底。

直接給倆小時長的視頻目前沒有哪個大模型能直接解析,我們還是上傳字幕文件。

圖片

很快,全英文的內容躍問刷刷刷地就總結完畢:

圖片

仔細幫大家驗證了,里面提到的例子都有都對。用起來相當給力。

對于論文來說就更簡單了,直接給arXiv的鏈接就行。

一篇8.3萬字(基本滿足日常所需)的大模型微調方法論文(《AutoFT: Robust Fine-Tuning by Optimizing Hyperparameters on OOD Data》)丟進去,最核心的內容幾秒便可知。

圖片

至于數據處理,如下圖所示,圖片轉表格、凈增長率計算,這種需要復雜邏輯推理的任務,躍問用代碼的方式輕松解決。

圖片

最后,大家關心的多模態:

解讀表情包,easy。

圖片

挑戰一下投資機構整理的AI視頻公司全景圖。

別看logo們字體五花八門,躍問不僅迅速識別,還按照原圖歸門別類,閱讀起來相當清晰。

圖片

相比之下,有同類選手不僅識別漏洞一個接一個,格式也完全顧不上。

圖片

總的來說,說起目前市面上的AI個人效率助手,已經不算少。但躍問,該有的功能不僅有,在多模態、長文本理解上也能做得更好。

并且最重要的是:免費!

使用起來沒啥限制,目前也不用擔心宕機、模型“太累了”回答不出問題(手動狗頭),所以完全不失為一個優秀的平替。

至于冒泡鴨,它有app版也有web版。

平臺上載有各種由多模態大模型驅動的智能對話體,可以進行各種有趣的對話、也可以探索有趣的劇情互動游戲(“戲精”們有福了)

實在不夠,還可以自己上手創建:

圖片

官方也提供了非常詳細的上手文檔,包教包會。

圖片

我們淺試了《逃離精神病院》這一劇情。

圖片

和AI的對話相當流暢、沉浸,讓人一不小心抬頭看時間才發現已經玩了好久。

(不瞞您說,量子位開了好幾輪都沒能成功逃出“精神病院”,難度還是有億點點的。)

圖片

對于大模型產品,姜大昕表示:“我把模型和產品的關系比喻成靈魂和皮囊。大家一定聽過一句話,好看的皮囊千篇一律,有趣的靈魂萬里挑一。我們希望靈魂能更加有趣一點,才能顯示出產品的不同。”

那么,躍問和冒泡鴨背后的“靈魂”——大模型們長什么樣?

“鐵人四項”攀登萬億參數模型

冒泡鴨和躍問的背后,是階躍星辰已經成熟的兩款千億參數大模型。

該公司將其稱為Step系列通用大模型,分別是Step-1千億參數語言大模型,以及Step-1V千億參數多模態大模型。

一路看來,階躍星辰訓模型的路,走得出奇的順。

去年7月起,研發團隊正式開始訓練模型。

2個月后,綜合性能超過GPT-3.5的千億參數大模型Step-1,一次性訓練成功。

在大模型遍地開花的時代,聽起來擁有一個模型并不是什么難事,但短時間內一次成功,這種效率仍然令人咋舌。

姜大昕把原因歸結于兩點。

  • 一是團隊本身在AI領域有經驗和積累;
  • 二是創業公司團隊精悍,能對訓練中遇到的問題及時溝通與反應。

這次成功極大地鼓舞了團隊的信心,“這驗證了我們的方法是正確的。”

再2個月后,也就是去年11月,千億參數的多模態大模型Step-1V又告成。

Step-1V大模型可以精準描述和理解圖像中的文字、數據、圖表等信息,并根據圖像信息實現內容創作、邏輯推理、數據分析等多項任務。此外,它還能理解視頻中的內容。

上海人工智能實驗室推出的大型模型評估平臺“司南”(OpenCompass)多模態模型評測榜單顯示,階躍星辰研發的Step-1V位列第一,性能比肩GPT-4V。

“千億參數的GPT-3.5模型是一個重要的分水嶺。”姜大昕表示。

模型要達到GPT-4的萬億參數規模,各個維度的要求都上了一個臺階。

譬如,訓練萬億模型需要等效A800萬卡單一集群,進行高效穩定的訓練;需要十萬億tokens的高質量數據;需要駕馭好新穎的MoE架構。

姜大昕稱,以上幾點,無論是有哪一點有所不足,都會導致Scaling Law難以向上攀登。

但是!

就在前幾天的全球開發者先鋒大會開幕式上,階躍星辰又給出了萬億參數MoE語言大模型Step-2的預覽版——這也是國內初創公司,首次交出的萬億參數模型答卷。

姜大昕介紹,Step-2從去年12月啟動訓練,目前訓練穩定,待完全訓練完畢和打磨成熟。

“我堅信Scaling Law,(會)訓練更大模型。”姜大昕談到,團隊追求的是多模理解和生成的統一,“Step系列大模型將為多模理解和生成的統一奠定堅實基礎。”

圖片

基于實踐經驗,團隊把攀登Scaling Law稱為一個“鐵人四項”般的超級工程。

哪四項?

算力、系統、數據、算法。

而階躍星辰自然有自己熟稔的打怪套路。

算力方面,通過自建機房+租用算力,積極進行算力儲備;

系統方面,團隊核心成員實踐過單集群萬卡以上的系統建設與管理,訓練千億模型的MFU(有效算力輸出)達 57%;

數據方面,數據團隊核心骨干出身必應搜索引擎,曾支持全球100多種語言,為200多個國家和地區提供服務,對全球互聯網高質量語料的分布有深入了解,并建立起強大的數據處理和知識圖譜流水線;

算法方面,團隊不僅能駕馭各種架構,比如萬億參數的MoE架構,而且對大模型的認知以及發展路線有深刻洞察。

不想只在時代的風中凌亂

面對鐵人四項和多模態融合之路,階躍星辰就這么默默進發了一年。

那么,是什么樣的團隊行進在這條Scaling Law之路上?

量子位得知的消息是,階躍星辰現在已經有一支150多人的隊伍。

領隊者姜大昕,現任階躍星辰CEO,同時也是團隊算法負責人。

2005年,姜大昕獲紐約布法羅州紐約州立大學計算機科學博士,在機器學習、數據挖掘、自然語言處理、生物信息等領域有豐富的經驗和工程經驗。

博士畢業后,他先后任南洋理工大學擔任助理教授,MSRA(微軟亞研院)研究員。

2011年開始,姜大昕轉入微軟亞洲互聯網工程院(STCA)工作。

該中心主要負責微軟全球產品的研發工作,包括必應搜索引擎、智能語音助手Cortana、Azure認知服務以及Microsoft 365的自然語言理解系統等。

去年3月,姜大昕正式升任為微軟副總裁,同時兼任亞洲軟件技術中心WebXT S+D(網絡體驗、搜索和分銷)集團總經理。

——是的,你沒聽錯,剛剛被升職,明明可以在微軟干到退休,卻跑出來創業了。

“在微軟,只能基于OpenAI的模型做工作。”姜大昕回憶,即便是微軟和OpenAI的關系,使用其模型也只能調用API,對黑盒里的秘密、模型算法的修復/迭代建議,完全插不上手。

我當時感覺整個世界在我身邊呼嘯而過,都在往前沖,我在原地很茫然,留下自己在風中凌亂,我不知道我在干什么。

琢磨再三,姜大昕決心不能再被動地風中凌亂。

于是,離開微軟;于是,躬身入局。

有了創業想法的姜大昕,與現在階躍星辰的數據負責人焦斌星“密謀”兩個多小時,一拍即合。

焦斌星同樣出身微軟,是中科大和MSRA聯合培養博士。

博士畢業后,焦斌星正式入職微軟,是微軟必應引擎核心搜索團隊前負責人,日常工作主要是利用數據挖掘和NLP算法優化索引和搜索質量;也曾開發全球高質量站點的自動挖掘算法并用于索引和排序。

還在微軟時,他二人就聽說過外界盛傳大模型時代的“數據荒”,即Scaling Law所需的數據不夠用了。

當時,他們不以為然。有搜索引擎背景在,眼見互聯網有上億、上萬億的網頁網站,怎么會不夠用?

等到自己置身其中時,發現是真的不夠用(笑死)。

好在現在既可以從多模態數據中挖掘更多數據,也可以像OpenAI訓練Sora那樣使用人造數據。

核心團隊的另外一位成員,朱亦博,此前擁有多次單集群萬卡以上的系統建設與管理實踐經驗。

他博士畢業于美國加州大學圣芭芭拉分校,曾任微軟研究院研究員。

在這一波浪潮襲來之前,他的工作主要面向大規模系統以及超高速度性能網絡。

2018年,他任職字節跳動,負責公司AI基礎設施與基礎AI框架,開始積累萬卡集群的搭建經驗;2022年底,他離開字節,跳槽至Google任高級主管,直接支持OpenAI最大勁敵、Claude的背后公司Anthropic。

可以說,階躍星辰三位核心骨干的經歷十分相似,就是第一階段(博士期間)進行相關研究,第二階段進入大廠在一線打拼,一直都在和AI的最新進展親密貼貼。

當ChatGPT引領的大模型時代開始時,他們都意識到這是一個大變革,因此以最快速、最靈活、最全面的方式投身變革當中。

如果AGI是一個需要長期攀登的山峰,看到正確的路徑,建立正確的能力,比早走幾步更加重要。

One More Thing

最最最后,階躍星辰的個人效率助手躍問,剛剛上線了一個很贊的新功能。

叫一圖讀懂。

說大白話就是丟給它一個文檔,就能一鍵生成解析重點的長圖文。

這是此前的ChatBot沒上線過的功能,想要體驗的朋友們,速去喲~

圖片

責任編輯:姜華 來源: 量子位
相關推薦

2024-04-01 12:10:48

數據訓練

2024-07-25 12:31:06

2024-03-14 11:55:08

AI模型

2009-12-18 11:26:08

Intel 32nm

2024-08-01 12:44:58

2024-02-06 20:39:21

2015-11-25 14:43:44

2017-03-01 18:17:27

阿里巴巴

2024-11-12 09:14:52

2011-12-14 09:32:06

微軟iPhone

2024-01-29 13:56:55

AI數據

2015-05-08 12:17:53

2025-05-30 08:45:00

數據模型訓練

2024-02-05 13:37:35

AI數據

2024-02-06 10:38:10

昆侖萬維大模型

2014-08-19 10:14:47

App應用原型設計工具

2009-01-11 10:04:00

網管遠程維護工具

2025-04-29 09:06:00

點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 九九成人 | 中文字幕第十一页 | 国产免费一区二区 | 国产一区二区三区视频在线观看 | 日韩欧美精品一区 | 日韩精品一区二区三区在线观看 | www.久久精品视频 | 久久久久国产一区二区三区四区 | 国产精品久久久久aaaa樱花 | 精品成人一区二区 | 亚洲精品视频在线观看免费 | 亚洲欧洲小视频 | 91免费在线看 | 精品久久中文 | 国产午夜亚洲精品不卡 | 四虎成人精品永久免费av九九 | 日本a∨精品中文字幕在线 亚洲91视频 | 色视频网站在线观看 | 成人精品鲁一区一区二区 | 免费黄色片在线观看 | 国产露脸国语对白在线 | 一区二区三区影院 | 国产欧美日韩在线 | 在线播放日韩 | 韩日三级| 91精品免费视频 | 另类专区成人 | 国产伦精品一区二区三区照片91 | 91精品国产综合久久婷婷香蕉 | 久久99视频免费观看 | 久久久人成影片免费观看 | 日本不卡视频 | 成人免费大片黄在线播放 | 激情自拍偷拍 | 国产精品一区二区免费看 | 成人美女免费网站视频 | jlzzxxxx18hd护士| 免费在线观看成人av | av片免费 | 久久精品综合 | 一区二区三区国产好 |