成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

效果可達(dá) OpanAI 同等模型 96%,國(guó)產(chǎn)開源 AI 語言模型 TigerBot 發(fā)布

人工智能
根據(jù) OpenAI InstructGPT 論文在公開 NLP 數(shù)據(jù)集上的自動(dòng)評(píng)測(cè),TigerBot-7B 已達(dá)到 OpenAI 同樣大小模型的綜合表現(xiàn)的 96%。?”

6 月 8 日消息,國(guó)產(chǎn)多模態(tài)大語言模型 TigerBot 近日正式發(fā)布,包含 70 億參數(shù)和 1800 億參數(shù)兩個(gè)版本,目前已經(jīng)在 GitHub 開源。

▲ 圖源 TigerBot 的 GitHub 頁面

據(jù)悉,TigerBot 帶來的創(chuàng)新主要在于:

  • 提出指令完成監(jiān)督微調(diào)的創(chuàng)新算法提升模型可學(xué)習(xí)性。
  • 運(yùn)用 ensemble 和 probabilistic modeling 的方法實(shí)現(xiàn)可控事實(shí)性和創(chuàng)造性。
  • 在并行訓(xùn)練上突破 deep-speed 等主流框架中的內(nèi)存和通信問題。

此外,該模型還針對(duì)中文語言更不規(guī)則的分布,從 tokenizer 到訓(xùn)練算法上做了更適合的優(yōu)化。

研究人員陳燁在虎博科技官網(wǎng)表示:“該模型在只使用少量參數(shù)的情況下,就能快速理解人類提出了哪類問題。根據(jù) OpenAI InstructGPT 論文在公開 NLP 數(shù)據(jù)集上的自動(dòng)評(píng)測(cè),TigerBot-7B 已達(dá)到 OpenAI 同樣大小模型的綜合表現(xiàn)的 96%。”

▲ 圖源 TigerBot 的 GitHub 頁面

據(jù)稱,其中 TigerBot-7B-base 的表現(xiàn)“優(yōu)于 OpenAI 同等可比模型” ,開源代碼包括基本訓(xùn)練和推理代碼,雙卡推理 180B 模型的量化和推理代碼。數(shù)據(jù)包括 100G 預(yù)訓(xùn)練數(shù)據(jù),監(jiān)督微調(diào) 1G 或 100 萬條數(shù)據(jù)。

IT之家小伙伴們可以在這里找到 GitHub 的開源項(xiàng)目

責(zé)任編輯:姜華 來源: IT之家
相關(guān)推薦

2023-06-07 12:28:47

開源數(shù)據(jù)

2024-05-14 11:31:29

IBM開源Granite AI

2023-06-09 16:51:34

Tigerbo

2023-05-17 10:05:56

2025-04-22 08:08:37

2021-03-23 15:21:00

人工智能機(jī)器學(xué)習(xí)技術(shù)

2023-06-19 16:05:22

大型語言模型人工智能

2024-10-30 14:50:00

系統(tǒng)語音模型

2023-11-03 14:37:59

AI 模型開源

2023-06-09 16:50:21

Tigerbo

2023-05-25 16:24:13

2023-05-31 09:48:01

開源AI

2025-02-04 12:37:51

MetaAI開發(fā)

2023-07-14 13:49:18

OceanStor華為

2023-03-27 08:22:48

ChatGPT語言模型

2025-02-28 12:32:42

2024-09-29 10:56:58

2023-08-21 10:36:23

點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)

主站蜘蛛池模板: 日日操操 | 美人の美乳で授乳プレイ | 91 在线| 欧美一区二区免费电影 | 性做久久久久久免费观看欧美 | 国产成人jvid在线播放 | 亚洲成人午夜电影 | 黄频视频 | 亚洲欧美在线一区 | 激情毛片 | 欧美色综合 | 国产区在线免费观看 | 亚洲视频第一页 | 国内精品99 | 国产一级免费视频 | 91欧美精品 | 精品欧美乱码久久久久久 | 欧美视频在线播放 | 二区三区视频 | 中文字幕亚洲一区 | wwww.xxxx免费 | 欧美aaaaaaaaaa | 国产在线视频一区二区 | 亚洲国产成人精品女人久久久 | 亚洲国产一区二区三区, | 美女视频黄色的 | 日韩a级片| 婷婷不卡 | 777zyz色资源站在线观看 | 国产免费a | 国产精品免费播放 | 免费看黄色视屏 | 玖玖色在线视频 | 免费影视在线观看 | 亚洲成av人片在线观看无码 | 日日艹夜夜艹 | 国产精品一区二区三区在线 | 亚洲一级二级三级 | 日本精品一区二区三区在线观看 | 国产91亚洲精品 | 91精品国产91久久久久久最新 |