速度秒掉GPT-4o、22B擊敗Llama 3 70B,Mistral AI開放首個代碼模型
對標 OpenAI 的法國 AI 獨角獸 Mistral AI 有了新動作:首個代碼大模型 Codestral 誕生了。
作為一個專為代碼生成任務設計的開放式生成 AI 模型,Codestral 通過共享指令和補全 API 端點幫助開發人員編寫并與代碼交互。Codestral 精通代碼和英語,因而可為軟件開發人員設計高級 AI 應用。
Codestral 的參數規模為 22B,遵循新的 Mistral AI Non-Production License,可以用于研究和測試目的,但禁止商用。
目前,該模型可以在 HuggingFace 上下載。
- 下載地址:https://huggingface.co/mistralai/Codestral-22B-v0.1
- 免費試用地址:https://t.co/LsgC84GCYw
Mistral AI 聯合創始人、首席科學家 Guillaume Lample 表示,Codestral 可以很輕松集成到 VS Code 插件中。
有用戶將 Codestral 與 GPT-4o 進行了比較,Codestral 速度直接秒了 GPT-4o。
精通 80 + 編程語言
Codestral 在包含了 80 + 種編程語言的多樣化數據集上訓練,包括 Python、Java、C、C++、JavaScript、Bash 等流行編程語言。此外也在 Swift 和 Fortran 等編程語言上表現良好。
因此,廣泛的語言基礎確保 Codestral 可以在各種編碼環境和項目中為開發人員提供幫助。
Codestral 可以勝任編寫代碼、 編寫測試并使用中間填充(fill-in-the-middle)機制補全任何代碼部分,為開發人員節省時間和精力。同時使用 Codestral,還有助于提高開發人員的編碼水平,降低錯誤和 bug 風險。
代碼生成性能新標準
作為一個 22B 參數的模型,Codestral 與以往的代碼大模型相比,在代碼生成性能和延遲空間方面樹立了新標準。
從下圖 1 可以看到,Codestral 的上下文窗口長度為 32k,競品 CodeLlama 70B 為 4k、DeepSeek Coder 33B 為 16k、Llama 3 70B 為 8k。結果顯示,在代碼生成遠程評估基準 RepoBench 上,Codestral 的表現優于其他模型。
Mistral AI 還將 Codestral 與現有的特定于代碼的模型進行了比較,后者需要較高的硬件需求。
在 Python 上的表現。研究者使用 HumanEval pass@1、MBPP sanitised pass@1 基準來評估 Codestral 的 Python 代碼生成能力;除此以外,研究者還用到了 CruxEval、RepoBench EM 基準評估。
在 SQL 上的表現。為了評估 Codestral 在 SQL 中的性能,研究者使用了 Spider 基準測試。
在其他編程語言上的表現。研究者還在其他六種編程語言(包括 C++、bash、Java、PHP、Typescript 和 C#)中對 Codestral 進行了評估,并計算了這些評估的平均值。
FIM 基準。研究者還評估了 Codestral 在代碼片段中間有缺失的情況下補全代碼的能力,主要是在 Python、JavaScript 和 Java 上進行實驗,結果顯示,Codestral 補全的代碼,用戶可以立即運行。
博客地址:https://mistral.ai/news/codestral/