?家人們誰懂啊?！DeepSeek連續(xù)兩天向AI圈扔出炸彈后，今天又甩出一個(gè)王炸——?DeepGEMM?！

這玩意兒簡(jiǎn)直可以稱作一鍵榨干顯卡性能，讓算法速度原地蕪湖起飛??。

本摸魚小編帶你們盤一盤這個(gè)讓碼農(nóng)狂喜、資本沉默的「算力永動(dòng)機(jī)」！

一、啥是 DeepGEMM？

先來給大家介紹一下，DeepGEMM 是一款專注于 FP8 高效通用矩陣乘法（GEMM） 的庫。咱都知道，矩陣乘法在深度學(xué)習(xí)里那可是家常便飯，就像是蓋房子時(shí)的磚頭，少了它啥都干不成。而 DeepGEMM 就是專門來優(yōu)化這個(gè)“磚頭”的生產(chǎn)效率的。

它的原理說起來有點(diǎn)復(fù)雜，但簡(jiǎn)單來講，就是通過動(dòng)態(tài)優(yōu)化資源分配，讓算力效率像坐了火箭一樣飆升。而且它是基于 CUDA 開發(fā)的，還用了輕量級(jí)即時(shí)編譯（JIT）模塊，這意味著啥呢？就是你不用提前編譯和安裝，直接就能用，是不是很方便？就像你早上起來，不用自己做飯，直接就有熱乎乎的早餐等著你一樣。

二、性能咋樣？

DeepGEMM 的性能可不是吹出來的，那是實(shí)打?qū)嵉膮柡Α８鶕?jù)官方數(shù)據(jù)，在 Hopper 架構(gòu)的 GPU 上，它的性能可以達(dá)到 1350+ FP8 TFLOPS，這數(shù)字聽著就讓人熱血沸騰！

（圖1）

（圖2）

（圖3）

而且，DeepGEMM 在普通 GEMM（密集模型）中，矩陣運(yùn)算的提速最高可達(dá) 2.7 倍（圖1）；在分組 GEMM（MoE 模型）中，連續(xù)性布局和掩碼布局下的提速也能達(dá)到 1.1 倍至 1.2 倍（圖2）、（圖3）。這就好比你平時(shí)開車上班要一個(gè)小時(shí)，用了 DeepGEMM 就像開了掛，半小時(shí)就能到，是不是很爽？

三、有啥作用？

DeepGEMM 的作用可大了去了！它主要是為 DeepSeek-V3/R1 模型的訓(xùn)練與推理提供高效支持，就像是給這些模型裝上了超級(jí)引擎，讓它們跑得更快、更穩(wěn)。而且，它還特別適合大規(guī)模模型的訓(xùn)練和推理，能顯著提升計(jì)算效率，為研究人員節(jié)省大量時(shí)間和精力，就像給科研人員配備了一個(gè)超級(jí)助手，讓他們能更專注于模型的優(yōu)化和創(chuàng)新。

此外，你以為DeepGEMM只是個(gè)“速度外掛”？格局小了！

• 小廠狂喜?：再也不用跪求英偉達(dá)老仙“賜我算力”了！
• 科研狗淚目?：論文實(shí)驗(yàn)從“等到海枯石爛”變成“再來億次！”

關(guān)鍵的是——?它！免！費(fèi)！?

（某廠CTO哀嚎：“我花10億買的算力方案，不如人家GitHub一行README？”）

四、未來影響幾何？

DeepGEMM 的開源，對(duì)整個(gè) AI 行業(yè)來說，那簡(jiǎn)直就是一場(chǎng)及時(shí)雨。它不僅降低了高性能計(jì)算技術(shù)的應(yīng)用門檻，讓更多開發(fā)者能夠輕松上手，還可能推動(dòng)整個(gè)行業(yè)向更高效、更經(jīng)濟(jì)的方向發(fā)展。就像打開了潘多拉魔盒，未來可能會(huì)有更多基于 DeepGEMM 的創(chuàng)新應(yīng)用涌現(xiàn)出來。

本文轉(zhuǎn)載自 ??智駐未來??，作者： 小智