老黃廚房又整活,端出掌上迷你超級AI計算機(jī),售價只要1700,學(xué)生黨福利
老黃又開始在廚房整活了,還記得上次嗎?老黃從烤箱端出來超大GPU,震撼全世界。
這次端出來是一個掌上超級AI計算機(jī),售價只有249美金,1700RMB。
2024 年 12 月 17 日,英偉達(dá)正式發(fā)布了新款緊湊型生成式 AI 超級計算機(jī)——Jetson Orin Nano Super 開發(fā)套件。這款產(chǎn)品在價格更親民的同時,通過軟件升級實現(xiàn)了性能的顯著提升,旨在為人工智能愛好者、開發(fā)者和學(xué)生黨提供強(qiáng)大的 AI 運(yùn)算能力。
性能提升,價格降低
新款 Jetson Orin Nano Super 開發(fā)套件體積小巧,可以輕松握在手中。它不僅面向商業(yè) AI 開發(fā)者,也為廣大愛好者和學(xué)生提供了更強(qiáng)大的生成式 AI 能力和更高的性能。更令人驚喜的是,其價格從 499 美元降至 249 美元,大大降低了入門門檻。
與上一代產(chǎn)品相比,Jetson Orin Nano Super 的生成式 AI 推理性能提升高達(dá) 1.7 倍,性能提升至 67 INT8 TOPS,內(nèi)存帶寬也增加了 50%,達(dá)到了 102GB/s。無論是基于檢索增強(qiáng)生成技術(shù)構(gòu)建 LLM 聊天機(jī)器人,還是構(gòu)建視覺 AI 代理,亦或是部署 AI 機(jī)器人,Jetson Orin Nano Super 都是理想的選擇。
軟件升級,惠及所有
此次發(fā)布的軟件更新不僅適用于新款 Jetson Orin Nano Super,同時也能夠提升已擁有 Jetson Orin Nano 開發(fā)套件用戶的生成式 AI 性能。
Jetson Orin Nano Super 非常適合那些有興趣在生成式 AI、機(jī)器人技術(shù)或計算機(jī)視覺領(lǐng)域發(fā)展技能的人。隨著 AI 世界從特定任務(wù)模型轉(zhuǎn)向基礎(chǔ)模型,它也提供了一個將想法轉(zhuǎn)化為現(xiàn)實的便捷平臺。
強(qiáng)大的 AI 性能
Jetson Orin Nano Super 的性能提升可為所有流行的生成式 AI 模型和基于 Transformer 的計算機(jī)視覺帶來增益。
開發(fā)套件由一個 Jetson Orin Nano 8GB 系統(tǒng)級模塊(SoM)和一個參考載板組成,為邊緣 AI 應(yīng)用的原型設(shè)計提供了理想平臺。
SoM 配備了帶 Tensor 核心的 NVIDIA Ampere 架構(gòu) GPU 和一個 6 核 Arm CPU,有助于支持多個并發(fā) AI 應(yīng)用流水線和高性能推理。它最多可支持四個攝像頭,提供比以往版本更高的分辨率和幀率。
豐富的軟件生態(tài)和社區(qū)
生成式 AI 正處于快速發(fā)展階段。NVIDIA Jetson AI 實驗室為來自開源社區(qū)的前沿模型提供即時支持,并提供易于使用的教程。開發(fā)者還可以從更廣泛的 Jetson 社區(qū)獲得支持,并從其他開發(fā)者的項目中獲取靈感。
Jetson 運(yùn)行 NVIDIA AI 軟件,包括用于機(jī)器人技術(shù)的 NVIDIA Isaac、用于視覺 AI 的 NVIDIA Metropolis 和用于傳感器處理的 NVIDIA Holoscan。借助 NVIDIA Omniverse Replicator 進(jìn)行合成數(shù)據(jù)生成和 NVIDIA TAO Toolkit 對 NGC 目錄中的預(yù)訓(xùn)練 AI 模型進(jìn)行微調(diào),可以縮短開發(fā)時間。
Jetson 生態(tài)系統(tǒng)合作伙伴提供額外的 AI 和系統(tǒng)軟件、開發(fā)工具和定制軟件開發(fā)。他們還可以為產(chǎn)品解決方案提供攝像頭和其他傳感器,以及載板和設(shè)計服務(wù)。
超級模式,全面提升
用于提升 1.7 倍生成式 AI 性能的軟件更新也將適用于 Jetson Orin NX 和 Orin Nano 系列的系統(tǒng)級模塊。
現(xiàn)有 Jetson Orin Nano 開發(fā)套件的用戶可以立即升級 JetPack SDK 以解鎖增強(qiáng)的性能。
如需了解更多關(guān)于 Jetson Orin Nano Super 開發(fā)套件的信息,請參考相關(guān)文檔。同時,請注意關(guān)于軟件產(chǎn)品信息的相關(guān)聲明。