在推動(dòng)生成式AI落地應(yīng)用的進(jìn)程中，除了高性能的算力之外，面向不同行業(yè)的不同場(chǎng)景，如何快速開(kāi)發(fā)構(gòu)建應(yīng)用也成為擺在很多企業(yè)面前的主要挑戰(zhàn)。在GTC 2024上，NVIDIA發(fā)布了一系列面向生成式AI應(yīng)用開(kāi)發(fā)的軟件包，讓人眼前一亮。

那么，NVIDIA都發(fā)布了哪些軟件開(kāi)發(fā)工具？它們都有哪些看點(diǎn)。接下來(lái)，讓我們來(lái)盤(pán)點(diǎn)一下。

創(chuàng)造性的發(fā)布生成式AI軟件開(kāi)發(fā)方式

GTC 2024上，黃仁勛認(rèn)為，生成式 AI 改變了應(yīng)用程序的編寫(xiě)方式。未來(lái)的公司不應(yīng)該把精力放在編寫(xiě)軟件上，而是要放在組裝 AI 模型，賦予它們?nèi)蝿?wù)，給出工作產(chǎn)品示例，并審查計(jì)劃和中間結(jié)果。

為此，NVIDIA推出了專(zhuān)為加速計(jì)算庫(kù)和生成式AI模型建的全新軟件包，供開(kāi)發(fā)者在已安裝 NVIDIA CUDA GPU 的系統(tǒng)中創(chuàng)建和部署生成式 AI 助手。與此同時(shí)，NVIDIA發(fā)布Omniverse Cloud API，為眾多工業(yè)數(shù)字孿生軟件工具提供助力。

NVIDIA用生成式AI微服務(wù)的方式，創(chuàng)造式的改變了生成式AI軟件的開(kāi)發(fā)方式。對(duì)于企業(yè)而言，他們可以利用這些微服務(wù)，在自己的平臺(tái)上快速創(chuàng)建和部署定制化的應(yīng)用，并能夠保留對(duì)知識(shí)產(chǎn)權(quán)的完整所有權(quán)和控制權(quán)。

我們不可能從頭開(kāi)始編寫(xiě)代碼，也不用寫(xiě)一大堆Python 代碼或類(lèi)似的東西。黃仁勛認(rèn)為，未來(lái)如何構(gòu)建軟件，只需要組建一支AI團(tuán)隊(duì)就足夠了。這支AI團(tuán)隊(duì)可以使用現(xiàn)成的 NIM 微服務(wù)構(gòu)建專(zhuān)屬的AI和AI助手，為不同公司所需的模型提供專(zhuān)門(mén)訓(xùn)練，幫助他們創(chuàng)建更好的新服務(wù)。

在GTC 2024上，NVIDIA推出了數(shù)十項(xiàng)企業(yè)級(jí)生成式 AI 微服務(wù)，其中包括 NVIDIA NIM? 微服務(wù)，能夠適用于 NVIDIA 及合作伙伴生態(tài)系統(tǒng)中 20 多個(gè)熱門(mén)的 AI 模型進(jìn)行推理優(yōu)化。另外，用戶(hù)現(xiàn)能夠以 NVIDIA CUDA-X 微服務(wù)的形式使用 NVIDIA 加速軟件開(kāi)發(fā)套件、庫(kù)和工具，用于檢索增強(qiáng)生成（RAG）、護(hù)欄、數(shù)據(jù)處理、HPC 等。除此之外，NVIDIA 還發(fā)布了 20 多項(xiàng)醫(yī)療 NIM 和 CUDA-X 微服務(wù)。

1）NIM 微服務(wù)

NIM 微服務(wù)提供基于 NVIDIA 推理軟件的預(yù)構(gòu)建容器，包括 Triton 推理服務(wù)器? 和 TensorRT?-LLM，使開(kāi)發(fā)者能夠?qū)⒉渴饡r(shí)間從幾周縮短至幾分鐘。

在語(yǔ)言、語(yǔ)音和藥物發(fā)現(xiàn)等領(lǐng)域，NIM 微服務(wù)提供了行業(yè)標(biāo)準(zhǔn) API，使開(kāi)發(fā)者能夠使用安全托管在自己的基礎(chǔ)設(shè)施中的專(zhuān)有數(shù)據(jù)，來(lái)快速構(gòu)建 AI 應(yīng)用。這些應(yīng)用可按需擴(kuò)展，從而為在 NVIDIA 加速計(jì)算平臺(tái)上運(yùn)行生產(chǎn)級(jí)生成式 AI 提供靈活性和性能。

除此之外，NIM 微服務(wù)還能夠為部署 NVIDIA、A121、Adept、Cohere、Getty Images 和 Shutterstock 的模型，以及谷歌、Hugging Face、Meta、微軟、Mistral AI 和 Stability AI 的開(kāi)放模型提供快速且性能出色的生產(chǎn)級(jí) AI 容器。

據(jù)了解，用戶(hù)可以從亞馬遜 SageMaker、谷歌 Kubernetes Engine 和微軟 Azure AI 中訪問(wèn) NIM 微服務(wù)，并與 Deepset、LangChain 和 LlamaIndex 等流行的 AI 框架集成。

由于NVIDIA NIM 軟件包是根據(jù) NVIDIA 的加速計(jì)算庫(kù)和生成式 AI 模型構(gòu)建的，因此用戶(hù)可以在 NVIDIA 龐大的 CUDA 安裝基礎(chǔ)上工作，針對(duì)新 GPU 進(jìn)行重新優(yōu)化，并不斷掃描安全漏洞和威脅。

大會(huì)現(xiàn)場(chǎng)，黃仁勛展示了NVIDIA全新的醫(yī)療微服務(wù)套件，其包含經(jīng)過(guò)優(yōu)化的 NVIDIA NIM? AI 模型和工作流，并提供行業(yè)標(biāo)準(zhǔn)應(yīng)用編程接口（API），用于創(chuàng)建和部署云原生應(yīng)用。NVIDIA醫(yī)療微服務(wù)套件還提供先進(jìn)的醫(yī)學(xué)影像、自然語(yǔ)言和語(yǔ)音識(shí)別以及數(shù)字生物學(xué)生成、預(yù)測(cè)和模擬功能。

2）CUDA-X 微服務(wù)

CUDA-X 微服務(wù)為數(shù)據(jù)準(zhǔn)備、定制和訓(xùn)練提供端到端的構(gòu)建模塊。GTC 2024上，NVIDIA推出了定制語(yǔ)音和翻譯 AI 的 NVIDIA Riva、用于路由優(yōu)化的 NVIDIA cuOpt?，以及用于高分辨率氣候和天氣模擬的 NVIDIA Earth-2。

除此之外，NVIDIA還推出了能夠讓開(kāi)發(fā)者將其 AI 應(yīng)用鏈接到業(yè)務(wù)數(shù)據(jù)的NeMo Retriever?微服務(wù)，包括文本、圖像以及條形圖、折線圖和餅圖等可視化內(nèi)容，以生成高度準(zhǔn)確、與上下文相關(guān)的結(jié)果。借助當(dāng)中的RAG 功能，企業(yè)可以向助手、聊天機(jī)器人和生成式 AI 生產(chǎn)力工具提供更多數(shù)據(jù)，從而提高準(zhǔn)確性和洞察力。

據(jù)了解，NVIDIA面向更多的用于定制模型開(kāi)發(fā)的 NVIDIA NeMo? 微服務(wù)也將陸續(xù)發(fā)布，其中包括構(gòu)建用于訓(xùn)練和檢索的簡(jiǎn)潔數(shù)據(jù)集的 NVIDIA NeMo Curator、用于利用特定領(lǐng)域數(shù)據(jù)微調(diào) LLM 的 NVIDIA NeMo Customizer、用于分析 AI 模型性能的 NVIDIA NeMo Evaluator 以及用于 LLM 的 NVIDIA NeMo Guardrails。

NVIDIA 微服務(wù)已經(jīng)被NVIDIA 生態(tài)系統(tǒng)中的數(shù)據(jù)、基礎(chǔ)設(shè)施和計(jì)算平臺(tái)提供商使用，包括 Box、Cloudera、Cohesity、Datastax、Dropbox 和 NetApp 在內(nèi)的頂級(jí)數(shù)據(jù)平臺(tái)提供商正在使用 NVIDIA 微服務(wù)，幫助客戶(hù)優(yōu)化 RAG 管道，并將專(zhuān)有數(shù)據(jù)集成到生成式 AI 應(yīng)用中。

另外，企業(yè)可以在自己選擇的基礎(chǔ)設(shè)施上部署 NVIDIA AI Enterprise 5.0 中的 NVIDIA 微服務(wù)，例如領(lǐng)先的亞馬遜云科技（AWS）、谷歌云、Azure 和 Oracle Cloud Infrastructure 等云平臺(tái)。超過(guò) 400 個(gè) NVIDIA 認(rèn)證系統(tǒng)也支持 NVIDIA 微服務(wù)，包括思科、戴爾科技、慧與（HPE）、惠普、聯(lián)想和超微的服務(wù)器和工作站。

黃仁勛表示，NVIDIA合作伙伴擁有多年來(lái)創(chuàng)建的所有這些令人驚嘆的工具（和數(shù)據(jù)）。他強(qiáng)調(diào)，“企業(yè)IT行業(yè)正坐在一座‘金礦’上，如果他們能把這個(gè)‘金礦’變成 AI 助手，就能給用戶(hù)提供更多可能。

3）Omniverse Cloud API

NVIDIAI Omnivers Cloud是全球領(lǐng)先的工業(yè)數(shù)字孿生應(yīng)用和工作流創(chuàng)建平臺(tái)。為了幫助更多的軟件廠商加速AI研發(fā)，在GTC 2024上，NVIIDIA正式宣布通過(guò)API的方式，將該平臺(tái)的覆蓋范圍擴(kuò)展至整個(gè)軟件制造商生態(tài)系統(tǒng)。

NIVIDIA總共推出了五個(gè)Omniverse Cloud API，它們即可以單獨(dú)使用，也可以組合作用。

USD Render：生成OpenUSD數(shù)據(jù)的全光線追蹤NVIDIA RTX?渲染

USD Write：讓用戶(hù)能夠修改OpenUSD數(shù)據(jù)并與之交互

USD Query：支持場(chǎng)景查詢(xún)和交互式場(chǎng)景

USD Notify：追蹤USD變化并提供更新信息

Omniverse Channel：連接用戶(hù)、工具和世界，實(shí)現(xiàn)跨場(chǎng)景協(xié)作。

借助五個(gè)全新 Omniverse Cloud 應(yīng)用編程接口（API），開(kāi)發(fā)者能夠輕松地將 Omniverse 的核心技術(shù)直接集成到現(xiàn)有的數(shù)字孿生設(shè)計(jì)與自動(dòng)化軟件應(yīng)用中，或是集成到用于測(cè)試和驗(yàn)證機(jī)器人或自動(dòng)駕駛汽車(chē)等自主機(jī)器的仿真工作流中。

黃仁勛在現(xiàn)場(chǎng)宣布，NVIDIA 將把 Omniverse 引入 Apple Vision Pro 中，通過(guò)新的 Omniverse Cloud API，開(kāi)發(fā)者可以將交互式工業(yè)數(shù)字孿生流式傳輸?shù)?VR 頭顯中。

GTC 2024現(xiàn)場(chǎng)，黃仁勛分享了一個(gè)機(jī)器人倉(cāng)庫(kù)的演示，展示其工作原理——它使用多攝像頭感知和追蹤，看顧工人并協(xié)調(diào)機(jī)器人叉車(chē)，在整個(gè)機(jī)器人堆棧運(yùn)行的情況下，這些叉車(chē)能夠?qū)崿F(xiàn)自動(dòng)駕駛。

據(jù)了解，一些全球大型工業(yè)軟件制造商正在采用 Omniverse Cloud API，包括 Ansys、Cadence、達(dá)索系統(tǒng)旗下 3DEXCITE 品牌、Hexagon、微軟、羅克韋爾自動(dòng)化、西門(mén)子和 Trimble 等。

寫(xiě)在最后：

除了高性能計(jì)算之外，企業(yè)在部署生成式AI應(yīng)用時(shí)，軟件開(kāi)發(fā)也是至關(guān)重要的一環(huán)。通過(guò)GTC 2024上發(fā)布的一系列產(chǎn)品來(lái)看，NVIDIA不僅僅是為用戶(hù)提供了更高算力的產(chǎn)品，而且通過(guò)一系列的平臺(tái)和工具賦能AI應(yīng)用軟件開(kāi)發(fā)，加速AI在企業(yè)中的落地。而這種創(chuàng)造式的軟件開(kāi)發(fā)方式，也將徹底改變企業(yè)應(yīng)用開(kāi)發(fā)的模式。正如黃仁勛所述，未來(lái)如何構(gòu)建軟件，只需要組建一支AI團(tuán)隊(duì)就足夠了。