3月20日，軟件開發(fā)企業(yè)Cloudera宣布了一項重要的合作信號：要與NVIDIA一起加速生成式AI應用的部署。具體來講，就是通過將NVIDIA的AI微服務集成到其Cloudera數(shù)據(jù)平臺（CDP）中，幫助企業(yè)能夠快速構建和擴展基于自身數(shù)據(jù)的定制化大型語言模型（LLMs）。

此次合作中，Cloudera將利用NVIDIA AI Enterprise，包括NVIDIA Inference Manager（NIM）微服務，解鎖CDP中超過25E字節(jié)數(shù)據(jù)的洞察。這些豐富的企業(yè)信息將輸入到Cloudera機器學習平臺中，該平臺是公司的端到端AI工作流程服務，將推動新一輪的生成式AI創(chuàng)新。

Cloudera的AI/ML產(chǎn)品副總裁Priyank Patel表示：“企業(yè)數(shù)據(jù)結合為大型語言模型優(yōu)化的全棧平臺，在將組織的生成式AI應用從試點推向生產(chǎn)方面起著至關重要的作用。Cloudera正在集成NVIDIA NIM和CUDA-X微服務，以驅動Cloudera機器學習平臺，幫助客戶將AI的炒作轉變?yōu)樯虡I(yè)現(xiàn)實?！?/p>

此次合作不僅展示了Cloudera和NVIDIA在技術創(chuàng)新上的實力，也反映了市場對生成式AI應用的需求正在快速增長。通過整合雙方的資源和技術優(yōu)勢，雙方共同推動AI在企業(yè)中的實際應用，為企業(yè)帶來更高效、更智能的解決方案。

此外，通過利用CDP中的海量數(shù)據(jù)，結合Cloudera機器學習平臺的強大功能，企業(yè)能夠更深入地挖掘數(shù)據(jù)的價值，實現(xiàn)更精準的決策和更高效的業(yè)務運營。這一合作將為企業(yè)帶來更加智能化、自動化的未來，推動整個行業(yè)的發(fā)展和進步。

1.連接模型與數(shù)據(jù) 

在連接模型與數(shù)據(jù)之間，企業(yè)AI面臨著一個關鍵挑戰(zhàn)，即如何將基礎模型與相關的業(yè)務數(shù)據(jù)連接起來，以生成準確、符合上下文的輸出。NVIDIA的NIM和NeMo Retriever微服務旨在通過使開發(fā)者能夠將LLMs（大型語言模型）與從文本文檔到圖像和可視化等結構化和非結構化企業(yè)數(shù)據(jù)連接起來，從而彌合這一差距。

具體來說，Cloudera Machine Learning將提供集成的NIM模型服務功能，以增強推理性能，并在混合和多云環(huán)境中實現(xiàn)容錯、低延遲和自動擴展。而NeMo Retriever的加入將簡化檢索增強生成（RAG）應用程序的開發(fā)，這種應用程序通過實時檢索相關數(shù)據(jù)來提高生成式AI的準確性。

其中，NVIDIA NeMo Retriever是NVIDIA NeMo框架和工具系列的一項全新服務。NeMo是一個用于構建、自定義和部署生成式AI模型的框架和工具系列。作為一項語義檢索微服務，NeMo Retriever借助經(jīng)NVIDIA優(yōu)化的算法，幫助生成式AI應用作出更加準確的回答。使用該微服務的開發(fā)者可以將其AI應用與位于各個云和數(shù)據(jù)中心的業(yè)務數(shù)據(jù)相連通。這種連接不僅增強了AI應用的準確性，還使得開發(fā)者能夠更靈活地處理和利用企業(yè)數(shù)據(jù)。

概括來說，NVIDIA的NIM和NeMo Retriever等微服務為企業(yè)提供了一種有效的方式，將AI模型與業(yè)務數(shù)據(jù)緊密地結合在一起，從而生成更加準確和有用的輸出。這為企業(yè)提供了強大的工具，可以進一步推動AI在各個領域的應用和發(fā)展。

2.數(shù)據(jù)到生成式AI部署，大大縮短時間

NVIDIA與Cloudera的合作正在為企業(yè)打開一扇全新的大門，引領他們更高效地利用海量數(shù)據(jù)來構建定制化的協(xié)同助手和生產(chǎn)力工具。NVIDIA企業(yè)產(chǎn)品副總裁Justin Boitano表示：“NVIDIA NIM微服務與Cloudera數(shù)據(jù)平臺的集成，為開發(fā)者提供了一種更加靈活和簡便的方式來部署大型語言模型，從而推動企業(yè)的業(yè)務轉型?！?/p>

通過簡化從數(shù)據(jù)到生成式AI部署的路徑，Cloudera和NVIDIA旨在加速企業(yè)對諸如編碼助手、聊天機器人、文檔摘要工具和語義搜索工具等變革性應用的采納。這一合作建立在兩家公司之前通過將NVIDIA RAPIDS集成到CDP中利用GPU加速的基礎上。

Patel強調(diào)了擴大合作帶來的業(yè)務好處，他指出：“除了為客戶提供強大的生成式AI能力和性能外，此次集成的結果還將使企業(yè)能夠做出更準確、更及時的決策，同時減少預測中的不準確性、幻覺和錯誤——這些都是在當今數(shù)據(jù)環(huán)境中導航的關鍵因素?！?/p>

Cloudera將在3月18日至21日于加利福尼亞州圣何塞舉行的NVIDIA GTC上展示其新的生成式AI能力。隨著領先企業(yè)探索基礎模型改變其運營的潛力，Cloudera和NVIDIA堅信他們的合作將使客戶站在企業(yè)AI新興時代的前沿。