機器人、智能設備的邊緣AI即將問世
Souped up工業機器人和智能設備將徹底改變我們在邊緣側使用AI的方式,并加深我們對云和數據中心的理解。
人形機器人、智能設備和自動駕駛經常被引為邊緣側利潤豐厚的商業應用場景。但邊緣側AI計算將把AI從數據中心和云中的集中式服務器中解放出來,部署到制造工廠、手術室以及整個市政中心,實時處理數據,更接近物聯網設備、傳感器和智能系統。它還提供了低延遲和自主決策功能,使AI無處不在,并使全自主工業設施成為可能,從而徹底改變商業和日常生活。
羅克韋爾自動化公司的CIO深知這一點,該公司是英偉達的客戶和合作伙伴,在邊緣側AI計算方面處于前沿地位?!癆I從以云為中心的架構向基于邊緣的部署的分散化轉變,不僅僅代表著技術上的演進,”這位數字轉型提供商的CIO克里斯·納爾代基亞說道。上個月,該公司在英偉達GTC大會上展示了其Emulate3D高級工廠規模虛擬控制測試技術?!斑@從根本上重新定義了AI能力如何融入我們工業和個人環境的各個方面。”
該解決方案與英偉達的Omniverse API集成,將使制造商能夠通過虛擬工廠驗收測試,在物理部署之前驗證自動化系統。
例如,邊緣側AI能夠使企業在倉庫中的智能設備或機器人上部署AI應用程序,在數據源附近而不是從公有云或數據中心運行計算密集型推理和決策模型,這大大加快了AI的速度。
在最近的會議上,英偉達繼續大力推動邊緣側發展,推出了一系列先進的AI硬件、軟件平臺和開發者框架,包括Jetson Orin、Xavier和Nano平臺、針對邊緣側高級應用增強的Blackwell Ultra AI芯片、用于自主機器的Groot N1 AI機器人模型、用于工業和醫療需求的IGX Orin工業級邊緣側AI平臺,以及英偉達AI數據平臺,以在邊緣側實現數據分析。
特別是英偉達的核心EGX企業邊緣側AI平臺,為醫療、制造和零售行業提供實時AI工作負載支持,而其Metropolis平臺則為智慧城市提供邊緣側視頻分析支持。
在英偉達GTC大會上推出的Jetson Nano超級工作站,將為遠程辦公室或商業中心的企業用戶提供強大的AI功能。而其針對醫療行業的Clara、針對自動駕駛的Drive和針對5G網絡的Aerial,也將提供實時監控、預測性維護和流程優化功能,以減少現場工業資產的停機時間,提高整個生命周期內的系統性能。
一位分析師表示,英偉達用于物理AI的平臺和產品陣容,如用于工業數字化的Omniverse,凸顯了英偉達正在從單純的半導體制造商,擴展成為硬件、平臺、工具和框架提供商。
“市場還沒有理解英偉達此舉的意義,”Gartner集團首席AI分析師奇拉格·德卡特說?!斑@真的令人嘆為觀止。EGX和Jetson的組合,再加上英偉達的Cosmos平臺,你可以在其中開發結合了AI和數字孿生優勢的物理AI類環境,從而創建一個環境,幫助加速可以在邊緣側部署的智能的訓練。而邊緣側正是他們現在正在改造我們的機器人、智能機器人、自動駕駛汽車和人形機器人的地方。他們正在形成一個新的增長領域,就像他們在數據中心使用GPU時所做的那樣?!?/p>
事件順序
市場最初接受了用于內容創作的GenAI,然后轉向了自主式AI,使模型能夠進行推理和執行任務。但工業AI革命的核心是物理AI或啟用AI的機器人,它可以實現完全自主的工業設施,其中大部分部署在邊緣側。
例如,羅克韋爾的自主導航機器人(AMR)在吞吐量、勞動力優化和節省時間方面產生了可衡量的影響。納爾代基亞說,這些機器人作為移動邊緣計算平臺,在本地處理傳感器數據,同時將匯總的見解反饋給公司的FactoryTalk Edge Manager。
英偉達用于邊緣計算的平臺將擴展、豐富和公開工業數據,通過應用和分析創造新的價值來源。納爾代基亞說,當物理AI和自主式AI相結合時,這種能力變得特別強大,能夠實現真正的自主系統,可以在最少的人工干預下感知、決策和行動。他還表示,羅克韋爾對Otto Motors和Clearpath Robotics的戰略收購,使該公司在生產物流自動化方面處于有利地位。
邊緣側AI正在改變工業數字化
根據IDC對27個企業行業的最新預測,今年全球在邊緣計算解決方案上的支出將達到近2610億美元,預計將以13.8%的復合年增長率(CAGR)增長,到2028年將達到3800億美元。
IDC研究副總裁、云和邊緣服務部門負責人戴夫·麥卡錫表示:“邊緣計算有望重新定義企業如何利用實時數據,其未來取決于針對獨特運營需求量身定制的行業特定解決方案。”“我們看到服務提供商正在加倍投資,建設低延遲網絡,增強AI驅動的邊緣分析,并建立合作伙伴關系,以提供可擴展且安全的基礎設施。這些努力對于充分發揮邊緣計算的潛力至關重要,從更智能的制造工廠到響應迅速的醫療系統,最終推動各行各業的新一輪創新?!?/p>
因此,CIO們正在規劃他們的下一代AI架構,利用強大的平臺、工具和框架來打造機器人和物聯網設備,而這些設備和機器人需要具備自主決策能力。
“CIO們肯定計劃將AI用于邊緣工作負載,” Dairyland Power Cooperative的CIO Nate Melby說,他正著眼于此類進步,以在暴風雨中管理電網,并使系統能夠在危險環境中進行快速分析和決策。人們還預計,在其他人類難以到達的物理環境中使用邊緣AI設備將帶來新的商業機會和盈利結果。
Melby說:“通過將AI推向邊緣,我們可以減少對集中式架構的依賴,從而建立彈性,并通過將云資源與本地設備相結合來優化和處理更敏感或關鍵任務數據,以實現更容易的擴展和資源靈活性。但這還需要一段時間才能發展成熟?!?/p>
邊緣計算的興趣倍增
包括OpenAI、谷歌、亞馬遜和創新的AI初創公司在內的許多頂級云和AI供應商都在瞄準邊緣計算。例如,云提供商Oracle最近為其Oracle Roving Edge Device添加了一個GPU優化配置?!拔覀兛吹娇蛻魧吘売嬎鉇I有需求,”Oracle Cloud Infrastructure的現場和行業營銷高級副總裁Dave Rosenberg說。
Insight Enterprises產品創新的首席技術官Amol Ajgaonkar補充說,除了制造業之外,許多行業也將利用邊緣AI,但這并不容易。如果將邊緣定義為任何不在云中的東西——比如筆記本電腦、制造車間的一臺機器、零售店中的銷售點設備——那么醫療保健、零售和金融等行業將成為邊緣AI的主要目標,他說。
Ajgaonkar說:“在邊緣使用AI,一個很大的挑戰是確定哪些數據對手頭的任務是有用的,哪些是無用的,并設置流程,以便AI代理或一組代理可以在不需要人類持續參與的情況下進行管理。當創建預測模型(例如管理工廠車間機器的持續維護)時,如果未經過濾就存在某些偏差或畸形數據,則會影響模型并扭曲代理產生的結果。干凈的數據輸入始終對干凈的輸出至關重要,但這是一項微妙的平衡?!?/p>
AI咨詢公司Intelagen的CEO兼前CIO Tom Richer說,他建議CIO們密切關注Nvidia的進步,因為Nvidia在AI基礎設施、數據中心轉型和邊緣AI能力方面占據主導地位,所有這些都直接影響組織的創新和競爭能力。
他說:“隨著邊緣計算越來越多地被用于AI工作負載,這是由低延遲、帶寬優化和增強的安全性需求所驅動的,這需要在內部部署和服務提供商部署之間做出戰略決策,而混合方法通常被證明在平衡控制和可擴展性方面最有效。而這需要CIO們制定明確的戰略、投資必要的基礎設施,并時刻關注不斷演變的技術。”
從邊緣獲益
物理AI的實施需要強大的邊緣計算能力,以處理傳感器數據并執行復雜的算法,同時保持最小的延遲。邊緣計算通過將數據處理帶到更接近數據源的地方,從而實現更快的響應時間、更高的數據傳輸效率和更強的安全性——這對于機器人技術和工業自動化中的應用而言都是關鍵因素,Rockwell的Nardecchia解釋道。
隨著平臺和技術的不斷成熟,我們可以預計AI將越來越多地嵌入到工業環境中的物理系統中。
對于像Rockwell這樣的公司而言,這一演變代表了一個機會,可以在其產品組合中整合邊緣AI能力。適當管理的邊緣計算帶來的業務成果是巨大的,包括以可負擔的價格訪問數據、更快的軟件部署、未來就緒的分析平臺、改進的安全態勢、更好地擴展數字化轉型舉措以及降低總擁有成本。
Edge AI Foundation表示,CIO和企業希望在邊緣實現自動化和智能設備。該非營利組織的首席執行官Pete Bernard說:“邊緣AI的核心是在數據產生的地方運行AI工作負載,向邊緣靠攏的引力意味著更低的成本、更低的功耗、更大的影響力,通常也意味著增強的隱私、更低的延遲、更高的靈活性和清晰度。CIO們負責確定信息戰略。您希望將計算盡可能移動到數據產生的地方,避免云的入口和出口費用以及運營成本,并總體上對您的處理擁有更多的控制權?!?/p>
隨著平臺和技術的不斷成熟,我們可以預計AI將越來越多地嵌入到工業環境中的物理系統中。
Analog Devices的邊緣AI副總裁Paul Golding說:“基礎模型的興起正通過提煉和量化的轉換器以及小型基礎模型向邊緣擴展。這一轉變需要在邊緣部署密集且計算密集的基礎設施。同時,實時處理、低延遲和隱私的需求正推動AI更接近數據源——我們通常稱之為傳感器或物理邊緣。自主式AI能夠在異構節點上自主學習、適應和實時行動,這將徹底改變任務編排,隨著我們從機器自動化邁向機器自主,將出現新的分布式智能形式,使關鍵任務能夠在邊緣運行,而無需依賴集中式云系統。AI的前沿仍然廣闊無垠。”