6月10日-11日，由云原生計算基金會（CNCF）主辦的KubeCon+CloudNativeCon China 2025，在中國香港成功舉辦。作為全球云原生技術(shù)領(lǐng)先者和生態(tài)共建先行者，華為重磅參與了此次大會。

會上，華為首席開源聯(lián)絡(luò)官、CNCF基金會董事任旭東帶來 《Towards Clouds of AI Clusters》的主題演講，深度分享了AI時代的算力集群技術(shù)演進趨勢，介紹了華為在異構(gòu)集群管理、超大規(guī)模集群調(diào)度、云邊協(xié)同AI等領(lǐng)域的應(yīng)用實踐，以及openEuler、Volcano、Karmada、KubeEdge、openFuyao等開源項目的最新進展。

開源加速技術(shù)裂變：從云原生到AI原生的價值躍遷

“開源”作為加速創(chuàng)新協(xié)同的重要范式，匯聚全球智慧、縮短創(chuàng)新周期、催化更多創(chuàng)新應(yīng)用落地，也為下一輪技術(shù)革命創(chuàng)造指數(shù)級價值。

任旭東表示，“回顧歷次科技革命可以發(fā)現(xiàn)，從技術(shù)發(fā)明到產(chǎn)業(yè)大規(guī)模應(yīng)用的時間正在縮短，并且每一次新的技術(shù)革命都是基礎(chǔ)設(shè)施層的重大變革，并且創(chuàng)造了更多價值。”

開源生態(tài)的成熟成為技術(shù)擴散的關(guān)鍵。2013年Docker宣布其開源計劃，歷經(jīng)數(shù)年發(fā)展，云原生技術(shù)以其彈性、敏捷的特征重塑應(yīng)用開發(fā)與部署模式，持續(xù)創(chuàng)造商業(yè)價值。

進入智能時代，頭部企業(yè)市值也早已超過萬億。站在新的歷史拐點，開源驅(qū)動的AI原生技術(shù)體系，正為十萬億美元級企業(yè)的誕生孕育土壤。

萬億大模型背后的算力困局

任旭東表示，當(dāng)前企業(yè)在管理AI工作負載時，仍面臨嚴峻挑戰(zhàn)，尤其是在大模型訓(xùn)練、推理中對算力規(guī)模和集群協(xié)同的極高要求。

以DeepSeek V3為例，其參數(shù)量為6710億，單卡性能已無法滿足此類模型的需求，集群并行計算提升算力規(guī)模將是企業(yè)突破算力瓶頸、實現(xiàn)大模型落地的必由之路。

而這不僅需要異構(gòu)硬件的高效協(xié)同，更依賴開源技術(shù)棧和分布式范式，如數(shù)據(jù)并行、模型并行、流水線并行進行深度支持，對異構(gòu)算力的全棧兼容，最終才能在降低單位訓(xùn)練推理成本的同時，加速萬億參數(shù)級模型的商業(yè)化落地進程。

為響應(yīng)上述需求，華為從硬件驅(qū)動到集群資源調(diào)度實現(xiàn)算力設(shè)備的統(tǒng)一管理，支持HyperNode與多集群拓撲感知調(diào)度，并對PyTorch/TensorFlow/MindSpore等主流框架、大語言模型（LLMs）及智能體開發(fā)場景提供統(tǒng)一支持的全棧開源基礎(chǔ)設(shè)施解決方案。

“通過openEuler、Volcano、Karmada、KubeEdge、openFuyao五大項目，華為實現(xiàn)了從操作系統(tǒng)到平臺層的全棧開源打通與落地，幫助企業(yè)實現(xiàn)AI集群內(nèi)優(yōu)化、跨集群協(xié)同和云邊協(xié)同，從而破解人工智能發(fā)展算力基礎(chǔ)設(shè)施上面臨的困局。”

openEuler：操作系統(tǒng)與AI應(yīng)用雙向進化

任旭東首先介紹了智能時代操作系統(tǒng)底座openEuler的開源進展。2019年，華為將openEuler正式對外開源，2021年，華為攜手伙伴將openEuler正式貢獻給開放原子開源基金會，并運作至今。從2023年開始，openEuler便將支持人工智能作為核心發(fā)展目標之一，并開啟了“AI for OS”與“OS for AI”的協(xié)同進化。

其一，AI for openEuler：即利用人工智能大模型技術(shù)創(chuàng)新讓openEuler系統(tǒng)更智能。例如在版本中集成的openEuler智能化解決方案，支持基于自然語言的可視化交互。通過MCP Server，標準化整合了A-Tune調(diào)優(yōu)、A-Ops自動化運維等核心能力，并提供DevStation全流程開發(fā)平臺，oeDeploy一鍵分鐘級安裝部署工具等，用戶只需簡單操作，即可利用AI完成漏洞自動化修復(fù)、自然語言問答、代碼輔助生成、編譯構(gòu)建、環(huán)境安裝部署等功能，使開發(fā)智能應(yīng)用的效率提升至天級，運維效率提升50%以上。

其二，openEuler for AI：即讓openEuler成為更堅實的AI工作負載底座。首先，openEuler聚焦拓展和強化軟硬件生態(tài)：從底層到上層，既支持通用計算與智能計算的全部主流硬件，又與AI框架、加速器及庫深度合作，打造全棧開源、“開箱即用”的容器鏡像生態(tài)：目前各類鏡像倉庫中已有超200個此類鏡像，為用戶和開發(fā)者提供無縫銜接的體驗，并以此助力AI應(yīng)用創(chuàng)新。此外，openEuler一直注重技術(shù)創(chuàng)新，通過GMem異構(gòu)內(nèi)存融合技術(shù)，sysHAX異構(gòu)算力協(xié)同技術(shù)，最大化發(fā)揮CPU在推理中的利用率，使AI推理任務(wù)吞吐量提升50%。

Volcano：云原生智能調(diào)度，提升AI訓(xùn)練和推理效率

作為業(yè)界首個云原生批量處理計算項目，Volcano自2019年開源以來，為人工智能、大數(shù)據(jù)等高性能計算場景提供支持，已成為處理計算密集型任務(wù)的關(guān)鍵平臺。

任旭東介紹，Volcano能力涵蓋隊列與資源管理、統(tǒng)一作業(yè)API、多樣化調(diào)度策略、在離線混部、GPU虛擬化、異構(gòu)算力支持及性能優(yōu)化等關(guān)鍵領(lǐng)域。特別是針對當(dāng)前大規(guī)模人工智能集群的調(diào)度需求，Volcano通過引入了基于HyperNode的網(wǎng)絡(luò)拓撲感知調(diào)度策略，提升人工智能訓(xùn)練和推理效率。

譬如，360集團成功構(gòu)建了超萬卡規(guī)模的智算集群，而Volcano作為CNCF官方孵化的云原生調(diào)度引擎，成為這一戰(zhàn)略平臺的核心中樞，助力360集團實現(xiàn)了眾多突破。

● 全場景生態(tài)兼容：無縫支持Kubernetes全生態(tài)工作負載，覆蓋大數(shù)據(jù)（Spark）、AI訓(xùn)練、大語言模型等多元化場景，形成統(tǒng)一算力調(diào)度底座；

● 資源效率躍升：通過智能調(diào)度算法將集群資源碎片率控制在7%以內(nèi)，分配率超85%，利用率提升至45%以上，年調(diào)度Pod量突破100萬+，大模型訓(xùn)練任務(wù)性能優(yōu)化15%～20%；

● 成本與效率雙優(yōu)：依托資源池化與閑時共享機制降低硬件采購成本，通過統(tǒng)一調(diào)度平臺減少運維復(fù)雜度，實現(xiàn)“算力規(guī)模化”與“管理輕量化”的雙向突破。

Karmada：破解AI任務(wù)部署多集群編排難題

Karmada是一款用于云原生多集群工作負載的通用容器編排器，可用于管理傳統(tǒng)工作負載和人工智能工作負載。

當(dāng)前，人工智能業(yè)務(wù)面臨集群選擇效率低、任務(wù)交付易出錯、資源利用率低下等難題，其核心原因在于缺乏智能編排器，而Karmada 的自動化編排能力可系統(tǒng)性破解這些問題。

Karmada通過三大核心功能實現(xiàn)智能調(diào)度：

● 多樣性的策略部署：Karmada能提供豐富的集群部署策略，用戶可輕松定義任務(wù)在多集群間的分布規(guī)則，從而避免人工決策的耗時與誤差。

● 智能化資源解析：Karmada支持通過簡易配置自動提取AI任務(wù)的資源特征，調(diào)度器基于實時數(shù)據(jù)生成最優(yōu)分配方案，從而解決“任務(wù)需求與集群能力錯配”問題。

● 動態(tài)化集群匹配：Karmada能夠持續(xù)監(jiān)測各集群的GPU/CPU利用率、網(wǎng)絡(luò)負載等關(guān)鍵指標，結(jié)合任務(wù)優(yōu)先級動態(tài)匹配最佳執(zhí)行集群，從而大幅提升AI推訓(xùn)過程資源利用效率。

KubeEdge：Sedna云邊協(xié)同AI推理，優(yōu)化算力成本

在工業(yè)場景，數(shù)據(jù)在邊緣生成。但邊緣計算資源有限，模型推訓(xùn)需要將數(shù)據(jù)發(fā)送到云端進行計算。這對云邊帶寬提出了很高的要求。在這一人工智能應(yīng)用場景，任旭東也帶來了KubeEdge Sedna的最新進展。

KubeEdge是業(yè)界首個云原生邊緣計算項目，并于2024年10月成為CNCF首個畢業(yè)級的邊緣計算項目。其邊緣人工智能子項目Sedna，為開發(fā)者提供了云邊協(xié)同人工智能框架，在學(xué)習(xí)與推理模式上支持聯(lián)合推理、聯(lián)邦學(xué)習(xí)等多樣化模式。而在兼容性方面，Sedna與TensorFlow、PyTorch、MindSpore等主流人工智能框架無縫對接，開發(fā)者無需大幅改動代碼，就能將現(xiàn)有AI應(yīng)用快速遷移至邊云協(xié)同環(huán)境，大大降低了開發(fā)門檻與成本。

“借助KubeEdge Sedna的云邊協(xié)同機制，用戶可靈活設(shè)置推理置信度閾值：邊緣端通過輕量化模型完成數(shù)據(jù)初篩，滿足置信度標準的結(jié)果直接本地返回，僅將疑難樣本傳輸至云端進行深度推理。這一機制使邊緣側(cè)計算資源需求降低50%，同時將云邊數(shù)據(jù)傳輸量削減90%，顯著優(yōu)化了帶寬壓力與算力成本。”

openFuyao：構(gòu)建萬級節(jié)點級算力集群軟件生態(tài)

隨著人工智能的發(fā)展，算力需求持續(xù)爆發(fā)，集群已成為當(dāng)前業(yè)界應(yīng)對算力需求快速增長的主要解決方案。然而，集群軟件生態(tài)的發(fā)展滯后，也導(dǎo)致異構(gòu)硬件協(xié)同效率低下、資源調(diào)度精細化不足、跨集群協(xié)同能力缺失等問題日益凸顯。

“openFuyao希望與產(chǎn)業(yè)伙伴及開發(fā)者攜手，構(gòu)建一個多樣化的算力集群軟件開源社區(qū)，共同推動集群軟件發(fā)展，為世界提供多樣化算力集群軟件開源生態(tài)。”任旭東表示。

openFuyao面向企業(yè)伙伴，提供在線/離線混部、NUMA親和等算力調(diào)度組件，能夠?qū)崿F(xiàn)資源利用率及性能超30%提升，支持超16000節(jié)點的超大規(guī)模集群；面向開發(fā)者，提供可插拔架構(gòu)，實現(xiàn)分鐘級的一鍵安裝部署，以及小時級的平滑升級。

同時，openFuyao社區(qū)已于5月對外發(fā)布。任旭東呼吁廣大開發(fā)者加入openFuyao社區(qū)，共建多樣化集群算力軟件生態(tài)及技術(shù)創(chuàng)新。

AI算力生態(tài)躍遷：從云原生到AI原生

在智能計算的賽道上，技術(shù)突破從不是單一個體的孤軍奮戰(zhàn)，而是開源生態(tài)中千萬開發(fā)者與企業(yè)的接力長跑。

從云原生到AI原生的征程中，需要操作系統(tǒng)、算力調(diào)度、編排、邊緣計算等各領(lǐng)域的開源項目并肩前行，也需要模型訓(xùn)練、推理服務(wù)等領(lǐng)域持續(xù)突破。開源，能吸引更多的企業(yè)、開發(fā)者加入到這場技術(shù)接力中來，共同走進智能新時代。