構建以數據為中心的 Agent 智能體全局架構設計 原創
在過去的這一年中，大模型領域呈現出兩大熱點方向。一方面，是 LLM（大型語言模型），其發展速度之快令人矚目，幾乎每個月都有新的突破。業界的關注焦點主要集中在模型的效果和成本效益上。另一方面，則是 AI Agent智能體，它在各個領域的應用問題上不斷探索，人們更關注的是其在不同場景下的應用能力和市場競爭力。
接下來，我們將重點探討 AI Agent 的發展趨勢、架構設計以及實際應用情況。
1、AI Agent 架構設計全剖析
第一、AI Agent 架構和發展趨勢
1）、什么是智能體？
AI Agent 智能體是一種能夠感知環境、自主決策并執行行動的智能實體。它具備通過獨立思考和調用工具逐步完成目標的能力。AI Agent 不僅能夠理解復雜的指令，還能根據環境的變化動態調整策略，以實現特定的目標。
2）、為什么需要智能體？
盡管大模型（LLM）在模擬人腦神經元推理過程方面取得了顯著進展，但要完成具體的現實任務，仍需要像人類一樣具備完整的感知系統（如視覺、聽覺、觸覺等）、記憶和經驗來輔助決策，并最終采取行動。AI Agent 正是為了彌補這一差距而設計的，它能夠將語言模型的推理能力與實際操作能力相結合，從而更有效地解決現實世界中的復雜問題。
3）、智能體的發展趨勢
在過去的一年中，AI Agent 的發展主要集中在探索各種固定的、單任務的智能體，以解決一個個具體的小問題。這些單任務智能體在特定領域表現出色，但隨著技術的不斷進步，人們開始意識到構建更通用、更靈活的智能體平臺的重要性。
從今年開始，AI Agent 的發展進入了一個新的階段。研究人員和工程師們開始構建智能體平臺和范式，提升多智能體協同、編排和優化數據質量體系。最終目標是打造一個超級智能體，能夠一站式解決所有問題，實現通用人工智能（AGI）的真正到來。
盡管通用人工智能（AGI）的實現仍需一定時間，但未來的主要發展方向已經逐漸清晰。考慮到通用性和專業性的平衡，以及成本和效果的平衡，未來 AI Agent 的發展將更多地集中在以數據為中心的多智能體協同模式上。這種模式能夠充分發揮各智能體的專業能力，同時通過協同合作實現更復雜任務的解決，為實現 AGI 奠定堅實基礎。
第二、AI Agent 競爭力構建
在構建 AI Agent 的過程中，我們首先需要思考的核心問題是：智能體的核心競爭力到底是什么？
經過深入分析，我們認為模型、數據和場景是構建 AI 產品競爭力的三個關鍵要素。
首先，模型層面，目前公域數據已經被挖掘得相對充分，下一步的重點可能會轉向成本和性能的優化。在這方面，像 DeepSeek 這樣的技術正在加速推動相關變革。
其次，私域數據是每個公司的核心壁壘。企業需要充分挖掘私域數據，沉淀優質數據，并持續優化，以釋放最大的客戶價值。只要生產資源足夠優質，并且有底層模型的生產力支持，就可以實現持續演進。
最后，場景方面，需要找到自己領域內高頻、結構化且風險可控的場景，并逐步延伸場景的專業性，從而幫助客戶提升效率。例如，在我們 DEVOPS 領域，智能編碼就是一個很好的例子。靈碼在代碼輔助這一高頻場景取得了突破，通過靈碼，大家可以更高效地構建智能體。
第三、AI Agent 數據飛輪
數據確實是企業的核心競爭力之一，那么如何在自己的領域內打造高質量的數據呢？
首先，每個應用都能夠從客戶那里收集和沉淀數據，這些數據是實現個性化和專業性的基礎。其次，每個領域都有其獨特的專業數據和標準操作流程（SOP），將這些專業數據與客戶數據相結合，可以更高效地解決客戶的問題。
當我們構建好智能體并準備發布給客戶時，需要提前建立數據評測集，對數據和效果進行評估，以滿足客戶對服務水平協議（SLA）的確定性要求。上線后，我們需要收集客戶的反饋數據，并通過對反饋數據的分析來優化我們的行業數據、工具集和場景。
通過持續評估和優化數據體系，我們可以確保私域數據的高質量，從而更好地滿足客戶需求。這樣，數據的高質量與客戶的訴求之間就能形成良好的匹配，推動企業競爭力的持續提升。
第四、AI Agent：構建以數據為中心智能體平臺
那么，上述四類數據應當由何種系統來承載與流轉呢？
我們的答案是：構建一個以數據為核心的智能體平臺。
- 構建企業知識庫：借助平臺工具，將數據轉化為 Markdown 格式，進而推送至向量數據庫，以此構建領域專屬數據；同時，利用工具集助力 Agent 獲取結構化的客戶數據。
- 打造數據評測集與自動化智能化數據評估體系：確保數據質量與效果評估的高效性與準確性。
- 在前臺搭建客戶反饋與跟蹤體系：及時收集客戶反饋，以便對行業數據、工具集和場景進行針對性優化。
- 借助多 Agent 架構實現數據與任務的自動流轉：提升系統的整體效率與協同能力，確保數據能夠在不同智能體之間順暢流轉，任務能夠自動分配與執行，從而更好地滿足客戶需求并提升企業競爭力。
第五、AI Agent 全局技術架構
那如何構建多 Agent 架構呢？
阿里巴巴在去年云棲大會推出了 Spring-AI-Alibaba 框架和生態工具集合，助理企業構建智能體。
- 通過 Higress 一鍵集成系統數據和工具集，獲取私域客戶數據。
- 通過 Otel 觀測體系完成全鏈路的數據質量觀測。
- 通過 Nacos 動態更新提示詞數據，實時查看優化效果。
- 通過 Apache RocketMQ 動態更新 RAG 數據，實時反饋和優化數據。
2、AI Agent 應用實踐
第一、AI Agent 實踐（Higress：一鍵集成多種數據源）
Higress 是阿里巴巴開源的一款 AI 原生 API 網關，它擁有行業內最全面的 AI 生態插件，能夠助力開發者輕松集成多種數據源。Higress 支持與多種模型的對接，實現一鍵集成，同時提供統一的協議、權限管理和容災機制。它可以通過搜索工具獲取領域數據，通過 MCP Server 獲取客戶數據，從而整合推理所需的完整數據。此外，Higress 還提供統一的數據格式轉換功能，利用緩存和向量檢索構建長短期記憶數據，有效降低對 LLM 的調用頻率，進而降低成本，同時提升性能和吞吐量。此外，Higress 還集成了可觀測性功能，用于數據合規和數據質量評估。
第二、AI Agent 實踐（Otel：全鏈路數據質量追蹤）
我們基于 Otel 觀測體系能夠自動的分析推理過程中效果，召回效果。效果不好，可以全鏈路追蹤客戶整個檢索和推理過程，分析是知識庫問題，RAG 問題，還是工具集問題，提升優化數據效率。
第三、AI Agent 實踐（Nacos：動態更新提示詞數據）
在 Agent 中，存在大量的提示詞和算法參數。借助 Nacos，可以實現這些參數的動態實時推送，從而及時獲取優化效果。如果在系統上線后擔心修改提示詞的效果可能不符合預期，可以通過灰度配置逐步觀察和評估優化提示詞數據的效果。
第四、AI Agent 實踐（Apache RocketMQ：提升 RAG 數據實時性）
系統數據與客戶數據均處于持續更新的狀態。為了確保每次推理都能獲取到最新數據并獲得最佳效果，我們可以通過 RocketMQ 實現實時同步變更事件與數據，從而保障數據的時效性與準確性。
第五、AI Agent 實踐（DeepSeek 聯網搜索+數據安全解決方案）
DeepSeek 目前非常受歡迎，使用過的用戶都知道，能夠聯網的 DeepSeek 才是真正的滿血版。
目前，大量客戶通過 Higress 一鍵集成 DeepSeek 及其聯網能力，整合夸克搜索數據，從而體驗到最佳性能。借助 Higress，可以在模型訪問鏈路上實現全鏈路 TLS 加密，確保鏈路數據的安全性。同時，通過內容安全機制解決數據合規和安全問題。此外，通過 API-Key 的集中管理，可以提高并發處理能力，為 Agent 提供內部 API-Key，有效防止 API-Key 泄漏風險，并可根據內部 API-Key 進行流量和額度控制，避免因代碼錯誤導致的大量 token 調用和高額費用支出。
本文轉載自公眾號玄姐聊AGI 作者：玄姐
