本周三，亞馬遜網(wǎng)絡(luò)服務(wù) (AWS) 宣布更新其生成式 AI開(kāi)發(fā)服務(wù)Amazon Bedrock，增加了新的上下文基礎(chǔ)功能、檢索增強(qiáng)生成 (RAG)的連接器以及其他大型語(yǔ)言模型 (LLM)。

據(jù)亞馬遜生成式人工智能副總裁瓦西·菲洛明 (Vasi Philomin) 稱，這些更新有望簡(jiǎn)化企業(yè)基于生成式人工智能的應(yīng)用程序的開(kāi)發(fā)。

1.上下文基礎(chǔ)

菲洛明表示，上下文基礎(chǔ)（contextual grounding）是 Amazon Bedrock Guardrails 的一個(gè)附加功能，旨在進(jìn)一步降低以LLM生成內(nèi)容出現(xiàn)幻覺(jué)反應(yīng)的可能性。

副總裁解釋說(shuō)，情境基礎(chǔ)使用 RAG 和總結(jié)應(yīng)用程序來(lái)檢測(cè)模型反應(yīng)中的幻覺(jué)，檢查 LLM 反應(yīng)是否基于正確的企業(yè)數(shù)據(jù)，并與用戶的查詢或指令保持一致。

其他主要云服務(wù)提供商，如 Google 和 Microsoft Azure，也已建立系統(tǒng)來(lái)評(píng)估 RAG 應(yīng)用程序的可靠性，包括響應(yīng)生成指標(biāo)的映射。

微軟使用 Groundedness Detection API 來(lái)檢查 LLM 的文本響應(yīng)是否基于用戶提供的源材料，而谷歌最近更新了 Vertex AI 內(nèi)部的接地選項(xiàng)，增加了動(dòng)態(tài)檢索和高保真模式等功能。

AWS 還在 Amazon Bedrock 中提供了 RAG 評(píng)估和可觀察性功能，這些功能使用忠實(shí)度、答案相關(guān)性和答案語(yǔ)義相似性等指標(biāo)來(lái)對(duì)查詢響應(yīng)進(jìn)行基準(zhǔn)測(cè)試。AWS 表示，它將為 Amazon Bedrock 提供 Guardrails 作為單獨(dú)的 API，供 Bedrock 之外的 LLM 使用。

Philomin 表示：“我們收到大量企業(yè)客戶的請(qǐng)求，他們希望在 Bedrock 之外的模型上使用獨(dú)立的 Guardrails API，因此我們發(fā)布了它。”

AWS 的舉措讓人想起IBM 今年 5 月通過(guò)工具包提供其 watsonx.governance產(chǎn)品的戰(zhàn)略。雖然 IBM 工具包與 Guardrails API 并不完全可比，但它可用于創(chuàng)建一個(gè)存儲(chǔ)庫(kù)，用于記錄模型整個(gè)生命周期的詳細(xì)信息。此類信息有助于評(píng)估某個(gè)模型選擇背后的理由，或確定哪些利益相關(guān)者參與了模型的生命周期。

2.新的 RAG 連接器和大型語(yǔ)言模型

作為其生成式 AI 服務(wù)更新的一部分，AWS 已向 Amazon Bedrock 添加了新的 RAG 連接器，以允許開(kāi)發(fā)人員在更多種類的數(shù)據(jù)源上建立模型。

Philomin 表示，除了 Amazon S3 之外，開(kāi)發(fā)人員現(xiàn)在還可以使用 Salesforce、Confluence 和 SharePoint for RAG 的連接器。他表示，SharePoint 連接器目前處于預(yù)覽階段。

AWS 還宣布，它將在 Bedrock 中添加微調(diào)Anthropic 的 Claude 3 Haiku 的功能。據(jù) Philomin 稱，微調(diào) Claude 3 Haiku 的功能目前處于預(yù)覽階段，目前尚未在任何其他云服務(wù)提供商上提供，并且受到企業(yè)客戶的熱烈追捧。

其他更新包括 Amazon MemoryDB 向量搜索的普遍可用性和 Agents for Bedrock 的新功能。

Philomin 表示：“現(xiàn)在，代理可以在多個(gè)交互中保留記憶，記住你上次離開(kāi)的位置，并根據(jù)之前的交互提供更好的建議。”他指出，代理現(xiàn)在可以解釋代碼來(lái)處理復(fù)雜的數(shù)據(jù)驅(qū)動(dòng)用例，例如數(shù)據(jù)分析、數(shù)據(jù)可視化、文本處理、求解方程式和優(yōu)化問(wèn)題。

3.Amazon App Studio 助力用自然語(yǔ)言開(kāi)發(fā)應(yīng)用程序

AWS 周三還展示了 AWS App Studio，這是一項(xiàng)基于生成式 AI 的托管服務(wù)，允許任何企業(yè)用戶使用自然語(yǔ)言提示構(gòu)建和部署應(yīng)用程序。

AWS 在一份聲明中表示：“使用 App Studio，用戶只需描述他們想要的應(yīng)用程序、他們希望它做什么以及他們想要集成的數(shù)據(jù)源，App Studio 就可以在幾分鐘內(nèi)構(gòu)建一個(gè)應(yīng)用程序，而專業(yè)開(kāi)發(fā)人員可能需要幾天的時(shí)間才能從頭開(kāi)始構(gòu)建類似的應(yīng)用程序。”該公司表示，App Studio 的生成式 AI 助手消除了學(xué)習(xí)任何低代碼工具的需要。

Amazon App Studio 可能會(huì)與 谷歌的 Vertex AI Studio 和 微軟的 Copilot Studio等競(jìng)爭(zhēng)對(duì)手的產(chǎn)品展開(kāi)競(jìng)爭(zhēng)。

AWS 還宣布全面推出 Amazon Q Apps，這是 Amazon Q Business 中的一項(xiàng)功能，曾在去年的 AWS re:Invent 大會(huì)上展示過(guò)。

AWS 表示：“借助 Amazon Q Apps，企業(yè)用戶可以在幾秒鐘內(nèi)從對(duì)話轉(zhuǎn)變?yōu)榛诠緮?shù)據(jù)的生成式 AI 應(yīng)用。用戶只需在提示中描述他們想要的應(yīng)用程序，Amazon Q 就會(huì)立即生成它。”該公司補(bǔ)充說(shuō)，Amazon Q 允許用戶從現(xiàn)有對(duì)話中生成應(yīng)用程序。