檢索增強(qiáng)生成（RAG）已成為增強(qiáng)大型語(yǔ)言模型能力的一項(xiàng)強(qiáng)大技術(shù)。

RAG 框架結(jié)合了基于檢索的系統(tǒng)和生成模型的優(yōu)勢(shì)，可以做出更準(zhǔn)確、更能感知上下文和更及時(shí)的響應(yīng)。隨著對(duì)復(fù)雜人工智能解決方案需求的增長(zhǎng)，GitHub 上出現(xiàn)了許多開(kāi)源 RAG 框架，每個(gè)框架都具有獨(dú)特的特性和功能。 RAG 框架有哪些功能？

過(guò)度簡(jiǎn)化的 RAG 工作流程

檢索增強(qiáng)生成（RAG）是一種人工智能框架，它通過(guò)整合外部知識(shí)源來(lái)增強(qiáng)大型語(yǔ)言模型（LLM）的能力。

RAG 的工作原理是從知識(shí)庫(kù)中檢索相關(guān)信息，并將其用于增強(qiáng) LLM 的輸入，從而使模型能夠生成更準(zhǔn)確、最新且與上下文相關(guān)的響應(yīng)。

這種方法有助于克服知識(shí)截止日期等限制，并降低 LLM 輸出中出現(xiàn)幻覺(jué)的風(fēng)險(xiǎn)。

為什么不能直接使用 LangChain？

雖然 LangChain 是構(gòu)建 LLM 應(yīng)用程序的強(qiáng)大工具，但它并不能直接替代 RAG。相反，LangChain 可以用來(lái)實(shí)現(xiàn) RAG 系統(tǒng)。以下是除了使用 LangChain 之外還需要 RAG 的原因：

• 外部知識(shí)： RAG 允許你將特定領(lǐng)域或最新信息納入 LLM 的訓(xùn)練數(shù)據(jù)中，而這些信息可能并不存在。
• 提高準(zhǔn)確性： 通過(guò)根據(jù)檢索到的信息做出反應(yīng)，RAG 可以大大減少錯(cuò)誤和幻覺(jué)。
• 定制： RAG 使你能夠針對(duì)特定數(shù)據(jù)集或知識(shí)庫(kù)定制響應(yīng)，這對(duì)許多業(yè)務(wù)應(yīng)用至關(guān)重要。
• 透明度： RAG 可以更容易地追蹤用于生成響應(yīng)的信息來(lái)源，從而提高可審計(jì)性。

從本質(zhì)上講，LangChain 提供了構(gòu)建 LLM 應(yīng)用程序的工具和抽象，而 RAG 則是一種可使用 LangChain 實(shí)現(xiàn)的特定技術(shù)，用于提高 LLM 輸出的質(zhì)量和可靠性。

GitHub 10 大最佳 RAG 框架

在本文中，我們將探討 GitHub 上目前可用的十大 RAG 框架。這些框架代表了 RAG 技術(shù)的最前沿，值得希望實(shí)施或改進(jìn)其人工智能驅(qū)動(dòng)的應(yīng)用程序的開(kāi)發(fā)人員、研究人員和組織進(jìn)行研究。

1. Haystack

GitHub星級(jí)：14.6k星

圖片

Haystack 是一個(gè)強(qiáng)大而靈活的框架，用于構(gòu)建端到端問(wèn)題解答和搜索系統(tǒng)。它采用模塊化架構(gòu)，允許開(kāi)發(fā)人員輕松創(chuàng)建各種 NLP 任務(wù)的管道，包括文檔檢索、問(wèn)題解答和摘要：

• 支持多種文檔存儲(chǔ)（Elasticsearch、FAISS、SQL 等）
• 與流行的語(yǔ)言模型（BERT、RoBERTa、DPR 等）集成
• 處理大量文件的可擴(kuò)展架構(gòu)
• 易于使用的 API，可用于構(gòu)建自定義 NLP 管道

Haystack 的多功能性和豐富的文檔使其成為初學(xué)者和有經(jīng)驗(yàn)的開(kāi)發(fā)人員實(shí)施 RAG 系統(tǒng)的絕佳選擇。

https://github.com/deepset-ai/haystack

2. RAGFlow

GitHub星級(jí)：11.6k

圖片

RAGFlow 是 RAG 框架領(lǐng)域中一個(gè)相對(duì)較新的加入者，但由于其注重簡(jiǎn)潔性和效率，很快就獲得了人們的青睞。該框架旨在通過(guò)提供一套預(yù)建組件和工作流來(lái)簡(jiǎn)化基于 RAG 的應(yīng)用程序的構(gòu)建過(guò)程：

• 直觀的工作流設(shè)計(jì)界面
• 針對(duì)常見(jiàn)用例的預(yù)配置 RAG 管道
• 與流行的矢量數(shù)據(jù)庫(kù)集成
• 支持自定義嵌入模型

RAGFlow 的用戶(hù)友好型方法使其成為開(kāi)發(fā)人員的一個(gè)極具吸引力的選擇，這些開(kāi)發(fā)人員希望快速創(chuàng)建和部署 RAG 應(yīng)用程序原型，而無(wú)需深入研究底層的復(fù)雜性。

https://github.com/infiniflow/ragflow

3. Txtai

GitHub Stars: 7.5k

圖片

txtai 是一個(gè)多功能的人工智能數(shù)據(jù)平臺(tái)，它超越了傳統(tǒng)的 RAG 框架。它為構(gòu)建語(yǔ)義搜索、語(yǔ)言模型工作流和文檔處理管道提供了一套全面的工具：

• 嵌入式數(shù)據(jù)庫(kù)，用于高效的相似性搜索
• 用于集成語(yǔ)言模型和其他人工智能服務(wù)的 API
• 用于自定義工作流的可擴(kuò)展架構(gòu)
• 支持多種語(yǔ)言和數(shù)據(jù)類(lèi)型

txtai 的一體化方法使其成為那些希望在單一框架內(nèi)實(shí)現(xiàn)各種人工智能功能的企業(yè)的絕佳選擇。

https://github.com/neuml/txtai

4. STORM

GitHub星級(jí)：5千顆星

斯坦福開(kāi)放源代碼 RAG 模型

STORM（斯坦福開(kāi)源 RAG 模型）是斯坦福大學(xué)開(kāi)發(fā)的面向研究的 RAG 框架。與其他一些框架相比，STORM 的星級(jí)可能較少，但其學(xué)術(shù)背景和對(duì)前沿技術(shù)的關(guān)注使其成為對(duì) RAG 技術(shù)最新進(jìn)展感興趣的研究人員和開(kāi)發(fā)人員的寶貴資源：

• 實(shí)施新穎的 RAG 算法和技術(shù)
• 注重提高檢索機(jī)制的準(zhǔn)確性和效率
• 與最先進(jìn)的語(yǔ)言模型集成
• 大量文件和研究論文

對(duì)于那些希望探索 RAG 技術(shù)前沿的人來(lái)說(shuō)，STORM 提供了一個(gè)以嚴(yán)謹(jǐn)學(xué)術(shù)為后盾的堅(jiān)實(shí)基礎(chǔ)。

https://github.com/stanford-oval/storm

5. LLM-App

GitHub星級(jí)：3.4K

圖片

LLM-App 是用于構(gòu)建動(dòng)態(tài) RAG 應(yīng)用程序的模板和工具集合。LLM-App 的主要功能包括：

• 可快速部署的即用型 Docker 容器
• 支持動(dòng)態(tài)數(shù)據(jù)源和實(shí)時(shí)更新
• 與流行的 LLM 和矢量數(shù)據(jù)庫(kù)集成
• 針對(duì)各種 RAG 用例的可定制模板

LLM-App 對(duì)操作方面和實(shí)時(shí)功能的重視，使其成為希望部署生產(chǎn)就緒的 RAG 系統(tǒng)的企業(yè)的一個(gè)極具吸引力的選擇。

https://github.com/pathwaycom/llm-app

6. Cognita

GitHub星級(jí)：3K星級(jí)

圖片

Cognita 是 RAG 框架領(lǐng)域的新成員，專(zhuān)注于為構(gòu)建和部署人工智能應(yīng)用提供統(tǒng)一的平臺(tái)。雖然與其他一些框架相比，它的星級(jí)較低，但其全面的方法和對(duì) MLOps 原則的強(qiáng)調(diào)使其值得考慮：

• 用于 RAG 應(yīng)用程序開(kāi)發(fā)的端到端平臺(tái)
• 與流行的 ML 框架和工具集成
• 內(nèi)置監(jiān)控和可觀測(cè)功能
• 支持模型版本和實(shí)驗(yàn)跟蹤

對(duì)于希望簡(jiǎn)化整個(gè) ML 生命周期的企業(yè)來(lái)說(shuō)，Cognita 的人工智能應(yīng)用開(kāi)發(fā)整體方法使其成為一個(gè)令人信服的選擇。

https://github.com/truefoundry/cognita

7. R2R

GitHub星級(jí)：2.5K星級(jí)

圖片

R2R（Retrieval-to-Retrieval，檢索到檢索）是一個(gè)專(zhuān)門(mén)的 RAG 框架，其重點(diǎn)是通過(guò)迭代改進(jìn)來(lái)改善檢索過(guò)程。雖然它的星級(jí)可能較少，但其創(chuàng)新的檢索方法使其成為一個(gè)值得關(guān)注的框架：

• 實(shí)施新穎的檢索算法
• 支持多步驟檢索流程
• 與各種嵌入模型和向量存儲(chǔ)集成
• 分析和可視化檢索性能的工具

對(duì)于有興趣推動(dòng)檢索技術(shù)發(fā)展的開(kāi)發(fā)人員和研究人員來(lái)說(shuō)，R2R 提供了一套獨(dú)特而強(qiáng)大的工具。

8.Neurite

GitHub星級(jí)：909星

神經(jīng)元（Neurite）

Neurite 是一個(gè)新興的 RAG 框架，旨在簡(jiǎn)化構(gòu)建人工智能驅(qū)動(dòng)的應(yīng)用程序的過(guò)程。雖然與其他一些框架相比，它的用戶(hù)群較小，但它注重開(kāi)發(fā)者體驗(yàn)和快速原型開(kāi)發(fā)，因此值得探索：

• 用于構(gòu)建 RAG 管道的直觀 API
• 支持多個(gè)數(shù)據(jù)源和嵌入模型
• 內(nèi)置緩存和優(yōu)化機(jī)制
• 自定義組件的可擴(kuò)展架構(gòu)

Neurite 強(qiáng)調(diào)簡(jiǎn)單性和靈活性，這使其成為希望在應(yīng)用程序中快速實(shí)現(xiàn) RAG 功能的開(kāi)發(fā)人員的一個(gè)極具吸引力的選擇。

https://github.com/satellitecomponent/Neurite

9. FlashRAG

GitHub星級(jí)：905星

中國(guó)人民大學(xué)自然語(yǔ)言處理與信息檢索實(shí)驗(yàn)室的 FlashRAG

FlashRAG 是由中國(guó)人民大學(xué)自然語(yǔ)言處理與信息檢索實(shí)驗(yàn)室開(kāi)發(fā)的輕量級(jí)高效 RAG 框架。FlashRAG 的主要特點(diǎn)包括

• 優(yōu)化檢索算法，提高檢索速度
• 支持分布式處理和擴(kuò)展
• 與流行的語(yǔ)言模型和向量存儲(chǔ)集成
• 基準(zhǔn)測(cè)試和性能分析工具

對(duì)于速度和效率至關(guān)重要的應(yīng)用，F(xiàn)lashRAG 提供了一套專(zhuān)門(mén)的工具和優(yōu)化方案。

https://github.com/RUC-NLPIR/FlashRAG

10. Canopy

GitHub星級(jí)：923星

Canopy 是一個(gè) RAG 框架，由以矢量數(shù)據(jù)庫(kù)技術(shù)著稱(chēng)的 Pinecone 公司開(kāi)發(fā)。它利用 Pinecone 在高效矢量搜索方面的專(zhuān)業(yè)知識(shí)，提供了一個(gè)功能強(qiáng)大、可擴(kuò)展的 RAG 解決方案：

• 與 Pinecone 的矢量數(shù)據(jù)庫(kù)緊密集成
• 支持流式和實(shí)時(shí)更新
• 先進(jìn)的查詢(xún)處理和重排能力
• 管理和版本化知識(shí)庫(kù)的工具

Canopy 注重可擴(kuò)展性和與 Pinecone 生態(tài)系統(tǒng)的集成，對(duì)于已經(jīng)使用或考慮使用 Pinecone 滿足矢量搜索需求的企業(yè)來(lái)說(shuō)，Canopy 是一個(gè)極佳的選擇。

https://github.com/pinecone-io/canopy

寫(xiě)在最后

RAG 框架的世界多種多樣，發(fā)展迅速，我們探討的十個(gè)框架都具有獨(dú)特的優(yōu)勢(shì)和功能。從全面、成熟的 Haystack 到 FlashRAG 和 R2R 等新興的專(zhuān)業(yè)框架，總有一款解決方案適合各種需求和用例：

• 項(xiàng)目的具體要求
• 你需要的定制化程度和靈活性
• 框架的可擴(kuò)展性和性能特點(diǎn)
• 圍繞框架的社區(qū)規(guī)模和活動(dòng)
• 可用文檔和支持的質(zhì)量

通過(guò)仔細(xì)評(píng)估這些因素并嘗試使用不同的框架，你可以找到最適合你需求的 RAG 解決方案，幫助你構(gòu)建更智能、更能感知上下文的人工智能應(yīng)用程序。對(duì)于希望在其應(yīng)用程序和服務(wù)中利用人工智能力量的開(kāi)發(fā)人員和組織機(jī)構(gòu)來(lái)說(shuō)，隨時(shí)了解 RAG 技術(shù)的最新發(fā)展情況至關(guān)重要。