今天給大家分享一個超厲害的庫 ——LLM - Reasoner，它就像給大模型開了 “智慧外掛”，能讓任何大語言模型（LLM）都像 OpenAI o1 和 DeepSeek R1 一樣深入思考！不管你是 AI 技術(shù)控，還是想提升大模型使用體驗的小伙伴，都別錯過～

1. LLM - Reasoner 是啥 “寶藏”？

LLM - Reasoner 本質(zhì)是個庫，致力于打破大模型給出 “黑箱答案” 的局面。以往，大模型輸出結(jié)果時，咱根本不知道它是怎么思考的，就像拆盲盒，充滿未知。但有了 LLM - Reasoner，這一切都變啦！它能讓我們清晰地看到大模型的推理過程，了解每一步是如何得出的，是不是超酷？

2. 亮點滿滿，實力 “圈粉”

• 循序漸進的推理：不再對大模型的思考過程一頭霧水，LLM - Reasoner 會像 O1 的系統(tǒng)方法一樣，把推理過程一步步展示出來，讓答案的得出有理有據(jù)。
• 實時進度查看：通過流暢的動畫，我們可以直觀地看到推理是如何展開的。這就好比看一場思維的 “電影”，每一個情節(jié)都清晰呈現(xiàn)，滿足我們的好奇心。
• 多提供商支持：只要是 LiteLLM 支持的提供商，LLM - Reasoner 都能兼容。這意味著無論你常用哪個大模型服務(wù)，它都能適配，靈活性拉滿。
• 精美的 UI 界面：基于 Streamlit 打造的界面，顏值超高！操作簡單又直觀，就算是技術(shù)小白也能輕松上手。
• 高級用戶 CLI：對于技術(shù)大神們，它還提供了高級用戶命令行界面（CLI），可以無縫嵌入代碼，滿足個性化開發(fā)需求。
• 信心跟蹤：能讓我們了解大模型對每個推理步驟的確定程度。這樣一來，我們對答案的可靠性就有了更清晰的判斷，使用起來更安心。

3. 國內(nèi)小伙伴的使用指南

國內(nèi)的小伙伴可能在使用 OpenAI 相關(guān)服務(wù)時有些不便，別擔心，LLM - Reasoner 早就考慮到啦！大家可以選擇與 OpenAI 接口兼容的模型，或者用 llama_cpp_python 啟動本地 LLM 服務(wù)，這個服務(wù)接口和 OpenAI 接口是兼容的，輕松就能用上這個神器。

4. 快速上手教程

• 安裝超簡單：打開終端，輸入??pip install llm - reasoner??，按回車，等待安裝完成就行，就這么輕松！
• 設(shè)置 OpenAI key：安裝好后，還需要設(shè)置 OpenAI 的 API key。在終端輸入??export OPENAI_API_KEY="sk - your - key"??，記得把 “sk - your - key” 換成你自己的 OpenAI API 密鑰哦。要是沒有 OpenAI 賬號，按照上面說的，選擇其他兼容模型或搭建本地服務(wù)就好。
• 基礎(chǔ)用法示例

a.查看可用模型：想知道有哪些模型能用？在終端輸入??llm - reasoner models??，所有可用模型就會一目了然啦。

b.生成推理鏈：比如想了解 “飛機是怎么飛起來的”，就在終端輸入??llm - reasoner reason "How do planes fly?" --min - steps 5??，這里的 “--min - steps 5” 表示最少推理 5 步，你可以根據(jù)需求調(diào)整。

c.啟動 UI 界面：要是喜歡圖形化操作，輸入??llm - reasoner ui??，就能打開漂亮的 Streamlit 界面，在里面輕松探索大模型的推理世界。

• 代碼中使用：對于喜歡在代碼里 “折騰” 的小伙伴，下面這段代碼可以安排上：

from llm_reasoner import ReasonChain
import asyncio


async def main():
    # 創(chuàng)建一個推理鏈，可自行設(shè)置參數(shù)
    chain = ReasonChain(
        model="gpt - 4",  # 選擇你想用的模型
        min_steps=3,  # 最小推理步數(shù)
        temperature=0.2,  # 控制生成內(nèi)容的創(chuàng)造性，數(shù)值越低越保守
        timeout=30.0  # 設(shè)置超時時間
    )
    # 逐步查看推理過程
    async for step in chain.generate_with_metadata("Why is the sky blue?"):
        print(f"\nStep {step.number}: {step.title}")
        print(f"Thinking Time: {step.thinking_time:.2f}s")
        print(f"Confidence: {step.confidence:.2f}")
        print(step.content)


asyncio.run(main())

運行這段代碼，就能看到大模型針對 “天空為什么是藍色的” 這個問題一步步推理，還能知道每步的思考時間和大模型對答案的信心程度！

本文轉(zhuǎn)載自??鴻煊的學習筆記??，作者：乘風破浪jxj