Prompt 工程已過時(shí)?AI大神Andrej Karpathy力推上下文工程!
長期以來,我們談?wù)揂I應(yīng)用開發(fā)時(shí),常常用到一個(gè)熱詞:“Prompt Engineering”(提示詞工程)。但最近,前特斯拉AI總監(jiān)、OpenAI研究大神Andrej Karpathy明確提出,更準(zhǔn)確的術(shù)語應(yīng)該是:“Context Engineering”(上下文工程)。
為什么他這么說?
1. Prompt vs Context,到底有何區(qū)別?
日常使用大模型(LLM)時(shí),人們對Prompt的理解往往停留在簡短明確的任務(wù)指令層面。然而,工業(yè)級的AI應(yīng)用并非如此簡單。真正的挑戰(zhàn)在于如何精細(xì)地組織和填充模型的上下文窗口,讓模型能“恰好”獲取完成下一步任務(wù)所需的信息。這正是“Context Engineering”的核心。
2. 上下文工程:藝術(shù)與科學(xué)的結(jié)合
Karpathy將上下文工程描述為“一門藝術(shù)與科學(xué)的結(jié)合”——
- 科學(xué)體現(xiàn)在你必須精確控制任務(wù)描述、實(shí)例演示(few-shot)、RAG(檢索增強(qiáng)生成)、多模態(tài)數(shù)據(jù)、工具調(diào)用、狀態(tài)和歷史信息,以及上下文壓縮等技術(shù)的平衡。提供的信息太少或形式不對,模型無法發(fā)揮最佳性能;信息太多或不相關(guān),又會(huì)導(dǎo)致成本增加、性能下降。
- 藝術(shù)則源于對模型“心理”和人類意圖的深入理解和直覺判斷。
這種精妙的平衡絕非易事,已經(jīng)遠(yuǎn)超出普通“提示詞”的范疇。
3. 一個(gè)完整的AI應(yīng)用絕不僅是ChatGPT的“包裝器”
Karpathy強(qiáng)調(diào),Context Engineering還只是AI應(yīng)用完整技術(shù)棧的一小部分。一個(gè)高質(zhì)量的LLM應(yīng)用往往需要:
- 合理地拆分任務(wù)為不同的控制流程
- 精準(zhǔn)地組織和填充上下文窗口
- 分派不同類型和能力的模型調(diào)用
- 處理生成與驗(yàn)證的交互界面
- 加入必要的防護(hù)措施、安全檢查、性能評估、多線程并行處理、預(yù)取技術(shù)等等
將如此復(fù)雜的架構(gòu)稱為“ChatGPT包裝器”已遠(yuǎn)遠(yuǎn)落后于時(shí)代。
4. 面向未來,重新認(rèn)識(shí)上下文工程
當(dāng)下,AI開發(fā)已進(jìn)入一個(gè)新的階段。“上下文工程”不僅是一種更精確的技術(shù)術(shù)語,更是一種對未來AI應(yīng)用開發(fā)思維模式的全面升級。
你是否也意識(shí)到:“Prompt Engineering”已不足以描述今天AI應(yīng)用開發(fā)的真實(shí)場景?讓我們一起邁入“Context Engineering”的新時(shí)代!
本文轉(zhuǎn)載自??草臺(tái)AI??,作者:RangerEX
