最近很多人在提Agent，有人說它是大模型的下一步，有人說它是通往AGI的路徑。但實(shí)際上，對(duì)于大多數(shù)做技術(shù)落地的人來說，Agent到底能干什么、適合解決哪些問題、怎么用才合適，反而是更值得關(guān)注的。我的觀點(diǎn)“先規(guī)劃，再執(zhí)行，還能自查”的過程，其實(shí)就是Agent的基本思想。Agent是一種思想，不是技術(shù)！一、先說最本質(zhì)的一點(diǎn)：為什么會(huì)需要Agent？我們先從現(xiàn)實(shí)出發(fā)。大模型出來之后，最開始大家用它寫點(diǎn)文案、改代碼、問點(diǎn)問題，...

最近不少人在聊“大模型蒸餾”，但說實(shí)話，很多介紹都太學(xué)術(shù)、太高深，讓人一看就頭大。其實(shí)這件事背后的邏輯沒那么復(fù)雜，本質(zhì)上就是想辦法讓大模型變得更輕、更快、更好用。我覺得蒸餾不是縮小模型，是提煉能力！一、先說微調(diào)，是“教大模型學(xué)點(diǎn)你的事兒”現(xiàn)在很多大模型（比如ChatGPT、DeepSeek）都是通用模型，它們懂得挺多，但不一定了解你具體要解決的問題。比如：它沒看過你公司內(nèi)部的數(shù)據(jù)；它不知道你要的回答格式；它對(duì)...

最近很多人在提Agent，有人說它是大模型的下一步，有人說它是通往AGI的路徑。但實(shí)際上，對(duì)于大多數(shù)做技術(shù)落地的人來說，Agent到底能干什么、適合解決哪些問題、怎么用才合適，反而是更值得關(guān)注的。我的觀點(diǎn)“先規(guī)劃，再執(zhí)行，還能自查”的過程，其實(shí)就是Agent的基本思想。Agent是一種思想，不是技術(shù)！一、先說最本質(zhì)的一點(diǎn)：為什么會(huì)需要Agent？我們先從現(xiàn)實(shí)出發(fā)。大模型出來之后，最開始大家用它寫點(diǎn)文案、改代碼、問點(diǎn)問題，...

現(xiàn)在很多人讓大模型調(diào)用外部工具，最常見的做法就是FunctionCalling。乍一看，能調(diào)起來沒問題。但真要接多個(gè)服務(wù)、跑一個(gè)完整流程，F(xiàn)unctionCalling就顯得太粗糙了——定義繁瑣、結(jié)構(gòu)不統(tǒng)一、模型換一個(gè)就得重寫一遍。本質(zhì)上，它解決的只是“能不能調(diào)用”，但沒解決“怎么標(biāo)準(zhǔn)、高效地調(diào)用”。而MCP出現(xiàn)，就是為了解決這個(gè)“工程化不成體系”的問題。我認(rèn)為FunctionCalling更像是“你教模型怎么用某個(gè)函數(shù)”；而MCP，是“你把這...

很多人想部署大模型，比如GLM、ChatGLM、DeepSeek、MiniCPM，一到實(shí)際部署就開始發(fā)愁：到底要不要3090？用A10行不行？這個(gè)模型說自己是7B，我電腦夠嗎？為啥有的說13G能跑，有的一跑就爆顯存？其實(shí)這些都不是玄學(xué)，只要你搞清楚：模型有多大、怎么壓縮、你準(zhǔn)備怎么用，機(jī)器需求是能算出來的。給大家一個(gè)計(jì)算顯存的公式：顯存≈參數(shù)量×精度字節(jié)數(shù)×1.52（考慮運(yùn)行中額外占用）一、先把問題拆開：我們到底要算啥？按照Agent的思...