大模型時代,如何跟上節(jié)奏?
大模型時代已經(jīng)到來,隨著基礎(chǔ)模型越來越卷,可預(yù)見的未來我們會看到 token 越來越便宜、性能越來越強、速度越來越快,甚至是端側(cè)運行的大模型。
就當(dāng)下的時間節(jié)點,基礎(chǔ)模型的質(zhì)量、速度和價格已經(jīng)是完全可用的程度,正處于大模型應(yīng)用爆發(fā)的前夜。
為什么是 JavaScript?
我們先從觀察者的視角來看:什么是大模型時代的語言?
我們打開 OpenAI API 的官方網(wǎng)站,其官方支持的 API 只有 Python 和 JavaScript,包括像大模型流行的應(yīng)用框架 LangChain、dify 等等,都是只提供了 Python 和 JavaScript 版本,前者的地位不言而喻,但為何是 JavaScript?
因為隨著各種 SaaS/PaaS 平臺的建設(shè),傳統(tǒng)開發(fā)中的服務(wù)器、數(shù)據(jù)庫等基礎(chǔ)設(shè)施的復(fù)雜度被隔離,通過簡單的 API 我們就能完成服務(wù)器和數(shù)據(jù)庫的全球部署。也就是,開發(fā)者可以將目光轉(zhuǎn)到真正對用戶有價值的領(lǐng)域,也就是直接跟用戶產(chǎn)生交互的前端部分。
這也就是為何全棧工程師越來越流行,借助 Node.js 和各種云服務(wù),我們可以利用好前后端同構(gòu)的優(yōu)勢,迅速部署應(yīng)用。
而大模型時代的到來更加速了這一趨勢,創(chuàng)意成為一個應(yīng)用能否流行的核心,技術(shù)成為工具,我們可以迅速搭建有趣的大模型應(yīng)用呈現(xiàn)給用戶,然后收集反饋、持續(xù)迭代,這都離不開唯一的全棧語言 —— JavaScript。
為什么是 LangChain?
首先是我們?yōu)槭裁葱枰粋€大模型的應(yīng)用框架?
因為 LLM 的 API 只是提供了一個非常基礎(chǔ)的調(diào)用方式,當(dāng)我們要構(gòu)建一個復(fù)雜的 Chat Bot 時,就需要考慮如何保存聊天的上下文、如何進行網(wǎng)絡(luò)搜索、如何加載 pdf 等等工程問題,這些都是應(yīng)用框架可以幫助我們解決的。
那為什么是 LangChain?
首先是足夠的流行度和認可度,目前已經(jīng)在 Github 獲得 83k star,并且其上升速度非常恐怖:
CleanShot 2024-04-25 at 22.49.57@2x.png
從 LangChain 一經(jīng)推出,就成為大模型應(yīng)用框架領(lǐng)域的明星,star 數(shù)多意味著生態(tài)活躍,我們需要的各種集成工具都能輕易獲得。
而 LangChain.js 并不是 Python 版本的套殼,而是一個完整的團隊從 0 開始構(gòu)建的生態(tài),足以看出官方對 JavaScript 生態(tài)的重視:
CleanShot 2024-04-25 at 22.57.47@2x.png
所以,作為前端程序員,我們想抓住大模型的浪潮,需要的就是動作夠快。
我們從熟悉的語言 JavaScript 入手,去使用大模型領(lǐng)域最流行的框架去構(gòu)建應(yīng)用,在第一線去感受大模型的發(fā)展和能力特點。從實戰(zhàn)中得到的經(jīng)驗更有價值,我們不只是看技術(shù)文章對大模型應(yīng)用的分析,而且直接參與到大模型應(yīng)用的開發(fā)中,嘗試自己一些想法,落地一些應(yīng)用,這可以讓我們跟上大模型時代的浪潮。
寫在最后
我希望大家在每一章的結(jié)束,不止局限于教程中的例子,可以去發(fā)散想象自己之前的開發(fā)中有哪些任務(wù)可以通過大模型來優(yōu)化甚至是取代,動手去做一些 Toy Projects,并嘗試不同的 Prompts 方式去激發(fā)大模型的能力,可能就會迸發(fā)出下一個獨角獸級的 idea。
本文轉(zhuǎn)載自???愛學(xué)習(xí)的蝌蚪???,作者:hpstream
