天下開發(fā)人員，苦OpenAI模型價格久矣。

路透爆料稱，在11月6日首屆開發(fā)者大會上，OpenAI將推出年度重磅更新：

在開發(fā)工具中增加內(nèi)存存儲（memory storage）功能，讓API成本大幅降價95%。

也就是說，開發(fā)者苦等的福音終于來了，未來能夠以更低成本、更快速度用GPT模型構(gòu)建應用。

另外，OpenAI還計劃推出「視覺」能力加持的全新開發(fā)工具。

這樣，開發(fā)者可以構(gòu)建「分析圖像」和「描述圖像」更強大的應用。

這些新功能的開放，最終指向著一個共同的目標：構(gòu)建大模型加持的AI智能體。

OpenAI此舉正沿著Sam Altman設想一步步推進，不僅在用戶中打開市場，同時還要成為一個提供熱門開發(fā)者平臺的公司。

OpenAI把價格打下來了

去年11月，ChatGPT橫空出世，吸引了全球數(shù)億人使用，創(chuàng)下消費級應用用戶數(shù)增長里程碑。

除了網(wǎng)頁版，ChatGPT還推出了iOS版，以及安卓版程序。

這樣客觀的下載量，將為OpenAI帶來一些盈利。內(nèi)部高管預計，今年將帶來2億美元的收入，24年將有10億美元到賬。

可見，ChatGPT在消費者群里中已經(jīng)打下了江山，但在開發(fā)圈子里，讓開發(fā)者基于OpenAI技術(shù)構(gòu)建業(yè)務，卻面臨重重挑戰(zhàn)。

在首席執(zhí)行官Altman看來，讓OpenAI成為其他構(gòu)建應用程序公司不可或缺的一部分，是公司的戰(zhàn)略目標之一。

他與開發(fā)者會面，急切地表達基于OpenAI模型構(gòu)建新生態(tài)系統(tǒng)的愿望。

目前，GPT模型能力已經(jīng)融入到了，美版「餓了么」DoorDash、寫作助手Jasper等無數(shù)應用程序中。

但，這還遠遠不夠。

6月，Sam Altman在AI開發(fā)平臺Humanloop的首席執(zhí)行官采訪中，曾透露了自家的未來產(chǎn)品路線圖。

其中提到了一點是「有記憶的API」（Stateful API）——目前大部分token被浪費在上文的傳輸中，將來會有一個能夠記住對話歷史的API版本。

這恰恰與添加「內(nèi)存存儲」的想法不謀而合。增加這一功能可以優(yōu)化成本的原因有以下幾點：

- 新的緩存功能與LangChain的記憶鏈（Memory Chain）原理類似，可以將之前的對話歷史轉(zhuǎn)化為嵌入式向量進行存儲。新的會話內(nèi)容只需在增量標記中進行處理，而無需重新輸入整個上下文。

- 預設的角色和功能也無需重新輸入，只需進行相似性搜索即可。

- 在模型計算過程中，CUDA圖形只需查看增量，而無需以歷史聊天記錄為基礎，再次進行全局瀏覽。

簡而言之，這將大大優(yōu)化token數(shù)量。

所謂的「有記憶的API」的計劃發(fā)布，能夠使模型通過記住查詢的對話歷史，進而創(chuàng)建應用程序成本更低。

這可能會大大削減，開發(fā)人員需要支付API費用。

根據(jù)OpenAI官網(wǎng)上的定價，目前，用GPT-4處理一頁文檔可能需要10美分，具體取決于輸入和輸出的長度和復雜性。

另一個更新是視覺API，允許開發(fā)者構(gòu)建可以分析圖像的軟件。

這也標志著，OpenAI繼續(xù)向前推進多模態(tài)能力重要的一步，未來必定還會有音頻、視頻能力的加入。

抓住開發(fā)者， 在做了

為了吸引更多開發(fā)者，OpenAI也做出了很多努力。

去年，專門聘用了第一位負責建立OpenAI與開發(fā)者關系的工程師Logan Kilpatrick。

他常常會更新一些利好開發(fā)者的工具和內(nèi)容。

微調(diào)用戶界面現(xiàn)在支持在用戶界面中進行端到端作業(yè)創(chuàng)建，無需代碼即可啟動作業(yè)。

還有，OpenAI即將發(fā)布OpenAI Python SDK的1.0版本。

發(fā)布API 使用情況儀表板的更新，有助于更清楚地了解哪些模型在推動使用情況，而且總體上應該更加可靠。

除此之外，可以看到OpenAI面向開發(fā)者，做了很多模型適配、用戶界面等各種工作的優(yōu)化。

而所有的這些，都是為了吸引更多開發(fā)者來付費使用OpenAI的模型。

根據(jù)PitchBook的數(shù)據(jù)，今年各家AI初創(chuàng)公司已經(jīng)獲得了超過200億美元的投資。

雖然其中很多都依賴OpenAI提供的技術(shù)，但這些初創(chuàng)公司也在努力使它們使用的模型更加多樣化，比如采用Llama這種開源方案。而這也使得OpenAI必須將自己與谷歌等資金雄厚的競爭對手區(qū)分開來。

據(jù)路透社報道，保持開發(fā)者的滿意度一直是OpenAI的關注重點。

然而，即便ChatGPT在消費者中取得了巨大成功，但OpenAI在贏得其他公司或開發(fā)者的支持上，卻并沒有那么順利。

比如備受期待的ChatGPT插件系統(tǒng)，在最初引發(fā)了一大波熱潮之后，用戶和開發(fā)者的興趣便急劇下降。

隨后Sam Altman也承認，插件并沒有像想象中那樣獲得市場的認可。

價格一覽

GPT-4

GPT-3.5 Turbo

微調(diào)模型