大語言模型或LLM是一種深度學(xué)習(xí)語言模型，旨在理解、解釋和生成人類語言；它通常由數(shù)百萬到數(shù)十億的神經(jīng)網(wǎng)絡(luò)參數(shù)組成，并使用自我監(jiān)督進(jìn)行訓(xùn)練。著名的LLM的例子包括GPT-4、BERT和LLAMA。

獲取LLM有時很棘手，因為必須遵守環(huán)境要求和規(guī)范，這成為學(xué)習(xí)LLM的把關(guān)人。幸運的是可以使用一個名為OpenPlayground的Python軟件包在筆記本電腦上有效地試驗各種LLM。

逐步探索OpenPlayground

Python軟件包OpenPlayground是一個可以在筆記本電腦上運行的LLM游樂場，可以在這里試驗?zāi)Ｐ汀⒄{(diào)整參數(shù)、進(jìn)行模型比較，并通過友好的UI追蹤日志歷史記錄。他們還使用了幾個實體的著名LLM，如OpenAI、HuggingFace等等。

怎么才能開始使用OpenPlayground呢？首先，安裝該軟件包。

pip install openplayground

然后在終端上運行以下命令。

openplayground run

在終端上，將獲得以下信息。

OpenPlayground正在運行，必須訪問本地主機(jī)才能使用playground UI。

在UI中會看到三個部分：Playground，Compare和Settings。先去看看“Settings”選項卡，因為不提供必要的信息就無法工作。

當(dāng)打開“Settings”時，會有一個需要選擇的“Providers”部分。對于本文的例子，將使用來自O(shè)penAI的那個。點擊OpenAI，并提供API密鑰，使openplayground可以訪問所有模型，類似于下面的圖片。

啟用想要的模型，然后回到“Playground”選項卡。當(dāng)已經(jīng)選擇了一個模型，可以在右側(cè)使用其他參數(shù)。

該參數(shù)的存在是為了讓用戶輕松地探索和試驗LLM模型的結(jié)果。嘗試一個簡單的提示：“給我創(chuàng)作一個關(guān)于公主和魔法王國的小故事”。

生成的文本將以綠色顯示。如果啟用“Show Probabilities”，如果模型允許可以得到標(biāo)記生成概率。例如，“text-DaVinci-03”模型可以顯示概率。再提交一次提示，并查看結(jié)果。

懸停在該標(biāo)記上會顯示該標(biāo)記出現(xiàn)的概率有多高。此外，還有關(guān)于前5個標(biāo)記的信息，這些信息可以成為可能生成的文本。

進(jìn)入“Compare”選項卡，可以比較具有相同參數(shù)的各種LLM模型生成的文本。用之前例子的相同提示進(jìn)行嘗試。

“Compare”選項卡提供了同時生成文本的兩個或多個不同LLM模型的信息。這些信息包括標(biāo)記、模型生成文本的速度、所花的時間以及多少個字符。

嘗試使用來自多個提供商的各種模型進(jìn)行試驗，以從使用OpenPlayground中獲得更多價值。

總結(jié)

大語言模型或LLM是一個能夠理解、解釋和生成人類文本的模型。通過使用OpenPlayground，可以有一個簡單的UI來探索和實驗多個LLM。