編輯 | 言征

出品 | 51CTO技術棧（微信號：blog51cto）

1.未經對齊的模型很重要

審查模型的主要缺點之一是所謂的“對齊稅”。這是指當模型被過度調整以符合特定的道德準則時，性能會下降。

但缺點遠不只是性能，經過了幾番教訓后，Nidum.AI 聯合創始人Arjun Reddy認為：“未經審查的模型沒有任何人為的偏見，當你在LLM的基礎上構建產品時，使用無偏見的模型非常重要。”（即，對齊/審查≈新的偏見）

Reddy進一步提到，由于偏見，該公司避免使用Llama，而是使用Dolphin Llama。這表明了為什么無偏見的LLM對于在LLM的基礎上構建產品很重要。 

一位名為hardmaru的Reddit用戶觀察到，在引入額外限制后，ChatGPT的響應質量有所下降。最終，在一些測試中，未經審查的LLM比對齊的模型表現更好。

圖片

另一位在Reddit上被稱為BThunderW的用戶提到，越獄版的ChatGPT-3.5比受限版本產生了更多信息，這表明與對齊的模型相比，你可以從未經審查的模型中擠出多少。

圖片

2.你可以使用對齊的模型，但是...

當然，你可以訓練一個對齊的模型（比如Meta的Llama），但使用這種被審核禁錮過、帶有biasness的模型是相當困難的，最終會嘗到苦頭。 Reddy提到，使用無人為偏見的LLM就像使用空白畫布，可以很容易地根據特定需求訓練LLM。

每個主流模式都試圖保持一致，對齊以促進平等。當然，促進平等并沒有錯，但對于LLM來說，它直接影響了產出。例如，幾個月前，Gemini試圖成為一個覺醒的人工智能模型，但結果大家看到了，適得其反，翻車后慘淡收場。

有偏見的人工智能系統可能會導致歧視性做法，例如基于種族或性別偏見拒絕貸款。這不僅影響個人，也破壞了人們對人工智能技術的信任。

DataRobot的一份報告強調，42%的使用人工智能的組織非常擔心偏見的人工智能系統造成的聲譽損害。

LLM，如OpenAI的GPT-3.5和Meta的Llama 2，是在龐大的數據集上訓練的，這些數據集也反映了社會中存在的偏見。這些偏見可能以有害的方式表現出來，強化刻板印象，使歧視永久化。

例如，聯合國教科文組織委托進行的一項研究發現，LLM表現出明顯的性別偏見，將女性名字與“家庭”和“孩子”等傳統角色聯系起來。相比之下，男性名字與“職業”和“管理”有關。

3.因為純粹，所以盛行

用戶比以往任何時候都更喜歡未經審查的型號。Sakana AI的聯合創始人之一David Ha在X上提到，WizardLM-13B-Uncensored已成為他最喜歡的開源模型。

如果你正在尋找一個沒有任何強制“對齊”或“道德化”審查的聊天LLM，我推薦今天剛剛發布的“WizardLM-13B-Uncensored”。

整個上午都在玩它。到目前為止，這是我最喜歡的開源聊天模式。

加州大學公共衛生學院蛋白質研究中心教授Lars Juhl Jensen贊揚了X上未經審查的LLM的數據是如何未經過濾的。“要聽到真相，可以問一個孩子、一個酒鬼或一個未受審查的人，”他補充道。

雖然像Reddy這樣的企業家已經在利用未經審查的LLM并在社區中越來越受歡迎，但可以肯定地說，我們可能很快就會看到大規模平臺上采用未受審查的LLMs。

本文轉載自??51CTO技術棧??，作者：言征