整理 | 言征

ChatGPT插件剛火了不到一天，就被爆出嚴(yán)重問(wèn)題了！

當(dāng)?shù)貢r(shí)間，24日晚9點(diǎn)，一位推特上昵稱(chēng)“rez0”的技術(shù)駭客（ 同時(shí)也是一位prompt工程師），在研究破解新的ChatGPT API時(shí)發(fā)現(xiàn)了一個(gè)非常有趣的事情：通過(guò)從API調(diào)用中刪除特定參數(shù)就能獲得80多個(gè)秘密插件，包括：DAN插件、加密貨幣價(jià)格插件、Wolfram插件、Instacart插件等等。

API還顯示了本不需要向用戶展示的“模型描述”部分，這是非常有安全風(fēng)險(xiǎn)的：因?yàn)檫@部分暴露了模型是如何被告知使用插件的。

此前，rez0曾懷疑未發(fā)布的插件可以通過(guò)HTTP代理設(shè)置“匹配和替換”規(guī)則來(lái)使用，只有客戶端會(huì)檢查你是否有權(quán)使用這些插件，并可以繞過(guò)該審查。但很快rez0澄清了，這個(gè)猜測(cè)不正確。因?yàn)椤狝PI要么返回的是未經(jīng)審查的插件，要不就不返回。

這下網(wǎng)友炸鍋了：明明擁有最強(qiáng)大的技術(shù)，但行為卻像是個(gè)業(yè)余選手~~

Rez0聲稱(chēng)目前這個(gè)Bug已經(jīng)被修復(fù)。

此前，周一就被曝出ChatGPT存在用戶隱私漏洞，部分功能被限制使用，許多人的歷史對(duì)話標(biāo)題會(huì)出現(xiàn)在其他人聊天框內(nèi)。

ChatGPT之父Sam也為此事發(fā)推道歉，聲稱(chēng)問(wèn)題出現(xiàn)在一個(gè)開(kāi)源庫(kù)，并刪除了ChatGPT當(dāng)天的10個(gè)小時(shí)聊天記錄來(lái)修復(fù)這場(chǎng)Bug。

一、ChatGPT插件的風(fēng)險(xiǎn)，還有很多

OpenAI近日推出了ChatGPT 插件，通過(guò)授予機(jī)器人訪問(wèn)第三方知識(shí)源和數(shù)據(jù)庫(kù)（包括網(wǎng)絡(luò)）的權(quán)限來(lái)擴(kuò)展機(jī)器人的功能。OpenAI向waitlist上的ChatGPT用戶和開(kāi)發(fā)人員提供alpha版，OpenAI表示，在推出更大規(guī)模和API訪問(wèn)之前，它會(huì)優(yōu)先考慮少數(shù)開(kāi)發(fā)人員和使用其高級(jí)ChatGPT Plus計(jì)劃的訂閱者。

1.網(wǎng)絡(luò)瀏覽插件：引用來(lái)源容易誤導(dǎo)

最吸引人的插件無(wú)疑是OpenAI的第一方網(wǎng)絡(luò)瀏覽插件，它允許ChatGPT從網(wǎng)絡(luò)上提取數(shù)據(jù)以回答向它提出的各種問(wèn)題。（以前，ChatGPT的知識(shí)僅限于2021年9月之前的日期、事件和人物。）該插件使用Bing搜索API從網(wǎng)絡(luò)上檢索內(nèi)容，并顯示它在制作答案時(shí)訪問(wèn)過(guò)的任何網(wǎng)站，并在ChatGPT的回復(fù)中引用其來(lái)源。

OpenAI自己的研究成果也認(rèn)為風(fēng)險(xiǎn)不會(huì)消除。該公司于2021年構(gòu)建了一個(gè)名為WebGPT的實(shí)驗(yàn)系統(tǒng)，該系統(tǒng)有時(shí)會(huì)引用不可靠的來(lái)源，系統(tǒng)還會(huì)被激勵(lì)從能夠讓用戶會(huì)覺(jué)得有說(shuō)服力的網(wǎng)站中挑選數(shù)據(jù)——即使這些來(lái)源客觀上并不是最有信服力的。Meta已解散的BlenderBot 3.0也可以訪問(wèn)網(wǎng)絡(luò)，并迅速偏離正軌，在出現(xiàn)特定文本提示時(shí)，會(huì)明顯顯示出陰謀論和令人反感的內(nèi)容。

圖片來(lái)源：OpenAI

2.實(shí)時(shí)數(shù)據(jù)組織程度差，結(jié)果容易被玩弄

與靜態(tài)訓(xùn)練數(shù)據(jù)集相比，實(shí)時(shí)網(wǎng)絡(luò)的數(shù)據(jù)組織程度、過(guò)濾清洗程度只會(huì)更少。谷歌和Bing等搜索引擎使用自己的安全機(jī)制來(lái)減少不可靠?jī)?nèi)容出現(xiàn)在結(jié)果頂部的可能性，但這些結(jié)果可以被玩弄。它們也不一定代表整個(gè)網(wǎng)絡(luò)。而且，Google的算法會(huì)優(yōu)先考慮使用加密、移動(dòng)支持和模式標(biāo)記等現(xiàn)代網(wǎng)絡(luò)技術(shù)的網(wǎng)站。結(jié)果，許多具有其他優(yōu)質(zhì)內(nèi)容的網(wǎng)站在“洗牌”中漸漸埋沒(méi)了。

也就是說(shuō)，搜索引擎可能會(huì)對(duì)連接互聯(lián)網(wǎng)的語(yǔ)言模型的答案，產(chǎn)生很大的影響。谷歌往往在搜索中優(yōu)先考慮自己的服務(wù)，例如，使用來(lái)自谷歌地方的數(shù)據(jù)，而不是像第三方如TripAdvisor這樣更豐富、更社交的來(lái)源來(lái)回答旅行查詢(xún)。與此同時(shí)，搜索算法也為不良分子打開(kāi)了大門(mén)。2020 年，Pinterest利用谷歌圖像搜索算法的一個(gè)“怪癖”，在谷歌圖像搜索中展示了更多內(nèi)容 。

二、OpenAI的承諾猶在耳

OpenAI承認(rèn)，支持網(wǎng)絡(luò)的ChatGPT可能會(huì)執(zhí)行所有類(lèi)型的不良行為，例如發(fā)送欺詐性和垃圾郵件、繞過(guò)安全限制以及通常“增加欺詐、誤導(dǎo)或?yàn)E用他人的不良行為者的能力”。但該公司還表示，它已根據(jù)內(nèi)部和外部“紅隊(duì)”通知“實(shí)施了幾項(xiàng)保障措施”以防止這種情況發(fā)生。時(shí)間會(huì)證明它們是否足夠應(yīng)對(duì)這些。

除了網(wǎng)絡(luò)插件之外，OpenAI還為ChatGPT發(fā)布了一個(gè)代碼解釋器，它為聊天機(jī)器人提供了一個(gè)在沙盒、防火墻環(huán)境、磁盤(pán)空間中工作的Python解釋器。它支持上傳文件到ChatGPT并下載結(jié)果；OpenAI表示，它對(duì)于解決數(shù)學(xué)問(wèn)題、進(jìn)行數(shù)據(jù)分析和可視化以及在格式之間轉(zhuǎn)換文件特別有用。

圖片來(lái)源：OpenAI

OpenAI的許多早期合作者為ChatGPT構(gòu)建了插件，包括Expedia、FiscalNote、Instacart、Kayak、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram和Zapier。

至于插件的用途，不言自明。例如，OpenTable插件允許ChatGPT跨多個(gè)餐廳，搜索可用預(yù)訂，而Instacart 插件允許ChatGPT從本地商店下訂單。迄今為止，Zapier是同類(lèi)產(chǎn)品中最具可擴(kuò)展性的，它可以與Google表格、Trello和Gmail等應(yīng)用程序連接，以觸發(fā)一系列生產(chǎn)力任務(wù)。

為了方便新插件的創(chuàng)建，OpenAI開(kāi)源了一個(gè)“檢索”插件，使ChatGPT能夠通過(guò)用自然語(yǔ)言提問(wèn)來(lái)訪問(wèn)來(lái)自文件、筆記、電子郵件或公共文檔等數(shù)據(jù)源的文檔片段。

“我們正在努力開(kāi)發(fā)插件，并將它們帶給更廣泛的受眾，”O(jiān)penAI在一篇博文中寫(xiě)道。“我們有很多東西要學(xué)，在大家的幫助下，我們希望打造出既有用又安全的東西。”

三、寫(xiě)在最后

插件是ChatGPT開(kāi)發(fā)時(shí)間表中一個(gè)相當(dāng)新奇的補(bǔ)充。一旦僅限于其訓(xùn)練數(shù)據(jù)中的信息，ChatGPT有了插件，突然變得更加強(qiáng)大——而且承擔(dān)的法律風(fēng)險(xiǎn)也可能更低。

一些專(zhuān)家指責(zé)OpenAI從訓(xùn)練ChatGPT的未經(jīng)許可的任務(wù)中獲利；ChatGPT的數(shù)據(jù)集包含各種公共網(wǎng)站。但是插件可以通過(guò)允許公司保留對(duì)其數(shù)據(jù)的完全控制來(lái)解決這個(gè)問(wèn)題。

總之，希望ChatGPT能夠盡快完善，盡量少犯些“初級(jí)錯(cuò)誤”吧。而使用者也要客觀對(duì)待新事物，謹(jǐn)慎使用。

參考鏈接：https://techcrunch.com/2023/03/23/openai-connects-chatgpt-to-the-internet/