據(jù)英國(guó)《金融時(shí)報(bào)》報(bào)道，英偉達(dá)人工智能軟件“NeMo” 可被輕易繞過(guò)安全限制，并且有可能泄露用戶(hù)隱私。

報(bào)道稱(chēng)，NeMo 是一款面向企業(yè)客戶(hù)的軟件，可結(jié)合企業(yè)用戶(hù)數(shù)據(jù)與大語(yǔ)言模型，以此回答用戶(hù)的問(wèn)題。其應(yīng)用場(chǎng)景包括客服和回答簡(jiǎn)單醫(yī)療問(wèn)題等。加州信息安全公司 Robust 在報(bào)告中表示，惡意使用者能輕易繞開(kāi) NeMo 內(nèi)部的 AI 系統(tǒng)安全限制。Robust 的研究員僅耗費(fèi)幾小時(shí)，便繞開(kāi)了這些語(yǔ)言模型的使用限制。

IT之家注意到，在其中一項(xiàng)測(cè)試中，研究人員要求 NeMo 用字母“J”替代“I”，這使得 NeMo 公布了數(shù)據(jù)庫(kù)中的用戶(hù)個(gè)人信息。此外，研究人員還發(fā)現(xiàn)，盡管已將 NeMo 設(shè)定為僅能為用戶(hù)提供擇業(yè)建議，但通過(guò)引導(dǎo)式提問(wèn)使 NeMo 討論了好萊塢演員的健康情況和普法戰(zhàn)爭(zhēng)等話(huà)題。這意味著系統(tǒng)內(nèi)阻止 AI 討論特定話(huà)題的限制已經(jīng)失效。

英偉達(dá)副總裁喬納森科恩表示，NeMo 架構(gòu)只是為了幫助打造符合開(kāi)發(fā)者所定義的主題的聊天機(jī)器人，其以開(kāi)源軟件的形式發(fā)布給開(kāi)發(fā)者。目前，這些漏洞已被修復(fù)?？贫骶芙^透露有多少企業(yè)使用 NeMo 架構(gòu)，但強(qiáng)調(diào)英偉達(dá)沒(méi)有收到其他關(guān)于漏洞的報(bào)告。