3 月 7 日消息，據(jù) CNBC 報(bào)道，一位微軟工程師向美國(guó)聯(lián)邦貿(mào)易委員會(huì) (FTC) 舉報(bào)該公司的人工智能圖片生成器 Copilot Designer 存在安全隱患。

這位名叫 Shane Jones 的工程師在微軟工作了六年，他致信 FTC 稱(chēng)，盡管他反復(fù)警告 Copilot Designer 可能會(huì)生成有害圖像，但微軟卻“拒絕”下架該工具。

在測(cè)試 Copilot Designer 的安全問(wèn)題和缺陷時(shí)，Jones 發(fā)現(xiàn)該工具會(huì)生成“與墮胎權(quán)術(shù)語(yǔ)相關(guān)的惡魔和怪物、手持突擊步槍的青少年、暴力場(chǎng)景中性化的女性圖像以及未成年人飲酒和吸毒”等內(nèi)容。

據(jù)報(bào)道，自去年 12 月以來(lái)，Jones 一直試圖警告微軟有關(guān) Copilot Designer 使用的模型 DALLE-3 的問(wèn)題。他在領(lǐng)英上發(fā)布了一封公開(kāi)信，隨后微軟的法律團(tuán)隊(duì)聯(lián)系他要求刪除帖子，他照做了。

“過(guò)去三個(gè)月里，我反復(fù)敦促微軟將 Copilot Designer 從公共使用中移除，直到更好的保障措施到位，”Jones 稱(chēng)，“然而，他們?cè)俅挝茨軐?shí)施這些改變，并繼續(xù)將該產(chǎn)品推銷(xiāo)給‘任何人、任何地方、任何設(shè)備’。”

微軟發(fā)言人 Frank Shaw 在給 The Verge 的一份聲明中表示，公司“致力于按照微軟的政策解決員工提出的任何和所有顧慮”。Shaw 還表示，微軟為繞過(guò)安全措施或可能對(duì)我們的服務(wù)或合作伙伴產(chǎn)生潛在影響的問(wèn)題建立了產(chǎn)品內(nèi)用戶(hù)反饋工具和強(qiáng)大的內(nèi)部報(bào)告渠道，以便正確調(diào)查、優(yōu)先處理和糾正任何問(wèn)題，并建議 Jones 利用這些渠道，以便微軟能夠“適當(dāng)驗(yàn)證和測(cè)試他的擔(dān)憂(yōu)”。

Shaw 還表示，微軟“已與產(chǎn)品領(lǐng)導(dǎo)層和我們的負(fù)責(zé)任人工智能辦公室舉行會(huì)議，以審查這些報(bào)告。”

今年 1 月，在 Copilot Designer 生成并迅速傳播的 Swift 的露骨圖片事件后，Jones 就向美國(guó)參議員小組寫(xiě)信表達(dá)了他的擔(dān)憂(yōu)。微軟首席執(zhí)行官薩特亞?納德拉 (Satya Nadella) 稱(chēng)這些圖片“令人震驚和可怕”，并表示公司將努力添加更多安全保障措施。IT之家注意到，上個(gè)月，谷歌在其用戶(hù)發(fā)現(xiàn)其 AI 圖片生成器創(chuàng)建種族多元化的納粹和其他歷史不準(zhǔn)確圖像后暫時(shí)禁用了該工具。