10月20日消息，據(jù)外媒報(bào)道，微軟宣布正式推出Azure?AI?Content?Safety，這是一項(xiàng)新服務(wù)，可以幫助用戶在應(yīng)用程序和服務(wù)中檢測和過濾有害的人工智能和用戶生成的內(nèi)容。

該服務(wù)包括文本和圖像檢測，并識別微軟所說的“冒犯、危險(xiǎn)或不受歡迎”的內(nèi)容，包括褻瀆、血腥、暴力和某些類型的言論。

Azure?Anomaly?Detector產(chǎn)品經(jīng)理Louise?Han表示：“通過關(guān)注內(nèi)容安全，我們可以創(chuàng)造一個(gè)更安全的數(shù)字環(huán)境，促進(jìn)負(fù)責(zé)任地使用人工智能，保障個(gè)人和整個(gè)社會(huì)的福祉。”

Azure?AI?Content?Safety能夠處理各種內(nèi)容類別、語言和威脅，以調(diào)節(jié)文本和視覺內(nèi)容。它還提供了使用人工智能算法掃描、分析和調(diào)節(jié)視覺內(nèi)容的圖像功能，確保微軟所說的360度全面安全措施。

該服務(wù)還配備了跨多種語言的內(nèi)容調(diào)節(jié)功能，并使用嚴(yán)重性度量標(biāo)準(zhǔn)，在0到7的范圍內(nèi)提供特定內(nèi)容的嚴(yán)重性指示。

0-1級的內(nèi)容被認(rèn)為是安全的，適合所有觀眾觀看，而表達(dá)偏見、判斷或固執(zhí)己見的內(nèi)容被評為2-3級或較低。

中等嚴(yán)重程度的內(nèi)容被分級為4-5，包含攻擊性，侮辱性，嘲弄，恐嚇語言或?qū)ι矸萑后w的明確攻擊，而高嚴(yán)重程度的內(nèi)容，包含有害和明確的促進(jìn)有害行為，或支持或美化對身份群體的極端形式的有害活動(dòng)，被分級為6-7。

此外，Azure?AI?Content?Safety還使用多類別過濾來識別和分類一些關(guān)鍵領(lǐng)域的有害內(nèi)容。