成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

微軟發(fā)布PyRIT,用于識別生成式AI系統(tǒng)中的風(fēng)險

人工智能
隨著人工智能的發(fā)展,不是把數(shù)據(jù)交給算法,而是算法去處理數(shù)據(jù),從而實現(xiàn)一個全新的洞察力水平。

2月26日消息,據(jù)外媒報道,微軟發(fā)布了一個名為PyRIT的開放訪問自動化框架,用于主動識別生成式AI系統(tǒng)中的風(fēng)險。

微軟人工智能紅色團(tuán)隊負(fù)責(zé)人Ram?Shankar?Siva?Kumar表示,紅色團(tuán)隊工具旨在“使全球每個組織都能利用最新的人工智能進(jìn)步進(jìn)行負(fù)責(zé)任的創(chuàng)新”。

該公司表示,PyRIT可用于評估大型語言模型(LLM)端點對不同傷害類別的穩(wěn)健性,如捏造、濫用和禁止內(nèi)容。并且還能用于識別從惡意軟件生成到越獄的安全危害,以及身份盜竊等隱私危害。

PyRIT有五個接口:目標(biāo)、數(shù)據(jù)集、評分引擎、支持多種攻擊策略的能力,以及包含一個內(nèi)存組件,該組件可以采用JSON或數(shù)據(jù)庫的形式來存儲中間輸入和輸出交互。

評分引擎還提供了兩種不同的選項來對目標(biāo)人工智能系統(tǒng)的輸出進(jìn)行評分,允許Red?Team使用經(jīng)典的機(jī)器學(xué)習(xí)分類器或利用LLM端點進(jìn)行自我評估。

微軟表示:“目標(biāo)是讓研究人員能夠?qū)λ麄兊哪P秃驼麄€推理管道在不同傷害類別下的表現(xiàn)有一個基線,并能夠?qū)⒃摶€與他們模型的未來迭代進(jìn)行比較。”

“這使他們能夠獲得關(guān)于他們的模型目前運行情況的經(jīng)驗數(shù)據(jù),并根據(jù)未來的改進(jìn)檢測性能的任何下降。”換言之,該工具旨在通過生成提示來突出風(fēng)險“熱點”,這些提示可用于評估人工智能系統(tǒng)并標(biāo)記需要進(jìn)一步調(diào)查的領(lǐng)域。

微軟進(jìn)一步承認(rèn),Red?Team生成式AI系統(tǒng)需要同時探測安全性和負(fù)責(zé)任的人工智能風(fēng)險,這項工作更具概率性,同時也指出了生成式AI體系結(jié)構(gòu)的巨大差異。

責(zé)任編輯:龐桂玉 來源: 比特網(wǎng)
相關(guān)推薦

2024-02-27 11:26:47

2023-11-07 16:03:46

人工智能

2023-04-10 10:28:33

ChatGPTAI風(fēng)險管理計劃

2023-12-01 15:34:34

人工智能

2025-04-15 08:35:00

網(wǎng)絡(luò)安全LLM威脅企業(yè)安全

2023-12-06 13:10:07

2023-09-27 09:47:51

SAPJoule

2023-03-22 11:06:32

2025-06-16 08:24:44

2023-02-03 08:00:00

人工智能ChatGP開發(fā)

2023-03-17 11:05:44

微軟Copilot生成式AI助手

2023-08-11 17:02:57

2025-02-04 15:14:34

2023-08-30 13:24:00

AI工具

2023-06-18 12:18:57

2023-08-10 07:37:53

NVIDIAAIOpenUSD

2023-03-14 13:08:33

微軟AI風(fēng)險評估

2023-12-20 14:04:47

2023-12-13 16:28:02

點贊
收藏

51CTO技術(shù)棧公眾號

主站蜘蛛池模板: 久久久无码精品亚洲日韩按摩 | 国产目拍亚洲精品99久久精品 | 精品日韩一区二区 | 日日操视频 | 99re视频在线 | 欧美激情在线观看一区二区三区 | 亚洲精品一区二区三区四区高清 | 成人在线视频免费播放 | 羞羞视频免费观看入口 | 91在线第一页 | 日本一区二区三区四区 | 日韩和的一区二区 | 一区二区在线观看免费视频 | julia中文字幕久久一区二区 | 男女羞羞视频在线看 | 国产不卡视频 | 99久久精品免费看国产四区 | 欧美日韩大陆 | 日韩久久精品 | 国产黄色精品 | 国产精品一二三区 | 婷婷开心激情综合五月天 | 日韩精品一区二区三区中文在线 | 六月色婷 | 欧美三级久久久 | 久久亚洲一区 | 自拍偷拍亚洲欧美 | 国产成年人小视频 | 特级黄一级播放 | 精品国产乱码一区二区三区a | 国产一级特黄真人毛片 | 理论片午午伦夜理片影院 | 国产精品亚洲第一区在线暖暖韩国 | 亚洲免费人成在线视频观看 | 91精品国产综合久久久久久蜜臀 | 一级电影免费看 | 精品久久久久久久 | 国精产品一区一区三区免费完 | 狠狠干av| 精品国产99 | 中文字幕日韩欧美一区二区三区 |