如同一些出生免疫力即有缺陷的人一樣，AI天生也存在免疫力缺陷。例如，車輛的輔助駕駛和自動(dòng)駕駛系統(tǒng)會(huì)因算法技術(shù)缺陷喪失識(shí)別交通指示牌的能力，成為“沒有視覺系統(tǒng)”的汽車，從而給出錯(cuò)誤的決策，遇到大型障礙物時(shí)“看不到”停車標(biāo)志，一頭撞上去。

AI模型對(duì)微小擾動(dòng)很敏感，一些細(xì)微不可見的改動(dòng)就可以引起算法上的巨大誤差，往往帶來可怕的安全威脅。基于從源頭打造安全免疫力的新一代安全架構(gòu)理念，最近，阿里安全發(fā)布了一項(xiàng)核心技術(shù)“AI安全診斷大師”，可對(duì)AI模型全面體檢，“看診開方”，讓AI模型出生就自帶增強(qiáng)型免疫力，抵御安全威脅。

“AI安全診斷大師”包括一款對(duì)AI模型安全性進(jìn)行評(píng)測(cè)和防御的工具箱，對(duì)多個(gè)云上算法接口進(jìn)行安全性測(cè)試后，還沉淀出一套在實(shí)際生產(chǎn)中能對(duì)惡意攻擊進(jìn)行過濾，降低安全風(fēng)險(xiǎn)的AI防火墻系統(tǒng)。

據(jù)阿里安全圖靈實(shí)驗(yàn)室高級(jí)算法專家華棠介紹，“AI安全診斷大師”提供了全方位的體檢與診斷開方服務(wù)，對(duì)AI模型進(jìn)行體檢后，通過診斷算法可能出錯(cuò)的特殊情形，給模型防御增強(qiáng)提供細(xì)化“健康”指導(dǎo)。

值得注意的是，這種“安全診斷”看得見。“AI安全診斷大師”提供了一個(gè)可視化界面，以模型的損失曲面分析圖呈現(xiàn)被評(píng)估AI模型的輸入擾動(dòng)及響應(yīng)表現(xiàn)，可以直觀地看出AI模型的總體安全性能，曲面越平緩，AI遭遇攻擊時(shí)，抵御攻擊的能力更強(qiáng)。

“AI安全診斷大師”的可視化診斷結(jié)果界面

除了提供總體安全性能評(píng)估的“體檢報(bào)告”，“AI安全診斷大師”可通過指定評(píng)測(cè)數(shù)據(jù)集生成針對(duì)某幾種特定攻擊的性能報(bào)告，提供不同攻擊算法下更細(xì)化的安全性指標(biāo)。它可以提供即插即用的安全能力，對(duì)于那些不方便“面診”的“患者”，比如只能提供API接口的AI服務(wù)，“AI安全診斷大師”提供“云體檢”服務(wù)，只需調(diào)用接口即可評(píng)測(cè)AI的安全性。

“AI安全診斷大師”給多個(gè)算法API出具的遭遇攻擊的體檢報(bào)告

“AI安全診斷大師”檢測(cè)到算法服務(wù)的潛在安全風(fēng)險(xiǎn)后，還有針對(duì)惡意攻擊的防火墻功能，定制化提供防御升級(jí)的建議。

“將多種攻擊檢測(cè)和對(duì)抗防御方法作為附加模塊，可為AI模型部署前置服務(wù)，在不修改原模型的基礎(chǔ)上，提升模型對(duì)于對(duì)抗樣本攻擊的防御性能，降低用戶使用成本和風(fēng)險(xiǎn)。經(jīng)過在色情、暴恐、敏感圖像識(shí)別等多種內(nèi)容安全服務(wù)上的測(cè)試，‘AI安全診斷大師’可將模型對(duì)外部攻擊的有效防御能力整體提升40%以上。”華棠說。

不久前，阿里安全曾發(fā)布了一個(gè)高效打造AI深度模型的“AI訓(xùn)練師助手”，讓AI訓(xùn)練模型面對(duì)新場(chǎng)景時(shí)不用從頭學(xué)習(xí)，直接從已經(jīng)存在的模型上遷移，迅速獲得別人的知識(shí)、能力，成為全新的AI模型，將模型打造周期從一個(gè)月縮短為一天。在阿里新一代安全架構(gòu)的指導(dǎo)下，阿里安全圖靈實(shí)驗(yàn)室不斷致力于磨礪出提升AI效率，保障AI安全的技術(shù)和產(chǎn)品，推動(dòng)AI安全的相關(guān)技術(shù)更好地應(yīng)用于實(shí)際場(chǎng)景中。

中國科學(xué)院計(jì)算技術(shù)研究所副研究員王樹徽評(píng)價(jià)：“阿里安全從整體層面考慮了人工智能安全的架構(gòu)性漏洞，提出了‘安全基建’的構(gòu)想和技術(shù)系統(tǒng)。在關(guān)鍵技術(shù)層面，集成了最新的AI攻防技術(shù)，充分考慮了人工智能安全攻防兩端的應(yīng)用需求，分析結(jié)果可解釋性強(qiáng)，易于理解并指導(dǎo)實(shí)踐。在實(shí)用層面，提供了一套切實(shí)可行、即插即用的解決方案，定制化提出防御升級(jí)方案，幫助廣大人工智能技術(shù)實(shí)踐者有效提高其算法系統(tǒng)的免疫力和安全水平。此外，阿里安全的新一代安全架構(gòu)的應(yīng)用成果也有望促進(jìn)人工智能技術(shù)的發(fā)展和進(jìn)步，為新一代人工智能的理論方法研究提供了支持。”

目前阿里安全正與相關(guān)部門、企業(yè)、高校一起參與人工智能安全標(biāo)準(zhǔn)的制定，“AI安全診斷大師”的落地成果也作為優(yōu)秀應(yīng)用案例，被收錄于全國信息標(biāo)準(zhǔn)化技術(shù)委員會(huì)打造的《人工智能安全標(biāo)準(zhǔn)化白皮書(2019版)》。