譯者 | 晶顏
審校 | 重樓
人工智能的變革力量正在重塑眾多行業(yè)的業(yè)務(wù)運(yùn)營。通過機(jī)器人流程自動(dòng)化(RPA),人工智能正在將人力資源從重復(fù)的、基于規(guī)則的任務(wù)中解放出來,并將其重點(diǎn)放在戰(zhàn)略性的、復(fù)雜的操作上。此外,人工智能和機(jī)器學(xué)習(xí)算法可以以前所未有的速度和準(zhǔn)確性破譯大量數(shù)據(jù),為企業(yè)提供曾經(jīng)遙不可及的見解。就客戶關(guān)系而言,人工智能作為個(gè)人接觸點(diǎn),通過個(gè)性化互動(dòng)提高了參與度。
盡管人工智能對(duì)企業(yè)有利,但它也帶來了非常獨(dú)特的安全挑戰(zhàn)。例如,對(duì)抗性攻擊巧妙地操縱AI模型的輸入數(shù)據(jù),使其行為異常,同時(shí)規(guī)避檢測(cè)。同樣令人擔(dān)憂的是數(shù)據(jù)中毒現(xiàn)象,即攻擊者在訓(xùn)練階段通過注入誤導(dǎo)性數(shù)據(jù)來污染AI模型,從而破壞其最終結(jié)果。
正是在這種情況下,“永不信任,始終驗(yàn)證”的零信任安全模式,被認(rèn)為是對(duì)抗基于人工智能的威脅的有力手段。零信任脫離了安全邊界的傳統(tǒng)概念,它假定任何設(shè)備或用戶,無論其位于網(wǎng)絡(luò)內(nèi)部還是外部,都應(yīng)被視為威脅。
這種思想上的轉(zhuǎn)變要求嚴(yán)格的訪問控制、全面的可見性和跨IT生態(tài)系統(tǒng)的持續(xù)監(jiān)控。隨著人工智能技術(shù)不斷提高運(yùn)營效率和決策能力,如果保護(hù)不當(dāng),它們也可能成為攻擊的渠道。網(wǎng)絡(luò)犯罪分子已經(jīng)試圖通過數(shù)據(jù)中毒和對(duì)抗性攻擊來利用人工智能系統(tǒng),這使得零信任模型在保護(hù)這些系統(tǒng)方面的作用變得日益突出。
了解人工智能威脅
減輕人工智能威脅風(fēng)險(xiǎn)需要全面的人工智能安全方法,包括仔細(xì)設(shè)計(jì)和測(cè)試人工智能模型、強(qiáng)大的數(shù)據(jù)保護(hù)措施、持續(xù)地監(jiān)測(cè)可疑活動(dòng),以及使用安全可靠的基礎(chǔ)設(shè)施。企業(yè)在實(shí)施人工智能時(shí)需要重點(diǎn)考慮以下風(fēng)險(xiǎn):
- 對(duì)抗性攻擊:這些攻擊涉及操縱AI模型的輸入數(shù)據(jù),使模型按照攻擊者希望的方式運(yùn)行,而不會(huì)觸發(fā)警報(bào)。例如,攻擊者可以操縱面部識(shí)別系統(tǒng)來錯(cuò)誤識(shí)別個(gè)人,從而允許未經(jīng)授權(quán)的訪問。
- 數(shù)據(jù)中毒:這種類型的攻擊包括在人工智能模型的訓(xùn)練階段引入虛假或誤導(dǎo)性數(shù)據(jù),目的是破壞模型的結(jié)果。由于人工智能系統(tǒng)嚴(yán)重依賴其訓(xùn)練數(shù)據(jù),有毒的數(shù)據(jù)會(huì)嚴(yán)重影響它們的性能和可靠性。
- 模型盜竊和逆向攻擊:攻擊者可能會(huì)試圖竊取專有的AI模型,或者根據(jù)它們的輸出重新創(chuàng)建它們。對(duì)于作為服務(wù)提供的模型來說,這種風(fēng)險(xiǎn)尤其高。此外,攻擊者可以嘗試從人工智能模型的輸出中推斷出敏感信息,比如學(xué)習(xí)訓(xùn)練數(shù)據(jù)集中的個(gè)人信息。
- 人工智能增強(qiáng)的網(wǎng)絡(luò)攻擊:惡意行為者可以利用人工智能來自動(dòng)化和增強(qiáng)他們的網(wǎng)絡(luò)攻擊。這包括使用人工智能執(zhí)行更復(fù)雜的網(wǎng)絡(luò)釣魚攻擊,自動(dòng)發(fā)現(xiàn)漏洞,或進(jìn)行更快、更有效的暴力破解攻擊。
- 缺乏透明度(黑箱問題):通常很難理解復(fù)雜的AI模型是如何做出決策的。這種透明度的缺乏可能會(huì)造成安全風(fēng)險(xiǎn),因?yàn)樗赡軙?huì)隱藏有偏見或惡意的行為。
- 對(duì)人工智能系統(tǒng)的依賴:隨著企業(yè)越來越依賴人工智能系統(tǒng),對(duì)這些系統(tǒng)的任何破壞都可能產(chǎn)生嚴(yán)重后果。這可能是由于技術(shù)問題、對(duì)人工智能系統(tǒng)本身的攻擊或?qū)Φ讓踊A(chǔ)設(shè)施的攻擊而造成的。
人工智能的零信任模型
零信任提供了一種有效的策略來消除基于人工智能的威脅。零信任的核心是一個(gè)簡單的概念:永不信任,始終驗(yàn)證。它脫離了安全邊界的傳統(tǒng)概念,并假設(shè)任何設(shè)備或用戶,無論是在網(wǎng)絡(luò)內(nèi)部還是外部,都可能是潛在的威脅。因此,它要求嚴(yán)格的訪問控制、全面的可見性和跨IT環(huán)境的持續(xù)監(jiān)視。零信任是應(yīng)對(duì)人工智能威脅的有效策略,原因如下:
- 零信任架構(gòu):基于最小特權(quán)原則設(shè)計(jì)粒度訪問控制。每個(gè)AI模型、數(shù)據(jù)源和用戶都是單獨(dú)考慮的,具有嚴(yán)格的權(quán)限,僅限對(duì)必要內(nèi)容的訪問。這種方法大大減少了攻擊者可以利用的威脅面。
- 零信任可見性:強(qiáng)調(diào)所有數(shù)字資產(chǎn)的深度可見性,包括人工智能算法和數(shù)據(jù)集。這種透明度使組織能夠快速監(jiān)控和檢測(cè)異常活動(dòng),幫助迅速減輕AI特定的威脅,如模型漂移或數(shù)據(jù)操縱。
- 零信任持續(xù)安全監(jiān)測(cè)和評(píng)估:在快速發(fā)展的人工智能環(huán)境中,靜態(tài)安全立場(chǎng)是遠(yuǎn)遠(yuǎn)不夠的。零信任促進(jìn)了安全控制的持續(xù)評(píng)估和實(shí)時(shí)適應(yīng),幫助組織在人工智能威脅面前保持領(lǐng)先。
將零信任應(yīng)用于人工智能
零信任原則可以應(yīng)用于保護(hù)企業(yè)的敏感數(shù)據(jù)不被無意中發(fā)送到ChatGPT等人工智能服務(wù)或任何其他外部系統(tǒng)。以下是零信任中可以幫助降低風(fēng)險(xiǎn)的一些功能:
- 身份和訪問管理(IAM):IAM需要實(shí)現(xiàn)健壯的身份驗(yàn)證機(jī)制,例如多因素身份驗(yàn)證,以及針對(duì)用戶行為和風(fēng)險(xiǎn)級(jí)別評(píng)估的自適應(yīng)身份驗(yàn)證技術(shù)。部署粒度訪問控制,遵循最小權(quán)限原則,確保用戶只有執(zhí)行任務(wù)所需的訪問權(quán)限。
- 網(wǎng)絡(luò)分段:這包括根據(jù)信任級(jí)別和數(shù)據(jù)敏感性將網(wǎng)絡(luò)劃分為更小的隔離區(qū)域,并部署嚴(yán)格的網(wǎng)絡(luò)訪問控制和防火墻來限制段間通信。它還需要使用安全連接,以遠(yuǎn)程訪問敏感數(shù)據(jù)或系統(tǒng)。
- 數(shù)據(jù)加密:使用穩(wěn)健的加密算法和安全的密鑰管理實(shí)踐對(duì)靜態(tài)和傳輸中的敏感數(shù)據(jù)進(jìn)行加密至關(guān)重要。對(duì)通信通道應(yīng)用端到端加密對(duì)于保護(hù)與外部系統(tǒng)交換的數(shù)據(jù)也是必要的。
- 數(shù)據(jù)丟失預(yù)防(DLP):這包括部署DLP解決方案來監(jiān)控和防止?jié)撛诘臄?shù)據(jù)泄露,使用內(nèi)容檢查和上下文分析來識(shí)別和阻止未經(jīng)授權(quán)的數(shù)據(jù)傳輸,以及定義DLP策略來檢測(cè)和防止敏感信息傳輸?shù)酵獠肯到y(tǒng),包括人工智能模型。
- 用戶和實(shí)體行為分析(UEBA):UEBA解決方案的實(shí)現(xiàn)有助于監(jiān)控用戶行為并識(shí)別異常活動(dòng)。分析模式和正常行為的偏差可以檢測(cè)到潛在的數(shù)據(jù)泄露企圖。還應(yīng)該設(shè)置實(shí)時(shí)警報(bào)或觸發(fā)器,以通知安全團(tuán)隊(duì)任何可疑活動(dòng)。
- 持續(xù)監(jiān)視和審計(jì):部署健壯的監(jiān)視和日志記錄機(jī)制對(duì)于跟蹤和審計(jì)數(shù)據(jù)訪問和使用情況至關(guān)重要。利用安全信息和事件管理(SIEM)系統(tǒng)可以幫助聚合和關(guān)聯(lián)安全事件。定期檢查日志和主動(dòng)分析對(duì)于識(shí)別未經(jīng)授權(quán)的數(shù)據(jù)傳輸或潛在的安全漏洞也是必要的。
- 事件響應(yīng)和補(bǔ)救:為數(shù)據(jù)泄漏或未經(jīng)授權(quán)的數(shù)據(jù)傳輸制定專門的事件響應(yīng)計(jì)劃至關(guān)重要。應(yīng)該明確事件響應(yīng)團(tuán)隊(duì)成員的角色和職責(zé),并定期進(jìn)行演練和演習(xí),以測(cè)試計(jì)劃的有效性。
- 安全分析和威脅情報(bào):利用安全分析和威脅情報(bào)平臺(tái)是識(shí)別和減輕潛在風(fēng)險(xiǎn)的關(guān)鍵。及時(shí)了解與人工智能系統(tǒng)相關(guān)的新威脅和漏洞,并相應(yīng)地調(diào)整安全措施也至關(guān)重要。
零信任原則為保護(hù)敏感數(shù)據(jù)提供了堅(jiān)實(shí)的基礎(chǔ)。然而,隨著人工智能越來越多地融入企業(yè),不斷評(píng)估和調(diào)整安全措施以應(yīng)對(duì)不斷變化的威脅和行業(yè)最佳實(shí)踐也很重要。
案例研究
一家大型金融機(jī)構(gòu)利用人工智能來增強(qiáng)客戶支持并簡化業(yè)務(wù)流程。然而,由于內(nèi)部威脅或?yàn)E用等因素,對(duì)敏感客戶或?qū)S胸?cái)務(wù)數(shù)據(jù)可能暴露的擔(dān)憂日益加劇。為了解決這個(gè)問題,該機(jī)構(gòu)承諾實(shí)施零信任架構(gòu),整合各種安全措施,以確保其運(yùn)營中的數(shù)據(jù)隱私和機(jī)密性。
這個(gè)零信任架構(gòu)包含多個(gè)策略。第一個(gè)是身份和訪問管理(IAM)系統(tǒng),它執(zhí)行訪問控制和身份驗(yàn)證機(jī)制。該計(jì)劃還優(yōu)先考慮與人工智能的所有交互的數(shù)據(jù)匿名化和強(qiáng)加密措施。部署數(shù)據(jù)丟失防護(hù)(DLP)解決方案和用戶和實(shí)體行為分析(UEBA)工具來監(jiān)控對(duì)話、檢測(cè)潛在的數(shù)據(jù)泄漏和發(fā)現(xiàn)異常行為。此外,基于角色的訪問控制(RBAC)限制用戶只能訪問與其角色相關(guān)的數(shù)據(jù),并實(shí)現(xiàn)了對(duì)活動(dòng)的持續(xù)監(jiān)視和審計(jì)方案。
此外,該機(jī)構(gòu)還強(qiáng)調(diào)用戶意識(shí)和培訓(xùn),讓員工接受有關(guān)數(shù)據(jù)隱私、內(nèi)部威脅和濫用風(fēng)險(xiǎn)以及處理敏感數(shù)據(jù)的指導(dǎo)方針的培訓(xùn)。由于該機(jī)構(gòu)的零信任架構(gòu)在與人工智能的交互過程中不斷驗(yàn)證信任,因此大大降低了導(dǎo)致數(shù)據(jù)隱私和機(jī)密性丟失的違規(guī)風(fēng)險(xiǎn),保護(hù)了敏感數(shù)據(jù)并維護(hù)了機(jī)構(gòu)業(yè)務(wù)運(yùn)營的完整性。
人工智能與零信任的未來
人工智能威脅的演變是由人工智能系統(tǒng)日益增長的復(fù)雜性和普遍性,以及不斷尋找新方法來利用它們的網(wǎng)絡(luò)犯罪分子的復(fù)雜程度所驅(qū)動(dòng)的。以下是人工智能威脅的一些持續(xù)演變,以及零信任模型適應(yīng)這些挑戰(zhàn)的方式:
- 高級(jí)對(duì)抗性攻擊:隨著AI模型變得越來越復(fù)雜,針對(duì)它們的對(duì)抗性攻擊也越來越復(fù)雜。惡意行為者正在從簡單的數(shù)據(jù)操縱轉(zhuǎn)向高度復(fù)雜的技術(shù),旨在以難以檢測(cè)和防御的方式欺騙人工智能系統(tǒng)。為了解決這個(gè)問題,零信任架構(gòu)必須實(shí)施更先進(jìn)的檢測(cè)和預(yù)防系統(tǒng),將人工智能本身結(jié)合起來,實(shí)時(shí)識(shí)別和響應(yīng)對(duì)抗性輸入。
- 人工智能支持的網(wǎng)絡(luò)攻擊:隨著網(wǎng)絡(luò)犯罪分子開始使用人工智能來自動(dòng)化和強(qiáng)化他們的攻擊,企業(yè)面臨著更快、更頻繁、更復(fù)雜的威脅。作為回應(yīng),零信任模型應(yīng)結(jié)合人工智能驅(qū)動(dòng)的威脅檢測(cè)和響應(yīng)工具,使它們能夠更快、更準(zhǔn)確地識(shí)別和應(yīng)對(duì)人工智能驅(qū)動(dòng)的攻擊。
- 利用AI的“黑箱”問題:某些AI系統(tǒng)固有的復(fù)雜性使得我們很難理解它們是如何做出決策的。這種缺乏透明度的情況可能會(huì)被攻擊者利用。零信任可以通過要求人工智能系統(tǒng)更加透明,并實(shí)施能夠檢測(cè)人工智能行為異常的監(jiān)控工具來適應(yīng)。
- 數(shù)據(jù)隱私風(fēng)險(xiǎn):由于人工智能系統(tǒng)需要大量數(shù)據(jù),與數(shù)據(jù)隱私和保護(hù)相關(guān)的風(fēng)險(xiǎn)越來越大。零信任通過確保對(duì)所有數(shù)據(jù)進(jìn)行加密、嚴(yán)格控制訪問以及立即檢測(cè)和調(diào)查任何異常數(shù)據(jù)訪問模式來解決這個(gè)問題。
- 物聯(lián)網(wǎng)設(shè)備中的AI:隨著AI嵌入物聯(lián)網(wǎng)設(shè)備,攻擊面正在擴(kuò)大。零信任可以將“永不信任,始終驗(yàn)證”的原則擴(kuò)展到網(wǎng)絡(luò)中的每個(gè)物聯(lián)網(wǎng)設(shè)備,無論其性質(zhì)或位置如何。
零信任模型的適應(yīng)性和穩(wěn)健性使其尤為適合應(yīng)對(duì)人工智能領(lǐng)域不斷變化的威脅。通過基于最新威脅情報(bào)不斷更新其策略和工具,零信任可以跟上快速發(fā)展的人工智能威脅領(lǐng)域的步伐。
結(jié)語
隨著人工智能的不斷發(fā)展,針對(duì)這些技術(shù)的威脅也將不斷發(fā)展。零信任模型提供了一種有效的方法來消除這些威脅,它假定沒有隱含信任,并驗(yàn)證整個(gè)IT環(huán)境中的一切。它應(yīng)用粒度訪問控制,提供全面的可見性,并促進(jìn)持續(xù)的安全監(jiān)控,使其成為對(duì)抗基于人工智能的威脅的重要工具。
作為IT專業(yè)人員,我們必須在保護(hù)組織安全方面具有前瞻性和創(chuàng)新性。人工智能正在重塑我們的運(yùn)營,使我們能夠簡化工作,做出更好的決策,并提供更好的客戶體驗(yàn)。然而,這些好處也帶來了獨(dú)特的安全挑戰(zhàn),需要全面和前瞻性的網(wǎng)絡(luò)安全方法。
考慮到這一點(diǎn),是時(shí)候采取行動(dòng)了!首先,對(duì)組織進(jìn)行零信任準(zhǔn)備評(píng)估,以了解組織當(dāng)前的安全環(huán)境并確定任何缺口。了解組織的缺口之后,便可以開始制定戰(zhàn)略計(jì)劃,以實(shí)現(xiàn)強(qiáng)大的零信任框架,最終保護(hù)組織的人工智能計(jì)劃,并確保系統(tǒng)和數(shù)據(jù)的完整性。
原文標(biāo)題:Understanding AI risks and how to secure using Zero Trust,作者:Keith Thomas