人工智能（AI）技術正在改變眾多行業的業務運營模式，不僅可以將大量的人力資源從繁瑣的事務性工作中解放出來，還可以通過快速而準確的大數據分析，為企業提供前所未有的洞察力。不過在AI技術快速應用發展過程中，其安全威脅在快速演變，這是由AI系統日益增長的復雜性和普遍性所驅動的。

為了防范AI技術大規模應用的安全風險，企業需要打贏一場“雙線戰爭”，不僅需要阻止攻擊者對已部署AI模型的破壞，而且還要面對攻擊者利用AI技術發起各種新攻擊。在此背景下，零信任技術有望成為幫助企業有效緩解AI應用風險的靈丹妙藥。AT&T Business（美國電話電報公司）安全專家Keith Thomas在其最新發表的博客中表示：零信任安全技術的適應性和穩健性特別適合幫助企業組織應對先進AI技術應用中不斷變化的安全風險與威脅。因為零信任技術具有以下天然的安全屬性和防護優勢：

• 零信任架構：基于最小特權原則設計細粒度訪問控制。從安全角度來看，對每個AI模型、數據源和用戶的保護都應該單獨設計的，應該擁有嚴格定義的權限，只允許訪問必要的內容。零信任方法能夠大大減小可被攻擊者利用的威脅面；
• 零信任可見性：零信任強調所有數字資產的深度可見性，包括AI算法和數據集。這種透明度使組織能夠快速監控和檢測異常活動，幫助其迅速緩解AI應用時特有的威脅，比如模型漂移或數據操縱；
• 零信任持續安全監測和評估：在快速發展的AI領域，只關注靜態安全威脅態勢是遠遠不夠的。零信任技術能夠促進組織對安全控制的持續評估和實時適應，幫助組織面對AI威脅時能領先一步。

零信任技術倡導更嚴格的訪問控制、更全面的可見性和更持續的威脅監控。當網絡犯罪分子企圖通過攻擊AI系統時，零信任安全技術將發揮出重要作用。以下是零信任技術在應對AI應用風險時的一些關鍵性功能：

• 身份和訪問管理（IAM）：AI技術應用時需要實施穩健的身份驗證機制，比如多因素身份驗證，以及針對用戶行為和風險級別評估的自適應身份驗證技術。因此，部署遵循最小權限原則的細粒度訪問控制，確保用戶只擁有執行任務所需的訪問權限，這一點至關重要。
• 網絡分段：在零信任技術理念中，會根據信任級別和數據敏感度將網絡劃分為更小的隔離區域，并部署嚴格的網絡訪問控制和防火墻以限制網段間通信。它還需要使用VPN等安全連接，以遠程訪問敏感數據或系統。
• 數據加密：使用穩健的加密算法和安全密鑰管理實踐對靜態和傳輸中的敏感數據進行加密至關重要。對通信通道實施端到端加密對于保護與外部系統交換的數據也必不可少。
• 數據丟失防護：這指部署DLP解決方案來監測和防止潛在的數據泄露，使用內容檢查和上下文分析來識別和阻止未經授權的數據傳輸，以及定義DLP策略來檢測和防止敏感信息傳輸到外部系統（包括AI模型）。
• 用戶和實體行為分析（UEBA）：實施UEBA解決方案有助于監測用戶行為，并識別異常活動。分析模式和正常行為的偏差可以檢測竊取數據的潛在活動，還可以通過設置實時警報或觸發機制，向安全團隊通知任何可疑活動。
• 持續監測和審計：部署穩健的監測和日志記錄機制對于跟蹤數據訪問和使用情況至關重要。利用安全信息和事件管理（SIEM）系統有助于聚合和關聯安全事件，定期檢查日志和主動分析可以減少潛在的安全泄露事件。
• 事件響應和補救：為數據泄漏或未經授權的數據傳輸專門制定事件響應計劃至關重要。應該明確界定事件響應團隊成員的角色和職責，定期進行演練和演習，測試計劃的有效性。
• 安全分析和威脅情報：利用安全分析和威脅情報平臺是識別和減輕潛在風險的關鍵。及時了解與AI系統相關的新威脅和新漏洞，并相應地調整安全措施也至關重要。

參考鏈接：

https://cybersecurity.att.com/blogs/security-essentials/understanding-ai-risks-and-how-to-secure-using-zero-trust