安全和隱私問題是采用人工智能的最大障礙，這是有充分的理由。良性和惡意行為者都可以威脅AI模型和數據的性能、公平、安全與隱私。

[[342330]]

隨著AI逐漸成為主流并轉向他們承諾一系列好處，這是企業不能忽略的發展趨勢。實際上，在最近的2020年Gartner新興技術發展曲線圖中，所列技術中有三分之一以上與AI有關。

同時，人工智能也有一個往往無法解決的陰暗面，特別是因為當前的機器學習和人工智能平臺，市場上還沒有提供一致或全面的工具來保護企業組織和個人的權益。人工智能企業而言，更糟糕的是，根據Gartner的一項調查，消費者認為，使用或提供AI的組織在出現問題時應負責任。

實施應對威脅的安全措施以保護AI投資符合每個組織的利益。對AI的威脅和攻擊不僅損害AI模型的安全性和數據安全性，而且損害模型的性能和結果。

犯罪分子通常會以兩種方式攻擊AI，技術人員可以采取行動來減輕此類威脅，但首先讓我們探討AI的三大核心風險。

人工智能的安全、責任和社會風險

使用AI的組織面臨三種風險。隨著AI越來越普及并嵌入到關鍵的企業運營中，安全風險正在上升。例如，自動駕駛汽車的AI模型中可能存在導致致命事故的錯誤。

由于使用敏感客戶數據的AI模型越來越多地影響著影響客戶的決策，因此責任風險正在增加。例如，錯誤的AI信用評分會阻礙消費者獲得貸款，從而導致財務和聲譽損失。

隨著“不負責任的AI”通過做出既不透明也不容易理解的偏見決策，給消費者帶來不利和不公平的后果，社會風險正在增加。即使是輕微的偏差也會導致算法的嚴重錯誤行為。

罪犯通常如何攻擊AI

上述風險可能是由犯罪分子攻擊AI的兩種常見方式造成的：惡意輸入，騷擾和調查攻擊。

對AI模型的惡意輸入可以采取對抗性AI、操縱數字輸入或惡意物理輸入的形式。對抗性AI可能會使用AI生成的聲音以社會工程學人類的形式出現，該聲音可用于任何類型的犯罪，被認為是網絡釣魚的“新”形式。例如，去年3月，犯罪分子使用AI合成語音模仿了CEO的語音，并要求將243000美元的資金以欺詐方式轉移到自己的帳戶中。

調查攻擊涉及犯罪分子向組織的AI模型發送調查，以了解其工作方式，并且可能以黑匣子或白匣子的形式出現。具體來說，黑匣子查詢攻擊確定了不常見的擾動輸入，以用于所需的輸出，例如財務收益或避免檢測。一些學者已經能夠通過操縱輸出來欺騙領先的翻譯模型，從而導致翻譯不正確。

白盒查詢攻擊會重新生成訓練數據集以重現類似的模型，這可能會導致有價值的數據被盜。這樣的一個例子是，語音識別供應商成為新的外國供應商偽造他們的技術然后出售它的受害者，這導致外國供應商能夠基于被盜的IP搶占市場份額。

最新的安全支柱使AI值得信賴

對于IT領導者而言，承認其組織中對AI的威脅至關重要，以便評估和支持他們現有的現有安全支柱(以人為中心和企業安全控制)和新的安全支柱(AI模型的完整性和AI數據)完整性)。

AI模型的完整性鼓勵組織探索對員工的對抗培訓，并通過企業安全控制來減少攻擊面。將區塊鏈用于AI模型的起源和跟蹤以及用于訓練該模型的數據也屬于這一支柱，作為組織使AI更加值得信賴的一種方式。

AI數據完整性側重于數據異常分析(如分布模式和異常值)以及數據保護(如差異性隱私或合成數據)，以應對對AI的威脅。

為了保護AI應用程序的安全，專注于安全技術和基礎架構的技術專業人員應執行以下操作：

• 通過進行威脅評估并應用嚴格的訪問控制以及對訓練數據、模型和數據處理組件的監視，可以最大程度地減少開發和生產期間AI應用的攻擊面。
• 通過解決四個特定于AI的方面來增強用于保護軟件開發生命周期(SDLC)的標準控件：模型開發過程中的威脅，AI模型中缺陷的檢測，對第三方預訓練模型的依賴以及公開的數據管道。
• 通過保護和維護最新，高質量并且包含對抗性樣本的數據存儲庫，防御所有數據管道中的數據中毒。越來越多的開源和商業解決方案可用于提高針對數據中毒，對抗性輸入和模型泄漏攻擊的魯棒性。

除非欺詐者被人發現并隨后對該欺詐者的系統進行取證，否則很難證明AI模型何時遭到攻擊。同時，企業不會簡單地停止使用AI，因此確保其安全對于在企業中成功實施AI至關重要。將安全性改造到任何系統中的成本要比從一開始就內置它要高得多，因此請立即保護您的AI。