[[379153]]

【51CTO.com快譯】研究表明，人工智能技術為各行業組織的業務帶來了巨大的發展潛力，但同時也帶來了威脅和風險。如果某人或某個組織通過人工智能技術獲得不當的利益或違法犯罪，那么人工智能技術就是他們手中的武器，并會產生各種威脅。人工智能技術在安全方面并不完全是壞消息。例如人工智能在網絡監控和分析方面非常有效。

人工智能如今已經成為一個熱門話題，關于人工智能的用途以及可能帶來風險的誤解和困惑也越來越多。一方面，文學作品和電影幾十年來將人工智能技術描繪成為反烏托邦式的全能機器人。另一方面，許多人了解人工智能在加快人類社會發展的潛力。盡管計算機系統可以學習、推理以及采取行動，但這些行為仍處于早期階段。機器學習(ML)需要學習大量數據，并根據人類分配給人工智能的功能轉化為訓練或指導。而允許人工智能訪問信息并給予其充分的自治權會帶來嚴重的風險，必須得到控制。

人工智能的主要風險與其創造者有著內在的聯系。由于人類會犯錯誤或有偶然的偏差，或者說，程序員的粗心或數據的錯誤可能會使人工智能系統產生一系列的錯誤。人工智能系統的不當設計還可能導致計算系統的規模過大或過小，從而導致人工智能系統做出不必要的決策或陷入停頓。而采用諸如人工監督的控制系統并嚴格測試人工智能系統可以在設計階段降低這些風險。因此必須對計算系統的決策能力進行測量和評估，以確認是否可以快速解決偏差或可疑決策，并在必要時予以糾正。盡管所描述的人工智能的風險是基于無意的錯誤以及設計和實施中的缺陷造成的，但是如果個人或組織利用人工智能系統作惡的話，人工智能就像罪犯手中的武器一樣帶來更多的威脅。

網絡犯罪分子可能比人們想象的更容易地使用人工智能技術，并“訓練”人工智能系統為其獲利。他們可以操縱輸入計算機的數據集(數據中毒)以“訓練”人工智能，甚至對控制參數進行更改，這一切都是為了將​​其引向自己的目標。如果網絡犯罪分子無法訪問數據集，則可以利用篡改技術來強制人工智能系統產生計算錯誤或使其難以正確識別數據集。即使只是出于財務原因，檢查數據和輸入的準確性可能并不可行，但安全人員仍需要盡一切努力從可靠且經過驗證的來源收集數據。在針對網絡攻擊的防御措施中，值得一提的是，在某些部分或整個人工智能系統中添加了具有自動預防機制的隔離功能。

Deepfakes的力量

網絡犯罪分子還可以使用人工智能使其網絡攻擊行為或社交策略更加有效。人工智能可以提供黑客活動的數據集，以研究哪種技術最有效。使用人工智能可以顯著改進網絡犯罪分子當前正在實施的所有策略。他們采用人工智能的另一個潛在領域包括識別軟件、應用或網站代碼中的新缺陷。在這種情況下，人工智能系統將為他們提供一系列潛在的攻擊點，如同訓練有素的獵犬一樣。

人們不要忘記Deepfakes帶來的影響，它可能是網絡犯罪分子利用社交軟件的一個前沿領域。例如2019年在英國發生的一件采用Deepfakes進行詐騙的事件，當時一家公司的財務人員成為一個精心設計的騙局的受害者，該騙局基于Deepfake音頻通話技術。使受害人相信自己正在與該公司的首席執行官通話，于是毫不猶豫地根據其指令將25萬美元轉給網絡犯罪分子，毫無疑問，電話詐騙是采用Deepfake技術進行不當獲利的措施之一。

但是正如人們所看到的，Deepfakes顯然可以成功并令人信服地得以應用。這名受害者當時表示，他通過“輕微的德國口音”和“說話節奏”確認了首席執行官的聲音。如今制作Deepfakes音頻的過程非常簡單。網絡犯罪分子只需要采用機器學習技術即可克隆目標人物的聲音，通常使用間諜軟件和設備，使他們可以收集目標人物數小時的錄音。

他們能夠收集的數據越多，音頻文件的質量就越好。實際上，語音克隆得越準確，也就越有可能造成損害。一旦創建了語音模式，人工智能就開始“學習”模仿目標的語音。然后使用所謂的生成性對手網絡(GAN)進行改進，通過多次嘗試，該算法能以指數級的速度改進自身。

對于備受矚目的目標人物而言，這不是一個好消息(例如知名企業的首席執行官)。他們的演講被在線記錄并通過社交媒體共享，而電話、訪談和日常對話的音頻和視頻也相對容易獲得。有了足夠的數據，Deepfake音頻文件所達到的準確性水平令人震驚，網絡犯罪分子可以采用人工智能技術模仿想要說出的任何話語。

網絡釣魚的發展

當然，網絡釣魚事件如今仍然非常猖獗，85%的組織發現自己已經成為網絡攻擊目標。然而，Deepfake音頻之所以能夠泛濫，一個主要原因是能夠規避大多數安全措施。另一方面，這些人工智能生成的調用完全依賴于人為錯誤和輕信，這是它們成為潛在風險的原因。此外不要忽略這樣一個事實，即使是隨時使用的智能手機，也沒有人們想象的那么安全，那么不難看出網絡犯罪分子可以通過多種方式繞過安全防御措施。

目前網絡釣魚沒有大規模泛濫有兩大障礙。一是還沒有達到更高的成本效益比：一個發送釣魚電子郵件的僵尸網絡能夠在短時間內發送數百萬封電子郵件。而Deepfake音頻需要一些時間來研究目標和處理時間。而在這一段時間內，傳統的網絡攻擊方法能夠產生更多的收益。二是盡管人工智能驅動的網絡安全措施確實還處于試驗階段，但已經有一種有效的方法來對付這種威脅：如果用戶不確定真假，可以掛斷電話。

大多數Deepfake騙局都是使用VoIP帳戶來實施的，這個賬戶是網絡犯罪分子為了聯系目標人物而創建的。而通過回撥電話，目標人物應該能夠立即判斷他們是否在和真人交談。

如何從人工智能中受益以實現組織和個人安全?

對于人們來說，人工智能在安全方面帶來的也不完全是壞消息，人工智能可以非常有效地進行網絡監控和分析。這樣的計算系統已經被證明在檢測標準行為和識別可能的異常方面出人意料地有效。例如，在分析服務器訪問日志或數據流量時，可以使用這種功能。通過提前檢測入侵，有更多的機會將網絡攻擊的破壞性降至最低。在最初的應用中，讓人工智能系統報告異常情況，并提醒IT部門進行進一步調查可能是有用的。人工智能技術仍在不斷改進，并且在不久的將來有可能擁有實時消除威脅和防止網絡攻擊的能力。鑒于公共和私營部門存在的網絡安全缺陷，人工智能系統可以實施其中一些監督任務，讓組織的人員專注于解決復雜的問題。

隨著組織不斷努力削減人工成本，人工智能正變得越來越具有吸引力，并有望在不久的將來取代網絡安全人員。這種轉變將在結果和成本效率方面為組織帶來更多的好處。但那些明智的組織現在需要制定安全戰略，以降低使用了人工智能技術的網絡攻擊帶來的潛在風險。

原文標題：Artificial Intelligence and Cybersecurity: A Double-Edged Sword，作者：Pierguido Iezzi

【51CTO譯稿，合作站點轉載請注明原文譯者和出處為51CTO.com】