人工智能面臨十大安全威脅

作者：安全牛 2021-04-27 10:05:46

隨著自動(dòng)駕駛技術(shù)、智能助理、人臉識(shí)別、智能工廠、智慧城市等AI人工智能技術(shù)的快速普及和相關(guān)安全事件的快速增長，消費(fèi)者和業(yè)界對(duì)人工智能網(wǎng)絡(luò)安全問題和威脅的關(guān)注度正不斷提高。

近日，應(yīng)歐盟和美國政府的要求，可信AI研究和咨詢專業(yè)公司Adversa發(fā)表了業(yè)界首個(gè)全面的人工智能安全性和可信度研究報(bào)告，該報(bào)告還結(jié)合了Gartner的相關(guān)預(yù)測(cè)以及最近對(duì)AI的對(duì)抗性攻擊事件。

Adversa顧問委員會(huì)前Gartner分析師Oliver Rochford指出：建立對(duì)機(jī)器學(xué)習(xí)安全性的信任至關(guān)重要。我們要求人們?nèi)ハ嘈臕I的黑匣子(這很困難)，為了使AI革命成功，我們必須建立信任……AI面臨的安全風(fēng)險(xiǎn)太大，同時(shí)收益也很大。

[[396164]]

Adversa的CTO Eugene Neelou表示：“為了提高可信AI領(lǐng)域的安全意識(shí)，一年多前我們啟動(dòng)了一個(gè)項(xiàng)目，以分析學(xué)術(shù)、行業(yè)和政府過去十年的發(fā)展情況。結(jié)果令人目瞪口呆，受測(cè)AI系統(tǒng)普遍存在安全性和偏差問題，以及缺乏適當(dāng)?shù)姆烙胧藗儗?duì)AI安全的興趣呈指數(shù)增長。企業(yè)應(yīng)緊密跟蹤最新AI威脅，實(shí)施AI安全意識(shí)計(jì)劃，并保護(hù)其AI開發(fā)生命周期，最重要的是從現(xiàn)在開始做起。”

報(bào)告顯示：AI領(lǐng)域的安全現(xiàn)狀異常糟糕;過去兩年AI安全研究論文呈現(xiàn)爆炸式增長;美國、中國、歐洲在可信AI研究領(lǐng)域競(jìng)爭(zhēng)激烈，中國正在加速反超;AI人工智能領(lǐng)域面臨十大安全威脅。

以下為報(bào)告中的部分亮點(diǎn)數(shù)據(jù)，安全牛整理如下：

現(xiàn)實(shí)中的AI安全事件正在快速增長：

在汽車、生物識(shí)別、機(jī)器人技術(shù)和互聯(lián)網(wǎng)行業(yè)中，現(xiàn)實(shí)世界中的AI安全事件正在快速增長。作為AI的早期采用者，最受關(guān)注的行業(yè)是互聯(lián)網(wǎng)(23%)、網(wǎng)絡(luò)安全(17%)、生物識(shí)別技術(shù)(16%)和自治(13%)。

AI安全研究論文爆炸式增長：

過去兩年中，政府、學(xué)術(shù)界和工業(yè)界發(fā)布的AI安全性方面的研究論文多達(dá)3500篇，超過過去二十年的總和。美國、中國、歐盟之間的激烈競(jìng)爭(zhēng)預(yù)計(jì)將在可信AI競(jìng)賽中繼續(xù)下去：美國發(fā)表了47%的研究論文，但中國勢(shì)頭強(qiáng)勁。