[[255964]]

人工智能(AI)的快速進(jìn)步和發(fā)展引發(fā)了對(duì)其雙重用途應(yīng)用和安全風(fēng)險(xiǎn)的猜測(cè)。從自主武器系統(tǒng)(autonomous weapons systems ，AWS)到面部識(shí)別技術(shù)，再到?jīng)Q策算法，每一個(gè)新興的人工智能應(yīng)用都帶來了或好或壞的結(jié)果。人工智能技術(shù)的雙重特性，不僅給各國(guó)的個(gè)人和實(shí)體帶來巨大的安全風(fēng)險(xiǎn)：涉及政府、工業(yè)、組織和學(xué)術(shù)界(NGIOA)，而且也給人類的未來帶來了巨大的風(fēng)險(xiǎn)。

現(xiàn)實(shí)情況是，任何新的人工智能創(chuàng)新都可能被用于有益或有害的目的：任何可能提供重要經(jīng)濟(jì)應(yīng)用的單一算法，也可能導(dǎo)致空前的大規(guī)模毀滅性武器生產(chǎn)，而這是難以捉摸的。其結(jié)果是，人們對(duì)基于人工智能自動(dòng)化的擔(dān)憂正在加劇。

隨著機(jī)器學(xué)習(xí)、計(jì)算能力、無邊界投資和數(shù)據(jù)可用性的進(jìn)步，人工智能在廣闊領(lǐng)域有著潛在的應(yīng)用價(jià)值，這一事實(shí)使其所涉及的安全風(fēng)險(xiǎn)成倍增加。此外，由于人工智能的整合對(duì)人來說是無法直接預(yù)知的，所以對(duì)任何事物的認(rèn)知能力都從根本上改變了安全格局。人工智能的自動(dòng)化和智能帶來了希望，也帶來了毀滅的可能性。

計(jì)算能力的大眾化

計(jì)算機(jī)技術(shù)的發(fā)展使技術(shù)發(fā)展、知識(shí)、信息和智能民主化。數(shù)據(jù)分析和處理技術(shù)的快速發(fā)展，將網(wǎng)絡(luò)、電子、量子和自主武器與核、生物和納米等技術(shù)結(jié)合于武器制造，這能夠?qū)θ祟愒斐蔀?zāi)難性的傷害。

聯(lián)網(wǎng)的計(jì)算機(jī)、網(wǎng)絡(luò)和網(wǎng)絡(luò)空間已經(jīng)成為整個(gè)NGIOA所有數(shù)字過程中不可或缺的一部分。由于計(jì)算機(jī)代碼和聯(lián)網(wǎng)計(jì)算機(jī)已經(jīng)將網(wǎng)絡(luò)空間與地理空間和太空連接起來，現(xiàn)在幾乎一切都被聯(lián)網(wǎng)并可控。

由于人工智能有可能被整合到網(wǎng)絡(luò)空間、地理空間和太空(CGS)的幾乎每一種產(chǎn)品和服務(wù)中并使其智能化，這種不斷演變的認(rèn)知能力從根本上改變了人類的安全環(huán)境。目前，技術(shù)、計(jì)算能力、編程語言、計(jì)算機(jī)代碼、加密、信息、大數(shù)據(jù)、算法、投資等，它們都有軍民雙重用途。

當(dāng)每個(gè)人都可以訪問數(shù)字?jǐn)?shù)據(jù)，擁有必要的機(jī)器學(xué)習(xí)技術(shù)和計(jì)算能力就能為己創(chuàng)建人工智能時(shí)，復(fù)雜的安全挑戰(zhàn)隨即產(chǎn)生，管理則變得困難重重。這不僅意味著增長(zhǎng)中的潛在大規(guī)模殺傷性武器數(shù)量，攻擊面范圍的擴(kuò)大也不容忽略。人工智能的雙重使用威脅所帶來的安全風(fēng)險(xiǎn)正變得越來越可怕。這就引出了一個(gè)重要的問題：人類的生存、安全和可持續(xù)性是否應(yīng)該留給個(gè)人的智慧，誰能或不知道人工智能的潛在雙重用途?也許現(xiàn)在是開發(fā)人工智能框架的時(shí)候了。

數(shù)據(jù)的大眾化

隨著網(wǎng)絡(luò)空間的數(shù)據(jù)成為有爭(zhēng)議的公有物，大數(shù)據(jù)的大眾化帶來了一個(gè)全新的世界秩序。這個(gè)新的世界秩序給我們帶來了一個(gè)新的現(xiàn)實(shí)——任何地方的任何人都可以訪問數(shù)字?jǐn)?shù)據(jù)，并將其用于人類的善或惡。今天，任何個(gè)人或?qū)嶓w，只要有意愿，知道如何獲取大數(shù)據(jù)和數(shù)據(jù)科學(xué)能力，就可以利用它來實(shí)現(xiàn)他們想要實(shí)現(xiàn)的任何智能、自動(dòng)化、監(jiān)視和偵察，無論他們具備何種教育背景、背景、社會(huì)地位或意圖。

雖然大數(shù)據(jù)的大眾化帶來了普遍的可訪問性，并使跨NGIOA的個(gè)人和實(shí)體獲得了授權(quán)，但它也給我們帶來了許多重要的安全風(fēng)險(xiǎn)。任何有或沒有受過正規(guī)訓(xùn)練的人，都有可能無意中甚至有意地造成社區(qū)、種族、宗教、國(guó)家和人類的混亂、災(zāi)難以及存在的風(fēng)險(xiǎn)。

既然數(shù)據(jù)是構(gòu)建大多數(shù)人工智能系統(tǒng)所必需的，那么數(shù)據(jù)的大眾化是否會(huì)不受約束，而不承擔(dān)任何責(zé)任和責(zé)任呢?

人工智能

人工智能、機(jī)器人技術(shù)、無人機(jī)等領(lǐng)域的最新發(fā)展，對(duì)人類的益處有著巨大的潛力，但同樣的進(jìn)步也帶來了巨大的風(fēng)險(xiǎn)：未經(jīng)檢查的情報(bào)、監(jiān)視、偵察，以及帶有偏見或致命的算法，沒有人為此做好了相應(yīng)的準(zhǔn)備。

復(fù)雜安全風(fēng)險(xiǎn)產(chǎn)生于：這些帶有偏見和致命因素的算法是混合的，因?yàn)閰⑴c開發(fā)或部署人工智能的決策者通常不會(huì)關(guān)注諸如“安全”之類的基本問題。因此，建立一種可持續(xù)的“人工智能安全”文化，不僅需要讓人工智能研究人員、投資者、用戶、監(jiān)管者和決策者意識(shí)到人工智能開發(fā)的雙重用途(不管算法的性質(zhì)如何)，而且還教育那些參與其中的人。

正如今天的各國(guó)所看到的：

任何人都可以創(chuàng)建具有雙重用途的算法

任何人都可以購(gòu)買必要的數(shù)據(jù)、工具和技術(shù)來創(chuàng)建算法

遠(yuǎn)程開發(fā)人員可以為任何人開發(fā)算法

算法可以單獨(dú)購(gòu)買，并可用于任何目的

自動(dòng)無人駕駛飛行器正在崛起

自主武器系統(tǒng)成為了現(xiàn)實(shí)

擁有自主權(quán)的人工智能系統(tǒng)成為一個(gè)現(xiàn)實(shí)

自主面部識(shí)別成為現(xiàn)實(shí)

人工智能算法容易受到威脅和控制

這就提出了一個(gè)根本性的問題：任何人、任何來自不同國(guó)家的個(gè)人或?qū)嶓w，如何能夠訪問必要的數(shù)字?jǐn)?shù)據(jù)、探索為任何目的和議程創(chuàng)造人工智能的基礎(chǔ)科學(xué)，而不承擔(dān)任何責(zé)任、監(jiān)督和后果?

這種人工智能的發(fā)展需要在必要的時(shí)候進(jìn)行管理和預(yù)防。

今天的人工智能發(fā)展和前景在許多方面都帶來了不確定性。因?yàn)槿斯ぶ悄苁且环N軟件，它不僅建立在軍隊(duì)使用的武器系統(tǒng)上，而且在NGIOA的每一個(gè)智能應(yīng)用程序中都有，每個(gè)人工智能應(yīng)用的潛力都有雙重用途，這是一個(gè)不容忽視的現(xiàn)實(shí)。

安全困境

在人類歷史的大部分時(shí)間里，安全的概念和方法主要圍繞著使用武力和地理空間的領(lǐng)土完整。由于安全的定義和意義在人工智能世界中受到了根本性的挑戰(zhàn)和改變，傳統(tǒng)的安全是指在地理空間內(nèi)或跨越地理邊界對(duì)各自國(guó)家的侵犯，現(xiàn)在這種概念已經(jīng)過時(shí)了，需要對(duì)其進(jìn)行評(píng)估和更新。

全新的人工智能世界的出現(xiàn)，或多或少有點(diǎn)像一個(gè)陌生的領(lǐng)域，在這個(gè)領(lǐng)域里，幾乎沒有人知道，而且大多是未知的。這引發(fā)了恐懼、不確定性、競(jìng)爭(zhēng)和軍備競(jìng)賽，并帶領(lǐng)我們走向一個(gè)沒有邊界的新戰(zhàn)場(chǎng)，這可能也可能不涉及人類，這也可能很難被理解和控制。

不斷發(fā)展的人工智能威脅以及安全挑戰(zhàn)的復(fù)雜性跨越了空間、意識(shí)形態(tài)和政治，這就要求各國(guó)的所有利益攸關(guān)方進(jìn)行建設(shè)性合作。集體的頭腦風(fēng)暴是必要的，對(duì)威脅的事物進(jìn)行客觀的評(píng)估，以及確保其安全。在認(rèn)識(shí)到這一現(xiàn)實(shí)的情況下，風(fēng)險(xiǎn)集團(tuán)(Risk Group)發(fā)起了對(duì)雙重使用技術(shù)困境(Dual Use Technology Dilemma)的討論。

雖然關(guān)于人工智能的結(jié)構(gòu)、角色和雙重用途的爭(zhēng)論將在未來幾年繼續(xù)，但任何試圖重新定義人工智能安全的嘗試都需要從識(shí)別、理解、合并和擴(kuò)展人工智能安全威脅的定義和性質(zhì)開始。盡管本文的重點(diǎn)是人工智能，但許多其他技術(shù)需要對(duì)其雙重使用潛力進(jìn)行評(píng)估。現(xiàn)在是開始討論新興技術(shù)的雙重用途的時(shí)候了。