“人工智能在產(chǎn)業(yè)的大規(guī)模應(yīng)用落地，亟需解決安全可信、協(xié)作共識(shí)、復(fù)雜關(guān)聯(lián)分析、存儲(chǔ)計(jì)算規(guī)模爆炸、降低耗能等問題，需要在隱私計(jì)算、區(qū)塊鏈、圖計(jì)算、分布式數(shù)據(jù)庫(kù)及計(jì)算基礎(chǔ)設(shè)施、綠色計(jì)算等AI大規(guī)模應(yīng)用的“根技術(shù)”上深耕探索。”

今天，數(shù)據(jù)已經(jīng)成為重要的生產(chǎn)要素。此前，中共中央、國(guó)務(wù)院公布《關(guān)于構(gòu)建更加完善的要素市場(chǎng)化配置體制機(jī)制的意見》，要求加快培育數(shù)據(jù)要素市場(chǎng)，加強(qiáng)數(shù)據(jù)資源整合和安全保護(hù)，特別提出制定數(shù)據(jù)隱私保護(hù)制度和安全生產(chǎn)制度。

“數(shù)據(jù)安全問題仍然十分嚴(yán)峻，特別是信息惡意獲取、篡改、偽造和亂用，成本極低，大規(guī)模的數(shù)據(jù)泄漏時(shí)有發(fā)生，數(shù)據(jù)安全應(yīng)該得到全世界的廣泛關(guān)注。”9月3日中國(guó)科學(xué)院院士、清華大學(xué)教授王小云在2022世界人工智能大會(huì)可信隱私計(jì)算高峰論壇上說道。

數(shù)據(jù)的安全問題也影響著人工智能的發(fā)展。螞蟻集團(tuán)副總裁、首席技術(shù)安全官韋韜認(rèn)為，人工智能在產(chǎn)業(yè)的大規(guī)模應(yīng)用落地，亟需解決安全可信、協(xié)作共識(shí)、復(fù)雜關(guān)聯(lián)分析、存儲(chǔ)計(jì)算規(guī)模爆炸、降低耗能等問題，需要在隱私計(jì)算、區(qū)塊鏈、圖計(jì)算、分布式數(shù)據(jù)庫(kù)及計(jì)算基礎(chǔ)設(shè)施、綠色計(jì)算等AI大規(guī)模應(yīng)用的“根技術(shù)”上深耕探索。

他進(jìn)一步結(jié)合實(shí)踐闡釋，這五大挑戰(zhàn)分別是：大規(guī)模數(shù)據(jù)流轉(zhuǎn)及AI應(yīng)用中，如何捍衛(wèi)用戶隱私和數(shù)據(jù)安全？產(chǎn)業(yè)協(xié)同中，如何建立信任機(jī)制，促進(jìn)價(jià)值創(chuàng)造？大型實(shí)體及數(shù)據(jù)關(guān)系中，如何解決結(jié)構(gòu)復(fù)雜關(guān)聯(lián)問題？數(shù)據(jù)量幾何式爆炸增長(zhǎng)，如何解決存儲(chǔ)計(jì)算的性能和成本瓶頸？數(shù)據(jù)爆炸增長(zhǎng)，如何降低計(jì)算耗能、更好保護(hù)環(huán)境？

“安全風(fēng)控領(lǐng)域是天然的開放空間強(qiáng)對(duì)抗博弈場(chǎng)景，需要與全球最狡詐的黑色產(chǎn)業(yè)團(tuán)伙做高強(qiáng)度對(duì)抗。在這個(gè)領(lǐng)域中，目前單純基于數(shù)據(jù)驅(qū)動(dòng)的智能體系是無法與之有效應(yīng)對(duì)的。一方面，需要深入研究機(jī)器智能與專家智能高效協(xié)同的融合對(duì)抗智能；另一方面需要加強(qiáng)AI的可信保障機(jī)制，包括可解釋性、魯棒性、公平性及隱私保護(hù)能力。”韋韜舉例稱。

韋韜認(rèn)為，隱私計(jì)算、區(qū)塊鏈、圖計(jì)算、分布式數(shù)據(jù)庫(kù)和綠色計(jì)算，是支撐數(shù)字化時(shí)代AI大規(guī)模應(yīng)用的五大重要“根技術(shù)”。

對(duì)于隱私計(jì)算，上海市經(jīng)濟(jì)和信息化委員會(huì)副主任張英特別談到，“近年來，隱私計(jì)算已經(jīng)從前沿技術(shù)落地，成為應(yīng)用實(shí)踐的一部分。人工智能技術(shù)正朝向卓越、安全和可信的方向發(fā)展，技術(shù)創(chuàng)新多點(diǎn)突破，多方安全計(jì)算、聯(lián)邦學(xué)習(xí)、可信執(zhí)行環(huán)境、插分隱私、同態(tài)加密的關(guān)鍵技術(shù)日益成熟，更加安全，充分對(duì)數(shù)據(jù)要素進(jìn)行挖掘與利用，實(shí)現(xiàn)真正可用不可見場(chǎng)景創(chuàng)新持續(xù)推動(dòng)。隱私計(jì)算在政務(wù)、金融、醫(yī)療等領(lǐng)域中實(shí)現(xiàn)落地應(yīng)用，正向交通、教育等多行業(yè)延伸。”

隱私計(jì)算正在向規(guī)模化落地的階段邁進(jìn)。張英表示，未來將繼續(xù)在城市數(shù)字化轉(zhuǎn)型實(shí)踐探索中形成可信隱私計(jì)算的上海方案：

1、完善技術(shù)創(chuàng)新體系，依托核心創(chuàng)新科研平臺(tái)，帶動(dòng)高校、科研院所、科技企業(yè)共同發(fā)力，加強(qiáng)信息安全的技術(shù)攻關(guān)，形成可信隱私計(jì)算的創(chuàng)新策源體系。

2、建立測(cè)評(píng)測(cè)試體系，加快構(gòu)建完善可信AI的相關(guān)標(biāo)準(zhǔn)，研發(fā)創(chuàng)新測(cè)試測(cè)評(píng)技術(shù)，推動(dòng)可信AI測(cè)評(píng)和產(chǎn)業(yè)落地。

3、完善制度規(guī)范，加快研究與探索，制定生物信息安全、數(shù)據(jù)安全，各類隱私安全的法律法規(guī)，界定法律邊界，明確各主體、各環(huán)節(jié)的責(zé)任和義務(wù)。