[[441503]]

【環(huán)球網(wǎng)科技報道 記者 王楠】說到AI，首先你會想到的是什么?是九段天才棋手柯潔大戰(zhàn)AlphaGo?是自動駕駛?還是跟朋友聊到某個話題時手機秒推送的同類廣告? 抑或是讓父母都認不出來的“易容神器”?

從1950 年圖靈之問到如今產(chǎn)業(yè)的蓬勃發(fā)展，人工智能技術早已滲透到人們生活的方方面面。但迅猛發(fā)展的背后，那些因“黑盒模式”引發(fā)的技術不可控、數(shù)據(jù)安全、隱私泄露等問題卻時有發(fā)生。人們似乎對人工智能技術的“無所不能”，從最初的全面肯定轉(zhuǎn)變?yōu)槔潇o后的困惑、擔憂與思考。面對科技高速發(fā)展帶來的信任危機，人們究竟該如何應對?

首先，我們要搞清楚，何為可信任AI?“可信任AI實際上是通過底層技術框架解決人工智能應用過程中可能存在的多類問題，由此建立可靠的人工智能生態(tài)。”中國信息通信研究院華東分院人工智能與大數(shù)據(jù)事業(yè)部主任陳俊琰在12月14日舉辦的“談云說AI”技術產(chǎn)業(yè)沙龍上表示。

事實上，近年來人臉識別被黑產(chǎn)盯上、買賣隱私信息等各類圍繞用戶個人隱私數(shù)據(jù)產(chǎn)生的安全問題常見報端，公眾對于隱私保護、數(shù)據(jù)安全等問題關注程度也在不斷提高。“如今信息多源且無法在短時間內(nèi)追本溯源，如果數(shù)據(jù)使用存在監(jiān)管漏洞就會直接導致個人隱私泄露甚至產(chǎn)生直接財務損失。”陳俊琰進一步分析了目前AI技術中的信任危機。

與此同時，AI信任危機還可能引發(fā)比較嚴重的人身安全問題。“由于AI技術處在一種黑盒模型基礎上，在一些關鍵領域，例如醫(yī)療診斷、自動駕駛等這種性命攸關的行業(yè)中，如果出現(xiàn)信任危機就會產(chǎn)生十分可怕的后果。”京東探索研究院的算法科學家何鳳翔分析說，這些危機會對行業(yè)發(fā)展、應用落地，都會產(chǎn)生巨大影響。

在此背景下，尋找人工智能時代隱私保護、政府監(jiān)管、商業(yè)訴求的平衡點，已經(jīng)成為產(chǎn)學研各界迫切需要解決的問題。華控清交信息科技(北京)有限公司標準負責人、戰(zhàn)略總監(jiān)王云河則認為，在推進可信AI建設的過程中需要各方共同努力。“從法律層面來說，目前有數(shù)安法和個保法來為數(shù)據(jù)安全提供保障，這是可信任AI的硬手段;下一步就是完善行業(yè)標準化，可以被認為是可信任AI的軟措施，二者缺一不可、相輔相成。”

談及近年來國際上可信AI的相關政策或者是標準落地情況，陳俊琰總結道：“目前國際上主要是以指南及法案的形式對人工智能的可信度進行規(guī)范，例如2018年《可信人工智能倫理指南草案》的發(fā)布、2019年《可信賴人工智能道德準則》等;同時也有在標準制定上的探索，例如構建人工智能管理框架，對可信AI進行監(jiān)管以提升信賴度。比方說今年發(fā)布的《關于識別和管理人工智能歧視的標準提案》、《人工智能風險管理框架》等。”盡管國外的可信AI做到了法規(guī)和標準先行，但也存在不夠靈活，容易產(chǎn)生’一刀切’的問題。

對此何鳳翔則指出，隨著人工智能可信理念逐漸成為全球共識，在可信AI的技術攻關和標準研制方面，京東探索研究院和信通院白皮書的思路一脈相承，它要確保人工智能的公平性、可解釋性、穩(wěn)定性和隱私保護的同時，保障算法可被人信任，而這也將成為未來人工智能產(chǎn)業(yè)健康發(fā)展的必由之路。“京東從基礎理論出發(fā)來研究最前沿的問題，從這些理論問題、理論結果出發(fā)，設計新的可被信賴的全新AI算法，再嘗試把這些AI算法應用到產(chǎn)品中去，完成技術的最終落地。”

與會專家們紛紛表示，目前無論是理論研究還是產(chǎn)業(yè)實踐，可信任AI都還有很長的一段路要走。“可信AI涉及范圍廣泛、實操任務復雜，很難由一家企業(yè)或者機構憑借一己之力帶來質(zhì)的創(chuàng)造與飛躍，所以產(chǎn)學研用全鏈條協(xié)作是關鍵;未來業(yè)界需構建成熟且開放的生態(tài)系統(tǒng)，聚眾家之力才能帶來更多技術、標準以及實踐層面的突破。”何鳳翔說。

綜合來看，目前我國在可信AI建設方面，正在從政策、生態(tài)、法律、標準制定等方面綜合發(fā)力，例如《國家新一代人工智能標準體系建設指南》、《促進可信人工智能發(fā)展倡議》等文件的出臺。除了監(jiān)管部門的通力合作，以信通院、京東為代表的重要機構以及頭部企業(yè)，都在努力推進行業(yè)倡議、標準研制等工作，未來定會有更多積極進展。