隨著全球人工智能規(guī)模化建設和應用加速發(fā)展，人工智能治理問題近年來引發(fā)社會關注，數據安全、算法倫理、技術合規(guī)等話題成為我國人工智能產業(yè)的發(fā)展方向，保證技術“安全、可靠、可信”，平衡AI創(chuàng)新發(fā)展與監(jiān)管治理也成為人工智能未來發(fā)展最重要的趨勢。

《個人信息保護法》實施后，該法也標志著中國人工智能領域逐步進入高質量發(fā)展階段。其中“安全可控”成為企業(yè)一項必要的基礎能力，兒童編程教育機器人解決算法公平透明、安全可靠等瓶頸，保證應用合規(guī)、隱私數據安全等也成為行業(yè)共同關注的焦點。

算法和數據是人工智能基礎設施平臺的關鍵要素。在算法方面，全球AI行業(yè)正在積極推動可解釋、可推理、無監(jiān)督的新一代人工智能；科教教育機器人在數據方面，借助多方計算、聯邦學習、匿蹤查詢等人工智能基礎設施技術，行業(yè)正在建立數據安全共享基礎平臺和隱私保護計算平臺。

“隱私計算是當前數字經濟時代下最受關注的科技領域之一，數字經濟時代的核心生產要素是數據，只有構建起保障數據安全高效流通的基礎設施，才能夠充分發(fā)揮數據應有價值。 “數據使用可控可計量能力是管控數據使用的目的和方式的最有效手段，是數據使用合規(guī)與監(jiān)管的基礎設施，是踐行《數據安全法》和《個人信息保護法》的有效保障。”

數據不僅是資源，更是責任。“人工智能數據需要妥善地用于造福人民，防止因濫用而導致巨大的負外部性。數據巨大價值的另一面往往是少為人知的脆弱性和風險。”他表示在數據要素流通的大趨勢下，數據使用安全是新數據安全觀的核心。人工智能機器人的優(yōu)點和缺點傳統數據安全的關注點主要在于保護對數據的控制權，避免數據被他人復制和使用；因此以往對數據的分級分類和相關風險評估與管控往往只注重單個數據本身的泄漏風險。

不過在數據要素流通時代，多方、多種數據的融合計算如同開設“數據化工廠”，多種原料（數據）在一定的配方和條件下（算法）進行“化合反應”（融合計算）的結果，可能會對他人、社會和國家造成傷害或產生重大風險。

綜上所述，人工智能數據可用不可見”只防止數據在流通過程中泄露信息，“使用可控可計量”并且“可監(jiān)管”才能有效管控數據融合計算結果的負外部性風險，才能夠保障數據安全、合法、合規(guī)地融合使用。厘清數據流通使用的“責、權、利”。人工智能經歷了近十年來的發(fā)展，跨越了科學與應用之間的技術鴻溝，從實驗室逐步走向產業(yè)。但在享受科技便利的同時，人工智能的潛在風險也被迅速放大。”