全球新一輪科技革命和產業變革方興未艾，而作為引領新一輪科技革命和產業變革的核心驅動力量之一，人工智能近年來被廣泛應用于金融、電商、醫療等領域。

[[359052]]

風生水起之余，人工智能產業也暗藏隱憂：隨著全球人工智能規模化建設和應用的加速，人工智能基礎設施、設計研發及融合應用面臨的安全風險正日益凸顯。由中國信息通信研究院聯合瑞萊智慧RealAI、百度、騰訊等單位共同撰寫的《人工智能安全框架(2020年)》顯示，隨著深度偽造技術開源代碼、APP應用增多，不法分子利用深度偽造技術制作虛假視頻侵犯個人肖像權、名譽權和隱私權的現象屢見不鮮。截至2019年12月份，全網流傳的深度偽造視頻中，虛假色情內容占比高達96%。

而這只是問題的冰山一角。指紋和人臉識別留下的生物特征信息、自動駕駛留下的個人行蹤記錄、手機APP保存的個人隱私數據，醫院里留存的診斷治療記錄……人工智能跑步進入人們工作生活的眾多場景，用戶各種行為被記錄并作為數據保存起來，由此帶來的數據泄露、數據偽造、算法瓶頸、隱私安全、倫理困境等問題如今正一點點浮出水面。據有關報道，今年7月份就有不法分子在電商平臺販賣人臉信息，以5角錢一份的低價打包出售后，被盜的人臉信息被用于虛假注冊、電信網絡詐騙等違法犯罪活動。

尷尬的是，《人工智能安全框架(2020年)》顯示，現階段人工智能企業主要聚焦于技術研發和產品運營，在人工智能安全方面投入相對較少、基礎薄弱。目前，人工智能安全技術多處于學術研究和少量試驗試用階段，尚未形成適用于各類人工智能應用的成熟安全產品和服務體系。

人工智能產業健康有序發展，安全是重要保障，是形勢所需，也是一些技術落地不可或缺的前提。離開了安全談人工智能，猶如無水之源、無本之木。實踐也已證明，時下人工智能安全需求與企業安全投入不足以及人工智能安全產品服務欠缺之間的矛盾，正成為制約人工智能產業長遠發展的瓶頸。

站在發展困境與時代機遇重疊的關鍵時刻，業界期待產學研各界協同合作，不斷完善與升級出更安全、可信、可靠的人工智能技術，扎牢人工智能安全的籬笆，讓人們能安心享受這一技術紅利。