[[428633]]

0 引言

隨著人工智能和光學成像器件的迅猛發展，基于先進的硬件基礎和不斷演進的識別算法，人臉識別功能在移動智能終端上已逐漸普及。根據前瞻產業研究院預測，自2015—2020年，人臉識別技術以166.6%的增幅在眾多生物識別技術中脫穎而出，高居首位。在市場應用方面，人臉識別技術已被廣泛應用到考勤系統、監視系統、手機、相機等諸多場景，覆蓋交通、金融、學校等多個領域[1]；在算法方面，人臉識別算法包含了基于人臉特征點、人臉圖像、神經網絡、模板、支持向量積的識別算法；在技術領域方面，人臉識別技術是模式識別、神經網絡、人工智能、計算機視覺等學科的融合[2]。在人臉識別技術應用的早期，黑客可以通過一張照片成功通過人臉識別算法的驗證，雖然新一代人臉識別技術更加智能，但其安全性仍存爭議并受到用戶的廣泛關注。 

1 人臉識別技術及其在終端領域的應用 

人臉識別技術是一種生物識別技術，通過采集人的臉部特征信息來進行身份識別。人臉識別系統通常包括人臉圖像采集及檢測、人臉圖像預處理、人臉圖像特征提取、人臉圖像匹配與識別4個部分[3-4]。 

最初的人臉識別技術是20世紀70年代興起的基于可見光的二維圖像人臉識別，這種技術通常是基于二維人臉平面圖像進行的識別。在此期間，美國麻省理工大學提出了著名的基于“特征臉”的人臉識別方法，為其后的諸多人臉識別方法奠定了基礎。除此之外的人臉識別算法主要有：基于模板匹配的方法、主成分分析方法、線性判別分析方法、彈性圖匹配方法。二維人臉識別的優勢是發展時間長、技術較為成熟、所需硬件條件較低；然而其缺點也很明顯，在環境光照、遮擋情況甚至面部表情發生變化時，其識別準確度和系統響應靈敏度都會大大降低，且二維人臉識別獲取的人臉特征信息在三維信息平面化的投影過程中會存在損失[5]。 

三維圖像人臉識別技術采用了三維人臉立體建模的方法，比二維圖像人臉識別技術更加穩定且具有更高的準確度。通常，面部外觀不僅取決于身份，姿勢和光線的變化會導致臉部外觀發生很大變化。Georghiades等人提出了基于“光照錐”模型的人臉識別算法，該算法可在多姿態、多光照的條件下對人臉進行三維立體建模[6]。同一個人在相同的視角和不同的照明條件下，臉部的所有圖像在圖像空間中形成一個凸錐，也就是光錐，通過計算輸入圖像到每個光錐的距離完成識別。在這一發展階段，人們還提出將統計學習理論應用到人臉識別[7]。 

三維圖像人臉識別技術對硬件的發展提出了更高的要求。第一，三維圖像人臉識別技術最大程度保留有效特征信息，但信息量的增加，對信息處理的實時性是個挑戰。第二，現今諸多移動設備的數據通過網絡接入云平臺，借助神經網絡引擎可以對采集到的數據進行更加全面深入的分析，從而以較低的配置和能耗進行復雜算法的運算[8]。但把人臉識別技術應用到智能終端上則對芯片是一個更大的挑戰。蘋果公司為了實現個人數據的保護以及身份認證的實時性，將身份識別過程全部在終端內進行，這就需要移動設備提供接近云服務器的計算性能。為了滿足數據采集和處理的實時性，iPhone 12采用最新定制的A14 Bionic處理器來處理人工智能工作負載，這是一個每秒運算次數最高可達11 萬億次的十六核“生物神經網絡引擎”芯片，該芯片最重要的功能就是使Face ID身份認證功能能夠快速識別人臉[9]。為了適配人臉識別的數據采集和處理算法性能，未來將會研發出更多的AI芯片。AI芯片在智能終端的廣泛應用也將成為一大發展趨勢[10]。 

2 終端人臉識別技術的安全挑戰 

當人臉識別技術廣泛應用到移動智能終端及應用軟件后，其安全性面臨著多種挑戰。在2017年的中央電視臺3·15晚會上，主持人演示了一張靜態照片經過照片模擬及屏幕翻拍，在完成眨眼、動嘴后，就可以通過人臉識別登錄個人賬戶，或通過動態換臉的方式突破人臉識別過程，成功登錄用戶的個人賬戶。人臉識別的安全挑戰主要來自以下4方面。 

2.1 人工智能框架攻擊

在常用的TensorFlow、Caffe、Torch等人工智能框架中，至今仍存在許多待解決的不同于傳統軟件漏洞的攻擊點，包括數據中毒攻擊（引入導致學習系統出錯的訓練數據）、對抗性樣本等。 

算法所依賴的模式分類系統本身可能會出現可被黑客或其他犯罪分子利用的漏洞，一個常見的攻擊手段是生成對抗性樣本迷惑模型。攻擊者人為惡意構造或合成場景，導致框架識別錯誤的模型，使機器產生“錯覺”。例如，一些公司通過猜測搜索引擎人工智能算法以提高其在各個關鍵詞下的搜索排名，垃圾郵件發件人通過拼寫錯誤的單詞或者在郵件中添加不相關的單詞或句子來欺騙垃圾郵件過濾算法等。對抗性樣本同樣帶來了一些隱患，例如攻擊者可以通過使用貼紙或油漆創建一個對抗性停止標志，自動駕駛車輛會將其識別為“停車”或其他標志。研究表明，廣泛使用的RL算法，如DQN、TRPO和A3C，都易受到對抗性樣本的影響。這體現了在算法和實現層面上考慮問題的差距。 

隨著系統復雜程度的增加，安全隱患也隨之增加。任何在人工智能框架以及它所依賴的組件中的安全問題都會威脅到框架之上的應用系統，如果引用了惡意的第三方組件，便會導致系統崩潰、系統權限被竊取。此外，還有針對生物識別系統進行的攻擊。大多數生物識別系統允許客戶的配置文件隨著時間的推移適應自然變化，隨著用戶面部特征的微小改變，面部識別軟件內的用戶數據會隨之更新。攻擊者利用這種適應性，通過向傳感器呈現一系列虛假的生物特征，逐漸更新儲存的個人資料，直到完全替換為另一個，最終允許他人冒充用戶解鎖客戶端。 

2.2 活體檢測攻擊

活體檢測攻擊將靜態的人臉照片通過Photoshop、After Effect等視頻、圖像處理軟件轉化為動態的視頻，讓視頻中的人臉模仿真人完成規定動作，欺騙人臉識別系統,解鎖用戶終端。或是通過三維建模軟件，參照人臉多處關鍵位置的臉部特征，制作建模圖像，讓建模圖像做出和實際真人相似的規定動作，以達到解鎖用戶終端的目的。

2.3 人臉面具攻擊

人臉面具攻擊利用獲取到的目標人臉圖像，使用石膏、硅膠、樹脂或類膚質材料制作相應的三維人臉模具，用以偽造用戶的身份，從而實現對人臉識別系統的攻擊。

2.4 注入應用攻擊

注入應用攻擊會在程序中布置一個斷點，通過反復演示人臉識別流程不斷觸發該斷點，然后分析并修改程序，實現繞過活體檢測，僅憑靜態照片就能通過人臉識別的目的。

3 人臉識別技術的安全要求

上述提到的安全攻擊方式中，不乏利用系統設計漏洞等實施的攻擊。面對這些安全威脅，應當制定統一的人臉識別安全技術要求的標準，規范基于人工智能的人臉識別的安全性要求，服務于研發、生產、使用等環節。從安全評估的角度，分析其安全要求應包含以下3部分內容[11-13]。

3.1 評估對象（Target of Evaluation，TOE）保護資產

需要保護的資產應包括：人臉圖像采集和識別系統在運行時產生的人臉實時圖像數據、用戶人臉注冊過程創建的人臉基準模板、人臉特征識別匹配得分的實時數據、決策功能單元根據識別匹配得分給出的人臉識別結果、人臉識別系統的代碼、采集設備相關的代碼、算法配置數據和保護人臉基準模板的加密密鑰[14]。

3.2 安全威脅分析

人臉識別技術從生命周期來分析可能存在的威脅來自采集、傳輸、存儲、比對和銷毀環節（見圖1）。

圖1 人臉識別技術的生命周期

（1）采集環節：采集的人臉實時數據被攔截或者被篡改；采集傳感器的固件完整性和可用性被破壞。

（2）傳輸環節：人臉數據在從采集模塊傳輸到信號處理模塊或特征提取子系統過程中被竊取或者被篡改；信號處理模塊輸出結果被攔截用于直接恢復用戶信息或今后用于重放攻擊。

（3）存儲環節：存儲的模板數據密鑰被破解或者被竊取，存儲的模板數據被替換；存儲的人臉處理中間數據被篡改。

（4）特征比對環節：特征比對設定閾值或特征比對的匹配得分被篡改。

（5）數據銷毀環節：在注冊用戶注銷后，相應的人臉數據未被徹底清除或未有防回滾的防護，導致數據被竊取后用作偽冒身份。

3.3 安全目標

人臉識別技術的安全目標是實現其系統所具有的安全功能，以防御上述的安全威脅，保證應保護資產的完整性、機密性和可用性。總體的安全目標如下：采集模塊的硬件固件及驅動的完整性、可用性和功能接口的授權訪問；信號處理模塊的固件及驅動的完整性、可用性和功能接口的授權訪問；存儲模塊（包括人臉實時圖像數據、人臉基準模板等）應能防竊取、防篡改；特征比對模塊的策略、閾值、得分應能防篡改；傳輸模塊（采集模塊傳輸到信號處理模塊或特征提取子系統，信號處理模塊傳輸到特征比對模塊或存儲模塊）應能防竊取、防篡改；硬件和軟件接口應設訪問控制，防止非授權使用；人臉實時圖像數據、人臉基準模板、軟件實時數據、匹配得分等數據應設置防回滾、防篡改，避免關鍵防偽檢測、驗證功能被旁路。

4 建設評估體系的思考

國際上對于生物識別標準化的工作主要由國際標準化組織ISO/IEC的JTC1/SC37信息技術：生物特征識別技術分技委承擔。同時，美國國家標準化協會（ANSI）認可標準委員會（X9）與Bio API聯盟開展合作，于 2001年1月發布了NI-STIR 6529—2001生物特征識別通用文件交換格式，又于2001年3月發布了美國國家標準X9.84—2001：生物認證信息的管理與安全。該標準定義了生物信息在金融界的使用管理與安全要求（如雇員身份識別、顧客身份識別），涵蓋了指紋識別、聲紋識別、虹膜掃描圖像等多種生物識別方法，現已成為國際標準ISO 19092。

我國早在1999年，SAC/TC100編制安防行業標準體系時，就已在安全技術防范行業的標準體系之中加入了生物統計學防范產品的技術標準，社會公共安全行業（GA）也從業務實際需求出發制定了人臉識別的相關標準規范。

從生物識別技術的角度出發，全國信息技術標準化技術委員會生物特征識別分技術委員會（TC28-SC37）成立了移動設備生物特征識別標準工作組，啟動《信息技術 移動設備生物特征識別 第3部分：人臉》等系列國家標準研制工作；全國信息安全標準化技術委員會（SAC/TC260）鑒別與授權標準工作組（WG4）啟動《信息安全技術 基于可信環境的生物特征識別身份鑒別協議框架》《信息安全技術 基于生物特征識別的移動智能終端身份鑒別技術框架》等標準制定工作。生物特征識別國家標準體系規范初步建立。

中國通信標準化協會（CCSA）移動互聯網應用和終端技術工作委員會（TC11）已開始建設人工智能標準體系，作為標準體系的重要一環，《移動智能終端人臉識別安全技術要求及測試評估方法》行業標準已立項成功，將聯合科研院所、終端廠家、芯片廠家共同發力，協同創建人臉識別安全技術體系，著手解決行業中面臨的安全標準缺失問題。通過行業標準的制定、引導并建立更健康的人臉識別安全產業生態。目前，電信終端產業協會（TAF）信息安全工作組（WG4）已制定《移動終端基于TEE的人臉識別安全評估方法》，成為國內首個人臉識別安全標準。該標準的發布將會對移動終端人臉識別產業提供行業指導，解決本地人臉識別技術在應用和推廣普及方面的安全障礙，有效地為消費者、用戶提供安全指引參考，促進行業健康發展。

5 結束語

隨著人工智能技術飛速發展，人工智能框架下迅速發展的人臉識別技術在這個交叉融合領域面臨著諸多安全挑戰，相應的安全要求和評估體系的建設勢在必行。目前，針對人臉識別技術的評估體系尚在建設中，國家標準、行業標準、協會標準從各個層面共同推進，將是未來評估體系的發展趨勢。標準體系建設將為整個行業發展提供指引，引領產業鏈各方攜手共同建設良好的產業生態。 

參考文獻

[1] 傅山, 潘娟. 移動智能終端生物識別發展與挑戰[J]. 移動通信, 2015(5):13-16.

[2] 國煒, 潘娟. 移動智能終端可信執行環境分析[J]. 現代電信科技, 2012(12): 8-12.

[3] 錢藝. 嵌入式系統上基于近紅外圖像的人臉識別研究[D]. 華東師范大學, 2009.

[4] 馬寧. 基于圖像的人臉識別中關鍵技術研究[D]. 吉林大學, 2016.

[5] GlobalPlatform Device Committee. TEE biometric system protection profile module[DB/OL]. [2020-11-26]. https://globalplatform.org/.

[6] 電信終端產業協會.
TAF-WG4-AS0008-V1.0.0:2017移動終端安全環境安全評估內容和方法[S], 2017.

[7] 焦四輩, 楊正軍, 國煒. 智能終端可信執行環境安全性分析[J]. 互聯網天地, 2016(8): 8-13.

[8] Apple Inc. Face ID Security Guide[EB], 2017.

[9] 魏凡星, 傅山, 王嘉義, 等. TEE技術應用到智能設備生物識別場景的安全性分析[J]. 移動通信,2017(21):6-9+15.

[10]李武軍, 王崇駿, 張煒, 等. 人臉識別研究綜述[J]. 模式識別與人工智能, 2006,19(1): 58-66.

[11] 魏育成, 趙彩云. 身體就是身份證——生物特征識別技術及其在安防領域的應用[C]//中國安防國際高峰論壇, 2008.

[12] 胡圓睿. 人工智能的發展及應用研究[J]. 無線互聯科技, 2018,15(6): 79-80.

[13] 李觀金. 基于計算機互聯網技術的智能遠程視頻監控系統設計[J]. 現代信息科技, 2017(6): 83-85.

[14] 羅佳偉, 孫雪峰, 李琳. 基于百度AI平臺的Web人臉注冊和登錄系統的設計[J]. 中國新通信, 2018(11): 73.

本文刊于《信息通信技術與政策》2021年 第4期，轉載請注明出處！

作者簡介 

傅 山

中國信息通信研究院泰爾終端實驗室信息安全部工程師，博士，移動應用創新與治理技術工業和信息化部重點實驗室成員，主要從事移動終端安全、生物識別與身份認證、芯片安全相關標準和研究工作。

王嘉義

通信作者，中國信息通信研究院泰爾終端實驗室信息安全部工程師，移動應用創新與治理技術工業和信息化部重點實驗室成員，主要從事移動互聯網安全、芯片安全、身份認證等方面研究工作。

寧 華

中國信息通信研究院泰爾終端實驗室信息安全部主任，博士，高級工程師，移動應用創新與治理技術工業和信息化部重點實驗室副主任，主要從事移動安全、網絡安全、個人信息保護、數據安全研究等工作。

魏凡星

中國信息通信研究院泰爾終端實驗室信息安全部工程師，移動應用創新與治理技術工業和信息化部重點實驗室成員，主要從事芯片、TEE安全相關標準研究工作。