北京時間4月16日，全球頂級信息安全峰會CanSecWest 2021正在召開中。騰訊朱雀實驗室受邀參加，并進行了題為《The Risk of AI Abuse: Be Careful with Your Voice（AI被濫用的風險：小心您的聲音安全》的分享。這也是連續(xù)第四年騰訊安全平臺部旗下前沿安全研究團隊的相關成果入選CanSecWest議題。

騰訊朱雀實驗室的最新研究成果表明，VoIP電話劫持與AI語音模擬技術的結合將帶來極大潛在風險，在分享中，實驗室創(chuàng)造性地展示了用AI進行聲音克隆并劫持電話的攻擊場景。區(qū)別于此前腳本類的電信詐騙，這一新技術可實現(xiàn)從電話號碼到聲音音色的全鏈路偽造，攻擊者可以利用漏洞劫持VoIP電話，實現(xiàn)虛假電話的撥打，并基于深度偽造AI變聲技術生成特定人物的聲音進行詐騙。

這里所說的VoIP是一種語音通話技術，經(jīng)由IP來進行語音通話和參與多媒體會議，由于其使用便捷、成本低廉的特性，VoIP在全球范圍內被廣泛應用于辦公電話場景中。而VoIP電話劫持是由于早期版本的VoIP存在被網(wǎng)絡嗅探，并實施中間人攻擊的風險，攻擊者可利用漏洞篡改來電方的人名及電話號碼，使得接聽方的電話顯示為預設的任意內容。

騰訊朱雀實驗室研究顯示，通過深度學習技術可實現(xiàn)語音模擬，根據(jù)源人物的說話內容合成具有目標人物音色特征的音頻，輸出偽造特定人物的聲音。其實這項技術并不新鮮，在許多場景中已經(jīng)應用，比如地圖軟件中的定制語音播報，就可以通過少量自己的聲音來定制與自己音色極為接近的播放聲音。

因此，在VoIP電話劫持中，利用少量被攻擊者的聲音，可以合成與被攻擊者音色相似的任意內容的語音片段，再將虛假語音注入到電話中，就能達到以假亂真的效果，實現(xiàn)完整的電話欺騙鏈路。攻擊者可以輕松撥打虛假電話，冒充被攻擊者身份與目標人員對話。

針對這一潛在風險，騰訊朱雀實驗室研究員提出了建議——基于“用AI對抗AI”的思路，使用AI技術提取真實語音和虛假語音的特征，再根據(jù)特征差異來分辨真實語音和生成語音。同時，企業(yè)和個人盡量使用新版本的VoIP協(xié)議電話，如SIP、SRTP等，以減少電話被劫持的風險。

實際上，目前涉及語音的攻擊手段也愈加多樣化。騰訊研究員介紹，通過向語音中添加微小擾動，或修改部分頻譜信息，就可以欺騙語音識別系統(tǒng)。此外，通過將喚醒命令隱藏在不易察覺的音樂中，就可能喚醒智能設備進行對應操作。

騰訊云副總裁、騰訊安全平臺部負責人楊勇表示，AI技術與傳統(tǒng)安全攻擊技術的結合，衍生了新的應用場景和與之對應的濫用風險，AI的數(shù)據(jù)、算法、模型、基礎組件等核心要素更加需要安全的加持。騰訊朱雀實驗室就一直致力于實戰(zhàn)級APT攻擊和AI安全研究，持續(xù)深耕現(xiàn)實網(wǎng)絡安全，為AI技術的正向用、放心用保駕護航。

作為全球頂級信息安全峰會，CanSecWest一直以其權威性、熱點性、前沿性而備受行業(yè)關注。本屆CanSecWest2021將持續(xù)到4月30日，除了騰訊朱雀實驗室，來自百度、Adobe、Macfee、IOActive、加利福尼亞大學河濱分校等全世界的頂級安全專家也悉數(shù)到場，并將圍繞AI、云原生、物聯(lián)網(wǎng)、可信計算等安全前沿技術領域展開探討。