美國在疫情后，很多企業(yè)都采用“在家工作”（Work From Home，WFH）模式。美國聯(lián)邦調(diào)查局（FBI）的犯罪投訴中心表示，他們近期接到許多企業(yè)雇主的投訴，在招聘過程中，有求職者盜用他人的身份，并且利用Deepfake技術(shù)參加遠(yuǎn)程面試。

這些職位涉及資訊技術(shù)、計(jì)算機(jī)程序、數(shù)據(jù)庫與軟件相關(guān)領(lǐng)域，有些求職者企圖利用他人的背景與專長來獲取工作，通過Deepfake技術(shù)來偽造視頻。

他們發(fā)現(xiàn)，當(dāng)與求職者進(jìn)行線上面試時(shí)，求職者的動(dòng)作或嘴唇的開合，與其說話的聲音并不一致，例如當(dāng)出現(xiàn)打噴嚏或咳嗽的聲音時(shí)，畫面并未同步。

當(dāng)他們對這些求職者進(jìn)行背調(diào)時(shí)發(fā)現(xiàn)，有些求職者其實(shí)在利用他人的身份來謀職。如果僅僅謀職還是小問題，但如果是黑客，一旦他們成功簽約，就能夠成功進(jìn)入企業(yè)內(nèi)部，接觸到機(jī)密數(shù)據(jù)。

你是不是也很好奇，這軟件這么好用嗎？

答案是，的確很高級(jí)。

Deepfake利用生成對抗網(wǎng)絡(luò)（GAN）強(qiáng)大的圖像生成能力，可以將任意的現(xiàn)有圖像和視頻組合并疊加到源圖像和視頻上，它可以記錄一個(gè)人面部的細(xì)節(jié)。經(jīng)過多年的發(fā)展，Deepfake技術(shù)已經(jīng)可以進(jìn)行實(shí)時(shí)換臉，并且毫無違和感。

不過，在視頻時(shí)， Deepfakes 難以為面部動(dòng)態(tài)表情制作高置信度動(dòng)畫，視頻中的要么就從不眨眼，或者眨眼過于頻繁或不自然。而且音頻與假人圖像也會(huì)配合的不夠自然。

所以這種視頻持續(xù)10秒就會(huì)讓人懷疑，面試全程時(shí)間會(huì)比較長，更加容易露出破綻。

科學(xué)技術(shù)的進(jìn)步和變革是一把雙刃劍。

人工智能技術(shù)雖然為我們提供了海量的便利，但同時(shí)也可能帶來的安全、倫理、隱私等一系列問題。

人工智能發(fā)展的本質(zhì)是通過算法、算力和數(shù)據(jù)去解決完全信息和結(jié)構(gòu)化環(huán)境下的確定性問題。在這個(gè)數(shù)據(jù)支撐的時(shí)代，人工智能面臨諸多的安全風(fēng)險(xiǎn)，

首先，有可能面對毒化攻擊。

也就是黑客注入惡意數(shù)據(jù)來降低AI系統(tǒng)的可靠性和精確度，從而導(dǎo)致人工智能決策錯(cuò)誤。在訓(xùn)練數(shù)據(jù)里加入偽裝數(shù)據(jù)、惡意樣本等，破壞數(shù)據(jù)的完整性，進(jìn)而導(dǎo)致訓(xùn)練的算法模型決策出現(xiàn)偏差。

這種操作如果用于自動(dòng)駕駛領(lǐng)域，很可能導(dǎo)致車輛違反交通規(guī)則甚至造成交通事故。

其次，會(huì)存在數(shù)據(jù)泄露的問題。

逆向攻擊可導(dǎo)致算法模型內(nèi)部的數(shù)據(jù)泄露，現(xiàn)在各種智能設(shè)備例如智能手環(huán)、智能音箱生物特征識(shí)別系統(tǒng)、智能醫(yī)療系統(tǒng)被廣泛的應(yīng)用，個(gè)人信息采集被全方位采集。包括人臉、指紋、聲紋、虹膜、心跳、基因等，這些信息具有唯一性和不變性，一旦泄露或者濫用將產(chǎn)生嚴(yán)重后果。

比如曾被曝光的，國內(nèi)大量門店在不經(jīng)用戶同意的情況下，采集的大量的人臉照片被泄露，這些人臉照片或多或少已經(jīng)在黑產(chǎn)上流出，就會(huì)存在詐騙或者金融安全的風(fēng)險(xiǎn)。

再次，會(huì)面臨網(wǎng)絡(luò)風(fēng)險(xiǎn)。

人工智能不可避免地會(huì)引入網(wǎng)絡(luò)連接，人工智能技術(shù)本身也能夠提升網(wǎng)絡(luò)攻擊的智能化水平，進(jìn)而進(jìn)行數(shù)據(jù)智能竊取和數(shù)據(jù)勒索攻擊或者自動(dòng)生成大量虛假威脅情報(bào)，對分析系統(tǒng)實(shí)施攻擊。

那么主要的攻擊手段則包括：繞過攻擊、推斷攻擊、后門攻擊、模型抽取攻擊、歸屬推斷攻擊木馬攻擊、模型逆轉(zhuǎn)攻擊、反水印攻擊、重編程攻擊。

我們要清楚的認(rèn)識(shí)到，人工智能的時(shí)代數(shù)據(jù)安全也面臨了很多新的挑戰(zhàn)。保護(hù)數(shù)據(jù)安全保護(hù)算法安全，對于企業(yè)來說成為重中之重。