人工智能正在被用來識別情緒
情感識別技術是一個新興的價值數十億美元的產業,它利用人工智能技術從人的面部表情去檢測情感。但是,情感識別系統在科學界存在爭議,即系統中存在偏見。
許多公司正在使用情感識別技術去測試顧客對他們產品的反應,這些產品從谷類食品到電子游戲。這項技術也被用在高風險的部門,例如機場的安全部門雇用人員,去檢測面試者的欺騙或恐懼;在邊境管制部門,這項技術被用來識別“危險人物”。
人臉識別技術受到越來越多的公眾關注。最近,從Netflix發布的影片中,許多面部識別技術無法準確檢測到膚色較深的人臉。因為隱私問題,ImageNet模糊了150萬張人臉圖像。
由于人臉識別技術存在算法偏差和歧視性數據集,包括微軟、亞馬遜和IBM在內的大型科技公司已經停止了相關產品的銷售。在歐盟,一個由40多個民間組織組成的聯盟呼吁全面禁止面部識別技術。

像其它形式的面部識別技術一樣,情感識別技術引出了關于偏見、隱私和大規模監視的問題。與情感識別技術相關的另一個問題,它背后的情感科學是有爭議的。人類學的研究表明,情感在不同的文化和社會中有不同的表達方式。2019年,心理科學協會對相關證據進行了審查,結論是沒有科學證據支持一個普遍的假設,即一個人的情緒狀態可以很容易地從面部動作推斷出來。
與其他形式的面部識別技術一樣,情感識別技術帶有種族偏見。一項研究表明,無論黑人的表情如何,系統總是會認為黑人的臉比白人的臉更憤怒。美國麻省理工學院的研究人員指出,這項技術對少數族裔有兩種傷害:第一種情況是不起作用,由于有色人種的錯誤率較高,使他們面臨更大的風險。第二種情況是,如果你有完整的面部識別系統,很容易用武器對付少數族裔。