[[424290]]

“人工智能可以是一股有益的力量，幫助社會克服我們這個時代的一些重大挑戰。但如果不充分考慮人工智能技術對人權的影響就會產生負面甚至災難性的影響，”聯合國人權高級專員Michelle Bachelet于周三在一份聲明中說道。

在Bachelet發出警告的同時，聯合國人權辦公室還發布了一份報告。該報告分析了人工智能系統如何影響人們的隱私權以及健康、教育、行動自由等權利。

Bachelet補充道：“人工智能現在已經滲透到我們身體、精神生活甚至情感狀態的幾乎每個角落。人工智能系統被用來決定誰能得到公共服務，決定誰有機會被錄用，當然，它們影響人們看到什么信息，可以在網上分享什么信息。”

該報告警告了在沒有盡職調查的情況下實施這項技術的危險，另外還列舉了一些案例如人們因為有缺陷的面部識別技術而被錯誤逮捕或因為這些工具的錯誤而被拒絕享受社會保險福利。

盡管該報告沒有提到具體的軟件，但它呼吁各國禁止任何不能按照國際人權法操作的人工智能應用。更具體地說，該報告呼吁暫停在公共場所使用遠程生物識別技術--至少在當局能夠證明符合隱私和數據保護標準、沒有歧視性或準確性問題之前。

該報告還抨擊了許多人工智能系統的實施缺乏透明度以及它們對大數據集的依賴可能導致人們的數據以不透明的方式被收集和分析并導致錯誤或歧視性的決定。報告稱，數據的長期存儲及未來如何使用也不得而知，這同樣也是一個令人擔憂的原因。

Bachelet說道：“鑒于人工智能的快速和持續增長，填補數據收集、存儲、共享和使用方面的巨大問責缺口是我們面臨的最緊迫的人權問題之一......我們不能在人工智能方面繼續追趕--允許其在有限或沒有邊界或監督的情況下使用，并在事后處理幾乎不可避免的人權后果。”另外他還呼吁立即采取行動，“為人工智能的使用設置人權護欄”。

數字權利倡導組織歡迎該國際機構的建議，尤其是在許多國家在執行有關人工智能的聯邦法律方面滯后的情況下。

非營利倡導組織Fight for the Future的負責人Evan Greer告訴ABC News，該報告進一步證明了這種新興技術構成的生存威脅。

Greer在接受ABC News采訪時表示：“這份報告反映了世界各地的技術和人權專家日益增長的共識：像面部識別這樣的人工智能監控系統對人類自由的未來構成了生存威脅。像核武器或生物武器一樣，這類技術具有巨大的潛在危害，無法得到有效監管，必須予以禁止。”

Greer還補充稱：“無論是政府還是企業等私人實體，面部識別和人工智能的其他歧視性用途都可能造成巨大傷害。我們同意聯合國報告的結論：應該立即在全球范圍內暫停銷售面部識別監控技術和其他有害的人工智能系統。”

多項研究表明，由人工智能驅動的面部識別技術可能存在種族偏見和假陰性。就在去年夏天，密歇根州的一名黑人男子被錯誤地逮捕和拘留，就因為面部識別技術錯誤地將他識別為入店行竊嫌疑人。

美國商務部國家標準與技術研究所于2019年的一項全面研究發現，市場上大多數面部識別軟件對亞裔和黑人面孔的假陽性匹配率高于白人面孔。英國2019年的另一項研究發現，被倫敦警察廳使用的面部識別技術標記的嫌疑人中，81%是無辜的。