[[386762]]

大數(shù)據(jù)文摘出品

來源：venturebeat

編譯：在赤道的熊貓

ACM公平、責(zé)任與透明度大會(huì)(FAccT)的會(huì)議贊助商聯(lián)合主席兼Boise State University助理教授Michael Ekstrand于今天證實(shí)，該會(huì)議已決定中止與Google的贊助關(guān)系。

AI倫理研究會(huì)議的組織者在Google解雇了AI倫理負(fù)責(zé)人Margaret Mitchel一周多和AI倫理聯(lián)合負(fù)責(zé)人Timnit Gebru三個(gè)月后才做出這一決定。

Google隨后重組了10個(gè)團(tuán)隊(duì)的約100名工程師，包括讓Google副總裁Marian Croak領(lǐng)導(dǎo)Ethical AI。

“ FAccT以戰(zhàn)略計(jì)劃為指導(dǎo)，與執(zhí)行委員會(huì)合作，由贊助主席負(fù)責(zé)制定符合該計(jì)劃的贊助組合，” Ekstrand在一封電子郵件中告訴VentureBeat。

“執(zhí)行委員會(huì)做出決定，認(rèn)為Google做為2021年會(huì)議的贊助者不符合社區(qū)的最大利益，并且會(huì)阻礙戰(zhàn)略計(jì)劃。我們將修改明年會(huì)議的贊助政策。”

該決定是在關(guān)于谷歌開除Ethical AI團(tuán)隊(duì)負(fù)責(zé)人之后，F(xiàn)AccT是否會(huì)繼續(xù)與Google保持的數(shù)天的質(zhì)疑之后進(jìn)行的。這個(gè)消息最早是在星期五發(fā)布。

FAccT計(jì)劃委員會(huì)成員Suresh Venkatasubramanian發(fā)推文說，該組織將暫停與Google的關(guān)系。

停止Google的贊助并不意味著科技巨頭甚至Google本身的贊助終止。

DeepMind，Google的一家公司，作為FAccT會(huì)議的另一贊助商，在今年1月引起了AI倫理學(xué)爭(zhēng)議。自2018年成立以來，F(xiàn)AccT一直在尋求谷歌和微軟等大型科技公司、福特基金會(huì)和麥克阿瑟基金會(huì)的資助。去年發(fā)布的一項(xiàng)報(bào)告比較了科技巨頭對(duì)AI倫理研究的資助與主要煙草公司對(duì)衛(wèi)生研究的資助的歷史，發(fā)現(xiàn)四所著名大學(xué)的研究人員中有近60%都是從大型科技公司獲得資金的。

在Gebru被解雇后，谷歌員工對(duì)所謂的“前所未有的研究審查”行為發(fā)起了抗議。上周，路透社報(bào)道了另一起涉嫌干擾該公司AI研究的事件，一篇研究論文的合著者引用了Google法律團(tuán)隊(duì)的“深層陰險(xiǎn)”編輯。

根據(jù)FAccT網(wǎng)站的說法，作為該組織的聯(lián)合創(chuàng)始人的Gebru依舊是數(shù)據(jù)和算法評(píng)估建議小組成員，并擔(dān)任項(xiàng)目的委員會(huì)主席。Mitchell是該會(huì)議的項(xiàng)目共同主席，也是FAccT項(xiàng)目委員會(huì)成員。

因?yàn)閷?duì)科技公司缺乏多元化等因素的爭(zhēng)議和與他人合作的論文《論隨機(jī)鸚鵡的危險(xiǎn)：語言模型會(huì)變得太大嗎?》的發(fā)布，Gebru于2020年12月被谷歌辭退。除了認(rèn)識(shí)到預(yù)先訓(xùn)練的語言模型可能會(huì)對(duì)邊緣化社區(qū)造成的傷害不成比例之外，這篇文章還質(zhì)疑了是否可以通過基準(zhǔn)測(cè)試的表現(xiàn)來真正衡量進(jìn)步。該論文還引發(fā)了對(duì)大型語言模型潛在的誤用或自動(dòng)化偏見的擔(dān)憂。

這篇文章談到“如果一個(gè)擁有數(shù)千億參數(shù)，在非常大的數(shù)據(jù)集上受過訓(xùn)練的大型語言模型可以很好地操縱語言形式，從而通過要求理解語言的測(cè)試，那么我們是否學(xué)到了任何有關(guān)如何構(gòu)建語言的有價(jià)值的知識(shí)，還是我們被帶到了花園的小路上?”。

Gebru被列為該論文的兩位主要作者之一，這篇論文本周被FAccT接受發(fā)表。她的主要合著者是華盛頓大學(xué)的語言學(xué)家Emily Bender。

Emily 所著的大型語言模型的潛在缺陷和更深入批評(píng)的需求的文章于去年夏天獲得了計(jì)算語言學(xué)協(xié)會(huì)的獎(jiǎng)項(xiàng)。

VentureBeat去年從熟悉情況的消息來源獲得的論文的副本將Mitchell， Google研究人員Mark Diaz和Ben Hutchinson列為共同作者，他們?nèi)硕季哂姓Z言分析和模型方面的背景。

盡管Mitchell如今在AI倫理方面的工作廣為人知，但她也是計(jì)算機(jī)視覺和自然語言處理研究人員中被高度評(píng)價(jià)的人物，并且是華盛頓大學(xué)2008年文本生成的碩士論文的作者。

Ben Hutchinson與Google的Ethical AI團(tuán)隊(duì)的合著者合作，發(fā)表了一篇論文。該論文證明了NLP模型的偏見不利于殘疾人在情緒分析和毒性預(yù)測(cè)。Mark Diaz檢查了文本中與年齡相關(guān)的偏見。

Bender和Gebru在這篇文章的各種版本中被列為主要合著者。華盛頓大學(xué)在會(huì)議之前發(fā)表的論文的另一版本也將“ Shmargaret Scmitchell”列為作者。

Gebru是一名杰出的algorithmic oppression(算法壓迫)研究人員，并且是Google AI研究人員中僅有的黑人女性之一。

Gebru被解雇導(dǎo)致了成千上萬名Google員工的反對(duì)，并指控種族主義和報(bào)復(fù)。該事件還引發(fā)了對(duì)管制算法有濃厚的興趣的國會(huì)議員的提問。它也導(dǎo)致了研究人員質(zhì)疑從Google獲得道德研究資金的道德。

AI，道德和法律方面的專家告訴VentureBeat，Gebru被解雇可能導(dǎo)致一系列政策變化，包括支持更強(qiáng)有力的舉報(bào)人法律。被解雇后不久，Gebru談到了將聯(lián)盟化作為保護(hù)AI研究人員的一種手段的想法，Mitchell是2021年1月成立的Alphabet工人聯(lián)盟的成員。

OpenAI、斯坦福大學(xué)的研究人員和專家聯(lián)合在上個(gè)月警告說，像Google和OpenAI這樣的大型語言模型，在開始傳播復(fù)制品前只有短短幾個(gè)月的時(shí)間來設(shè)定其倫理的標(biāo)準(zhǔn)。

今年在FAccT上發(fā)表的其他論文包括分析非洲國家數(shù)據(jù)共享實(shí)踐中的常見障礙，對(duì)Data&Society的AI on Ground團(tuán)隊(duì)的算法影響評(píng)估的回顧，以及一個(gè)對(duì)政府壓制和審查制度如何影響經(jīng)常被用于訓(xùn)練NLP模型的輸入數(shù)據(jù)的文本的研究。

在最近的其他AI研究會(huì)議活動(dòng)中，最受歡迎的年度的機(jī)器學(xué)習(xí)會(huì)議NeurIPS的組織者告訴VentureBeat，該組織計(jì)劃在圍繞NeurIPS贊助商華為為中國當(dāng)局制造維吾爾族穆斯林檢測(cè)系統(tǒng)的問題來修改其贊助政策。

相關(guān)報(bào)道：

https://venturebeat.com/2021/03/02/ai-ethics-research-conference-suspends-google-sponsorship/

【本文是51CTO專欄機(jī)構(gòu)大數(shù)據(jù)文摘的原創(chuàng)譯文，微信公眾號(hào)“大數(shù)據(jù)文摘（ id: BigDataDigest）”】

戳這里，看該作者更多好文