在機(jī)器學(xué)習(xí)和人工智能方面，不乏丑聞。在過(guò)去的幾個(gè)月中，人們已經(jīng)看到微軟公司的新聞?dòng)浾哂糜嘘P(guān)LittleMix樂(lè)隊(duì)成員錯(cuò)誤的形象來(lái)說(shuō)明有關(guān)種族主義的文章，LittleMix是英國(guó)政府的A-Level算法，根據(jù)過(guò)去學(xué)生的表現(xiàn)對(duì)學(xué)生進(jìn)行懲罰，并且，最近，Twitter的人工智能驅(qū)動(dòng)的圖像裁剪工具似乎更喜歡白人而不是黑人的面部。

[[375843]]

但是，人工智能的偏見不僅限于知名公司和備受矚目的丑聞。凱捷(Capgemini)公司最近的一份報(bào)告對(duì)800個(gè)組織和2,900名消費(fèi)者進(jìn)行了調(diào)查，結(jié)果顯示90%的組織至少知道一個(gè)人工智能系統(tǒng)導(dǎo)致其業(yè)務(wù)出現(xiàn)道德問(wèn)題的情況。

此外，調(diào)查結(jié)果顯示，雖然三分之二(68%)的消費(fèi)者期望人工智能模型是公平的且沒(méi)有偏見，但只有53%的企業(yè)擁有負(fù)責(zé)人工智能系統(tǒng)道德的領(lǐng)導(dǎo)者，例如首席道德官。接受獨(dú)立審核的人工智能系統(tǒng)的道德影響甚至更少(只有46%)。

顯而易見，隨著人工智能融入我們生活的方方面面，公司需要做更多的工作來(lái)確保其系統(tǒng)不受偏見影響，甚至需要找到使用該技術(shù)來(lái)減輕有害偏見的方法，以便做出更公平的業(yè)務(wù)決策。

團(tuán)隊(duì)建設(shè)

那么我們?cè)撛趺醋瞿?首先要建立一支多元化的團(tuán)隊(duì)，而這個(gè)行業(yè)仍然無(wú)法做到。根據(jù)人工智能Now Institute發(fā)布的研究，人工智能教授中有80%是男性，F(xiàn)acebook上只有15%的人工智能研究人員，Google上只有10%的人工智能研究人員是女性。

Sopra Steria公司的數(shù)字道德與技術(shù)負(fù)責(zé)人Jen Rodvold表示：“多樣性不僅是成功實(shí)施人工智能策略的關(guān)鍵，而且對(duì)于企業(yè)的底線至關(guān)重要。多元化的員工隊(duì)伍將提供各種不同的觀點(diǎn)，標(biāo)記出開發(fā)過(guò)程中涉及的任何偏見，并有助于審訊可能使這種偏見永久化并以不可預(yù)見的方式影響您的技術(shù)開發(fā)方式的更廣泛的組織過(guò)程。”

Imagination科技公司的人工智能高級(jí)產(chǎn)品總監(jiān)Andrew Grant同意這種觀點(diǎn)，他說(shuō)，確保多樣化的數(shù)據(jù)科學(xué)家對(duì)于發(fā)展符合道德的人工智能至關(guān)重要。

為了確保在建立用于訓(xùn)練人工智能的數(shù)據(jù)集時(shí)的最佳實(shí)踐，首先需要有各種各樣的數(shù)據(jù)科學(xué)家收集和分析數(shù)據(jù)。他說(shuō)：“對(duì)人工智能進(jìn)行培訓(xùn)的任何部分都不應(yīng)由個(gè)人來(lái)監(jiān)督，通過(guò)交叉檢查工作，可以更有效地消除個(gè)人偏見。”

使數(shù)據(jù)多樣化

還需要各種數(shù)據(jù)集。通過(guò)在歷史數(shù)據(jù)上訓(xùn)練機(jī)器學(xué)習(xí)模型(例如，顯示男性更常被提升為高級(jí)職位的數(shù)據(jù)，或者大多數(shù)技術(shù)行業(yè)的工人是白人)，編碼人工智能的偏見幾乎是不可避免的。

埃森哲公司負(fù)責(zé)人工智能的經(jīng)理Caryn Tan告訴表示：“組織構(gòu)建和設(shè)計(jì)人工智能的組織必須記住，它受到所提供信息的限制。一種算法無(wú)法分辨出什么時(shí)候不公平，它只是沿用了歷史模式。如果我們不采取措施緩解這種情況，可能會(huì)導(dǎo)致不良的反饋循環(huán)，從而可能根據(jù)人們的出身，歷史甚至刻板印象來(lái)誘捕他們。因此，組織必須采取積極措施來(lái)解決潛在的偏見，然后才有機(jī)會(huì)表現(xiàn)出來(lái)。”

CodeFirs tGirls的首席執(zhí)行官AnnaBr人工智能lsford補(bǔ)充說(shuō)，為了確保使用各種數(shù)據(jù)集對(duì)模型進(jìn)行訓(xùn)練，至關(guān)重要的是“多樣性和包容性是業(yè)務(wù)決策基礎(chǔ)的一部分”。

她表示，“在科技行業(yè)，機(jī)器學(xué)習(xí)和人工智能系統(tǒng)固有地存在偏差，這是用來(lái)訓(xùn)練其智能的數(shù)據(jù)集的結(jié)果。”“哈佛大學(xué)的研究人員發(fā)現(xiàn)，公司正在使用有缺陷的歷史數(shù)據(jù)集來(lái)訓(xùn)練其人工智能以進(jìn)行招聘;意味著有色人種和女性甚至在參加面試之前就已經(jīng)受到歧視。

“自上而下的方法不是解決之道，并且可能會(huì)進(jìn)一步加劇現(xiàn)有的人工智能偏見。相反，企業(yè)需要將多樣性和包容性視為一個(gè)持續(xù)的學(xué)習(xí)過(guò)程。”

透明度是關(guān)鍵

當(dāng)然，企業(yè)還必須考慮人工智能準(zhǔn)則和透明度，尤其是在監(jiān)管審查日益嚴(yán)格的情況下。例如，歐洲委員會(huì)已經(jīng)發(fā)布了有關(guān)應(yīng)在設(shè)計(jì)人工智能應(yīng)用程序時(shí)使用的關(guān)鍵道德原則的指南，而美國(guó)聯(lián)邦貿(mào)易委員會(huì)(FTC)在2020年初呼吁“透明人工智能”。

后者指出，當(dāng)啟用人工智能的系統(tǒng)做出不利決定(例如拒絕信用卡申請(qǐng))時(shí)，組織應(yīng)向受影響的消費(fèi)者展示做出決定所使用的關(guān)鍵數(shù)據(jù)點(diǎn)，并賦予他們更改權(quán)任何不正確的信息。

NTTDATAUK新創(chuàng)企業(yè)和創(chuàng)新副總裁Tom Winstanley表示：“隨著人工智能在整個(gè)經(jīng)濟(jì)中的規(guī)模不斷擴(kuò)大，至關(guān)重要的是，企業(yè)必須制定穩(wěn)健的道德標(biāo)準(zhǔn)，并在其運(yùn)營(yíng)核心體現(xiàn)人工智能準(zhǔn)則。透明度至關(guān)重要：公司不能依賴'黑匣子'數(shù)據(jù)集，而應(yīng)該公開其如何訓(xùn)練人工智能以及為確保以負(fù)責(zé)任的方式使用人工智能所采用的標(biāo)準(zhǔn)。因此，NTTDATA去年公開宣布了自己的人工智能道德準(zhǔn)則。”

Rodvold補(bǔ)充說(shuō)：“確保技術(shù)的透明度以及強(qiáng)大的多樣性做法，將有助于消除偏見并確保您建立公眾信任。全面的數(shù)字道德方法在人工智能開發(fā)中考慮多樣性，透明性，隱私和安全性的交集，將確保您在人工智能之旅中吸引客戶，并提供有效的，可持續(xù)的技術(shù)。”

隨著人工智能在各行各業(yè)中變得越來(lái)越普遍，并且這些系統(tǒng)中的內(nèi)置偏差問(wèn)題已得到充分記錄，對(duì)于企業(yè)而言，立即采取行動(dòng)以確保其軟件和流程不受偏差是至關(guān)重要的。值得慶幸的是，盡管在疫情期間它的采用率猛增，但還需要采取一些措施。

這意味著，通過(guò)戰(zhàn)略多元化努力，仍然可以更好地塑造人工智能的未來(lái)。