[[423755]]

人工智能正在用行動證實其在金融服務(wù)行業(yè)的價值，如今，其應(yīng)用范圍已經(jīng)從識別欺詐行為和打擊金融犯罪，發(fā)展到為客戶提供創(chuàng)新的數(shù)字化體驗。然而，這種從傳統(tǒng)的基于規(guī)則的模型到利用機(jī)器學(xué)習(xí)模型做決策的演進(jìn)，也正在為金融機(jī)構(gòu)制造新的難題。

如果缺乏適當(dāng)?shù)牟襟E來確保機(jī)器學(xué)習(xí)模型所做決策的可信度，那么許多企業(yè)組織可能會在不知不覺中暴露于聲譽(yù)和財務(wù)風(fēng)險中。使用缺乏“可解釋性”和透明度的“黑盒”AI技術(shù)會使企業(yè)組織無法獲悉決策產(chǎn)生的原因和過程，更無法獲悉決策是何時出現(xiàn)問題的。

AI應(yīng)用以輸出決策判斷為目標(biāo)，隨著人們在日常生活中越來越依賴AI，能夠理解決策產(chǎn)生的過程也變得愈發(fā)重要。這種情況下，“可解釋的”AI概念應(yīng)運而生。所謂“可解釋的AI”是指人類能夠通過動態(tài)生成的圖表或文本描述輕松理解AI技術(shù)做出決策的路徑。AI的可解釋性越高，人們越容易理解為什么做出某些決定或判斷。

如今，金融機(jī)構(gòu)正處在十字路口。IBM和Morning Consult的一項新研究發(fā)現(xiàn)，金融領(lǐng)域中44%的企業(yè)組織表示，有限的專業(yè)知識和技能是他們成功部署AI技術(shù)最大的挑戰(zhàn)。在整個疫情大流行期間，采用新技術(shù)來提高運營效率并使金融機(jī)構(gòu)在競爭對手中脫穎而出的壓力越來越大。隨著越來越多的組織部署AI技術(shù)，重要的是要確保輸出結(jié)果的公平公正，提升對AI決策的信任度，并擴(kuò)大AI部署規(guī)模以優(yōu)化其業(yè)務(wù)運營。

金融行業(yè)如何提升對人工智能的信任感?

首先也是最重要的，在任何金融機(jī)構(gòu)開始考慮將AI集成到其業(yè)務(wù)運營中之前，他們必須先要從最基礎(chǔ)的定義政策和規(guī)范等方面了解道德和值得信賴的AI技術(shù)。金融服務(wù)企業(yè)已經(jīng)意識到了這一點，因為在IBM的《2021年全球人工智能采用指數(shù)報告》中，85%的受訪者表示，能夠解釋人工智能如何做出決定對他們的業(yè)務(wù)很重要。

金融組織應(yīng)該能夠清楚地定義“公平”在其行業(yè)中的真正含義以及如何監(jiān)控公平。同樣地，組織還應(yīng)該清楚他們?nèi)缃褡鳛楣緦嶓w的立場以及哪些政策反映了這種立場。

完成這第一步，金融機(jī)構(gòu)便可以著手研究采用AI模型的特定用例。例如，考慮AI模型在各種信用風(fēng)險場景中的表現(xiàn)。哪些參數(shù)會影響其決策?它是否不公平地將風(fēng)險與人口統(tǒng)計相關(guān)聯(lián)?

所有這些元素都需要仔細(xì)考慮，并且需要在AI運行的整個生命周期——從構(gòu)建和驗證模型，到部署和使用它們——牢記這一點。如今，企業(yè)組織也可以借助各類相關(guān)平臺來幫助指導(dǎo)這一過程，確保模型的公正和無偏見(在政策規(guī)定的公平范圍內(nèi))，同時能夠為監(jiān)管機(jī)構(gòu)提供可視化和解釋決策的能力。不過，盡管市場上存在這些工具，但63%的受訪金融服務(wù)組織表示，不適用所有數(shù)據(jù)環(huán)境的AI治理和管理工具是部署可信賴AI模型的障礙。

金融機(jī)構(gòu)如果對其AI模型更具信心，便可以將更少的精力花費在繁重的任務(wù)上，并將注意力集中在價值更高的工作上。例如，欺詐檢測是當(dāng)今金融服務(wù)中AI的常見用例，但誤報率仍然很高。如果AI系統(tǒng)可以解釋為什么它認(rèn)為一個案例是具有欺詐性的，更重要的是，如果它能夠證明自己不會系統(tǒng)地偏袒一個群體，人類員工便可以花費更少的時間來驗證結(jié)果，而可以將更多的時間用于交付更高價值的工作上。

初創(chuàng)企業(yè)是否需要采取與傳統(tǒng)金融機(jī)構(gòu)不同的方法?

歸根結(jié)底，無論您是傳統(tǒng)金融機(jī)構(gòu)還是初出茅廬的初創(chuàng)企業(yè)，您都需要同等關(guān)注確保公平、道德和透明的AI技術(shù)。

最突出的區(qū)別在于，傳統(tǒng)金融機(jī)構(gòu)已經(jīng)擁有現(xiàn)成的模型風(fēng)險管理實踐，通常適用于傳統(tǒng)的基于規(guī)則的模型。而且，傳統(tǒng)金融機(jī)構(gòu)也已經(jīng)擁有部署到位的技術(shù)和流程，因此，改變方法通常更具挑戰(zhàn)性。不過，無論使用哪種開發(fā)和部署工具，都必須考慮如何擴(kuò)展現(xiàn)有模型風(fēng)險管理實踐以支持AI/ML模型。

許多金融科技初創(chuàng)公司可能沒有考慮對這項技術(shù)進(jìn)行現(xiàn)有投資，這也使他們有更多的自由來選擇具有內(nèi)置功能的同類最佳開發(fā)、部署和監(jiān)控平臺。

AI在金融行業(yè)的未來之路

對于那些仍將人工智能投資視為“冒險之舉”的企業(yè)組織而言，此次疫情大流行可謂起到了催化劑的作用，讓他們認(rèn)識到了AI技術(shù)對于提高效率、減輕遠(yuǎn)程工作者壓力等諸多好處。目前，金融行業(yè)中有28%的企業(yè)表示他們已將AI作為業(yè)務(wù)運營的一部分積極部署。雖然AI技術(shù)的滲透速度非常快，而且規(guī)模很大，但44%的企業(yè)表示他們?nèi)蕴幱谔剿鰽I解決方案的初步階段，22%的企業(yè)目前沒有使用或探索使用AI解決方案。這就意味著目前，大多數(shù)金融公司正在開發(fā)概念證明(PoC)或分析其數(shù)據(jù)以用于未來的增長和使用目的。

隨著步入“后疫情”時代，企業(yè)組織需要比以往任何時候都更加警惕，以確保其AI技術(shù)正在以“負(fù)責(zé)任”的方式運行，而非在助長系統(tǒng)性的不公正。世界各國政府即將出臺的法律法規(guī)也將繼續(xù)關(guān)注組織(尤其是金融行業(yè))如何負(fù)責(zé)任地使用這項技術(shù)。

總而言之，想要獲取對AI決策的廣泛信任，根本沒有捷徑可走，但企業(yè)組織可以從采取持續(xù)的、深思熟慮的步驟開始，以解決偏見和不公正并提高可解釋性。