本文轉載自公眾號“讀芯術”(ID：AI_Discovery)

[[378246]]

這可能是你第一次聽說“可解釋人工智能”一詞，但你一定很快就能理解它：可解釋人工智能(XAI)是指構建人工智能應用程序的技術和方法，人們可以由此理解這些系統做出特定決策的“原因”。

換句話說，如果我們能從一個人工智能系統得到關于其內部邏輯的解釋，那么這個系統就被認為是一個XAI系統。可解釋性是人工智能界開始流行的一個新屬性，我們將在下文討論其在近幾年出現的緣由。

首先，讓我們深入探究這一問題的技術根源。

人工智能促進我們的生活

科技的進步必然使我們能夠更方便地享受更好的服務。科技是生活中不可缺少的一部分，且肯定利大于弊，無論你喜歡科技與否，它對我們生活的影響只會與日俱增。

計算機、互聯網和移動設備的發明使生活更加便捷高效。繼計算機和互聯網之后，人工智能已經成為生活新的增強劑。從50年代和60年代數學領域的努力嘗試到90年代的專家系統，我們才取得了今天的成就。

我們可以在汽車上使用自動駕駛儀，使用谷歌翻譯與外國人交流，使用無數的應用程序來潤色我們的照片，使用智能推薦算法找到最好的餐廳。人工智能對生活的影響不斷增強，現在已經成為生活中不可或缺的、毋庸置疑的助力。

另一方面，人工智能系統已經變得如此復雜，普通用戶幾乎不可能理解它如何運作。我敢說只有不足1%的谷歌翻譯用戶知道它是如何運行的，但是我們仍然信任這個系統，并且廣泛使用。

我們應該了解這一系統是如何工作的，或者至少，應該能夠在必要的時候獲取它的相關信息。

過于注重準確性

數學家和統計學家們研究傳統的機器學習算法已有數百年歷史，如線性回歸、決策樹和貝葉斯網絡。這些算法都非常直觀，其發展先于計算機的發明。當你依據其中一種傳統算法進行決策時，很容易生成解釋。

然而，它們只在一定程度上達到了準確度。因此，傳統算法的可解釋度很高，但也算不上很成功。

后來，麥卡洛克-皮茨(McCulloch-Pitts)神經元發明后，發生了翻天覆地的變化。這一發展促使了深度學習領域的創立。深度學習是人工智能的一個分支領域，主要研究利用人工神經網絡來復制大腦中神經元細胞的工作機制。

由于運算能力的提高以及開源深度學習框架的優化，我們逐漸能夠構建高精確度性能的復雜神經網絡。人工智能研究人員們開始競爭，以盡可能達到最高精確度水平。而這種競爭無疑幫助我們構建了偉大的人工智能產品，但同時付出的代價是：低解釋性。

神經網絡非常復雜且難以理解。它們可以用數十億個參數來構建。例如，Open AI的革命性NLP模型，GPT-3，就擁有超過1750億個機器學習參數;從這樣一個復雜的模型中推導出任何一個推理都極具挑戰。

機器學習算法運行的精準度VS.可解釋性

如你所見，一個人工智能開發人員依靠傳統算法而非深度學習模型的損失良多。所以，我們看到越來越多的精確模型與日俱增，而其可解釋性卻越來越低。但是，我們需要可解釋性更甚于以往。

越來越多的人工智能系統被應用于某些敏感領域

還記得以前人們在戰爭中使用真刀真槍嗎。是的，一切都在改變，遠超你的想象。智能AI無人機已經可以在沒有人為干預的情況下干掉任何人。一些軍隊也已經有能力實施這些系統;但是，他們也對未知的結果感到擔憂。他們不想依賴那些自己都不清楚運作原理的系統。事實上，美國國防部高級研究計劃局已經有一個正在進行的XAI項目。

無人駕駛汽車是另一個例子。現在已經可以在特斯拉汽車上使用自動駕駛儀了。這對司機來說是極大的便利。但是，與之而來也有巨大的責任。當你的汽車遇到道德困境時，它會怎么做;在道德困境中，它必須在兩個罪惡的抉擇中選擇損失較小的一個。

例如，自動駕駛儀是否應該犧牲一條狗來拯救一個路上的行人?你也可以在麻省理工學院的道德機器上一睹集體道德和個人道德。

日復一日，人工智能系統在更大程度上影響著我們的社會生活。我們需要知道它們在一般情況和特殊事件中如何做出決定。

人工智能的指數級增長可能會造成生存威脅

我們都看過《終結者》，目睹了機器如何具有自我意識，并可能毀滅人類。人工智能是強大的，它可以幫助我們成為一個多星球物種，同時也可能完全摧毀我們，就如《啟示錄》中的場景一樣。

事實上，研究表明，超過30%的人工智能專家認為，當我們實現通用人智能(ArtificialGeneral Intelligence)時，結果要么糟糕，要么極其糟糕。所以，防止災難性后果的最有力武器就是了解人工智能系統的工作方法，這樣我們就可以使用制衡機制，就如限制政府權利過度一樣。

解決人工智能相關爭議需要推理和解釋

由于過去兩個世紀人權和自由的發展，目前的法律及條例已經要求在敏感領域有一定程度的可解釋性。法律論證和推理領域也涉及可解釋性的界限。

人工智能的應用程序僅是接管了一些傳統的職業，但這并非代表它們的控制器就不負責提供解釋。它們必須遵守同樣的規則，也必須為其服務提供解釋。一般法律原則要求在發生法律糾紛時(例如，當自動駕駛的特斯拉撞上行人)對自動化決策作出解釋。

但是，一般規則和原則并不是要求強制性解釋的唯一理由。我們也有一些當代的法律法規，規范了不同形式的解釋權。

歐盟的《通用數據保護條例》(GDPR)已經定義了解釋權，當公民受到自動化決策的約束時，有必要對人工智能系統的邏輯進行合理的解釋。

另一方面，在美國，公民有權獲得拒絕其信貸申請的解釋。事實上，這種權利迫使信用評分公司在給客戶評分時采用回歸模型(這一模型更易于解釋)，以便他們能夠提供強制性的解釋。

消除人工智能系統的歷史偏見需要可解釋性

自古以來人類就有歧視現象，這也反映在收集的數據中。當一個開發人員訓練一個人工智能模型時，他會給歷史數據灌以所有偏見和歧視性元素。而如果觀測有種族偏見，模型在進行預測時也會映射這些偏見。

巴特利特(Bartlett)的研究表明，在美國，至少有6%的少數族裔的信貸申請純粹是由于歧視性慣例而被拒絕。因此，用這些具有偏見的數據來訓練一個信用申請系統將對少數民族產生毀滅性的影響。

對一個社會而言，我們必須了解算法是如何運行的，以及如何才能消除偏見，這樣才能保證社會自由、平等和博愛。

自動化業務的決策需要可靠性和信任度

從金融角度來說可解釋性也是有意義的。當使用一個支持人工智能的系統來為組織的銷售和市場營銷工作建議具體的行動時，你可能會好奇它為何會如此建議。

決策者們必須明白為什么他們需要采取特定行動，因為他們將為此行動負責。這對實體企業和金融企業都意義重大。尤其是在金融市場，一個錯誤的舉動會讓公司付出高昂的代價。

如你所見，這些觀點有力論證了為何我們需要可解釋的人工智能。這些觀點來自不同的學科和領域，如社會學、哲學、法學、倫理學和商科。因此，我們需要人工智能系統的可解釋性