近年來(lái)，學(xué)界與工業(yè)界都已開(kāi)始關(guān)注并熱議 AI 倫理治理問(wèn)題，也在倫理規(guī)范研究上取得了初步進(jìn)展。然而，由于 AI 倫理的抽象性，如何定量化度量智能系統(tǒng)的倫理，還是一個(gè)未知的難題。

西北工業(yè)大學(xué)李學(xué)龍教授團(tuán)隊(duì)在《中國(guó)科學(xué)：信息科學(xué)》的《人工智能倫理計(jì)算》一文，全文 34 頁(yè)探討了倫理可能的度量方式，嘗試建立 AI 倫理的定量計(jì)算框架，指出倫理計(jì)算將是促進(jìn)技術(shù)倫理實(shí)踐的關(guān)鍵交叉領(lǐng)域和構(gòu)建倫理規(guī)范的重要基礎(chǔ)工具，希望能夠引發(fā)更多關(guān)于人工智能倫理的思考。倫理計(jì)算，是否能成為突破人工智能倫理治理困境的關(guān)鍵？

高漪瀾，張睿，李學(xué)龍，人工智能倫理計(jì)算 (Artificial intelligence ethical computation), 中國(guó)科學(xué)：信息科學(xué)，2023, doi: 10.0000/SSI-2023-0076．

全文下載:

https://www.sciengine.com/SSI/doi/10.0000/SSI-2023-0076

AI 倫理治理的阿克琉斯之踵

多模態(tài)認(rèn)知計(jì)算、生成式大模型等技術(shù)的突破加速了智能系統(tǒng)在醫(yī)療、教育等各領(lǐng)域的應(yīng)用，智能系統(tǒng)越來(lái)越多的參與人類(lèi)生活和決策，技術(shù)社會(huì)化的深入引發(fā)了一系列技術(shù)倫理問(wèn)題的討論。

倫理問(wèn)題的討論由來(lái)已久，阿西莫夫的科幻小說(shuō)中曾提出了著名的機(jī)器人三定律用以限制人工智能行為，但隨著技術(shù)社會(huì)化的深入，我們的倫理憂慮顯然已不再處于科幻小說(shuō)或電影的虛構(gòu)場(chǎng)景。手術(shù)機(jī)器人是否值得信任？輔助決策系統(tǒng)的決策是否公正？生成模型的成果是否侵犯了版權(quán)？這些技術(shù)倫理問(wèn)題都是當(dāng)下與你我切身相關(guān)，迫切需要更具體且可操作的人工智能技術(shù)倫理治理方案。

圖 1：AI 應(yīng)用場(chǎng)景決策要素對(duì)比

作為人工智能發(fā)展的重要議題，人工智能倫理治理引起了各界的廣泛關(guān)注。聯(lián)合國(guó)教科文組織于 2021 年 12 月發(fā)布了《人工智能倫理問(wèn)題建議書(shū)》用于規(guī)范人工智能技術(shù)的發(fā)展，同時(shí)各個(gè)國(guó)家也積極參與到人工智能治理的討論中來(lái)。研究表明，全球各國(guó)已經(jīng)在技術(shù)透明度、公平公正、不傷害、隱私等方面形成了初步共識(shí)。

圖 2：主要的人工智能倫理原則

2023 年 10 月 08 日，科技部、教育部、工業(yè)和信息化部等十個(gè)部門(mén)聯(lián)合發(fā)布了《科技倫理審查辦法（試行）》，重點(diǎn)關(guān)注了智能領(lǐng)域相關(guān)技術(shù)在實(shí)際應(yīng)用中產(chǎn)生的技術(shù)倫理審查問(wèn)題，這是我國(guó)邁出科技倫理治理實(shí)踐的關(guān)鍵一步，為人工智能領(lǐng)域健康發(fā)展提供了方向指引。

然而，我們需要清醒地意識(shí)到，人工智能倫理治理在進(jìn)步的同時(shí)，依然面臨著諸多問(wèn)題。如何確保智能系統(tǒng)以善意、公平的方式做出決策？如何衡量一個(gè)系統(tǒng)的倫理表現(xiàn)或者如何評(píng)價(jià)其決策結(jié)果？如何建立統(tǒng)一、明確的倫理規(guī)范？導(dǎo)致種種問(wèn)題的深層原因，在于倫理本身的抽象性。關(guān)注倫理的定性分析，缺少定量計(jì)算，導(dǎo)致相關(guān)規(guī)范難以付諸實(shí)踐，這也成為人工智能倫理治理的阿克琉斯之踵。

AI 倫理計(jì)算 —— 突破倫理的定量計(jì)算瓶頸

人工智能倫理計(jì)算是人工智能和倫理學(xué)等學(xué)科的交叉領(lǐng)域，通過(guò)定量描述、度量或模擬技術(shù)對(duì)倫理原則進(jìn)行數(shù)學(xué)符號(hào)化或算法化，并在此基礎(chǔ)上約束智能算法的倫理表現(xiàn)。通過(guò)倫理計(jì)算，我們尋求機(jī)器倫理決策的量化或模擬思路，例如，如何對(duì)某個(gè)決策的公平性、善意程度進(jìn)行度量，或者機(jī)器是否可能學(xué)習(xí)人類(lèi)道德決策的方式。

根據(jù)智能系統(tǒng)的在倫理認(rèn)知程度和倫理決策自主化程度上的不同，將倫理計(jì)算劃分為高階倫理認(rèn)知和低階倫理認(rèn)知兩類(lèi)計(jì)算范式。

圖 3：AI 倫理計(jì)算范式

2.1 高階認(rèn)知倫理計(jì)算：規(guī)范 AI 意圖

高階認(rèn)知倫理計(jì)算旨在構(gòu)建倫理推理模塊，使計(jì)算機(jī)能夠?qū)W習(xí)模仿人類(lèi)的道德決策機(jī)制，規(guī)范高自主性智能系統(tǒng)的道德決策意圖。

電車(chē)難題是一個(gè)經(jīng)典的倫理困境命題，同時(shí)也是困擾自動(dòng)駕駛系統(tǒng)發(fā)展已久的問(wèn)題。對(duì)于這類(lèi)困境我們不會(huì)有一勞永逸的選擇，不同的道德決策情境和不同的哲學(xué)觀點(diǎn)（結(jié)果主義倫理學(xué)、義務(wù)倫理學(xué)、美德倫理）都可能導(dǎo)致差異化決策。此時(shí)，在系統(tǒng)中引入高階倫理計(jì)算，能夠基于哲學(xué)假設(shè)或人類(lèi)決策經(jīng)驗(yàn)等模仿學(xué)習(xí)人類(lèi)的決策機(jī)制，計(jì)算出可行的機(jī)器決策，進(jìn)而實(shí)現(xiàn)規(guī)范 AI 系統(tǒng)的意圖。

圖 4：電車(chē)難題示意圖

高階認(rèn)知倫理計(jì)算思路由于試圖理解和模擬人類(lèi)倫理決策的機(jī)制，會(huì)面臨人類(lèi)倫理決策動(dòng)機(jī)復(fù)雜、決策場(chǎng)景多樣的困難，且機(jī)器決策要求可解釋性也會(huì)為這類(lèi)思路帶來(lái)困難。盡管如此，它依然有助于理解人類(lèi)倫理決策的機(jī)制，也或有助于實(shí)現(xiàn)對(duì)更高自主性機(jī)器的有效控制。

2.2 低階認(rèn)知倫理計(jì)算：約束 AI 行為

低階認(rèn)知倫理計(jì)算側(cè)重于建立倫理度量方法，無(wú)需深入理解倫理機(jī)制，通過(guò)對(duì)抽象倫理概念的度量和約束優(yōu)化，實(shí)現(xiàn)對(duì) AI 行為的直接約束。此時(shí)的倫理計(jì)算并不關(guān)注系統(tǒng)在倫理決策背后的道德動(dòng)機(jī)，目標(biāo)是構(gòu)建能夠有效約束 AI 行為的度量指標(biāo)。

其中，公平機(jī)器學(xué)習(xí)的研究是典型應(yīng)用，關(guān)鍵問(wèn)題是如何定義系統(tǒng)公平性。通常表現(xiàn)為在算法決策中減少對(duì)某些敏感屬性或受保護(hù)屬性的偏見(jiàn)。通過(guò)設(shè)定公平性指標(biāo)，可以量化系統(tǒng)在公平指標(biāo)上的表現(xiàn)，進(jìn)一步優(yōu)化倫理決策。

圖 5：公平性研究示例

低階認(rèn)知倫理計(jì)算通過(guò)倫理度量提供對(duì)抽象倫理概念的計(jì)算描述，以提高倫理表現(xiàn)。然而，這一方法也面臨著諸多問(wèn)題。指標(biāo)的量化需要反映倫理這一動(dòng)態(tài)、發(fā)展因素的特征，同時(shí)只考慮結(jié)果的指標(biāo)度量也存在簡(jiǎn)化，因此明確量化指標(biāo)的評(píng)估和適用范圍也是重要問(wèn)題。盡管如此，通過(guò)量化定義去度量和改進(jìn)倫理訴求，為倫理治理提供了重要輔助，這也是當(dāng)前發(fā)展倫理計(jì)算的重要意義。

總的來(lái)說(shuō)，上述兩種范式根據(jù)智能系統(tǒng)的倫理認(rèn)知和決策自主程度來(lái)選擇適當(dāng)?shù)姆椒ǎ源_保系統(tǒng)行為符合倫理要求。不論高自主性系統(tǒng)（如自動(dòng)駕駛汽車(chē)和手術(shù)機(jī)器人）還是低自主性系統(tǒng)（如輔助決策和輔助設(shè)計(jì)），倫理計(jì)算都旨在通過(guò)定量計(jì)算的方式，規(guī)范其意圖或者直接約束其行為。

AI 倫理計(jì)算的哲學(xué)基礎(chǔ)

哲學(xué)倫理學(xué)尤其是規(guī)范倫理學(xué)（研究道德決策的原則、機(jī)理，即為何做出某些道德決策的動(dòng)因）對(duì)倫理計(jì)算有著重要影響。在當(dāng)前 AI 倫理研究中主要關(guān)注的哲學(xué)觀點(diǎn)有三類(lèi)，分別是結(jié)果主義倫理學(xué) (Consequentialism)、義務(wù)倫理學(xué) (Deontology) 和美德倫理 (Virtue ethics)，這些不同流派反映了人類(lèi)倫理道德決策的不同傾向，通過(guò)不同的原則，甚至綜合經(jīng)驗(yàn)、情感等因素的考量，倫理計(jì)算可以推理出復(fù)雜情境下道德決策。

道德決策的基本要素就是道德主體，以及道德行為、決策背景和決策后果。以考慮單個(gè)主體的道德決策為例，智能體需要在決策背景等信息上進(jìn)行決策后果的判斷和道德決策。

結(jié)果主義倫理學(xué)又常稱(chēng)作功利主義，采用這一哲學(xué)基礎(chǔ)的系統(tǒng)，傾向于權(quán)衡每種選擇的后果并選擇最大道德收益結(jié)果的選擇，因此在計(jì)算時(shí)功利主義可以通過(guò)在已有決策背景下，最優(yōu)化決策的道德收益函數(shù)從而得出決策，其中，決策收益需要通過(guò)對(duì)一系列決策序列及其決策背景所對(duì)應(yīng)的決策后果進(jìn)行考察，判斷最優(yōu)的決策序列。但事實(shí)上，決策時(shí)往往并非所有信息都是準(zhǔn)確的，此時(shí)就涉及到在概率意義下優(yōu)化決策結(jié)果，也會(huì)涉及到貝葉斯因果推理相關(guān)研究。

義務(wù)倫理學(xué)則強(qiáng)調(diào)決策者尊重特定條件下的義務(wù)和權(quán)利，此時(shí)的行為主體會(huì)傾向于按照既定社會(huì)規(guī)范行事。采用這一決策哲學(xué)的系統(tǒng)在計(jì)算量化中可能會(huì)涉及邏輯規(guī)范的表達(dá)或者某些規(guī)則約束。

美德倫理學(xué)要求決策者根據(jù)某些道德價(jià)值來(lái)行動(dòng)和思考，同時(shí)，具有美德的行為主體會(huì)表現(xiàn)出一種被他人認(rèn)可的內(nèi)在動(dòng)力。品格高于行為，良好的品格會(huì)導(dǎo)致良好行為的產(chǎn)生。這一規(guī)范倫理理論不同于優(yōu)化結(jié)果的功利主義或者遵守規(guī)則的義務(wù)倫理學(xué)，將更加偏向于從實(shí)踐中學(xué)習(xí)，在計(jì)算中需要從某些經(jīng)驗(yàn)集數(shù)據(jù)中進(jìn)行學(xué)習(xí)，將會(huì)利用更多描述性倫理（研究人類(lèi)的倫理決策，并不其做出評(píng)價(jià)）的經(jīng)驗(yàn)結(jié)果，同時(shí)也天然地與當(dāng)前各類(lèi)數(shù)據(jù)挖掘、學(xué)習(xí)算法存在緊密的聯(lián)系。

通過(guò)上述討論我們可以發(fā)現(xiàn)，倫理計(jì)算問(wèn)題是人工智能與哲學(xué)倫理學(xué)等高度交叉的跨學(xué)科研究課題，其計(jì)算策略、適用范圍還需要更多跨學(xué)科的探討。

AI 倫理計(jì)算的意義、挑戰(zhàn)與展望

隨著智能深入到人類(lèi)社會(huì)的各個(gè)領(lǐng)域，倫理治理已經(jīng)成為人工智能健康、可持續(xù)發(fā)展的必答題。倫理計(jì)算的理論與技術(shù)研究，能夠推動(dòng)解決抽象倫理定量分析的難題，這或許將成為約束人工智能遵循人類(lèi)倫理的一把鎖，同時(shí)也是打通 AI 應(yīng)用落地的一把鑰匙。

人工智能是大勢(shì)所趨，相關(guān)的立法和規(guī)范也會(huì)逐步出現(xiàn)，這些規(guī)則由誰(shuí)來(lái)制定？是熟悉領(lǐng)域的科研人員，還是并不足夠了解具體技術(shù)的群體？這個(gè)問(wèn)題很難回答，但至少，人工智能倫理的數(shù)值度量可以為規(guī)則指定提供一個(gè)參考指標(biāo)體系。

倫理計(jì)算的核心在于通過(guò)量化計(jì)算將抽象倫理具體化，強(qiáng)調(diào)將倫理原則融入計(jì)算技術(shù)的實(shí)踐中，例如公平、透明性、隱私保護(hù)和可信等。這不僅有助于人工智能的可控發(fā)展，鼓勵(lì)研究人員更深入地理解技術(shù)倫理并在構(gòu)建算法系統(tǒng)時(shí)更主動(dòng)地考慮倫理問(wèn)題，同時(shí)也將為制定倫理治理的原則、法律法規(guī)等提供至關(guān)重要要的技術(shù)參考指標(biāo)。

然而，倫理計(jì)算也面臨著諸多挑戰(zhàn)。在自主搜救、無(wú)人巡檢等開(kāi)放性的臨地安防場(chǎng)景中，智能系統(tǒng)需要?jiǎng)討B(tài)感知和適應(yīng)環(huán)境變化的能力，以減少潛在的倫理風(fēng)險(xiǎn)。同時(shí)，倫理決策通常牽涉到情感和認(rèn)知等因素，需要借助多模態(tài)認(rèn)知計(jì)算和因果推理等技術(shù)來(lái)應(yīng)對(duì)倫理推理的復(fù)雜性，也需要更多關(guān)于人類(lèi)倫理決策方式的認(rèn)識(shí)。這些挑戰(zhàn)需要跨學(xué)科深入合作，以確保倫理計(jì)算技術(shù)能夠有效處理不斷演化的倫理問(wèn)題。

總之，人工智能倫理計(jì)算將作為推動(dòng)倫理治理發(fā)展的重要工具，通過(guò)促進(jìn)倫理治理理論與實(shí)踐的迭代發(fā)展，倫理計(jì)算將更安全地釋放人工智能的潛力，并有望在協(xié)助制定法規(guī)等方面發(fā)揮作用，確保人工智能以符合倫理和道德原則的方式發(fā)展，最終造福人類(lèi)社會(huì)。

通訊作者介紹：

李學(xué)龍，西北工業(yè)大學(xué)校學(xué)術(shù)委員會(huì)副主任、光電與智能研究院（iOPEN）教授，主要研究方向?yàn)榕R地安防、圖像處理、成像。