最近幾個月，幾位首席數(shù)據(jù)官都問了我同一個問題：我們應該如何進行人工智能治理？更具體地說，我們應該成立一個單獨的人工智能治理委員會，還是應該利用現(xiàn)有的數(shù)據(jù)治理委員會？雖然他們渴望推進，但這種不確定性導致了延誤和挫敗感，尤其是在業(yè)務利益相關者中，他們往往將任何形式的治理都視為額外的復雜性。

在本文中，我將分析數(shù)據(jù)和 AI 治理委員會通常關注的重點，探討其中的重疊部分，并討論將它們分開或合并的利弊。目標是幫助您確定最適合您組織的方案。

“數(shù)據(jù)治理委員會”

數(shù)據(jù)治理委員會旨在確保組織有效地管理其數(shù)據(jù)。這通常包括制定清晰的政策和標準，指導治理能力的構建，并確保數(shù)據(jù)治理在組織的各個領域得到應用。數(shù)據(jù)治理委員會是確保切實執(zhí)行數(shù)據(jù)治理的關鍵機制，并為領導者的參與和上報提供渠道。該委員會還可以監(jiān)督合規(guī)性工作，以確保組織能夠證明治理在實踐中有效。

數(shù)據(jù)治理委員會通常涵蓋的關鍵主題包括：

• 創(chuàng)建和傳達政策和標準以確保數(shù)據(jù)管理方式的一致性。
• 制定并批準具有明確角色、職責和實施方法的治理框架。
• 管理數(shù)據(jù)質量，包括實施控制、跟蹤問題及其解決方案。
• 監(jiān)督確保遵守個保法、 GDPR 和 HIPAA 等數(shù)據(jù)隱私法規(guī)的步驟，將監(jiān)管要求轉化為可操作的步驟。
• 監(jiān)督元數(shù)據(jù)管理，例如實施用于捕獲、維護和共享元數(shù)據(jù)的工具和流程。
• 管理主數(shù)據(jù)，通常側重于定義所有權、管理權以及確保關鍵數(shù)據(jù)集的數(shù)據(jù)質量。

數(shù)據(jù)治理委員會的輸入通常包括現(xiàn)有政策、業(yè)務需求、觀察到的數(shù)據(jù)問題、數(shù)據(jù)使用請求、數(shù)據(jù)密集型項目計劃以及資金提案。這些輸入有助于理事會確定優(yōu)先事項并做出決策。輸出通常包括更新后的政策、優(yōu)先舉措、已批準的數(shù)據(jù)目錄內容、使用指南、上報至高管層的問題以及資金或項目計劃的批準等等。

這些委員會的成員通常由數(shù)據(jù)所有者、數(shù)據(jù)管理員、業(yè)務代表、IT 主管、系統(tǒng)所有者、隱私、法律和審計團隊代表組成，如果組織規(guī)模較大，有時還會有區(qū)域負責人。該委員會反映了確保治理決策符合組織總體目標所需的技術和業(yè)務視角。這種設置或多或少與已規(guī)范化數(shù)據(jù)治理實踐的組織的工作方式一致。

“人工智能治理委員會”

人工智能治理委員會通常專注于管理組織內人工智能的道德和負責任使用。該委員會旨在確保在應用人工智能和分析技術時，其巨大的規(guī)?；妥詣踊瘽摿Φ玫街斏鞴芾?。人工智能系統(tǒng)能夠處理海量數(shù)據(jù)，并以比任何手動流程更快、更廣泛的方式影響決策。人工智能算法一旦部署，便可能具備自主行動的能力，因此控制其使用方式并明確界定哪些行為合適、哪些行為不合適至關重要。這一點尤為重要，因為人工智能決策通常缺乏透明度或可解釋性，這意味著諸如偏見或意外后果等潛在問題可能會被忽視，直到造成重大損害。

例如，當用于訓練模型的歷史數(shù)據(jù)反映出不公平或刻板印象時，AI 就可能出現(xiàn)偏見。如果一個用于招聘決策的 AI 模型，是基于某個行業(yè)的歷史招聘數(shù)據(jù)進行訓練的，而該行業(yè)對某一特定人群的偏好高于其他人群，那么 AI 可能會強化并延續(xù)這些偏見，系統(tǒng)性地排除某些候選人。

因此，考慮到這一點，人工智能治理委員會通常討論的關鍵主題包括：

• 人工智能倫理、偏見和公平定義和執(zhí)行道德原則，以確保人工智能系統(tǒng)公平對待所有群體，不會（非）故意傷害個人或社區(qū)。
• 人工智能用例的風險評估識別和評估與每個人工智能應用相關的風險，例如聲譽損害、違反法規(guī)或運營失敗。
• 模型治理為人工智能模型設定總體治理框架，包括對文檔、可解釋性、測試、監(jiān)控和問責的期望——而實際實施和生命周期管理則在交付團隊中進行。
• 遵守人工智能特定法規(guī)解釋并遵守人工智能法案等法律框架，該法案為人工智能的安全性、透明度和問責制制定了標準。

提交給委員會的意見通常包括人工智能相關的政策、倫理指南、監(jiān)管要求、商業(yè)用例、組織戰(zhàn)略以及數(shù)據(jù)和人工智能使用指標。當出現(xiàn)問題時，額外的意見可以以審計結果、監(jiān)管發(fā)現(xiàn)或事件的形式出現(xiàn)，這些事件凸顯了監(jiān)管方面的差距，并觸發(fā)了審查或糾正措施。行業(yè)指南或社會規(guī)范等外部期望，以及人工智能項目的項目提案和資金申請，也發(fā)揮著重要作用。

AI 治理委員會的成果可能包括符合倫理道德的 AI 框架、批準或拒絕 AI 模型及其用例的決策、風險緩解策略、將未解決的風險或問題上報至高管層，以及資金或資源分配的審批。這些成果有助于確保 AI 項目符合組織目標和外部要求，同時最大限度地降低潛在風險。

人工智能治理委員會的參與者通常由專家和利益相關者組成，他們能夠提供多元化的觀點。這些參與者可能包括人工智能專家、法律顧問、隱私代表、商業(yè)領袖、數(shù)據(jù)治理代表、平臺或系統(tǒng)所有者以及其他相關專家。這種廣泛的專業(yè)知識確保委員會能夠有效地處理人工智能治理的技術和倫理層面的問題。

下表總結了數(shù)據(jù)治理和人工智能治理委員會的主要典型特征。

數(shù)據(jù)治理與人工智能治理的重疊與共同點

數(shù)據(jù)治理和人工智能治理之間存在顯著的重疊，尤其是在它們都以賦能業(yè)務用例為核心這一點上。數(shù)據(jù)治理的重點是確保正確的數(shù)據(jù)能夠滿足業(yè)務目標的需求。這涉及確定數(shù)據(jù)的質量、可訪問性和合規(guī)性，以便有效地支持各種用例。人工智能治理則專注于專門涉及人工智能的業(yè)務用例，確保這些應用符合倫理道德、負責任，并與組織目標保持一致。兩者之所以重疊，是因為許多業(yè)務用例在兩者之間共享，都依賴于強大的數(shù)據(jù)基礎和對人工智能系統(tǒng)的適當監(jiān)管。

另一個共同點在于數(shù)據(jù)所有權和分類的重要性。數(shù)據(jù)治理的根本在于了解數(shù)據(jù)存在哪些內容、數(shù)據(jù)位于何處、數(shù)據(jù)敏感程度如何以及如何使用。這些活動對于建立問責制和確保遵守數(shù)據(jù)法規(guī)至關重要。人工智能治理在此基礎上建立，通過利用數(shù)據(jù)分類并讓數(shù)據(jù)所有者參與其中，確保人工智能系統(tǒng)能夠妥善使用數(shù)據(jù)。例如，了解哪些數(shù)據(jù)集是敏感的或受限制的，可以直接指導決策哪些人工智能應用在何種條件下是允許的。

AI 治理也高度依賴于具體的數(shù)據(jù)治理能力。數(shù)據(jù)目錄和元數(shù)據(jù)管理系統(tǒng)等工具在識別和理解可用數(shù)據(jù)集方面發(fā)揮著至關重要的作用。例如，許多基于內部數(shù)據(jù)訓練的生成式 AI 模型需要精確的定義和元數(shù)據(jù)才能正確解讀數(shù)據(jù)并有效運行。同樣，了解數(shù)據(jù)的存儲位置及其分類方式，可以使 AI 治理工作與更廣泛的組織數(shù)據(jù)戰(zhàn)略保持一致，并確保遵守既定規(guī)則。

或許最直接的重疊領域在于推動數(shù)據(jù)的合理使用。數(shù)據(jù)治理的根本在于確保數(shù)據(jù)以正確的方式用于正確的目的。這包括管理數(shù)據(jù)生命周期，從創(chuàng)建到使用，通常還涉及建立審批流程、配置控制和使用指南。我曾與一家保險行業(yè)機構合作，該機構將此作為其企業(yè)數(shù)據(jù)治理計劃的核心，持續(xù)了一年，確保每個用例都經(jīng)過適當?shù)膶彶楹团鷾省脑S多方面來看，人工智能治理只是這項更廣泛努力的一部分：其重點是確保人工智能應用程序中的數(shù)據(jù)使用是恰當?shù)?，并符合道德和監(jiān)管標準。

最后，利益相關者在實際操作上存在重疊。許多參與數(shù)據(jù)治理工作的個人和團隊，例如數(shù)據(jù)管理員、IT 主管、合規(guī)官和業(yè)務代表，與參與 AI 治理項目或委員會的人員相同。

何時以及為何將數(shù)據(jù)治理與人工智能治理分開可能是件好事

有幾個原因可以解釋為什么將數(shù)據(jù)治理和人工智能治理分開是有意義的，這些因素中的一個或多個越適用，將它們區(qū)分開來的理由就越充分：

時間壓力。

AI治理通常需要比數(shù)據(jù)治理更快的推進速度。數(shù)據(jù)治理項目通常采用基于領域的方法，耗時數(shù)月甚至數(shù)年，而 AI 治理通常與業(yè)務用例直接相關，需要立即上線。業(yè)務利益相關者希望盡快部署 AI 解決方案，而為了適應更慢、更系統(tǒng)的數(shù)據(jù)治理實施而推遲這些解決方案可能會適得其反。通過將兩者分離，組織可以讓 AI 治理以更快的速度運行，同時確保其保持必要的嚴謹性。

人工智能和非人工智能數(shù)據(jù)使用性質的差異。

人工智能治理需要針對人工智能系統(tǒng)及其復雜性的專業(yè)知識。數(shù)據(jù)治理相對具有普遍性，側重于數(shù)據(jù)所有權、質量和訪問權限，而人工智能治理則面臨著更難理解的挑戰(zhàn)，例如透明度和可解釋性。人工智能系統(tǒng)通常以“黑匣子”的形式運行，因此很難完全理解決策是如何制定的。人工智能的可擴展性進一步加劇了這一問題，人工智能驅動的決策可以在幾秒鐘內影響數(shù)百萬客戶或交易。治理中的任何失誤都可能導致直接的大規(guī)模損害，這需要專門的關注和專業(yè)知識。

計劃中或現(xiàn)有的 AI 使用范圍。

組織內 AI 的使用范圍也會影響分離治理工作的決策。如果 AI 的使用僅限于單個業(yè)務部門或職能，那么將 AI 治理僅集中在該領域可能是有意義的，而無需涉及更廣泛的數(shù)據(jù)治理計劃。在這種情況下，讓更廣泛的利益相關者參與與他們無關的討論會浪費時間和資源。相反，如果 AI 滲透到多個業(yè)務部門和職能，與數(shù)據(jù)治理的協(xié)同作用就會增強，從而降低分離的效益。AI 在組織內的覆蓋范圍在決定治理工作應該統(tǒng)一還是拆分方面起著關鍵作用。

專注于AI建模而非更廣泛的數(shù)據(jù)問題。

AI治理通常依賴于數(shù)據(jù)治理作為輸入或推動因素，而不是直接負責更廣泛的數(shù)據(jù)管理工作。例如，理想情況下，AI治理應該從數(shù)據(jù)治理流程提供的干凈、分類良好的數(shù)據(jù)開始。然后，AI治理可以專注于AI建模方面的考量，例如：

• 建立建模標準。
• 記錄和測試模型。
• 進行偏見測試。
• 實施后監(jiān)控和再訓練模型。
• 確保遵守人工智能特定的法規(guī)。

這些活動通常技術性很強，且與人工智能密切相關，需要專業(yè)知識和關注度，且不與更廣泛的數(shù)據(jù)治理職責重疊。組織越能將這些人工智能特定任務與更廣泛的數(shù)據(jù)使用考量清晰地區(qū)分開來，就越有理由成立單獨的人工智能治理委員會。

通過將人工智能治理的重點放在人工智能系統(tǒng)的運營、倫理和技術層面，并讓數(shù)據(jù)治理處理基礎數(shù)據(jù)問題，組織可以簡化這兩個流程，并避免不必要的復雜性。這種分離確保了每個治理機構都能有效運作，而不會互相干擾。

為什么應該同時考慮數(shù)據(jù)治理和人工智能治理

我剛剛闡述了何時以及為何可以將數(shù)據(jù)治理和人工智能治理分開……然而，總體而言，在沒有具體理由將它們分開的情況下，我傾向于默認將它們放在一起。以下是一些原因：

• 共享基礎——理解、分類并負責任地使用數(shù)據(jù)

數(shù)據(jù)治理和人工智能治理的核心都建立在相同的原則之上：理解數(shù)據(jù)存在哪些內容、對其進行適當分類并確保以負責任的方式使用數(shù)據(jù)。雖然人工智能決策可能因其可擴展性和快速影響的潛力而需要額外關注，但定義數(shù)據(jù)所有權、分類和使用方式的基礎流程是相同的。人工智能治理并非取代這些原則，而是以它們?yōu)榛A。通過將兩者結合起來，組織可以避免重復工作并確保數(shù)據(jù)處理方式的一致性。

• 推動合理使用的統(tǒng)一方法

對我來說，管理數(shù)據(jù)的合理使用和管理人工智能的合理使用之間沒有根本區(qū)別。以客戶細分為例：一個用例最初可能涉及手動流程，但之后可能會演變?yōu)榘詣踊⒆罱K由人工智能驅動的模型。在手動階段，用一套標準來管理這個用例，而在引入人工智能后，再將其轉移到另一套單獨的標準，這樣合理嗎？當然不是。數(shù)據(jù)的道德和負責任使用不應取決于決策是由人類還是人工智能程序做出的。人工智能只是自動化的一個層面，同樣的道德使用原則應該普遍適用。

• 避免利益相關者疲勞和重復勞動

從實際角度來看，讓業(yè)務利益相關者有效地參與一個治理委員會本身就頗具挑戰(zhàn)性。要求他們參與兩個委員會——一個負責數(shù)據(jù)治理，另一個負責人工智能治理——只會增加復雜性和所需的工作量。如果數(shù)據(jù)和人工智能治理領域對于是否應該設立一個還是兩個委員會存在不確定性，那么可以肯定的是，業(yè)務利益相關者也會提出同樣的問題。單一委員會可以避免重復勞動，減少利益相關者疲勞，并確保更高效的治理。

• 通過統(tǒng)一治理簡化協(xié)調

將數(shù)據(jù)治理與人工智能治理相結合，有助于推動統(tǒng)一方法，從而簡化業(yè)務協(xié)調并減少混亂。一套統(tǒng)一的框架、政策和標準幾乎總是比各自為政更可取。這不僅使治理更易于管理，也使利益相關者更容易理解和遵守規(guī)則，無論他們處理的是數(shù)據(jù)還是人工智能用例。

• 后期靈活分離

最后，最初將治理保持統(tǒng)一可以靈活地進行調整，以便隨著組織成熟度的增長而不斷提升。一旦建立了治理框架并且團隊積累了經(jīng)驗，將 AI 治理與數(shù)據(jù)治理分開是否合理就會變得更加清晰。如果組織發(fā)現(xiàn)某些利益相關者或用例需要更多關注，那么將其拆分成單獨的工作組甚至獨立的 AI 治理委員會相對容易。然而，反之則困難得多。如果一開始就設立兩個獨立的委員會，后來意識到需要將它們統(tǒng)一起來，就會面臨一系列挑戰(zhàn)。這些挑戰(zhàn)包括協(xié)調遺留決策、協(xié)調工具和框架，以及解決方法或政策中的沖突。此外，領導者或利益相關者也有可能抵制，因為他們可能會覺得自己的角色或權威在過渡期間被削弱。通過從合并委員會開始，組織可以避免這些陷阱，并為有效、可擴展的治理奠定基礎。

小結

決定將數(shù)據(jù)治理與 AI 治理分開還是合并，最終取決于您組織的獨特需求和成熟度。雖然兩種方法都有其合理的論據(jù)，但從統(tǒng)一的框架入手通常能夠提供靈活性和簡便性，以便隨著組織的發(fā)展進行擴展。AI 的運作離不開數(shù)據(jù)，其治理也同樣如此。