近期，快速進(jìn)化的生成式AI(Generative AI)技術(shù)引起人們的廣泛關(guān)注，預(yù)計(jì)將對(duì)多個(gè)領(lǐng)域產(chǎn)生巨大影響。OpenAI公司的ChatGPT和Stability AI公司的Stable Diffusion允許公眾訪問(wèn)，這對(duì)近年來(lái)廣泛研究的生成式AI模型造成了巨大沖擊，目前越來(lái)越多的機(jī)構(gòu)和公司發(fā)布與AI有關(guān)的系統(tǒng)和服務(wù)。與此同時(shí)，公眾對(duì)生成式AI在學(xué)習(xí)過(guò)程中的數(shù)據(jù)處理隱患以及對(duì)惡意使用生成式AI的擔(dān)憂不斷增加。

生成式AI是一項(xiàng)十分具有潛力的技術(shù)，目前正處于爆發(fā)的前夜。正是因?yàn)樗膹?qiáng)大，公眾對(duì)如何積極地利用生成式AI、新使用方式的開(kāi)發(fā)、謹(jǐn)慎使用生成式AI等話題展開(kāi)熱烈討論。

但無(wú)論是選擇積極擁抱生成式AI，還是對(duì)其抱有懷疑態(tài)度，生成式AI的發(fā)展都將給企業(yè)帶來(lái)極大影響，各大企業(yè)均需直面“如何面對(duì)生成式AI”這一命題。

本文基于這一命題，從“企業(yè)運(yùn)用生成式AI的風(fēng)險(xiǎn)”角度出發(fā)，搭建整理生成式AI相關(guān)的情報(bào)信息框架，基于適應(yīng)快速變化對(duì)象風(fēng)險(xiǎn)管理的敏捷治理思路，整理生成式AI風(fēng)險(xiǎn)的整體情況，論述企業(yè)使用生成式AI的適應(yīng)性管理方法，幫助企業(yè)更好地理解生成式AI的特性并進(jìn)行有效的信息分析。

生成式AI的進(jìn)化和著眼要點(diǎn)

什么是生成式AI

生成式AI是指具有自動(dòng)生成文章和圖像等功能的AI總稱，主要是實(shí)用化的識(shí)別AI(Discriminative AI)，執(zhí)行非法檢測(cè)、按照規(guī)定格式進(jìn)行數(shù)值預(yù)測(cè)和分類等任務(wù)。生成式AI擅長(zhǎng)分析輸入數(shù)據(jù)的結(jié)構(gòu)，根據(jù)關(guān)聯(lián)性高的訓(xùn)練數(shù)據(jù)生成新的內(nèi)容。

生成式AI急劇進(jìn)化

2015年，生成式AI進(jìn)入急劇進(jìn)化階段，進(jìn)化的一個(gè)契機(jī)是獲得強(qiáng)有力的模型表達(dá)，通過(guò)Diffusion Model 2和Transformer 3等新模型研發(fā)，讓學(xué)習(xí)效率和圖像、聲音等內(nèi)容的生成品質(zhì)均得到了突破性提高;另一個(gè)契機(jī)是海量數(shù)據(jù)的學(xué)習(xí)和大規(guī)模模型的建立。以自然語(yǔ)言處理為例，通過(guò)采用Transformer模型，可以更有效地實(shí)現(xiàn)大量數(shù)據(jù)的學(xué)習(xí)訓(xùn)練，例如BERT 4、GPT-5，其利用大規(guī)模語(yǔ)言模型(LLM)學(xué)習(xí)了數(shù)十億字的龐大數(shù)據(jù)。更重要的是，LLM的參數(shù)量增加到一定程度后，其性能也將急劇提高，當(dāng)初BERT和GPT-1的參數(shù)量是1億多，與此相對(duì)，近年來(lái)主流的PaLM和GPT-3.5參數(shù)量達(dá)到了數(shù)千億。生成式AI性能的快速提升為其掀起人工智能變革打下了強(qiáng)大的技術(shù)基礎(chǔ)。

AI進(jìn)入普及和應(yīng)用階段

當(dāng)前，生成式AI已達(dá)到面向大眾的應(yīng)用水平，進(jìn)入普及和應(yīng)用發(fā)展階段。除直接參與AI開(kāi)發(fā)的企業(yè)之外，還將有更多企業(yè)接觸生成式AI，不斷加深人工智能與自身業(yè)務(wù)的聯(lián)系。而企業(yè)在考慮運(yùn)用生成式AI的同時(shí)，還需考慮幾個(gè)關(guān)鍵的概念和要點(diǎn)，通過(guò)了解AI系統(tǒng)的結(jié)構(gòu)區(qū)分考慮AI模型、AI系統(tǒng)和AI服務(wù)，讓自身業(yè)務(wù)與人工智能的結(jié)合變得更加簡(jiǎn)便。AI模型是由數(shù)據(jù)學(xué)習(xí)訓(xùn)練的參數(shù)組成的框架，以AI模型為組成部分，根據(jù)用途編入應(yīng)用程序的系統(tǒng)被稱為AI系統(tǒng)或AI服務(wù)(如圖1所示)。

圖1 AI系統(tǒng)的框架

例如，Open AI的ChatGPT以GPT-3.5或GPT-4為基礎(chǔ)，通過(guò)將AI模型嵌入具備對(duì)話功能的應(yīng)用軟件中，提供作為AI服務(wù)的ChatGPT應(yīng)用。同樣，谷歌的Bard則是將以LaMDA和PaLM為基礎(chǔ)的模型編入對(duì)話型應(yīng)用程序中。

近年來(lái)，AI模型的性能得到了大幅度提高，最近明顯的例子就是聊天應(yīng)用中的LLM，這一模型能夠在極廣的范圍內(nèi)高精度地完成文本生成這一通用任務(wù)。當(dāng)前的趨勢(shì)是，文本生成功能以具有高可訪問(wèn)性接口的應(yīng)用程序向公眾開(kāi)放，并以此為起點(diǎn)，通過(guò)應(yīng)用程序向在線搜索集成和代碼生成等不斷拓展。

值得關(guān)注的是，AI模型的開(kāi)發(fā)人員和應(yīng)用程序的開(kāi)發(fā)人員不必是同一批人，實(shí)際開(kāi)發(fā)LLM的公司可通過(guò)API提供模型服務(wù)，如Meta公司的LLaMA8;開(kāi)發(fā)應(yīng)用程序的企業(yè)則可以使用精細(xì)微調(diào)的方法，以大規(guī)模數(shù)據(jù)預(yù)先學(xué)習(xí)的模型為基礎(chǔ)，通過(guò)學(xué)習(xí)適合特定任務(wù)的追加數(shù)據(jù)對(duì)AI模型進(jìn)行參數(shù)微調(diào)(如圖2所示)。

圖2 AI模型的應(yīng)用模式

從應(yīng)用的角度來(lái)看，生成式AI目前只是發(fā)揮了其潛力的一小部分，今后各種利益相關(guān)者將開(kāi)發(fā)和提供適合各種用途的生成式AI服務(wù)。但是，生成式AI的風(fēng)險(xiǎn)也引起了廣泛討論。

雖然AI模型自身也有望進(jìn)一步改善，但由于學(xué)習(xí)數(shù)據(jù)枯竭問(wèn)題以及規(guī)模擴(kuò)大遇到的性能限制和挑戰(zhàn)，AI模型基本性能的提高必須加快步伐，成本的改善將成為工作重點(diǎn)。而隨著技術(shù)、應(yīng)用的不斷發(fā)展，行業(yè)今后需更關(guān)注生成式AI普及的進(jìn)展和應(yīng)用情況，企業(yè)也要盡最大努力應(yīng)對(duì)生成式AI帶來(lái)的各類風(fēng)險(xiǎn)。

敏捷治理以適應(yīng)生成式AI的頻繁變化

當(dāng)前，生成式AI技術(shù)發(fā)展日新月異，引發(fā)了新一輪智能化浪潮，在更多行業(yè)發(fā)揮了更大勢(shì)能。從企業(yè)角度來(lái)看，生成式AI的應(yīng)用范圍非常廣泛，但基于法律規(guī)定程序?qū)ι墒紸I等快速變化事物的管控會(huì)相對(duì)滯后。相比之下，敏捷治理是一種更為適用的方法。敏捷治理是指根據(jù)不斷變化的環(huán)境和目標(biāo)提供最佳解決方案，通過(guò)“環(huán)境風(fēng)險(xiǎn)分析”“目標(biāo)設(shè)定”“系統(tǒng)設(shè)計(jì)”“運(yùn)用”“評(píng)價(jià)”和“改善”等多個(gè)“支架”持續(xù)且高速地運(yùn)轉(zhuǎn)，形成一種治理模式(如圖3所示)。

圖3 敏捷治理的基本組件

從企業(yè)角度看，使用生成式AI要結(jié)合治理系統(tǒng)的運(yùn)用和監(jiān)控，遇到問(wèn)題及時(shí)改善，同時(shí)根據(jù)環(huán)境的變化等因素，不斷重新審視目標(biāo)，快速捕捉生成式AI周圍環(huán)境的變化，通過(guò)分析系統(tǒng)持續(xù)監(jiān)測(cè)預(yù)警生成式AI相關(guān)的風(fēng)險(xiǎn)，最大程度地從創(chuàng)新中獲得利潤(rùn)。

生成式AI的風(fēng)險(xiǎn)管理矩陣

為幫助企業(yè)通過(guò)敏捷治理的方法最大限度地使用生成式AI，本文將介紹一種風(fēng)險(xiǎn)管理矩陣。由于相關(guān)信息非常廣泛且更新頻繁，公司對(duì)商業(yè)環(huán)境和風(fēng)險(xiǎn)的分析需求緊迫，使用矩陣目的在于解決當(dāng)下存在的問(wèn)題。其基本思路是將與生成式AI相關(guān)的機(jī)會(huì)、風(fēng)險(xiǎn)，以及構(gòu)成生成式AI生態(tài)系統(tǒng)的利益相關(guān)者的風(fēng)險(xiǎn)分為兩組，同時(shí)將與生成式AI相關(guān)的每個(gè)信息對(duì)企業(yè)控制目標(biāo)的影響可視化。

有觀點(diǎn)認(rèn)為，生成式AI相關(guān)的機(jī)會(huì)和風(fēng)險(xiǎn)源于自身，但另一方面，政府的法規(guī)或許也將成為生成式AI應(yīng)用中的風(fēng)險(xiǎn)來(lái)源(如表1所示)。

表1 AI應(yīng)用中的風(fēng)險(xiǎn)來(lái)源

結(jié)合生成式AI普及初期遇到的機(jī)會(huì)和風(fēng)險(xiǎn)，按照商業(yè)活動(dòng)、倫理和社會(huì)責(zé)任、版權(quán)許可等類別，提煉出對(duì)各方的影響，如表2所示。

表2 生成式AI風(fēng)險(xiǎn)管理矩陣

本表的活用方法有三個(gè)。一是整理風(fēng)險(xiǎn)的總體情況：企業(yè)的風(fēng)險(xiǎn)管理者可以充分利用本表更新生成式AI的事業(yè)環(huán)境和風(fēng)險(xiǎn)分析情況，隨時(shí)收集新的信息，增加新的風(fēng)險(xiǎn)點(diǎn)，避免重復(fù)或遺漏。根據(jù)整理的信息，為敏捷治理提供幫助，實(shí)施環(huán)境風(fēng)險(xiǎn)分析，使目標(biāo)的設(shè)定和評(píng)價(jià)運(yùn)用等后續(xù)研究成為可能。

二是檢查負(fù)責(zé)人以及確認(rèn)應(yīng)參與審查的人員：對(duì)于風(fēng)險(xiǎn)管理者新捕捉到的風(fēng)險(xiǎn)，在考慮應(yīng)對(duì)審查人員時(shí)可以使用本表，對(duì)個(gè)別信息和對(duì)象進(jìn)行詳細(xì)的風(fēng)險(xiǎn)分析和管理策略探討，分配合適的負(fù)責(zé)人和主管部門。

三是分析和驗(yàn)證措施的有效性和完整性：負(fù)責(zé)詳細(xì)分析每個(gè)風(fēng)險(xiǎn)的人員可以將本表用于確認(rèn)分析觀點(diǎn)的有效性和完整性。除了創(chuàng)新的機(jī)會(huì)，企業(yè)還將面臨道德、社會(huì)影響、版權(quán)、隱私安全等相關(guān)問(wèn)題，需要全面確認(rèn)并驗(yàn)證業(yè)務(wù)策略的有效性，并根據(jù)整理的風(fēng)險(xiǎn)情況，挑選研究所需的人員并進(jìn)行措施分析。

結(jié)語(yǔ)

本文深入探討了一套全面且實(shí)用的風(fēng)險(xiǎn)整理方法論，以應(yīng)對(duì)生成式AI技術(shù)的迅速普及。生成式AI作為一種強(qiáng)大的創(chuàng)新力量，正在重塑現(xiàn)代社會(huì)、經(jīng)濟(jì)和生活方式，但也帶來(lái)了巨大的風(fēng)險(xiǎn)。對(duì)于企業(yè)而言，如何積極利用生成式AI技術(shù)，同時(shí)有效管理和控制伴隨而來(lái)的風(fēng)險(xiǎn)，已成為一個(gè)不可忽視的課題。為了使企業(yè)在生成式AI的變革中保持領(lǐng)先，并適應(yīng)這種急速變化的風(fēng)險(xiǎn)環(huán)境，企業(yè)需要采用周期性的風(fēng)險(xiǎn)管理模式，以期在面臨不確定性和變化時(shí)，幫助其迅速識(shí)別、評(píng)估和管理風(fēng)險(xiǎn)。

生成式AI的風(fēng)險(xiǎn)管理矩陣是一種強(qiáng)大的工具，它可以作為風(fēng)險(xiǎn)管理負(fù)責(zé)人的輔助決策依據(jù)。通過(guò)這種方法論，企業(yè)可以避免在風(fēng)險(xiǎn)管理過(guò)程中出現(xiàn)人員混亂和管理無(wú)序的情況，從而更加高效地進(jìn)行風(fēng)險(xiǎn)管理和控制。同時(shí)，這種方法論也強(qiáng)調(diào)了構(gòu)建必要人才體系和分析討論周期的重要性，通過(guò)這些周期，企業(yè)可以更加深入地理解和評(píng)估風(fēng)險(xiǎn)，從而作出更加穩(wěn)健和明智的決策。

總得來(lái)說(shuō)，生成式AI風(fēng)險(xiǎn)矩陣不僅提供了一種實(shí)用的工具，也為企業(yè)管理風(fēng)險(xiǎn)提供了一種全新的視角和思考方式，幫助企業(yè)在生成式AI的變革中保持領(lǐng)先，并更加靈活、高效地進(jìn)行風(fēng)險(xiǎn)管理。