短短幾個月前，OpenAI發(fā)布了ChatGPT，并瞬間引爆全球。如今，其活躍用戶已經(jīng)超過1億，憑借的就是生成與人類相似且語法準(zhǔn)確的響應(yīng)內(nèi)容。同類技術(shù)甚至可以根據(jù)輸入的描述生成藝術(shù)品和編程代碼，效果同樣不錯。

如果初步得到的回復(fù)無法令人滿意，你還可以持續(xù)跟AI互動，比如提出額外的問題或者通過補充和澄清調(diào)整圖片或代碼內(nèi)容，讓結(jié)果更符合你的預(yù)期。整個過程不需要勞煩領(lǐng)域?qū)＜摇⑺囆g(shù)家或者程序員，會說話就能實現(xiàn)。

但生成式AI也有自己的問題，例如用于訓(xùn)練底層AI模型的數(shù)據(jù)來源可能存在爭議、訓(xùn)練數(shù)據(jù)應(yīng)如何流通、缺乏對源數(shù)據(jù)的使用權(quán)限、模型中存在偏見，還有更重要的一點——響應(yīng)內(nèi)容的準(zhǔn)確性，特別是“一本正經(jīng)的胡說八道”。

但這種種問題，絲毫沒有阻止軟件公司嘗試生成式AI。企業(yè)看到了這背后蘊藏的巨大商業(yè)潛力和用戶熱情，他們當(dāng)然不想落后。

Salesforce、Forethought和Thoughtspot最近都在公布自己的生成式AI測試方案。

Salesforce跨自家平臺推出生成式AI，F(xiàn)orethought希望打造新的聊天機器人，THoughtspot則希望利用AI改善數(shù)據(jù)查詢。每家公司都在基礎(chǔ)技術(shù)之上添加了一些算法微調(diào)元素，以體現(xiàn)自身平臺上的獨特需求。

微軟則宣布，面向Azure企業(yè)用戶的OpenAI Service現(xiàn)在以托管服務(wù)的形式全面開放。

整個2023年，相信會有更多企業(yè)加入戰(zhàn)團。但我們前面提到的限制仍然真實存在，所以新的問題來了：無論表面上看起來有多酷，無論開發(fā)商如何強調(diào)仍處于早期開發(fā)階段，生成式AI真的做好準(zhǔn)備為企業(yè)服務(wù)了嗎？

從局限性說起

企業(yè)客戶正努力將AI引入商業(yè)目的，但其中仍存在著太多未知數(shù)。

目前，生成式AI的底層模型仍在使用互聯(lián)網(wǎng)數(shù)據(jù)進行訓(xùn)練，并沒有充分滿足各種許可要求。無論是網(wǎng)站、書籍還是文章文本，這種廣泛采集訓(xùn)練素材的作法對每個人都將造成切身影響，對以商業(yè)目的創(chuàng)建內(nèi)容的公司影響尤甚。

Salesforce公司創(chuàng)始人Marc Benioff在之前接受采訪時表示，這確實是個明顯缺陷，但也沒有妨礙Salesforce上擊發(fā)布Einstein GPT。

這位CEO當(dāng)時強調(diào)：“我們都感受到了ChatGPT令人興奮的能力，但也能看到它的局限性。它其實就是最終‘剽竊者’，它所學(xué)習(xí)的東西都是從別人那扒來的。所以它的邊界，也就是它所能爬取的內(nèi)容的邊界。”

更重要的是，其中很多內(nèi)容根本就不靠譜，或者至少包含一定錯誤。OpenAI在其技術(shù)局限性清單中也公開承認(rèn)了這一點，寫道：“ChatGPT有時會給出看似合理，但并不正確甚至錯到荒謬的答案。而且這個問題很難解決……”

Forethought公司CEO 兼聯(lián)合創(chuàng)始人Deon Nicholas認(rèn)為，生成式AI面臨的最大問題就是錯誤答案。“ChatGPT仍然擺脫不了‘幻覺’，對吧？問它一個關(guān)于特定業(yè)務(wù)的問題，如果它不知道答案，那就只會編造出一些看似合理、但實際上完全錯誤的東西。”

此外，ChatGPT用于訓(xùn)練的信息截止于2021年，這對希望創(chuàng)建新業(yè)務(wù)的公司來說也是個問題。

還有偏見問題，需要由多元化團隊認(rèn)真關(guān)注模型和訓(xùn)練數(shù)據(jù)，才有可能真正實現(xiàn)緩解。上周，微軟客戶體驗產(chǎn)品營銷主管Neha Bajwa在采訪中也談到了AI偏見問題的重要性。

“在微軟，我們稱之為‘負(fù)責(zé)任AI’，也就是通過對偏見和包容性的關(guān)注保證數(shù)據(jù)中不存在偏見，使AI具備合理的道德觀點和負(fù)責(zé)任特性。必須注意，數(shù)據(jù)會放大偏見。”

解決之道

但這些局限性并非不可克服。最近，已經(jīng)有多家生成式AI工具開發(fā)商開始采用OpenAI的基礎(chǔ)模型，并將其轉(zhuǎn)化成自己的技術(shù)以解決其中某些問題。雖未徹底消除，但這方面努力必將成為下一階段的工作重點。

O’Reilly Media創(chuàng)始人、董事長兼CEO Tim O’Reilly將ChatGPT視為真正的第三次網(wǎng)絡(luò)浪潮，但表示可能還需要做一些微調(diào)才能滿足內(nèi)容所有者的商業(yè)需求。

OpenAI CEO Sam Altman已經(jīng)與O’Reilly接洽，希望能使用O’Reilly圖書目錄獲取知識訓(xùn)練語料庫。但O’Reilly表示反對，因為這種方式目前還缺乏合理的作者補償機制。

O’Reilly表示：“我說過，除非你們找到……某種付款方式，因為這些內(nèi)容是擁有明確主體的，人們也愿意為此付費。”他建議建立一套系統(tǒng)，確保用戶在付費之后才能訪問這類專業(yè)內(nèi)容。

“支付的款項將交給源內(nèi)容的所有人。也許我們會為此建立起商業(yè)模式，讓人們可以訪問這些更權(quán)威的內(nèi)容。”

這樣做的一大優(yōu)勢，在于拓寬生成式AI的功能廣度，包括文本、藝術(shù)和代碼。Nicholas認(rèn)為，如果未來的模型能夠根據(jù)工作流程生成編碼，或者自動創(chuàng)建或調(diào)整執(zhí)行方式，必將成為技術(shù)應(yīng)用企業(yè)的強大助力。

“我要補充一點，大家可能還沒有意識到。像GPT-3這樣的生成式模型可以生成代碼，當(dāng)然也可以用來生成實時工作流，而且效果相當(dāng)不錯。所以它代表的不只是個能像人一樣跟我們對話和思考的AI模型，更將成為很多工作中的重要依托——包括生成Python代碼，也包括生成自動化工作流程。”

數(shù)字體驗和數(shù)字化戰(zhàn)略咨詢公司Acquia CTO Dries Buytaert曾一手創(chuàng)立起開源Drupal內(nèi)容管理系統(tǒng)。他在最近的博文中，介紹了生成式AI在內(nèi)容管理和日常業(yè)務(wù)中的應(yīng)用前景。

在最近的采訪中，Buytaert將AI技術(shù)的發(fā)展與云計算做了比較。通過開放對計算資源的低門檻訪問，云計算已經(jīng)從根本上重塑了企業(yè)計算的面貌。

“OpenAI所構(gòu)建的不只是產(chǎn)品，更是AI工具的大眾化趨勢。它讓很多沒有機器學(xué)習(xí)和AI博士學(xué)位的人們也能快速構(gòu)建起實用性成果，這樣的賦能效果令人驚嘆。”

Buytaert建議，企業(yè)至少應(yīng)該展示一下自己的開發(fā)流程，還有AI模型是如何得出答案的。“他們必須拿出誠意，這樣才能消除關(guān)于AI模型吞噬網(wǎng)絡(luò)流量和種種消極影響的爭議。比如說，在提出問題并給出答案之后，我們應(yīng)該知道AI為什么信任自己的來源，包括返回相應(yīng)鏈接。”

這只是個開始，搜索引擎初創(chuàng)公司You.com已經(jīng)開始在其聊天搜索引擎中開放相關(guān)功能。????

雖然偏見的解決難度更高，但微軟的Bajwa表示，在各方的共同努力下這也并非不可實現(xiàn)。“監(jiān)管和督導(dǎo)是必須存在的。技術(shù)能起的作用只是一部分，最終還得在組織結(jié)構(gòu)、流程和治理上下功夫，這也是生成式AI技術(shù)的起效位置。企業(yè)必須就具體使用方式設(shè)定相應(yīng)的參數(shù)、建議和流程。”

只有合理解決這些問題，企業(yè)才能真正放心大膽地運用生成式AI。盡管前景廣闊，但絕不能對其放任自流。雖然短期應(yīng)用能快速見效，但一切優(yōu)點的背后都蘊藏隱憂。考慮到技術(shù)本身尚不成熟，生成式AI最好能在人類的陪伴和照料下一路“健康成長”。