AI語言模型中的ChatGPT近期在互聯網平臺上引起了廣泛的討論。那么，如果想將這個大型語言模型應用在智能客服產品中，或者將其在ToB SaaS應用軟件領域落地，應該采用哪種構建策略？

現在ChatGPT這個大型語言模型已經在各種平臺獲得了廣泛的關注。那么，如果在ToB SaaS應用軟件領域中想要將LLM大語言模型應用于智能客服產品中，應該如何實現呢？

首先，我們需要解決一個問題：在智能客服領域，是否值得使用LLM大語言模型進行智能化產品改造？

讓我們先綜合考慮一下智能客服產品的幾個典型特征：

人力密集：

智能客服是高度依賴人工操作的系統，需要解放生產力，提高效率。

數據密集：

智能客服產品能夠沉淀大量過程性數據，例如會話信息、通話記錄、錄音和操作日志。這種數據能夠為人工智能應用提供基礎。

流程可定義：

這類產品往往可以通過業務流程抽象來實現，例如IVR語音交互、外呼任務和工單流轉等。

有智能化應用基礎：

智能客服早已成為人工智能技術的先鋒之一，例如文本機器人、語音機器人和智能質檢等應用已經非常成熟。客戶和用戶對此也已經接受并習慣。

綜上所述，如果某個行業擁有相對落后的生產工具、標準的生產流程、大量未充分處理的數據且不排斥人工智能技術，那么這個行業無疑是值得LLM大語言模型落地生根的沃土。

如果值得做，那么如何做？

雖然LLM大語言模型在智能客服產品中的應用前途廣闊，但現階段看來，其應用仍處于不成熟的階段。

這就是一個見仁見智的問題了，大家的產品架構不同，目標客群不同、業務規模不同、主打產品各異。

我們可以假設，已經有了一套得到驗證，穩定運營的成熟產品，不希望引入LLM帶來現有產品的巨大變化，進而影響客戶體驗。如何搞？

提倡擁抱變化，嘴上鼓吹AGI通用人工智能帶來行業巨變，這些都沒問題，真要不破不立，付出真金白銀的代價來決策，去執行，還是一個很難抉擇的命題。

1、架構設計問題

考慮我們的產品架構是否能夠支持LLM大語言模型的應用。目前我們的主打產品架構由于歷史原因顯得陳舊，模塊化解耦不完善，性能瓶頸難以解決。雖然我們有很多生產客戶，但這也使得我們難以輕易地改動架構。在這種情況下，如果將ChatGPT整合到我們的架構中，將會帶來更多的沉重壓力。

因此，我們需要先確定我們的下一步行動是優化當前架構還是探索新的LLM應用方案。這就好比對待老房子改造，我們需要先施工打好基礎，或者簡單裝修打造軟裝。如果歷史包袱較重，我們也可以另起爐灶，組建一支精銳團隊進行探索。這也可以看作是給原有池塘投入一只鯰魚。

2、工具設計問題

設計頂層應用之前，我們需要先梳理一下我們需要的工具，例如AI引擎管理、數據建模工具、意圖管理、標簽標注和管理、流程生成工具、業務構建工具等等。

引入ChatGPT的能力，相對于以前智能客服產品所使用的自然語言處理、語義理解、意圖識別、關鍵字和正則處理等方式，帶來了顛覆性的改變。借助其能力，我們可以使用上下文關聯、邏輯鏈提示處理等方式，擺脫以前的手把手定義流程、字詞句填槽的舊模式，從而實現極大的改進。

如果以前構建復雜的AI應用需要半編程化的方式，那么使用ChatGPT就更像是RPG游戲編程工具，通過場景搭建、角色扮演、提示格式化、邏輯化等方式來構建應用，并輔以人工反饋監督。

這種方式是可行的。如果我們做得足夠好用，我們甚至可以邀請用戶參與“游戲”開發。

此外，很多工具本身也可以通過借助ChatGPT進行智能化改造，以更高效、智能的方式來處理數據、生成數據。例如，我們可以通過自動訓練和標注、知識庫的自動化擴充來代替語料手工標注，代替傳統問答對的低效人力處理，并給出標準問題，自動擴展相似問題等等。

3、應用設計問題

最后讓我們討論一下智能客服應用的設計，這個層面是用戶能夠感知到的界面和內容。

為了更好地體現ChatGPT的優勢能力，我們可以以智能客服的典型場景為例，探討其所能帶來的富有創意的改變。

（1）增強型對話能力

ChatGPT無疑帶來了非常強大的對話能力，我們十分期待并開始思考它加入智能客服對話中的效果。

然而，在智能客服產品領域中，對話通常是限定于特定業務領域和任務驅動的需求。我們的客戶并不希望訪客進來只是為了尋找一個超級智能、善解人意、會寫會畫的陪聊機器人。對話內容必須在企業業務范疇內收斂，服務于客服和營銷場景，解決和處理問題，不要浪費寶貴的資源。

直接將ChatGPT引入客服領域而不加控制，就好比你回家發現掃地機器人不工作，而隔壁的智能吸塵器卻會和你侃侃而談，你會感到很失望！

因此，構建增強型對話能力的過程中，我們一方面可以借助ChatGPT簡化對話流程的設計。以前需要設置無數個意圖和上下文才能實現的方式，現在可以使用開箱即用的自然語言對話獲取和格式化提示，完成限定任務并收集訪客數據和意向。另一方面，我們可以通過私有化訓練和公共文本數據的結合，為訪客提供不僵化、更優質的回答體驗。

將ChatGPT與傳統的文本和語音機器人能力結合起來，將為智能客服機器人服務能力帶來質的飛躍。

（2）智能質檢

雖然傳統智能質檢已經非常成熟，但是通過結合ChatGPT的預訓練能力和業務規則定義，可以實現更智能的質檢結果輸出，而無需復雜的設置。

我們可以將一定數量的優質錄音和文本投入模型中，并告知ChatGPT哪些因素可以提高質檢分數，從而讓模型自動判斷生產數據的質量。接著，我們可以通過手動質檢來進行對齊和調優，讓ChatGPT不斷學習和改進。

（3）智能化輔助

同樣地，我們可以通過提供優質的數據樣本、定義正確的流程和加分因子，不斷地讓ChatGPT在數據的滋養下，為座席提供更好的智能輔助功能。雖然原有的輔助功能框架可以保留，但是在內部，它將成為一個不斷進化、自動學習的“業務助理”。

（4）內訓機器人

基于智能質檢和智能輔助的基本能力，針對企業內部培訓場景，我們可以利用現有數據樣本，更自動化地生成一個內訓"教官"。業務管理人員可以針對不同的崗前培訓、業務流程、服務過程等設置不同的內訓主題，讓內訓機器人在訓練過程中獲得足夠的標準語料，從而指導座席進行自我訓練。這種方案對于注重學習能力和管理能力的運營型客戶具有很強的吸引力。

（5）智能填單類

在智能客服應用中，需要手動輸入大量表單，如客戶資料、跟進記錄和服務工單。目前，有一些CRM產品已經嘗試使用ChatGPT進行智能填單的實驗應用。以往的實現方式需要進行復雜的工程化設計，實時匹配會話文本，進行詞性分析、語義分析和關鍵字查找等操作，但是這些方法的表現經常不盡如人意。隨著LLM大語言模型的出現，我們可以期待它的超強能力可以有效提升這類產品的實用性。

（6）從幫助中心到座席助理

全功能的智能客服產品是一個非常復雜的產品，擁有眾多功能和高上手難度。

許多設計需要操作者進行復雜的操作、跳轉、配置和調整。以前的幫助方式通常是簡單的頁面提示或者是像維基一樣龐大的在線幫助頁面，對用戶來說不夠友好，對開發者來說也有沉重的更新和維護負擔。

但是，使用智能助理模式的在線幫助，不同角色的用戶可以通過簡單的對話式體驗實時獲得幫助，甚至進行功能性的配置和要求，智能助理可以精準理解用戶的對話，直接進行配置和修改。

例如，系統管理員喚起智能配置助理：

“小M小M，請幫我查找近半個月名字叫做***的客戶的所有訪問和對話記錄。”

對于小M的能力來說，這是小菜一碟。

“小M小M，我需要設置一個清明節的IVR語音導航，所有清明節時間呼入的電話都要播放這樣一句話：***。”

這個需求有一定的風險，出于謹慎的目的，小C需要反復確認一些關鍵配置要素，以確保沒有誤操作。

（7）AIGC知識庫

智能客服產品中，最需要內容生產能力的地方，莫過于知識庫。

產品必備的知識庫通常分幾類：內部知識庫、機器人知識庫和外部知識庫。

• 內部知識庫

對于內部知識庫，這是提供給座席使用者，實時定位查詢使用的知識庫。由于企業的業務變化頻繁，知識庫的調整需要及時到位。一般需要專人進行上傳、編輯、整理，這是一個非常耗費工作量的事情。引入ChatGPT，可以協助高效智能的歸類和自動生成知識庫類目、明細。如果增加對外部數據源的引用，知識庫還可以自動關聯，減少知識庫同步的操作。使用者在應用中，可以給與知識點反饋，幫助知識庫進行權重自動調節。

機器人知識庫是文本和語音機器人能夠回答訪客問題的核心所在。機器人知識庫的有效內容對于機器人的表現至關重要。對于未知問題的整理，需要智能客服使用者大量投入工作量。借助用戶反饋對未知問題進行自動整理和關聯，能節省很多知識庫維護者的工作。同時，通過多機器人組合的方式，在一通會話中接力棒一般服務于客戶的不同場景，ChatGPT專屬機器人也可以在特定的場合發揮能力，并逐步替代一些以往模式僵化的問答型機器人。

• 外部知識庫

外部知識庫需要整合在智能客服產品中，將已整理的知識內容轉化為輸出產物，更方便生成知識文章、圖片、甚至音視頻。基于ChatGPT的多模態的AIGC能力，可以快速生成一個個性化的知識空間。

• 數據預測類應用

數據預測類應用是基于對智能客服數據的預測分析。建設數據預測類產品可能需要很重的CDP數據平臺建設，CEM客戶體驗管理等方式，但如果ChatGPT可以更高效精準的進行銷售意向，行為，成交概率的預測，對利潤中心導向的智能客服產品，將具有很大價值。

4、商業化前景

以上內容充滿了構想和想象，但如果要真正將這些想法付諸實踐，我們必須同時考慮以下幾個問題：

• 投入產出比：我們需要思考成本與效益之間的平衡，確保投入產生的價值能夠超過成本。
• 可衡量的客戶認可和價值體現：我們需要衡量客戶對產品的認可程度，并確保產品能夠為客戶帶來實際的價值和好處。
• 通用性與行業性：我們需要考慮產品在不同行業和場景中的適用性，以及如何保持產品的通用性和靈活性。
• 數據風險和監管安全：我們需要確保產品能夠保護客戶數據的隱私和安全，同時遵守相關的法律和規定。

這些問題只是冰山一角，我們需要深入研究和思考，才能確保產品能夠真正落地，并為客戶帶來價值。

最后，我們期待與大家進行深入交流，分享更多的想法和經驗，共同探索ChatGPT等技術的應用和發展。同時，我們也期待ChatGPT和文心一言能夠為我們解答更多的問題和提供更多的幫助。