為 AI 提供正確的上下文可以提高準確性并減少幻覺。

在所有關于人工智能如何徹底改變工作（使日常任務更高效、更可重復，并增加個人努力）的對話中，人們很容易得意忘形：人工智能不能做什么？

盡管它的名字叫生成式人工智能，但能夠創建圖像、代碼、文本、音樂等的人工智能，不能從無到有。AI 模型根據它們提供的信息進行訓練，對于大型語言模型 （LLM），這通常意味著大量文本。如果人工智能在準確、最新和組織良好的信息上接受訓練，它將傾向于以準確、最新和相關的答案做出回應。麻省理工學院的研究表明，將知識庫整合到 LLM 中往往會提高輸出并減少幻覺。這意味著人工智能和機器學習的進步，遠非取代對知識管理的需求，實際上使它變得更加重要。

品質進，品質出

在陳舊、不完整的信息上訓練的 LLM 容易產生“幻覺”，即不正確的結果，從稍微偏離基礎到完全不連貫。幻覺包括對問題的錯誤回答以及有關人物和事件的虛假信息。

“垃圾輸入，垃圾輸出”的經典計算規則也適用于生成式人工智能。您的 AI 模型依賴于您提供的訓練數據。如果這些數據已經過時、結構不良或漏洞百出，人工智能將開始發明誤導用戶的答案，并給您的組織帶來麻煩甚至混亂。

避免幻覺需要一套知識體系，即：

• 準確可信，信息質量經過知識淵博的用戶驗證
• 隨著新數據/邊緣案例的出現，保持最新且易于刷新
• 上下文，這意味著它捕獲了尋求和提供解決方案的上下文
• 持續改進和自我維持

支持討論和協作的知識管理 （KM） 方法可以提高知識庫的質量，因為它允許您與同事合作審查 AI 的響應并改進提示結構以提高答案質量。這種交互是人工智能中強化學習的一種形式：人類將他們的判斷應用于人工智能生成的輸出的質量和準確性，并幫助人工智能（和人類）改進。

提出正確的問題

使用 LLM 時，查詢的結構會影響結果的質量。這就是為什么提示工程（了解如何構建查詢以從 AI 中獲得最佳結果）正在成為一項關鍵技能，也是生成式 AI 可以幫助對話雙方的領域：提示和響應。

根據 Gartner 報告《知識管理的解決方案路徑》（2023 年 6 月），“提示工程，即為 AI 制定指令或問題的行為，本身正迅速成為一項關鍵技能。以迭代、對話的方式與智能助手交互，將提高知識工作者指導人工智能完成知識管理任務的能力，并與人類同事分享所獲得的知識。

利用 AI 集中知識共享

獲取和分享知識對于知識管理實踐的蓬勃發展至關重要。AI 驅動的知識捕獲、內容豐富和 AI 助手可以幫助您向整個組織介紹學習和知識共享實踐，并將其嵌入到日常工作流程中。

根據 Gartner的知識管理解決方案路徑，“像 Stack Overflow for Teams 這樣的產品可以與 Microsoft Teams 或 Slack 集成，以提供具有持久知識存儲的問答論壇。用戶可以直接向社區發布問題。答案被投贊成票或反對票，最佳答案被固定為最高答案。所有已回答的問題都是可搜索的，并且可以像任何其他知識源一樣進行策劃。這種方法還有一個額外的優勢，即使知識共享成為工作流程的核心。

Gartner 的另一份報告《評估生成式 AI如何改善開發人員體驗》（2023 年 6 月）建議組織“通過形成生成式 AI 增強開發的實踐社區，收集和傳播使用生成式 AI 工具的成熟實踐（例如快速工程技巧和代碼驗證方法）。該報告進一步建議組織“通過學習和應用組織批準的工具、用例和流程，確保您擁有成功使用生成式人工智能所需的技能和知識。

注意復雜性懸崖

生成式 AI 工具非常適合新開發人員和希望學習新技能或擴展現有技能的經驗豐富的開發人員。但有一個復雜性懸崖：在某個點之后，人工智能處理問題及其解決方案的細微差別、相互依賴性和完整上下文的能力就會下降。

“LLM 非常擅長增強開發人員的能力，讓他們能夠做得更多、行動更快，”Google Cloud Duet 的產品經理 Marcos Grappeggia 在最近一集的 Stack Overflow 播客中說。這包括測試和試驗超出舒適區的語言和技術。但Grappeggia警告說，LLM“并不是日常開發人員的一個很好的替代品......如果你不理解你的代碼，那仍然是失敗的關鍵。

這個復雜的懸崖是你需要人類的地方，他們具有原創思維的能力和行使經驗判斷的能力。您的目標是制定知識管理戰略，通過在人造知識上提煉和驗證人工智能，利用人工智能的巨大力量。