JavaScript對象表示法（JSON）文件和數據交換格式是行業標準，因為它既易于人類閱讀，又便于機器解析。

然而，大型語言模型（LLMs）在處理JSON時常常遇到困難，它們可能會產生幻覺，創建出部分符合指令的奇怪響應，或者完全無法解析，這通常要求開發者使用諸如開源工具、大量不同的提示或重復請求等變通方法，以確保輸出的互操作性。

現在，OpenAI通過其API發布的結構化輸出功能，幫助緩解這些挫折，該功能有助于確保模型生成的輸出與JSON模式匹配，這些模式至關重要，因為它們描述了給定JSON文檔中的內容、結構、數據類型和預期約束。

OpenAI表示，這是開發者最為需求的功能，因為它允許在各種應用程序中保持一致性。OpenAI CEO Sam Altman今天在X上發帖稱，這一發布是“非常受歡迎的需求”。

公司表示，其在新GPT-4o上的結構化輸出評估得分為“完美的100%”。

這一新功能發布于OpenAI本周一系列激動人心的事件之后：三位關鍵高管——John Schulman、Greg Brockman和Peter Deng——突然宣布離職，而Elon Musk再次起訴公司，稱其背叛了AI使命，形容這如同“莎士比亞式的背叛”。

輕松確保模式遵循

JSON是一種基于文本的格式，用于存儲和交換數據。由于其簡單、靈活和與各種編程語言兼容，它已成為開發者中最受歡迎的數據格式之一。OpenAI迅速滿足了開發者的需求，在去年的開發者日上發布了其模型的JSON模式。

通過API中的結構化輸出，開發者可以約束OpenAI模型以匹配模式。OpenAI表示，這一功能還使其模型能夠更好地理解更復雜的模式。

“結構化輸出是JSON模式的演變，”公司在其博客中寫道，“雖然兩者都確保生成有效的JSON，但只有結構化輸出確保模式遵循。”這意味著開發者“無需擔心模型省略必需的鍵或幻化出無效的枚舉值。”（枚舉值是命名語言中常量的過程，使代碼更易讀和維護）。

開發者可以要求結構化輸出以逐步的方式生成答案，以引導至預期的輸出。根據OpenAI的說法，開發者不需要驗證或重試格式錯誤的響應，并且該功能允許更簡單的提示，同時提供明確的拒絕。

“安全是OpenAI的首要任務——新的結構化輸出功能將遵守我們現有的安全政策，仍然允許模型拒絕不安全的請求。”公司寫道。

結構化輸出可在GPT-4o-mini、GPT-4o和這些模型的微調版本上使用，并可用于Chat Completions API、Assistants API和Batch API，還兼容視覺輸入。

OpenAI強調，這一新功能“從開源社區的優秀工作中汲取靈感：即outlines、jsonformer、instructor、guidance和lark庫。”