?ChatGPT

ChatGPT是OpenAI 2022年11月推出的交互式自然語言對話模型。OpenAI使用RLHF（從人類反饋中進行強化學習）來訓練ChatGPT，與InstructGPT使用的方法相同，但數據收集設置時有明顯的差別。在訓練初始模型時使用有監督調整（參）：人類AI訓練器提供的會話。訓練員有訪問模型建議的權限以幫助訓練器更好地完成響應。然后將新生成的會話數據集與InstructGPT數據集混合，形成對話格式。

ChatGPT發布后在業界引發了震動，隨后給各方廣泛試用，其中就包括學生。有學生試用ChatGPT來寫論文、作業和編寫程序，并且老師很難分辨論文、作業和編寫的程序是否是由學生自己完成的。此外，還出現了很多署名ChatGPT的待發表論文。

為應對這一問題，全球學校紛紛采取措施，比如禁用該平臺。根據BusinessInsider的數據，ChatGPT目前已被紐約、西雅圖、洛杉磯等地的初高中禁用，法國和印度的大學計算機也禁用了該平臺。

ChatGPT檢測工具

1月31日，OpenAI 宣布推出人工智能文本分類器，旨在檢測輸入內容是否是由ChatGPT這樣的人工智能工具生成的。

OpenAI稱其分類器并不完全可靠。在英文文本測試時，分類器正確識別了26%人工智能生成的文本，約9%人類寫出的內容錯誤標記為人工智能生成的。隨著輸入文本長度的增加，分類器的性能有所提高。與之前其他分類器相比，該分類器的準確率高于其他檢測分類器。

分類器試用地址：http://platform.openai.com/ai-text-classifier

OpenAI稱由于結果并不完全可靠，因此不建議將該工具用作決策，而是作為其他檢測工具和方法的補充。

 ChatGPT試用地址：https://chat.openai.com/

https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text

本文翻譯自：https://www.bleepingcomputer.com/news/technology/openai-releases-tool-to-detect-ai-written-text/