根據 arsTechnica 的報導，OpenAI 的研究人員發表了 CriticGPT，這是一個新的人工智慧模型，目的在識別 ChatGPT 生成的程式碼中的錯誤。

CriticGPT 的目標是透過從人類回饋中強化學習（RLHF）來提高人工智慧系統的行為符合人類期望的過程（稱為「對齊」），從而協助人類審查員使大型語言模型（LLM）的輸出更加準確。

OpenAI 計劃將類似 CriticGPT 的模型整合到其 RLHF 標籤管道中，為其訓練師提供人工智慧協助。對 OpenAI 而言，這是朝著開發更好工具邁出的一步，這些工具可用於評估 LLM 系統的輸出結果，如果沒有額外的支援，人類可能很難對這些結果進行評分。

本文為品玩授權刊登，原文標題為「OpenAI 發佈 CriticGPT 模型，可對 GPT-4 輸出內容進行評判」