OpenAI舉辦開發者大會，推出一系列新工具

OpenAI 在美國東部時間10月1日舉辦了2024年首場年度開發者大會，並在大會上發表一系列新的小工具。

OpenAI 在本次開發者大會上推出了包括即時API、提示緩存、模型蒸餾、視覺微調、Playground優化，以及擴大o1 API範圍、提升速率限制等一系列面向開發者的重要工具更新。

其中，即時API （Realtime API）允許開發者調用ChatGPT高級語音模式的底層模型gpt-4o-realtime-preview，在應用中建構快速、自然的語音到語音對話體驗，支援6種預設語音，實現低延遲的語音交互。

此外還有新的提示詞緩存功能，可減少輸入 token 成本多達 50%，為經常重復使用上下文的應用程式節省大量成本。

視覺微調允許開發者除文本外，還可以使用圖像進行模型訂製，從而增強模型的圖像理解能力。

模型蒸餾則旨在通過使用大型、強大的模型（如GPT-4o或o1-preview）的輸出，來微調更小、更具成本效益的模型（如GPT-4o mini），以在特定任務上接近高級模型的性能，但成本大大降低。