OpenAI
此頁面由機器翻譯。查看原文英文文章

我如何在 OpenAI API 中使用停止序列?

以下是你需要知道有關 OpenAI Chat Completions API 中停止序列參數的資訊

更新日期:8 days ago

停止序列用於讓模型在所需位置停止生成 token,例如句子或清單的結尾。使用 Chat Completions API 時,你可以指定 stop 參數並傳入該序列。模型回應不會包含停止序列,而你最多可以傳入四個停止序列。

簡單範例:

在這個簡單聊天範例中,使用了一個停止序列,即「world」一詞。系統訊息和用戶訊息的設計目的是嘗試讓模型輸出「Hello world」;當生成的文字到達完全相符的停止序列「world」時,回應會在包含該停止序列之前停止,因此回傳的輸出就是「world」之前的文字(在 playground 中顯示為「Hello」)。

你可以使用 OpenAI chat playground 探索更多停止序列範例。

這篇文章對你有幫助嗎?