停止序列用於讓模型在所需位置停止產生 Token,例如句子或清單的結尾。使用 Chat Completions API 時,你可以指定 stop 參數並傳入序列。模型回應不會包含停止序列,而且你最多可以傳入四個停止序列。
簡單範例:
在這個簡單聊天範例中,使用了一個停止序列,也就是「world」這個字。系統訊息和使用者訊息的設計,是為了嘗試讓模型輸出「Hello world」;當產生的文字到達完全相符的停止序列「world」時,回應會在包含該停止序列之前停止,因此傳回的輸出會是「world」之前的文字(在 playground 中顯示為「Hello」)。
你可以使用 OpenAI 聊天 Playground 探索其他停止序列範例。
