停止序列可讓模型在指定位置停止產生權杖,例如句子或清單的結尾。使用 Chat Completions API 時,您可以指定 stop 參數並傳入序列。模型的回應不會包含停止序列,且您最多可以傳入四個停止序列。
簡單範例:
在這個簡單聊天範例中,使用了一個停止序列,也就是「world」這個字。系統訊息和使用者訊息的設計,是為了嘗試讓模型輸出「Hello world」;當產生的文字到達完全相符的停止序列「world」時,回應會在包含該停止序列之前停止,因此傳回的輸出會是「world」之前的文字(在 playground 中顯示為「Hello」)。
你可以使用 OpenAI 聊天 Playground 探索其他停止序列範例。
