停止序列用於讓模型在你希望的點停止生成 token,例如一句話或清單的結尾。使用 Chat Completions API 時,你可以指定 stop 參數並傳入該序列。模型回應不會包含停止序列,且你最多可以傳入四個停止序列。
簡單範例:
在這個 簡單的聊天範例 中,使用了一個停止序列,也就是單字「World」。系統訊息與使用者訊息的設計是想讓模型輸出「Hello world」,但如你在 playground 中執行範例所見,模型通常只會說到「Hello」就停止,因為 world 是停止序列。
你也可以透過 OpenAI chat playground 探索更多停止序列的範例。
