ストップシーケンスは、文末やリストの終わりなど、任意の位置でモデルのトークン生成を停止させるために使用します。Chat Completions API では、stop パラメータを指定してシーケンスを渡せます。モデルの応答にはストップシーケンスは含まれず、最大 4 つまでストップシーケンスを指定できます。
簡単な例：
この 簡単なチャット例 では、ストップシーケンスとして "World" という単語を 1 つ使用しています。システムメッセージとユーザーメッセージは、モデルに "Hello world" を出力させることを狙って設計されていますが、Playground で例を実行すると分かるとおり、world がストップシーケンスになっているため、モデルはたいてい "Hello" と言ったところで止まります。
OpenAI chat playground を使って、他のストップシーケンスの例も確認できます。