停止シーケンスは、文末やリストの末尾など、目的の位置でモデルによるトークン生成を停止させるために使用されます。Chat Completions API を使用すると、stop パラメーターを指定してシーケンスを渡すことができます。モデルのレスポンスには停止シーケンスは含まれず、最大 4 つの停止シーケンスを渡すことができます。
簡単な例:
この簡単なチャットの例では、1 つの停止シーケンスとして単語「world」を使用しています。システムメッセージとユーザーメッセージは、モデルに「Hello world」を出力させようとするように設計されています。生成されたテキストが正確な停止シーケンス「world」に達すると、その停止シーケンスを含める前にレスポンスが停止するため、返される出力は「world」の前のテキストになります(プレイグラウンドでは「Hello」と表示されます)。
追加の停止シーケンス例は、OpenAI チャットプレイグラウンドで試すことができます。
