Stoppsequenzen werden verwendet, damit das Modell die Generierung von Tokens an einem gewünschten Punkt beendet, etwa am Ende eines Satzes oder einer Liste. Mit der Chat Completions API kannst du den Parameter stop angeben und die Sequenz übergeben. Die Modellantwort enthält die Stoppsequenz nicht, und du kannst bis zu vier Stoppsequenzen übergeben.
Einfaches Beispiel:
In diesem einfachen Chatbeispiel wird eine Stoppsequenz verwendet: das Wort „world“. Die Systemnachricht und die Nachricht der Nutzer:in sind so formuliert, dass sie das Modell dazu veranlassen sollen, „Hello world“ auszugeben. Wenn der generierte Text die exakte Stoppsequenz „world“ erreicht, stoppt die Antwort, bevor diese Stoppsequenz einbezogen wird. Die zurückgegebene Ausgabe ist daher der Text vor „world“ (im Playground als „Hello“ angezeigt).
Weitere Beispiele für Stoppsequenzen kannst du im OpenAI-Chat-Playground ausprobieren.