Stoppsequenzen sorgen dafür, dass das Modell die Erzeugung von Token an einer gewünschten Stelle beendet, etwa am Ende eines Satzes oder einer Liste. Mit der Chat Completions API kannst du den Parameter stop angeben und die Sequenz übergeben. Die Antwort des Modells enthält die Stoppsequenz nicht. Du kannst bis zu vier Stoppsequenzen übergeben.
Einfaches Beispiel:
In diesem einfachen Chatbeispiel wird eine Stoppsequenz verwendet: das Wort „world“. Die Systemnachricht und die Nachricht der Nutzer:in sind so formuliert, dass sie das Modell dazu veranlassen sollen, „Hello world“ auszugeben. Wenn der generierte Text die exakte Stoppsequenz „world“ erreicht, stoppt die Antwort, bevor diese Stoppsequenz einbezogen wird. Die zurückgegebene Ausgabe ist daher der Text vor „world“ (im Playground als „Hello“ angezeigt).
Weitere Beispiele für Stoppsequenzen kannst du im OpenAI-Chat-Playground ausprobieren.