Stoppsequenzen werden verwendet, damit das Modell die Token-Generierung an einem gewünschten Punkt beendet, z. B. am Ende eines Satzes oder einer Liste. Mit der Chat Completions API können Sie den Parameter stop angeben und die Sequenz übergeben. Die Modellantwort enthält die Stoppsequenz nicht, und Sie können bis zu vier Stoppsequenzen angeben.
Einfaches Beispiel:
In diesem einfachen Chat-Beispiel wird eine Stoppsequenz verwendet, das Wort "World". Die Systemnachricht und die Nutzernachricht sind darauf ausgelegt, das Modell dazu zu bringen, "Hello world" auszugeben; wie Sie jedoch sehen werden, wenn Sie das Beispiel im Playground ausführen, stoppt das Modell meist, nachdem es nur "Hello" gesagt hat, da world eine Stoppsequenz ist.
Weitere Beispiele für Stoppsequenzen können Sie im OpenAI-Chat-Playground erkunden.
