Les séquences d’arrêt servent à interrompre la génération de jetons par le modèle à un point précis, par exemple à la fin d’une phrase ou d’une liste. Avec l’API Chat Completions, vous pouvez définir le paramètre stop et lui transmettre la séquence. La réponse du modèle ne contiendra pas la séquence d’arrêt, et vous pouvez transmettre jusqu’à quatre séquences d’arrêt.
Exemple simple :
Dans cet exemple de clavardage simple, une séquence d’arrêt est utilisée : le mot « world ». Le message système et le message de l’utilisateur sont conçus pour tenter d’amener le modèle à produire « Hello world »; lorsque le texte généré atteint la séquence d’arrêt exacte « world », la réponse s’arrête avant d’inclure cette séquence d’arrêt. La sortie retournée est donc le texte qui précède « world » (affiché comme « Hello » dans le playground).
Vous pouvez explorer d’autres exemples de séquences d’arrêt dans le playground de clavardage OpenAI.