Les séquences d’arrêt permettent au modèle d’arrêter de générer des jetons à l’endroit souhaité, par exemple à la fin d’une phrase ou d’une liste. Avec l’API Chat Completions, vous pouvez spécifier le paramètre stop et lui transmettre la séquence. La réponse du modèle ne contiendra pas la séquence d’arrêt, et vous pouvez transmettre jusqu’à quatre séquences d’arrêt.
Exemple simple :
Dans cet exemple de chat simple, une séquence d’arrêt est utilisée : le mot « world ». Le message système et le message utilisateur sont conçus pour essayer d’amener le modèle à produire « Hello world » ; lorsque le texte généré atteint la séquence d’arrêt exacte « world », la réponse s’arrête avant d’inclure cette séquence d’arrêt. La sortie renvoyée est donc le texte avant « world » (affiché sous la forme « Hello » dans le playground).
Vous pouvez explorer d’autres exemples de séquences d’arrêt dans le playground de chat OpenAI.