Les séquences d’arrêt servent à faire cesser au modèle la génération de tokens à un moment voulu, par exemple à la fin d’une phrase ou d’une liste. Avec l’API Chat Completions, vous pouvez spécifier le paramètre stop et transmettre la séquence. La réponse du modèle ne contiendra pas la séquence d’arrêt, et vous pouvez fournir jusqu’à quatre séquences d’arrêt.
Exemple simple :
Dans cet exemple de chat simple, une séquence d’arrêt est utilisée : le mot « world ». Le message système et le message utilisateur sont conçus pour essayer d’amener le modèle à produire « Hello world » ; lorsque le texte généré atteint la séquence d’arrêt exacte « world », la réponse s’arrête avant d’inclure cette séquence d’arrêt. La sortie renvoyée est donc le texte avant « world » (affiché sous la forme « Hello » dans le playground).
Vous pouvez explorer d’autres exemples de séquences d’arrêt dans le playground de chat OpenAI.