Les séquences d’arrêt servent à faire en sorte que le modèle cesse de générer des tokens à un moment voulu, comme à la fin d’une phrase ou d’une liste. Avec l’API Chat Completions, vous pouvez préciser le paramètre stop et transmettre la séquence. La réponse du modèle ne contiendra pas la séquence d’arrêt, et vous pouvez transmettre jusqu’à quatre séquences d’arrêt.
Exemple simple :
Dans cet exemple de clavardage simple, une séquence d’arrêt est utilisée : le mot « world ». Le message système et le message de l’utilisateur sont conçus pour tenter d’amener le modèle à produire « Hello world »; lorsque le texte généré atteint la séquence d’arrêt exacte « world », la réponse s’arrête avant d’inclure cette séquence d’arrêt. La sortie retournée est donc le texte qui précède « world » (affiché comme « Hello » dans le playground).
Vous pouvez explorer d’autres exemples de séquences d’arrêt dans le playground de clavardage OpenAI.