Стоп-послідовності дають змогу зупинити генерування токенів моделлю в потрібному місці, наприклад наприкінці речення або списку. Використовуючи API завершення чатів, ви можете вказати параметр stop і передати послідовність. Відповідь моделі не міститиме стоп-послідовності. Ви можете передати до чотирьох стоп-послідовностей.
Простий приклад:
У цьому простому прикладі чату використовується одна стоп-послідовність — слово «world». Системне повідомлення та повідомлення користувача створені так, щоб спробувати змусити модель вивести «Hello world»; коли згенерований текст досягає точної стоп-послідовності «world», відповідь зупиняється до включення цієї стоп-послідовності, тож повернутий результат — це текст перед «world» (у playground відображається як «Hello»).
Додаткові приклади стоп-послідовностей можна переглянути в чат-пісочниці OpenAI.