Стоп-послідовності використовують, щоб змусити модель припинити генерувати токени в потрібній точці, наприклад у кінці речення або списку. За допомогою API завершення чатів можна вказати параметр stop і передати послідовність. Відповідь моделі не міститиме стоп-послідовності, і ви можете передати до чотирьох стоп-послідовностей.
Простий приклад:
У цьому простому прикладі чату використовується одна стоп-послідовність — слово «world». Системне повідомлення та повідомлення користувача створені так, щоб спробувати змусити модель вивести «Hello world»; коли згенерований текст досягає точної стоп-послідовності «world», відповідь зупиняється до включення цієї стоп-послідовності, тож повернутий результат — це текст перед «world» (у playground відображається як «Hello»).
Додаткові приклади стоп-послідовностей можна переглянути в чат-пісочниці OpenAI.