Стоп-последовательности используются, чтобы модель прекращала генерировать токены в нужной точке, например в конце предложения или списка. С помощью API завершения чата можно указать параметр stop и передать последовательность. Ответ модели не будет содержать стоп-последовательность; можно передать до четырех стоп-последовательностей.
Простой пример:
В этом простом примере чата используется одна стоп-последовательность — слово «world». Системное сообщение и сообщение пользователя настроены так, чтобы попытаться заставить модель вывести «Hello world»; когда сгенерированный текст достигает точной стоп-последовательности «world», ответ останавливается до включения этой стоп-последовательности, поэтому возвращаемый вывод — это текст перед «world» (в playground он отображается как «Hello»).
Дополнительные примеры стоп-последовательностей можно изучить в playground чата OpenAI.