Стоп-последовательности используются, чтобы заставить модель прекратить генерацию токенов в нужный момент — например, в конце предложения или списка. При использовании Chat Completions API вы можете указать параметр stop и передать в него последовательность. Ответ модели не будет содержать стоп-последовательность, при этом можно передать до четырёх стоп-последовательностей.
Простой пример:
В этом простом примере чата используется одна стоп-последовательность — слово "World". Системное сообщение и сообщение пользователя составлены так, чтобы попытаться заставить модель вывести "Hello world", но, как вы увидите, если запустите пример в Playground, модель обычно останавливается, сказав лишь "Hello", поскольку world является стоп-последовательностью.
Вы можете изучить дополнительные примеры стоп-последовательностей с помощью OpenAI chat playground.
