OpenAI
Эта страница была переведена машинным переводом. Открыть оригинальную статью на английском.

Как использовать стоп-последовательности в OpenAI API?

Вот что вам нужно знать о параметре стоп-последовательности в OpenAI Chat Completions API

Обновлено: 9 hours ago

Стоп-последовательности используются, чтобы заставить модель прекратить генерацию токенов в нужный момент — например, в конце предложения или списка. При использовании Chat Completions API вы можете указать параметр stop и передать в него последовательность. Ответ модели не будет содержать стоп-последовательность, при этом можно передать до четырёх стоп-последовательностей.

Простой пример:

В этом простом примере чата используется одна стоп-последовательность — слово "World". Системное сообщение и сообщение пользователя составлены так, чтобы попытаться заставить модель вывести "Hello world", но, как вы увидите, если запустите пример в Playground, модель обычно останавливается, сказав лишь "Hello", поскольку world является стоп-последовательностью.

Вы можете изучить дополнительные примеры стоп-последовательностей с помощью OpenAI chat playground.

Была ли эта статья полезной?