По состоянию на 11 марта 2025 года мы выпустили базовые компоненты нашей новой платформы агентов. Подробнее см. в нашей документации API для Responses API, инструментов, включая веб-поиск, поиск по файлам и управление компьютером, а также нашего Agents SDK с трассировкой.
Токены промпта — это токены, которые вы вводите в модель. Это количество токенов в вашем промпте.
Токены завершения — это любые токены, которые модель генерирует в ответ на ваш ввод. Для стандартного запроса это количество токенов в завершении.
У большинства предлагаемых нами моделей есть ограничения как на количество токенов, которые они могут принять (токены промпта), так и на количество токенов, которые они могут вывести (токены завершения или выборок).
Сюда также входят любые токены, сгенерированные при использовании более высокого значения best_of или n. Например, если вы генерируете 3 варианта завершения с помощью best_of = 3, количество выбранных токенов будет не больше 3 * max_tokens.
Подробнее об управлении токенами можно прочитать в нашем руководстве по генерации текста.