Станом на 11 березня 2025 року ми випустили базові компоненти нашої нової платформи агентів. Докладніше див. у нашій документації API для API Responses, інструментів, зокрема вебпошуку, пошуку файлів і використання комп’ютера, а також нашого SDK агентів із трасуванням.
Токени запиту — це токени, які ви передаєте моделі. Це кількість токенів у вашому запиті.
Токени завершення — це всі токени, які модель генерує у відповідь на ваші вхідні дані. Для стандартного запиту це кількість токенів у завершенні.
Більшість запропонованих нами моделей мають обмеження як на кількість токенів, які вони можуть отримати (токени запиту), так і на кількість токенів, які вони можуть вивести (токени завершення або вибірки).
Сюди також входять усі токени, згенеровані за використання більшого значення best_of або n. Наприклад, якщо ви генеруєте 3 варіанти завершення за допомогою best_of = 3, кількість токенів у вибірці становитиме щонайбільше 3 * max_tokens.
Докладніше про керування токенами можна прочитати в нашому посібнику з генерування тексту.