Към 11 март 2025 г. пуснахме градивните елементи на нашата нова платформа за Агенти. За подробности вижте нашата API документация за API за отговори, инструменти, включително уеб търсене, търсене във файлове и използване на компютър, както и нашия SDK за Агенти с проследяване.
Токените на подканата са токените, които въвеждате в модела. Това е броят токени във вашата подкана.
Токените за завършване са всички токени, които моделът генерира в отговор на въведеното от вас. При стандартна заявка това е броят токени в завършването.
Повечето модели, които предлагаме, имат ограничения както за броя токени, които могат да приемат (токени на подканата), така и за броя токени, които могат да изведат (токени за завършване или примерни токени).
Това включва и всички токени, генерирани при използване на по-висока стойност на best_of или n. Например, ако генерирате 3 кандидат-завършвания с best_of = 3, броят на семплираните токени ще бъде най-много 3 * max_tokens.
Можете да прочетете повече за управлението на токени в нашето ръководство за генериране на текст.