OpenAI
Тази страница е машинно преведена. Вижте оригиналната статия на английски език.

Каква е разликата между токените на подканата и токените на завършването?

Каква е разликата между входните и изходните токени?

Актуализирано: 13 hours ago

Към 11 март 2025 г. пуснахме основните градивни елементи на новата ни платформа за Агенти. За подробности вижте документацията за API за нашите Responses API, инструменти, включително Web Search, File Search и Computer Use, както и нашия Agents SDK с Tracing.

Токените на подканата са токените, които въвеждате в модела. Това е броят токени във вашата подкана.

Токените на завършването са всички токени, които моделът генерира в отговор на вашия вход. При стандартна заявка това е броят токени в завършването.

Повечето модели, които предлагаме, имат както ограничения за броя токени, които могат да приемат (токени на подканата), така и за броя токени, които могат да изведат (токени на завършването или семплирани токени).

Това включва и всички токени, генерирани при използване на по-висока стойност на best_of или n. Например, ако генерирате 3 кандидат-завършвания с best_of = 3, броят на семплираните токени ще бъде най-много 3 * max_tokens.

Можете да прочетете повече за управлението на токени в нашето ръководство за генериране на текст.

Беше ли Ви полезна тази статия?