Från och med den 11 mars 2025 har vi släppt byggstenarna i vår nya Agentplattform. Mer information finns i vår API-dokumentation för vårt Responses API, verktyg som webbsökning, filsökning och datoranvändning, samt vår Agents SDK med spårning.
Prompttoken är de token som du matar in i modellen. Detta är antalet token i din prompt.
Slutförandetoken är alla token som modellen genererar som svar på din inmatning. För en standardbegäran är detta antalet token i slutförandet.
De flesta modeller vi erbjuder har gränser både för antalet token de kan ta emot (prompttoken) och för antalet token de kan mata ut (slutförande- eller samplingstoken).
Detta omfattar även alla token som genereras när ett högre värde för best_of eller n används. Om du till exempel genererar 3 kandidatslutföranden med best_of = 3 blir antalet samplade token högst 3 * max_tokens.
Du kan läsa mer om att hantera token i vår guide för textgenerering.