Från och med den 11 mars 2025 har vi släppt byggstenarna i vår nya Agentplattform. Mer information finns i vår API-dokumentation för vårt Responses API, verktyg som webbsökning, filsökning och datoranvändning, samt vår Agents SDK med spårning.
Prompttoken är de token som du matar in i modellen. Det här är antalet token i din Prompt.
Slutförandetoken är alla token som modellen genererar som svar på dina indata. För en standardbegäran är det här antalet token i slutförandet.
De flesta modeller vi erbjuder har gränser både för hur många token de kan ta emot (prompttoken) och hur många de kan generera (slutförande- eller samplingstoken).
Detta omfattar även alla token som genereras när ett högre värde används för best_of eller n. Om du till exempel genererar tre kandidatslutföranden med best_of = 3 blir antalet samplade token högst 3 * max_tokens.
Du kan läsa mer om att hantera token i vår guide till textgenerering.