Per 11. mars 2025 har vi lansert byggesteinene i den nye agentplattformen vår. Du finner mer informasjon i API-dokumentasjonen vår for Responses API, verktøy som Nettsøk, Filsøk og Datamaskinbruk, og Agents SDK med sporing.
Prompt-tokener er tokenene du legger inn i modellen. Dette er antallet tokener i prompten din.
Fullføringstokener er alle tokener som modellen genererer som svar på inndataene dine. For en standardforespørsel er dette antallet tokener i fullføringen.
De fleste modellene vi tilbyr, har både grenser for antallet tokener de kan ta inn (prompt-tokener), og for antallet tokener de kan sende ut (fullførings- eller prøvetokener).
Dette omfatter også eventuelle tokener som genereres når du bruker en høyere verdi for best_of eller n. Hvis du for eksempel genererer 3 kandidatfullføringer ved hjelp av best_of = 3, vil antallet samplede tokener være høyst 3 * max_tokens.
Du kan lese mer om administrering av tokener i veiledningen vår for tekstgenerering.