Per 11. mars 2025 har vi lansert byggesteinene i vår nye Agents-plattform. Du finner mer informasjon i API-dokumentasjonen vår for Responses API, verktøy inkludert Web Search, File Search og Computer Use, samt vår Agents SDK med Tracing.
Prompt-token er tokenene du legger inn i modellen. Dette er antallet token i prompten din.
Fullføringstoken er alle token som modellen genererer som svar på inndataene dine. For en standardforespørsel er dette antallet token i fullføringen.
De fleste modellene vi tilbyr har både grenser for hvor mange token de kan ta inn (prompt-token) og for hvor mange token de kan gi ut (fullførings- eller sampling-token).
Dette inkluderer også alle token som genereres ved bruk av en høyere verdi for best_of eller n. Hvis du for eksempel genererer 3 kandidatfullføringer med best_of = 3, vil antallet samplede token være høyst 3 * max_tokens.
Du kan lese mer om håndtering av token i vår veiledning for tekstgenerering.