Pr. 11. marts 2025 har vi frigivet byggeklodserne til vores nye Agents-platform. Du kan finde flere oplysninger i vores API-dokumentation til vores Responses API, værktøjer, herunder websøgning, filsøgning og computerbrug, samt vores Agents SDK med sporing.
Prompt-tokens er de tokens, du indtaster i modellen. Dette er antallet af tokens i din prompt.
Completion-tokens er alle tokens, som modellen genererer som svar på dit input. For en standardanmodning er dette antallet af tokens i fuldførelsen.
De fleste modeller, vi tilbyder, har både grænser for antallet af tokens, de kan tage ind (prompt-tokens), og for antallet af tokens, de kan outputte (completion- eller sample-tokens).
Dette omfatter også alle tokens, der genereres, når der bruges en højere værdi for best_of eller n. Hvis du for eksempel genererer 3 kandidatfuldførelser med best_of = 3, vil antallet af samplede tokens højst være 3 * max_tokens.
Du kan læse mere om administration af tokens i vores vejledning til tekstgenerering.