Per 11 maart 2025 hebben we de bouwstenen van ons nieuwe agent-platform uitgebracht. Zie voor meer informatie onze API-documentatie voor onze Responses API, Tools waaronder Web Search, File Search en Computer Use, en onze Agents SDK met Tracing.
Prompt tokens zijn de tokens die je in het model invoert. Dit is het aantal tokens in je prompt.
Completion tokens zijn alle tokens die het model genereert als reactie op je invoer. Voor een standaardverzoek is dit het aantal tokens in de completion.
De meeste modellen die we aanbieden hebben zowel limieten voor het aantal tokens dat ze kunnen innemen (prompt tokens) als voor het aantal tokens dat ze kunnen uitvoeren (completion- of sampletokens).
Dit omvat ook alle tokens die worden gegenereerd bij gebruik van een hogere waarde voor best_of of n. Als je bijvoorbeeld 3 kandidaat-completions genereert met best_of = 3, is het aantal sampletokens maximaal 3 * max_tokens.
Je kunt meer lezen over het beheren van tokens in onze gids voor tekstgeneratie.