Op 11 maart 2025 hebben we de bouwstenen van ons nieuwe Agents-platform uitgebracht. Zie voor meer informatie onze API-documentatie voor onze Responses API, Tools waaronder Web Search, File Search en Computer Use, en onze Agents SDK met Tracing.
Prompttokens zijn de tokens die je invoert in het model. Dit is het aantal tokens in je prompt.
Voltooiingstokens zijn alle tokens die het model genereert als reactie op je invoer. Bij een standaardaanvraag is dit het aantal tokens in de voltooiing.
De meeste modellen die we aanbieden, hebben zowel een limiet voor het aantal tokens dat ze kunnen verwerken (prompttokens) als voor het aantal tokens dat ze kunnen uitvoeren (voltooiings- of sampletokens).
Dit omvat ook alle tokens die worden gegenereerd wanneer je een hogere waarde gebruikt voor best_of of n. Als je bijvoorbeeld 3 kandidaatvoltooiingen genereert met best_of = 3, is het aantal gesamplede tokens maximaal 3 * max_tokens.
Meer informatie over het beheren van tokens vind je in onze handleiding voor tekstgeneratie.