A fecha del 11 de marzo de 2025, hemos publicado los componentes básicos de nuestra nueva plataforma de agentes. Para obtener más detalles, consulta nuestra documentación de la API para nuestra API de Responses, herramientas como Búsqueda web, Búsqueda de archivos y Uso del ordenador, y nuestro SDK de agentes con seguimiento.
Los tokens de prompt son los tokens que introduces en el modelo. Este es el número de tokens de tu prompt.
Los tokens de compleción son cualquier token que el modelo genera en respuesta a tu entrada. En una solicitud estándar, este es el número de tokens de la compleción.
La mayoría de los modelos que ofrecemos tienen límites tanto en el número de tokens que pueden recibir (tokens de prompt) como en el número de tokens que pueden generar (tokens de compleción o de muestras).
Esto también incluye cualquier token generado al usar un valor más alto de best_of o n. Por ejemplo, si generas 3 compleciones candidatas usando best_of = 3, el número de tokens muestreados será como máximo 3 * max_tokens.
Puedes leer más sobre cómo gestionar tokens en nuestra guía de generación de texto.