Desde el 11 de marzo de 2025, lanzamos los componentes básicos de nuestra nueva plataforma de agentes. Para obtener más detalles, consulta nuestra documentación de la API para nuestra API de Responses, herramientas como Búsqueda web, Búsqueda de archivos y Uso de computadora, y nuestro SDK de agentes con rastreo.
Los tokens de prompt son los tokens que ingresas en el modelo. Esta es la cantidad de tokens en tu prompt.
Los tokens de finalización son todos los tokens que el modelo genera en respuesta a tu entrada. Para una solicitud estándar, esta es la cantidad de tokens en la finalización.
La mayoría de los modelos que ofrecemos tienen límites tanto en la cantidad de tokens que pueden aceptar (tokens de prompt) como en la cantidad de tokens que pueden generar (tokens de finalización o de muestra).
Esto también incluye cualquier token generado al usar un valor más alto de best_of o n. Por ejemplo, si generas 3 finalizaciones candidatas con best_of = 3, la cantidad de tokens muestreados será como máximo 3 * max_tokens.
Puedes leer más sobre cómo administrar tokens en nuestra guía de generación de texto.