A partir del 11 de marzo de 2025, publicamos los componentes básicos de nuestra nueva plataforma de Agents. Para más detalles, consulta nuestra documentación de la API para nuestra API de Responses, las Tools, incluidas Web Search, File Search y Computer Use, y nuestro Agents SDK con Tracing.
Los tokens del prompt son los tokens que ingresas en el modelo. Es la cantidad de tokens en tu prompt.
Los tokens de finalización son los tokens que el modelo genera en respuesta a tu entrada. Para una solicitud estándar, es la cantidad de tokens en la finalización.
La mayoría de los modelos que ofrecemos tienen límites tanto en la cantidad de tokens que pueden recibir (tokens del prompt) como en la cantidad de tokens que pueden generar (tokens de finalización o de muestreo).
Esto también incluye cualquier token generado al usar un valor más alto de best_of o n. Por ejemplo, si generas 3 finalizaciones candidatas usando best_of = 3, la cantidad de tokens muestreados será como máximo 3 * max_tokens.
Puedes leer más sobre cómo administrar tokens en nuestra guía de generación de texto.